‘Wij zijn niet zelfkritisch. We laten ons stap voor stap manipuleren’

In het kort:

• AI maakt ons leven gemakkelijker, maar ook afhankelijker.
• Een handvol techbedrijven dreigt steeds machtiger te worden.
• We riskeren ongemerkt onze autonomie en zeggenschap te verliezen.

We omarmen kunstmatige intelligentie omdat die ons leven gemakkelijker maakt. Maar wat als dat gemak ons stap voor stap onze zelfstandigheid kost? Terwijl AI steeds dieper doordringt in ons dagelijks leven, dreigt de macht terecht te komen bij een handvol technologiebedrijven. De vraag is niet alleen wie straks de controle heeft over AI, maar vooral hoeveel zeggenschap wij zelf nog overhouden.

De Grote Financiële Crisis van 2008 laat nog altijd haar sporen na. Zo is grootschalig en langdurig geld bijgedrukt en ervaren we nog dagelijks de hekgolf van wet- en regelgeving die is ontstaan. Laura van Geest, bestuursvoorzitter van de Autoriteit Financiële Markten (AFM), wees er in dat kader in 2025 op dat de regels voor toezichthouders in 20 jaar tijd al met bijna 300 procent waren toegenomen. Maar zelfs dat door PWC berekende cijfer vond zij ‘uit eigen ervaring nog een onderschatting’. 

Tien jaar voordat Laura van Geest stilstond bij dat gecreëerde monstrum, waarschuwde de Britse antropoloog David Graeber er in een essay al voor dat we zijn aanbeland in een “eeuw van totale bureaucratisering”. Dat was toen nog een opmerkelijke visie. Immers, zowel het marktkapitalisme van de 19^e eeuw als het neoliberalisme van het laatste kwart van de 20^e eeuw spraken zich uit voor vrijheid, marktwerking en deregulering. Maar in de praktijk gebeurt vaak het tegenovergestelde. Er werden juist meer regels, procedures en administratieve rompslomp voortgebracht, zoals de crisis van 2008 heeft laten zien.

Die praktijk was voor Graeber (foto) aanleiding om in The Financial Times te concluderen dat ‘het kapitalisme een geheime liefdesaffaire heeft met bureaucratie’. Voor dat oordeel verwees hij naar de Duitse socioloog Max Weber, die al in de 19^e en de vroege 20^e eeuw stelde dat ‘elke bureaucratie ernaar streeft om de superioriteit van de deskundigen te vergroten door hun kennis en bedoelingen geheim te houden’. Daarnaast stelde Graeber dat controle en bureaucratie ook niet moeten worden gezien als vijanden van het kapitalisme – integendeel. Het is een noodzakelijke voorwaarde om het systeem te kunnen behouden.

Tegen die achtergrond waarschuwde Graeber echter wel dat als je een bureaucratie eenmaal gecreëerd hebt, het vrijwel onmogelijk is om er nog vanaf te komen. Sterker nog, betrokkenen doen hun best om het onmisbaar te maken, omdat het hun macht en aanzien vergroot. ‘De onontkoombare innerlijke logica is dan ook dat als je een bureaucratische structuur opzet om een probleem aan te pakken, dat probleem dan onvermijdelijk weer andere problemen veroorzaakt die op hun beurt alleen met bureaucratische middelen lijken te kunnen worden opgelost,’ schreef Graeber. 

De opmars van de “bureaucratic natives”

Van die waarschuwing van Graeber is het slechts een kleine stap naar de analyse van de historicus Yuval Harari. Hij stelde eerder deze maand dat mensen gemiddeld genomen grote moeite hebben met de complexiteit van financiële, juridische en bestuurlijke systemen. De AI-systemen die op dit moment de bestaande wereldorde uitdagen, zijn daarentegen van nature helemaal thuis in de bureaucratie waarvan Graeber sprak. Harari noemt ze dan ook “bureaucratic natives”, terwijl de mens tegenover die systemen juist niet is geëvolueerd. Tegen die achtergrond acht hij het mogelijk dat mensen op termijn die financiële en juridische systemen niet meer zullen begrijpen en dat de AI-systemen in pakweg tien tot twintig jaar zelfs het heft in eigen hand zouden kunnen nemen.

Harari haalt ter onderbouwing van zijn betoog de volgende beeldspraak van stal: wij – mensen – zullen de koeien van de toekomst zijn. Hij legt dat uit aan de hand van onze koeien die in de wei staan. Zij herkennen ons als mens, maar zij weten niet dat ver van de boerderij vandaan mensen aan het handelen zijn met financiële instrumenten die de prijzen van melk beïnvloeden, die de waarde van het land vaststellen en die uiteindelijk ook bepalen of een koe mag blijven leven of dat zij moet worden geslacht. Naar het voorbeeld van onze koeien, vreest Harari dat wij – mensen – op termijn de koeien van de AI-systemen kunnen worden als gevolg van onze toenemende technologische afhankelijkheid. 

Wie is straks de eigenaar van de boerderij?

Er is één vraag die Harari zich in deze context niet stelt, namelijk wie zal straks de eigenaar van de boerderij zijn?  Dat kunnen aangestuurde of zelf-gedreven AI-systemen zijn. Maar het kan ook zijn dat het de huidige wereldwijd opererende techbedrijven zijn, die de AI-infrastructuur en haar toegangssystemen gaan beheersen. 

Voor een dergelijke conclusie is het op dit moment nog te vroeg, maar toch: de Organisatie voor Economische Samenwerking en Ontwikkeling (Oeso) kwam eerder dit jaar met een uitvoerig onderzoek, getiteld Artificial intelligence markets, recent developments and competition issues. Daarin waarschuwt zij voor het risico dat er een AI-markt kan ontstaan waar door de concentratie van rekenkracht, data, cloudinfrastructuur en distributie van AI-toepassingen een beperkt aantal bedrijven het voor het zeggen zal krijgen. Zo kan het zijn dat deze bedrijven bepalen onder welke voorwaarden je toegang tot deze AI-systemen kunt krijgen en behouden.

Een dergelijke structurele afhankelijkheid maakt het burgers, maar ook bedrijven en overheden moeilijk, zo niet onmogelijk, om over te stappen. Van daaruit kan politieke en maatschappelijke macht ontstaan, die invloed heeft op het denken en het handelen van tal van stakeholders. Oeso spreekt van een mogelijke lock-in op het terrein van overstapkosten, verticale integratie en machtsconcentratie. Concreet kan het betekenen dat mensen aan de ene kant meer handelingsgemak krijgen, maar aan de andere kant het zelfstandige handelingsvermogen (kunnen) verliezen.

Van bevrijding naar afhankelijkheid

Interessant in deze context is dat David Graeber erop heeft gewezen dat mensen bureaucratie niet alleen maar zien als een opgelegd controlesysteem, maar ook als iets dat aantrekkingskracht heeft. Het biedt namelijk gemak, vrijheid en voorspelbaarheid. Zo kan een mens uit eigen keuze steeds meer bevoegdheden geven aan AI-agents die zijn leven kunnen vergemakkelijken. Maar de keerzijde is dat je hierdoor wel je autonomie kan verliezen. Met andere woorden: wat begint als een bevrijding van administratieve rompslomp kan eindigen in afhankelijkheid van een administratieve infrastructuur. 

Onduidelijk is in dit stadium of AI zelfstandige macht zou kunnen krijgen, of dat het een instrument wordt in handen van een beperkt aantal techbedrijven. Zo heeft de Amerikaanse regering vorig jaar zomer besloten om prioriteit te geven aan het AI Action Plan dat streeft naar internationale dominantie op het vlak van technologie, naar private dominantie en naar vermindering van regelgeving.

Deze ontwikkeling maakt dat de zorgen en het gram zich toenemend richten op wat Big tech authoritarianism wordt genoemd. Gevreesd

wordt namelijk dat een beperkt aantal technologiebedrijven autoritaire machtsuitoefening kunnen vormgeven en faciliteren. Zo zouden AI-systemen en agents aanhoudend informatie kunnen vergaren met het doel om menselijke gedragspatronen om te zetten in commerciële producten en diensten, zoals Shoshana Zuboff (foto) in haar boek The Age of Surveillance Capitalism (2019) overtuigend heeft beschreven.

De contradictie van dit moment is dat de Amerikaanse regering met de techbedrijven in de VS een strategische relatie is aangegaan, waarin het toezicht veel weg heeft van een bewust gekozen laissez-faire. Dat gebeurt uitgerekend in een revolutionaire periode waarin toezicht op markten en bedrijven juist meer dan ooit nodig is. 

Dat is ook de opvatting van Yuval Harari, die in augustus in een gesprek met The Economist heeft gezegd dat zijn grootste zorg niet is ‘dat AI ons bedreigt, aanvalt of verstoot, maar dat wij niet zelfkritisch genoeg zijn en ons stap voor stap laten manipuleren. Het gevolg kan zijn dat wij onze relaties, ons vertrouwen, en uiteindelijk ook onze besluitvorming en ons gezag aan AI delegeren, totdat wij beseffen dat er geen weg meer terug is.’ Harari trok daaruit de conclusie dat ‘wij ons nú moeten verzetten. Als we nog tien jaar wachten is het te laat. Het is een cruciale tijd. Want politiek gaat over prioriteiten.’