AI en de gestage ontmanteling van de mens

In het kort:

• Argentinië experimenteert met het idee van ondernemingen die volledig door AI worden bestuurd.
• Dit kan de weg openen naar een samenleving waarin autonome systemen macht verwerven.
• Is AI het eindpunt van een wereld die de mens als een optimaliseerbare eenheid beschouwt?

De tijdbom tikt. Het uur U nadert. Aanleiding zijn initiatieven die erop wijzen dat kunstmatige intelligentie steeds meer lijkt te worden geaccepteerd als een autonome entiteit. Het meest opvallende voorbeeld daarvan komt van de Argentijnse president Javier Milei. Hij wil een nieuwe rechtsvorm invoeren voor zogenoemde “niet-menselijke ondernemingen”.

Milei vindt het wenselijk dat bedrijven die volledig door AI-systemen of robots worden aangestuurd rechtspersoonlijkheid kunnen krijgen, net als gewone vennootschappen. Zo’n AI-bedrijf zou dan contracten kunnen afsluiten, bezittingen kunnen hebben, geld kunnen lenen, maar ook kunnen procederen zonder dat er noodzakelijkerwijs een menselijke eigenaar of bestuurder achter zit.

Wie is verantwoordelijk voor wat? 

Kritiek op Milei’s voorstellen kwam onlangs van Yuval Noah Harari. Volgens de Israëlische bestsellerauteur gaat het scheppen van rechtspersoonlijkheid voor AI veel verder dan enkel een technisch-juridische wijziging. Volgens hem zou een dergelijke status AI-systemen toegang kunnen geven tot zowel onze financiële en economische als onze politieke systemen.

Het roept volgens Harari dan ook de vraag op wie verantwoordelijk is voor wat. Als een menselijke CEO fraude pleegt of als een bedrijf failliet gaat, kan uiteindelijk een verantwoordelijke ter verantwoording worden geroepen. Dergelijke afschrikmiddelen werken voor AI-systemen niet, al was het maar vanwege het feit dat een AI niet zoals een mens opgesloten kan worden.

Harari voegde er de waarschuwing aan toe dat landen die AI rechtspersoonlijkheid geven iets kunnen creëren waarvoor volgens hem geen historisch precedent bestaat. Wie draagt er verantwoordelijkheid voor als een AI-onderneming schade veroorzaakt, markten manipuleert of politieke invloed koopt? Het kan de opmars zijn naar een AI-staat, waarin op enig moment niet alleen het bedrijfsleven, maar ook burgers en werknemers worden bestuurd door niet-menselijke ondernemingen of instellingen.

Wordt het Batavia in plaats van Amsterdam? 

In een recente bijdrage voor de Financial Times verdedigde president Milei zijn initiatief door te verwijzen naar de Nederlandse Verenigde Oostindische Compagnie, die in 1602 als beursgenoteerd bedrijf werd opgericht. Het was daarmee één van de eerste ondernemingen ter wereld met beperkte aansprakelijkheid en verhandelbare aandelen. Volgens Milei maakte die innovatie van Amsterdam het financiële centrum van de zeventiende eeuw. Hij hoopt dat AI hetzelfde kan doen voor Buenos Aires.

Harari is het daar niet mee eens. Hij wijst op de schaduwzijde van deze innovatie uit de zeventiende eeuw. De VOC was niet alleen een onderneming waarin aandeelhouders gezamenlijk risico’s droegen, maar kreeg ook bevoegdheden die normaal gesproken aan staten waren voorbehouden. Zij kon oorlog voeren ter bescherming van economische belangen, verdragen sluiten, belastingen heffen en gebieden besturen. De VOC ontwikkelde zich daarmee tot een quasi-statelijke macht. Batavia, het huidige Jakarta, vormde het bestuurlijke centrum van dat handelsimperium. Harari houdt Milei voor dat hij van Buenos Aires een nieuw Amsterdam wil maken, maar dat hij ‘riskeert er een nieuw Batavia van te maken’.

Naar het oordeel van Harari beoogt Milei van Argentinië een financieel en technologisch centrum te maken, maar in plaats daarvan zou het land terecht kunnen komen in een situatie waarin autonome ondernemingen zoveel macht verzamelen dat zij publieke en politieke functies gaan domineren. Het zou ertoe kunnen leiden dat staten in toenemende mate worden geleid of aangestuurd door beursgenoteerde ondernemingen en AI-gestuurde systemen.

Daarmee stelt Harari in wezen een politieke vraag: wie bezit uiteindelijk de macht wanneer autonome systemen steeds meer maatschappelijke functies overnemen? De Britse schrijver Paul Kingsnorth stelt een nog fundamentelere vraag. Niet wie de macht krijgt, maar waarom moderne samenlevingen al zo lang bereid zijn macht, verantwoordelijkheid en menselijke oordeelsvorming aan systemen over te dragen.

Washington maakt opvallende koerswijziging

Vorige week werd bekend dat de Amerikaanse overheid de toegang tot specifieke AI-modellen van Anthropic, Mythos en Fable, buiten de Verenigde Staten heeft beperkt. Volgens berichten speelden zorgen over misbruik en onvoldoende beveiliging daarbij een rol. Belangrijker nog is wat deze beslissing zichtbaar maakt: overheden beginnen kunstmatige intelligentie steeds nadrukkelijker te beschouwen als een strategische technologie. Waar AI tot voor kort vooral werd gezien als een commercieel product, groeit het besef dat geavanceerde modellen ook geopolitieke waarde vertegenwoordigen. Wie beschikt over de krachtigste AI-systemen, beschikt mogelijk ook over economische, militaire en informatieve voordelen die niet vanzelfsprekend met de rest van de wereld worden gedeeld.

Dat markeert een opvallende koerswijziging. Lange tijd kregen Amerikaanse AI-bedrijven vrijwel vrije ruimte om hun technologie wereldwijd uit te rollen. De recente ontwikkelingen suggereren echter dat overheden steeds meer rekening houden met scenario’s waarin geavanceerde AI niet alleen economische kansen biedt, maar ook risico’s creëert voor nationale veiligheid, concurrentievermogen en geopolitieke machtsverhoudingen. In Europa wordt dit door velen opgevat als een extra argument om minder afhankelijk te worden van Amerikaanse technologiebedrijven en fors te investeren in eigen AI-capaciteit.

Menselijke ervaring ondergeschikt aan het systeem 

Waarschuwt Harari dat AI macht kan krijgen over mensen, de Britse auteur Paul Kingsnorth gaat in zijn boek Against the Machine een stap verder. Hij stelt dat het echte gevaar al lang vóór AI begon. In zijn optiek is AI de jongste uitdrukking van een beschaving die al decennia bezig is de menselijke ervaring ondergeschikt te maken aan systemen. Waar Harari vooral kijkt naar macht, politiek en informatie, kijkt Kingsnorth naar cultuur, spiritualiteit en betekenis.

Beiden waarschuwen voor de ontwrichtende gevolgen van kunstmatige intelligentie, maar hun analyses vertrekken vanuit fundamenteel verschillende mensbeelden. Zo is Harari een kind van de Verlichting: hij gelooft in wetenschap, rationaliteit en mondiale samenwerking als middelen om menselijke problemen op te lossen. Zijn zorg is dat AI een ongekende concentratie van macht kan veroorzaken doordat algoritmen economische, politieke en militaire processen gaan sturen zonder voldoende menselijke controle. Wanneer hij waarschuwt voor autonome AI-bedrijven of een mogelijke AI-staat, gaat het hem in de eerste plaats om verantwoordelijkheid, bestuur en democratische controle. De vraag die Harari stelt is: hoe zorgen we ervoor dat de mens de regie behoudt over steeds krachtigere technologische systemen?

Is AI het eindpunt van de beschaving? 

Paul Kingsnorth ziet het probleem fundamenteler. Volgens hem is AI niet de oorzaak van de crisis, maar het logische eindpunt van een beschaving die de werkelijkheid al eeuwenlang benadert als iets wat gemeten, beheerst en geoptimaliseerd moet worden. Waar Harari vreest dat technologie te machtig wordt, vraagt Kingsnorth zich af waarom moderne samenlevingen überhaupt zo afhankelijk zijn geworden van technologie.

Voor Harari is de oplossing betere regulering en menselijke sturing; voor Kingsnorth ligt de oplossing eerder in een herwaardering van plaatsgebondenheid, traditie, menselijke maat en spirituele betekenis. Harari wil de machine beheersen, Kingsnorth vraagt zich af of de machine zelf niet het probleem is. De eerste zoekt een veiligere technologische toekomst, de tweede vraagt of voortdurende technologische vooruitgang wel het juiste doel is.

Kingsnorth stelt dat “The Machine” niet alleen om technologie draait, maar om het wereldbeeld dat ermee wordt uitgedragen: alles kan worden gemeten; alles kan worden berekend; alles kan efficiënter worden gemaakt; en alles kan worden vervangen door een beter systeem.

Zijn stelling is dat de moderne mens een fundamentele vergissing heeft gemaakt, namelijk dat wij zijn gaan geloven dat de werkelijkheid een technisch probleem is dat opgelost moet worden. Kingsnorth vindt dan ook dat het gevaar groot is dat AI de nieuwste uitdrukking vormt van een beschaving die de menselijke ervaring ondergeschikt wil maken aan systemen.

Zo zagen mensen zich vroeger als onderdeel van een gemeenschap, van een religieuze of spirituele orde, van een landschap of van een langdurige gemeenschappelijke geschiedenis. Nu zien wij onszelf steeds meer als consumenten, gebruikers, databronnen en optimaliseerbare eenheden. Dat is volgens Kingsnorth het proces van ontmenselijking: de mens wordt steeds meer gereduceerd tot een optimaliseerbare eenheid binnen grotere systemen.

AI is naar het oordeel van de Engelsman de logische eindfase van een veel oudere ontwikkeling. Immers, we mechaniseren arbeid, we digitaliseren informatie, we automatiseren beslissingen en uiteindelijk automatiseren we ook ons denken, zoals op dit moment op grote schaal gebeurt.

De meest fundamentele vraag 

Het is wat Kingsnorth The Unmaking of Humanity noemt. Daarmee bedoelt hij niet dat de mens fysiek zal verdwijnen, maar dat zijn typisch menselijke eigenschappen gaandeweg hun waarde verliezen. Denk daarbij aan aandacht, contemplatie, verbeeldingskracht, lokale verbondenheid, traditie, religie, vakmanschap en persoonlijke verantwoordelijkheid. Als alles wordt overgenomen door algoritmen en systemen, dan blijft de mens biologisch bestaan, maar verliest hij zijn menselijkheid.

Kingsnorth concludeert in zijn briljante boek dat een samenleving die alles wil optimaliseren, automatiseren en controleren uiteindelijk ook de mens zal gaan behandelen als een soort die geoptimaliseerd, geautomatiseerd en gecontroleerd moet worden. Dat is wellicht de meest fundamentele vraag die de opmars van kunstmatige intelligentie vandaag aan ons stelt: gebruiken wij de technologie nog als hulpmiddel, of worden wijzelf geleidelijk aangepast aan de logica van de systemen die wij hebben gecreëerd?