AI en de gestage ontmanteling van de mens

In het kort:

• Argentinië experimenteert met het idee van ondernemingen die volledig door AI worden bestuurd.
• Dit kan de weg openen naar een samenleving waarin autonome systemen macht verwerven.
• Vraag: is AI het eindpunt van een wereld die de mens als een optimaliseerbare specie ziet?

De tijdbom tikt. Het uur U nadert. Aanleiding zijn initiatieven die erop wijzen dat kunstmatige intelligentie steeds meer lijkt te worden geaccepteerd als een autonome entiteit. Het meest opvallende voorbeeld daarvan komt van de Argentijnse president Javier Milei. Hij wil in zijn land een nieuwe rechtsvorm invoeren voor zogenoemde “niet-menselijke ondernemingen”.

Milei wil dat bedrijven die volledig door AI-systemen of robots worden aangestuurd rechtspersoonlijkheid kunnen krijgen, net als gewone vennootschappen. Zo’n AI-bedrijf zou dan contracten kunnen afsluiten, bezittingen kunnen hebben, geld kunnen lenen, maar ook kunnen procederen zonder dat er noodzakelijkerwijs een menselijke eigenaar of bestuurder achter zit.

Wie is verantwoordelijk voor wat? 

Kritiek op Milei’s voorstellen kwam recentelijk van Yuval Noah Harari. Volgens de bestsellerauteur gaat het scheppen van rechtspersoonlijkheid voor AI veel verder dan enkel een technisch-juridische wijziging. Volgens hem zou een dergelijke status AI-systemen toegang kunnen geven tot zowel onze financieel-economische-, als onze politieke systemen.

Harari voegde er de waarschuwing aan toe dat landen die AI rechtspersoonlijkheid geven iets kunnen creëren waarvoor geen historisch precedent bestaat. Wie draagt er verantwoordelijkheid voor het geval dat een AI-onderneming schade veroorzaakt, markten manipuleert of politieke invloed koopt? Plaveit dat uiteindelijk ook niet de weg tot de ontwikkeling van een AI-staat, die efficiënter, goedkoper en sneller is en bedrijfsleven, maar ook burgers en werknemers aanstuurt?

Wordt het Batavia in plaats van Amsterdam? 

President Milei van Argentinië verdedigde eerder deze maand zijn ambities in de Financial Times. Daarbij verwees hij naar de Nederlandse Verenigde Oostindische Compagnie, die in 1602 in Amsterdam als beursgenoteerd bedrijf werd opgericht. Het was één van de eerste ondernemingen ter wereld, die een beperkte aansprakelijkheid kende en tegelijkertijd de publieke verhandeling van aandelen toestond. Het was een innovatie die Amsterdam volgens Milei tot het financiële centrum van de zeventiende eeuw maakte. Milei hoopt dat AI hetzelfde kan doen voor Buenos Aires.

Harari bestrijdt dat. Hij wijst op de schaduwzijde van deze innovatie. De VOC kreeg namelijk ook bevoegdheden die normaal gesproken aan staten waren voorbehouden. Zo kon zij oorlog voeren ter bescherming van economische belangen, verdragen sluiten, belastingen heffen en gebieden besturen. De VOC ontwikkelde zich daarmee tot een quasi-statelijke macht. Batavia, het huidige Jakarta, vormde het bestuurlijke centrum van dat handelsimperium. Harari houdt Milei voor dat hij van Buenos Aires een nieuw Amsterdam wil maken, maar dat hij ‘een nieuw Batavia riskeert’.

Harari stelt daarmee in wezen een politieke vraag: wie bezit uiteindelijk de macht wanneer autonome systemen steeds meer maatschappelijke, economische en politieke functies overnemen? De Britse schrijver Paul Kingsnorth gaat nog een stap verder. Hij stelt de gewetensvraag: waarom zijn moderne samenlevingen al zo lang bereid macht, verantwoordelijkheid en menselijke oordeelsvorming aan systemen over te dragen?

Vrees voor onvoldoende beveiliging van AI-modellen 

De risico’s die daarmee gepaard gaan, zette de Amerikaanse overheid vorige week aan tot het besluit dat de specifieke AI-modellen van Anthropic, zijnde Mythos en Fable, niet buiten de Verenigde Staten mogen worden aangeboden of gebruikt. Volgens mediaberichten speelden daarbij vooral zorgen mee over misbruik en/of onvoldoende beveiliging een rol. Het besluit maakte duidelijk dat de Verenigde Staten kunstmatige intelligentie steeds nadrukkelijker beschouwen als een strategische technologie. Waar AI tot voor kort vooral werd gezien als een commercieel product, groeit het besef dat geavanceerde modellen ook geopolitieke waarde vertegenwoordigen. Wie de krachtigste AI-systemen in handen heeft, beschikt mogelijk tevens over economische, militaire en informatieve voordelen die niet vanzelfsprekend met de rest van de wereld worden gedeeld.

Dat markeert een opvallende koerswijziging. Lange tijd kregen Amerikaanse AI-bedrijven van de regering-Trump vrijwel onbeperkte ruimte om hun technologie wereldwijd uit te rollen. Maar de recente ontwikkelingen suggereren nu dat overheden steeds meer rekening houden met scenario’s waarin geavanceerde AI niet alleen economische kansen biedt, maar ook risico’s creëert voor nationale veiligheid, concurrentievermogen en geopolitieke machtsverhoudingen. In Europa wordt dit door velen opgevat als een extra argument om minder afhankelijk te worden van Amerikaanse technologiebedrijven en fors te investeren in eigen AI-capaciteit.

Menselijke ervaring ondergeschikt aan het systeem 

Waarschuwt Harari dat AI macht kan krijgen over mensen, de Britse auteur Paul Kingsnorth gaat in zijn boek Against the Machine een stap verder. Hij stelt dat het echte gevaar al lang vóór AI begon. In zijn optiek is AI de jongste uitdrukking van een beschaving die al decennia bezig is de menselijke ervaring ondergeschikt te maken aan systemen. Waar Harari vooral kijkt naar macht, politiek en informatie, kijkt Kingsnorth naar cultuur, spiritualiteit en betekenis.

Beiden waarschuwen voor de ontwrichtende gevolgen van kunstmatige intelligentie, maar hun analyses vertrekken vanuit fundamenteel verschillende mensbeelden. Zo is Harari een kind van de Verlichting: hij gelooft in wetenschap, rationaliteit en mondiale samenwerking als middelen om menselijke problemen op te lossen. Zijn zorg is dat AI een ongekende concentratie van macht kan veroorzaken doordat algoritmen economische, politieke en militaire processen gaan sturen zonder voldoende menselijke controle. Wanneer hij waarschuwt voor autonome AI-bedrijven of zelfs een mogelijke AI-staat, gaat het hem vooral om verantwoordelijkheid, bestuur en democratische controle. De vraag die Harari stelt is: hoe zorgen we ervoor dat de mens de regie behoudt over steeds krachtigere technologische systemen?

Is AI het eindpunt van de beschaving? 

Kingsnorth ziet het probleem fundamenteler. Volgens hem is AI niet de oorzaak van de crisis, maar het logische eindpunt van een beschaving die de werkelijkheid al eeuwenlang benadert als iets wat gemeten, beheerst en geoptimaliseerd moet worden. Waar Harari vreest dat technologie te machtig wordt, vraagt Kingsnorth zich af waarom moderne samenlevingen überhaupt zo afhankelijk zijn geworden van technologie.

Voor Harari is de oplossing betere regulering en menselijke sturing; voor Kingsnorth ligt de oplossing eerder in een complete herwaardering van lokale gemeenschapszin, traditie, menselijke maat en spirituele betekenis. Wil Harari de machine beheersen, Kingsnorth stelt zich de fundamentele vraag of de machine zelf niet het probleem is. Zoekt de een naar een veiligere technologische toekomst, de ander vraagt zich af of voortdurende technologische vooruitgang wel het juiste doel voor de mensheid is.

Kingsnorth stelt dat “The Machine” niet alleen om technologie draait, maar om het wereldbeeld dat ermee wordt uitgedragen, namelijk dat alles kan worden gemeten en berekend en dat dus alles efficiënter kan worden gemaakt en worden vervangen door een beter systeem.

Zijn stelling is dat de moderne mens een fundamentele vergissing heeft gemaakt, namelijk dat wij zijn gaan geloven dat de werkelijkheid een technisch probleem is dat opgelost moet worden. Kingsnorth vindt dan ook dat het gevaar groot is dat AI de nieuwste uitdrukking vormt van een beschaving die de menselijke ervaring ondergeschikt wil maken aan systemen.

Zo zagen mensen zich vroeger als onderdeel van een gemeenschap, van een religieuze of spirituele orde of van een landschap, dat wortelde in een langdurige gemeenschappelijke geschiedenis. Nu zien wij onszelf steeds meer als consumenten of gebruikers en daarmee ook als databronnen en optimaliseerbare eenheden. Volgens Kingsnorth is dat het proces van ontmenselijking: de mens wordt steeds meer gereduceerd tot een optimaliseerbare eenheid binnen grotere systemen.

Naar het oordeel van de Engelsman is AI de logische eindfase van een veel oudere ontwikkeling. Immers, sinds de 20e eeuw zijn we bezig arbeid te mechaniseren, informatie te digitaliseren en beslissingen te automatiseren. Uiteindelijk zal het ook tot een automatisering van ons denken kunnen leiden, zoals op dit moment al op aanzienlijke schaal gebeurt.

De meest fundamentele vraag 

Het is wat Kingsnorth The Unmaking of Humanity noemt. Daarmee bedoelt hij niet dat de mens fysiek zal verdwijnen, maar dat zijn typisch menselijke eigenschappen gaandeweg hun waarde verliezen. Denk daarbij aan aandacht, contemplatie, verbeeldingskracht en lokale verbondenheid, maar ook traditie, religie, vakmanschap en persoonlijke verantwoordelijkheid zijn er uitingen van. Als alles wordt overgenomen door algoritmen en systemen, dan blijft de mens biologisch weliswaar bestaan, maar verliest hij op enig moment zijn menselijkheid.

Kingsnorth concludeert in zijn briljante boek dat een samenleving die alles wil optimaliseren, automatiseren en controleren uiteindelijk ook de mens zal gaan behandelen als een soort die geoptimaliseerd, geautomatiseerd en gecontroleerd moet worden. Dat is wellicht de meest fundamentele vraag die de opmars van kunstmatige intelligentie aan ons stelt: gebruiken wij de technologie nog als hulpmiddel, of worden wijzelf geleidelijk aangepast aan de logica van de systemen die wij hebben gecreëerd?