‘We moeten ons verzetten tegen AI. Over tien jaar is het te laat’

Wat is het belangrijkste thema in de Verenigde Staten voor de presidentsverkiezingen van 2028? ‘Kunstmatige intelligentie. Vraag de kandidaten wat ze daarvan vinden. Vraag ze of ze het goed vinden dat bedrijven een boyfriend aan je kind verkopen. Want wat AI doet is vertrouwen ondermijnen en gesprekken vernietigen.’

Dat zegt Yuval Noah Harari in een interview met de hoofdredacteur van The Economist. Harari, schrijver van wereldwijde bestsellers als Homo Sapiens en Nexus, is een van ‘s werelds beroemdste denkers en schrijvers van onze tijd. Hij is iemand die nooit om de hete brij heen draait - integendeel. ‘Het is een cruciale tijd om deze vragen te stellen. Bij de Amerikaanse presidentsverkiezingen van 2028 kunnen we nog orde op zaken stellen, maar daarna - zeg 2030 - zijn we dat stadium gepasseerd.’  

Het sleutelwoord in het interview is vertrouwen - “It is the most important asset in the world”. Geld, banken, staten en media werken naar behoren, omdat mensen erop vertrouwen. Maar onder invloed van de revolutie van kunstmatige intelligentie verschuift het vertrouwen van mensen en instituties steeds meer naar algoritmen. 

Het moment van machtsoverdracht

De eerste belangrijke sector voor samenleving en economie waar mensen de controle verliezen zal waarschijnlijk de financiële wereld zijn. Harari denkt dat AI in staat is om economische verbanden en financiële constructies te begrijpen die langzaam maar zeker door geen mens meer te overzien zijn. Het grote gevaar is volgens hem dat een president op enig moment tijdens een crisis te horen krijgt: Doe X, terwijl geen mens hem meer kan uitleggen waarom hij dat moet doen. Harari ziet dat moment als een feitelijke machtsoverdracht. 

Het grote gevaar dat hij ziet dat is dat er nu nog sprake is van wat Humans in the loop wordt genoemd - het is de mens die uiteindelijk de beslissing neemt. Maar de volgende stap in deze ontwikkeling is Humans on the loop. Dat vindt plaats tegen de achtergrond van een ontwikkeling waarin het steeds meer om snelheid gaat. Dat wil zeggen dat je binnen twintig seconden een besluit moet nemen, omdat je anders je voordeel verliest, zoals bij voorbeeld op het slagveld het geval is. 

Harari ontkent niet dat dat AI intelligent is, maar dat is niet hetzelfde als bewust zijn of het vermogen om te kunnen lijden. Maar hoewel AI bewustzijn ontbreekt, kan het echter wel overtuigend doen alsof het daartoe wel in staat is. Door dat vermogen tot manipulatie is AI in staat tot zogenoemde “mass produce intimacy”. Dat betekent dat AI op individuele basis een vertrouwensrelatie kan opbouwen, wat persoonlijke beïnvloeding schaalbaar maakt tegenover honderden miljoenen mensen en misschien zelfs wel tot de totale wereldbevolking. 

Harari bepleit niet dat AI volledig gestopt of verboden wordt, omdat het op veel terreinen de mensheid te hulp kan komen, bij voorbeeld op het terrein van gezondheid. Volgens hem hebben wij - mensen - nog steeds het initiatief in handen heeft. ‘Crucial is that nothing is inevitable,’ benadrukt Harari. 

Zijn grootste zorg is dan ook niet dat AI ons bedreigt, aanvalt of verstoot, maar dat wij niet zelfkritisch genoeg zijn en ons stap voor stap laten manipuleren en onze relaties, ons vertrouwen, en uiteindelijk onze besluitvorming en gezag aan AI delegeren, totdat wij beseffen dat er geen weg meer terug is. ‘We moeten ons nu verzetten. Als we nog tien jaar wachten is het te laat. Het is een cruciale tijd. Politiek gaat over prioriteiten.’