Kolonisering 2.0, maar nu van het Europese continent

De knapste koppen van onze tijd slaan alarm: we lopen het gevaar dat we onze menselijke autonomie verliezen. Dat risico is er doordat ons vermogen teloorgaat om het redeneerproces van geavanceerde AI-systemen te begrijpen. Maar dat niet alleen: er dreigt ook nog een digitale kolonisering, van Europa dit keer.

Deze knappe koppen, wetenschappers die werken voor marktpartijen als Anthropic, Google DeepMind, Meta en OpenAi, hebben samen een open brief geschreven. Daarin spreken zij hun zorg uit dat AI-modellen steeds krachtiger worden en dat ze binnen afzienbare tijd zelfs zouden kunnen stoppen om te redeneren in de taal van mensen.

Zo worden er op dit moment nieuwe trainingsmethoden ontwikkeld, waarin er geen gebruik meer wordt gemaakt van de zogenoemde chain-of-thought methode, maar waarin de nadruk komt te liggen op het resultaat in plaats van op het proces, stelt tech-expert Jarno Duursma. Zo zijn er inmiddels al voorbeelden van AI-modellen en systemen die slechts nog communiceren in abstracte wiskundige formules - formules die voor mensen onleesbaar zijn. 

Waarschuwingen aan dovemansoren gericht

In 2017 deed Max Tegmark in zijn nog altijd relevante boek Life 3.0: Being Human in the Age of Artificial Intelligence als één van de eersten een poging om de uitdagende toekomst van AI te duiden voor thema’s als werkgelegenheid, geopolitiek, bestuur en samenleving. ‘AI,’ waarschuwde de Zweeds-Amerikaanse wetenschapper, ‘is niet simpelweg een tool, maar een maatschappelijke kracht. Het is er één die uitdaagt hoe we waarden verankeren in systemen en wat voor soort toekomst we daarmee mogelijk maken, vaak zonder ons dat ook te realiseren.’ Hij was vooral bezorgd over het risico dat de doelstellingen die mensen hebben en die AI heeft niet overeenkomen, laat staan op elkaar zijn afgestemd. 

Pro-Trump narratief 

Die waarschuwing van Tegmark uit 2017 leek aan dovemansoren gericht te zijn. Maar met Donald Trump als president van de Verenigde Staten ontdekt Europa eensklaps hoe groot haar (militaire en technologische) afhankelijkheid van de grote broer wel niet is. Zo schrijven media dezer dagen dat platforms als X toenemend draaien op AI-gecontroleerde bots die het pro-Trump narratief vertellen, terwijl ook veel van de op Europa gerichte content vanuit de VS wordt gehost. Dat is conform het officiële document The Need for Civilizational Allies in Europe, dat recentelijk door het Amerikaanse ministerie van Buitenlandse Zaken is gepubliceerd. Daarin wordt openlijk gesteld dat Europa ‘een politiek slagveld is’ voor de regering van president Trump en zijn ideologisch sterk gedreven vice-president JD Vance. 

Di Rifai, een ethicus die zich op technologie richt, wijst er op dat AI-infrastructuur steeds meer wordt ingezet als een nieuw soort kolonialisme van (bevriende) natiestaten. Deze zogenoemde “enshittification” van Amerikaanse makelij maakt dat Europa tot het inzicht is gekomen dat haar (digitale) soevereiniteit groot gevaar loopt. Voor de langere termijn is dat overigens ook een gevaar voor de Verenigde Staten zelf, oordeelt Rifai, nu Europese leiders steeds meer de nadruk leggen op onafhankelijkheid van de VS, waarbij voorzitter Ursula von der Leyen van de Europese Commissie al heeft gezegd dat “The West as we knew it no longer exists”. Rifai vreest dat de Verenigde Staten op een dag de meest eenzame staat van de wereld zal zijn. 

Strateeg en influencer Richard Norén is net als Di Rifai van oordeel dat Europa oog-in-oog staat met een algoritmische bezettingsmacht, die de vrijheid van meningsuiting feitelijk aan banden heeft gelegd. Zo heeft Europa geen zeggenschap - of zelfs maar inzicht - in de AI-modellen die trachten het gedrag van haar burgers te beïnvloeden.

Cognitief verdedigingsschild 

Norén, die dagelijks ijvert voor de Europese soevereiniteit en daarbij niet-aflatend de kracht van het oude continent benadrukt, stelt dat als de EU een democratische toekomst wil, dan is:
- Een soeverein social media platform nodig, getraind op EU-waarden, wetten en logica.
- Een AI-modelregister nodig met licentie en volledige transparantie van trainingsgegevens.
- Dient een EU-cognitief verdedigingsschild te worden opgesteld, niet alleen tegen desinformatie, maar ook tegen massale manipulatie op AI-schaal. 

Peiling laat grote zorgen burgers zien

Toch gloort er hoop. Uit een recent onderzoek onder 10.000 mensen in Europa en de Verenigde Staten vinden deelnemers met een marge van 3 tot 1 dat AI “worsen almost everything they care about”. Ze vinden dat de AI-bedrijven in Silicon Valley God spelen en bijna geen aandacht of interesse hebben voor wat de samenleving wil. 

Uit het onderzoek, waar schrijver en activist Rutger Bregman uit citeert, komt ondermeer naar voren dat 60 procent denkt dat AI menselijke relaties zal vervangen, de helft denkt dat AI veel te snel gaat om veilig te houden en bijna de helft denkt dat de vruchten ervan vrijwel alleen de superrijken ten goede komt. Bregman concludeert: het voelt alsof we een sociaal kantelpunt naderen. Wanneer komt de reactie tegen AI?

Meer achtergronden: 

• In The New York Times: How Trump is bringing Europe together again