Het brein van uw kind is vatbaar voor algoritmische aanvallen

In het kort

• Techreuzen zijn aansprakelijk gesteld voor platformontwerp dat kinderen verslaafd maakt.
• Ook andere sectoren gebruiken technieken die afhankelijkheid van consumenten versterken.
• AI biedt mogelijkheid om mensen te manipuleren door algoritmische aanvallen op hun brein.

‘Verzet’, zo schreef dichter Remco Campert ooit, ‘begint niet met grote woorden, maar met kleine daden’. Dat geldt ook voor advocaat Mark Lanier. Hij begon lang geleden aan wat hij zijn “heilige missie” noemde - gevechten aangaan van de categorie David versus Goliath. Dit jaar waren de techreuzen Meta en Google aan de beurt. De rechter stelde Lanier in het gelijk. 

De zaak handelde om zijn cliënt Kaley, die als negenjarig kind YouTube werd ingezogen en alleen al in het eerste jaar honderden video’s op het kanaal zag. Dat ging volgens Kaley, inmiddels een twintiger, gepaard met klachten als psychische stoornis, ongerustheid en depressie. 

Lanier weet hoe hij een dergelijke strijd moet voeren. Hij bouwt het narratief langzaam, maar uiterst vakkundig op. Zo haalde hij tijdens de zitting op enig moment een Meta-document van 2018 aan. Daarin stond: “Als we tieners voor ons willen winnen, moeten we ze al als jonge kinderen binnenhalen.” Google spreekt van Attention Casinos, waar de gouden regel is dat het huis altijd wint. Larnier doet deze bewijsvoering af als een ABC-tje: Addiction of the Brains of Children. 

De advocaten van Meta schuwden in deze rechtszaak geen middel. Zo hielden zij de rechter voor dat Lanier’s ‘cliënt een uitzondering op de regel was’. Zij eisten dat Lanier geen andere generatie-gerelateerde voorbeelden in deze zaak mocht noemen. Maar de rechter wees dat verzoek af. 

Op 26 maart 2026 werd het vonnis geveld: Lanier’s cliënt kreeg gelijk. Meta en Google werden aansprakelijk gesteld voor de schade die Kaley als kind heeft geleden. Zij hadden zich naar het oordeel van de jury schuldig gemaakt aan kwaadaardigheid, onderdrukking en fraude. Kaley werd een schadevergoeding toegewezen van 6 miljoen dollar. 

De kern van het vonnis draaide niet om de schadelijke filmpjes, maar om het productontwerp van de platforms. Door deze weg te kiezen, wist het team van advocaat Lanier de gebruikelijke verdediging van techbedrijven te omzeilen, namelijk dat de platforms niet aansprakelijk zijn voor het materiaal dat door derden is geplaatst — de zogenoemde Section 230. Dat betekent dat het oordeel richtinggevend kan zijn voor duizenden vergelijkbare zaken over sociale-media­verslaving bij kinderen. Meta en Google hebben dan ook beroep ingesteld. 

Ziet bedrijfsleven burger enkel nog als consument? 

Techbedrijven zijn de meest uitgesproken bedrijven als het gaat om de beïnvloeding van gebruikers en/of klanten. Maar ook andere sectoren laten vergelijkbare voorbeelden van toegepaste verslavingstechnieken zien. Neem bij voorbeeld de voedingssector met zijn voedingssupplementen, de tabaksindustrie met zijn vapen en de farma-sector die medicijnen maakt waar je niet meer van af komt als je er eenmaal aan begonnen bent.  

Deze voorbeelden illustreren dat het grote, wereldwijd opererende bedrijfsleven burgers toenemend als consumenten ziet en dat geen middel wordt geschuwd om die band - en daarmee die afhankelijkheid - te voeden en te versterken. 

Vincent Gines, hoogleraar wiskunde, en Sam Klein, oprichter van AI Public, waarschuwen dan ook voor een volgend slagveld van beïnvloeding en manipulatie van burgers. Zij roepen tegen de achtergrond van die dreiging op tot het beschermen van mensen tegen AI-systemen die onze aandacht, emoties en overtuigingen steeds nauwkeurig weten te beïnvloeden. In een opiniestuk voor De Standaard vergeleken zij het menselijk brein met complexe software: beide hebben hun kwetsbaarheden. 

Naarmate AI beter wordt in taal en redeneren, wordt zij volgens Gines en Klein automatisch ook beter in het overtuigen en manipuleren — zelfs wanneer een model daar niet speciaal voor is ontworpen. Het gevaar is vooral dat een verandering van mening meestal niet als een aanval wordt herkend; mensen bedenken achteraf vaak zelf een logische verklaring voor hun veranderde overtuiging.

Gines en Klein onderscheiden drie vormen van beïnvloeding:

1. Onbedoelde beïnvloeding door een chatbot. Een behulpzame, instemmende chatbot kan voortdurend bevestigen wat iemand al denkt en zo bijvoorbeeld wanen, complottheorieën of vooroordelen versterken.
2. Manipulatie door optimalisatie-algoritmen. Sociale media, advertenties en AI-agenten leren welke inhoud aandacht vasthoudt. Daarbij kunnen angst, woede, polarisatie en verslavende prikkels worden bevoordeeld, zonder dat één persoon bewust besluit iemand te manipuleren.
3. Bewuste, gepersonaliseerde aanvallen. Bedrijven, criminelen of politieke organisaties kunnen AI gebruiken om iemands sociale media te analyseren, zwakke plekken te ontdekken en precies het juiste bericht op het juiste moment te sturen — om geld, vertrouwen of een stem te verkrijgen. 

Cybersecurity voor het brein 

Het tweetal pleit voor een soort “cybersecurity voor het brein”. Dat is een gezamenlijke maatschappelijke verdediging van onze cognitieve veiligheid. Daarbij denken ze aan een register van bekende manipulatietechnieken, onafhankelijke tests van AI-modellen op overtuigingskracht en vleierij, en transparantieregels voor systemen die op grote schaal gepersonaliseerde boodschappen produceren. Alleen individueel kritisch denken is volgens hen onvoldoende, omdat de beïnvloeding geautomatiseerd, persoonlijk en massaal kan worden ingezet.

De kernwaarschuwing is dus niet simpelweg “AI is gevaarlijk”, maar: de partijen die onze aandacht en overtuigingen beïnvloeden beschikken straks over veel krachtiger gereedschap dan de mensen die zich ertegen moeten verdedigen. Daarom moet cognitieve veiligheid een collectieve verantwoordelijkheid worden.

Gelukkig neemt in de politiek het besef door dat het brein een denkbaar doelwit is voor algoritmische aanvallen. De Europese Unie, alsook veel individuele landen, nemen daar toenemend stelling tegen. Zo kregen de Duitse kinderpsychiater Jörg Fegert en de Franse epidemioloog Maria Melchior begin dit jaar de opdracht om de Commissie te adviseren over de bescherming van kinderen tegen verslavende digitale diensten. Het nieuwe rapport wordt de leidraad voor een wetsvoorstel waarmee de Commissie na de zomer zegt te komen. ‘Dit is het bewijs waarop we aan het wachten waren’, zei Von der Leyen.

Meer focus op weerbaarheid en mediawijsheid

Maar volgens deskundigen is alleen een leeftijdsgrens niet de oplossing. ‘Je laat jongeren er vóór hun 15de niet op en dan plotseling wel’, zei Wouter van den Bos, hoofddocent ontwikkelingspsychologie van de Universiteit van Amsterdam, begin dit jaar tegen het FD. ‘Ook een 15-jarige weet nog niet hoe met sociale media om te gaan. Ik vind dat we eerder moeten werken aan weerbaarheid en mediawijsheid.’

De schrijvers van het rapport voor de EU ondervangen die kritiek voor een deel. Scholen moeten volgens hen werk maken van digitale en mediageletterdheid. Jongeren moeten manipulatie, desinformatie, deepfakes en de werking van algoritmes leren herkennen. De onderzoekers leggen de verantwoordelijkheid ook bij bigtechbedrijven zelf. Die moeten autoplay, pushmeldingen en aanbevelingsalgoritmes beperken.