Algoritmen: onzichtbare hand, waarmee de winnaar alles pakt

In het kort: 

• Adam Smith legde de werking van de markt uit aan de hand van “The invisible hand”.
• Het marktmechanisme wordt nu bepaald door de werking van algoritmen.
• Het is een black box geworden, dat verlangt om betere regelgeving en toezicht.

Wet-, regelgevers en wetenschappers maken zich toenemend zorgen om de wijze waarop de grote internetplatforms in de wereld zijn ingericht en worden gestuurd. Dat gebeurt namelijk met algoritmen die steeds nadrukkelijker de marktwerking bepalen. De zorgen daarover lopen op nu met generatieve AI  een nieuwe stap wordt gezet in het zelfdenkend en zelflerend vermogen van systemen.

Het aantal juridische conflicten tussen techbedrijven en de wet- en regelgevers in de Verenigde Staten en de Europese Unie nemen toe. Tevens verschijnt er steeds meer wetenschappelijk onderzoek, waaruit blijkt dat politiek en samenleving bijzonder weinig inzicht en grip hebben op de werking van de algoritmen. Dat is echter wel belangrijk, aangezien de aandacht van gebruikers en zakelijke klanten toenemend op basis van de algoritmen worden gestuurd.

Ingesloten gebruikers en klanten

Internetplatforms als Amazon, Facebook, Google, Linkedin en X (voormalige Twitter) zijn allen groot geworden volgens een identieke aanpak. Eerst worden gebruikers op de platformen “ingesloten”, zoals het jargon luidt. Vervolgens worden ook de leveranciers van diensten en producten “ingesloten”.

In beide gevallen gaat dat gepaard met grote aanloopverliezen. Als vraag en aanbod aan boord zijn, worden gebruikers en zakelijke klanten steeds meer misbruikt, zo luidt het oordeel. Want uiteindelijk is er maar één meester: de aandeelhouder(s) van het platform.

Het accent op deze platformen verschuift gaandeweg dan ook van inhoudelijke naar commerciële sturing. Dat is een ontwikkeling die door de Amerikaanse blogger Cory Doctorow eind vorig jaar is gemunt tot “enshittification”. Daarmee onderstreept hij het verval van deze platformsystemen, die ooit groot zijn geworden dankzij nuttige producten en diensten, maar gaandeweg steeds meer tot geldmachines zijn verworden.

Teveel informatie, te weinig aandacht

Ondanks dit, in de ogen van de critici inhoudelijke verval, blijven deze platformen – in voorkomende gevallen met meer dan 1 miljard gebruikers – de overheersende systemen in de wereld. Want dankzij het network-effect kunnen ze functioneel zowel blijven optreden als een monopolie op diensten als een zogenoemde monopsonie op klanten. Dat komt omdat hoge overstapkosten en -risico’s voorkomen dat gebruikers of leveranciers vertrekken, zelfs wanneer er technisch alternatieven voor handen zouden zijn.

Het proces van “enshittification” vindt volgens Doctorow in de praktijk plaats door zogenoemde “twiddling”. Dat is een voortdurende optimalisatie van de algoritmen van het systeem. De platformen worstelen namelijk met een luxeprobleem, zijnde een overvloed aan informatie en een tekort aan aandacht. Dat stellen de auteurs van de zojuist gepubliceerde paper Algorithmic Attention Rents: a theory of digital platform market power.

Onzichtbare hand 2.0

Door de opmars van algoritmen is de marktwerking compleet veranderd. Toen Adam Smith in de 18^e eeuw met zijn boek The Wealth of Nations het fundament legde voor het marktkapitalisme, sprak hij van “de onzichtbare hand” als het heersende marktmechanisme. Dat is het zelfregulerende effect van een markt, waarin iedereen slechts zijn eigenbelang nastreeft, maar waarmee tegelijkertijd collectieve welvaart wordt gecreëerd. Maar de marktwerking is onder invloed van algoritmen drastisch aan het veranderen. Het principe van “the winner takes all” doet opgang.

Want, zo luidt de kritiek, de platformen hebben een cocktail gebracht van toenemende ongelijkheid, minder ondernemerschap, minder productiviteit en megawinsten voor de achterliggende bedrijven die in een traditioneel functionerende markt onhaalbaar zouden zijn geweest. Zo maakte Amazon in het kalenderjaar 2022 bijna 38 miljard dollar omzet, alleen al uit advertenties. Naast de leveranciers betalen ook de gebruikers toenemend voor verkregen producten of diensten, schrijven de auteurs in hun bovengenoemde paper.

Centraal in het verdienmodel van deze wereldomvattende platformen is de toewijzing van aandacht. Dat gebeurt met de toepassing van algoritmen. Deze resulteren in “attention rents”. Daarin wordt op het platform de economische waarde gealloceerd tussen de stakeholders. Met andere woorden: aandacht vertegenwoordigt waarde, zowel voor gebruikers als voor leveranciers. Het is het systeem van algoritmen dat op deze platformen de rol van Adam Smith’s “Invisible hand” heeft overgenomen en bepaalt naar wie de aandacht gaat.

Misbruik van marktmacht

In hun paper stellen de drie auteurs dat de “attention rents” ontstaan als platformen – met gebruikmaking van algoritmen - hun rol als intermediair misbruiken. De aandacht wordt dan verplaatst van organische naar betaalde zoekopdrachten en van organische ranking naar betaalde ranking. Dit wordt opgevat als het misbruik maken van de marktmacht.

De auteurs hekelen het feit dat de werking van algoritmen volstrekt ondoorzichtig is. De laatste informatie van Google betreffende de verhouding organische clicks (94%) en adds (6%) dateert van 2011 (!). Of aandacht nu – conform de werking van “attention rents” – volledig wordt gemonopoliseerd is de auteurs niet bekend.

Scherper toezicht

De wetenschappers stellen dat het toezicht op de systeemplatformen fors aangescherpt moeten worden. Probleem is echter: hoe kan je toezicht uitoefenen als je de algoritmen niet kent of begrijpt? In dat kader wordt ondermeer gepleit voor kwartaalrapportages van alle meetpunten en van de publicatie van de ratio’s van organische versus advertentieclicks etc.

Volgens het drietal is opening van zaken essentieel nu de ontwikkeling van generatieve AI en van taalmodellen razendsnel gaat. Het probleem met systeemplatformen is namelijk dat ze niet alleen menselijke besluitvorming kunnen overnemen, maar ook het menselijk denken.