Paus over AI: progressie zonder wijsheid wordt overheersing

Paus XIV heeft zijn streep in het zand getrokken: “Human dignity must remain greater than algorithmic efficiency.” Hij voegde er nog een waarschuwing aan toe: “Progress without wisdom becomes another form of domination.”

Aanleiding voor de uitspraken van de kerkvader is zijn presentatie van maandag in Rome geweest van zijn encycliek Magnifica humanitas. Daarin doet hij een appèl om in een tijdperk van kunstmatige intelligentie de mens te beschermen. Tevens kwam hij op voor de promotie van de waarheid, de waardigheid van werk, sociale rechtvaardigheid en vrede.

Naar de encycliek - ruim 42.000 woorden lang - werd wereldwijd uitgekeken. Zo stelt de paus dat “Technology may extend human capability, but it must never replace human moral agency” om eraan toe te voegen dat “AI has to become more humane and fraternal”.

Lees hier de encycliek Magnifica humanitas

Paus XIV waarschuwde dat AI potentieel ‘een paradox creëert van materiële vooruitgang en antropologische achteruitgang, die de fundamenten van een rechtvaardige en stabiele sociale vrede ondermijnt’. 

‘Teken van hoop: we kunnen naar elkaar luisteren’ 

De encycliek werd gepresenteerd in een volgestroomde zaal in het Vaticaan. Leo XIV zei dat zijn standpunten waren gevormd door gesprekken met wetenschappers, ingenieurs en politieke leiders. Hij noemde specifiek Christopher Olah, medeoprichter van Anthropic, een belangrijke ontwikkelaar van AI, om te benadrukken dat hij de dialoog heeft gezocht tussen leiders uit de spirituele en uit de technologische wereld. De kerkvader zei dat hij met Olah intensief gaat samenwerken ‘om een weg te vinden voor de mensheid in dit tijdperk van kunstmatige intelligentie’.

‘Wat een groot teken van hoop is het dat wij, ondanks onze verschillen, naar elkaar kunnen luisteren,’ zei de paus. Olah van zijn kant prees het initiatief van de paus en erkende dat bedrijven zoals het zijne morele richtlijnen nodig hebben om te voorkomen dat zij worden beïnvloed door ‘een geheel van prikkels en beperkingen die soms in strijd kunnen zijn met het juiste doen’.

‘We hebben morele stemmen nodig’

‘We hebben morele stemmen nodig die niet door die prikkels kunnen worden verbogen,’ aldus Olah. Hij voegde eraan toe dat ‘vandaag nog maar het begin is. Het is startpunt van een lange samenwerking tussen degenen onder ons die dit bouwen en degenen die kunnen zien wat wij van binnenuit niet kunnen zien,’ zei Olah. Beide mannen spraken, samen met een panel van theologen en Vaticaanse functionarissen, voor een publiek van kardinalen, computerwetenschappers, diplomaten en journalisten.

In zijn encycliek vraagt de paus aandacht voor een aantal uitdagingen die met AI gemoeid zijn. Hij noemde overheidsregulering van de private bedrijven die de ontwikkeling van AI aansturen; bescherming en omscholing voor werknemers van wie de banen bedreigd worden en onderwijs dat studenten helpt kritisch na te denken over de technologie. Ook vroeg hij aan de deelnemers van de bijeenkomst om ervoor te zorgen dat mensen, en niet kunstmatige intelligentie, verantwoordelijk blijven voor alle beslissingen over het gebruik van wapens.

In april kwam paus Leo in een woordenstrijd terecht met president Trump. Dat ging over uitspraken van de kerkvader die stelde dat er leiders zijn die hun ogen sluiten voor de miljarden die worden uitgegeven aan moord en verwoesting, terwijl de middelen die nodig zijn voor genezing, onderwijs en herstel nergens te vinden zijn. Trump reageerde daarop dat de paus mag zeggen wat hij wil, maar dat hij het niet met hem eens is. Later in de maand escaleerde de woordenstrijd tussen het tweetal.