Katholieken zouden terughoudend moeten zijn met AI gebruiken, vindt paus Leo XIV. Technologie en AI zorgen voor nieuwe vormen van slavernij, zo zegt de paus in zijn eerste grote document. Daarbij gaat het over contentmoderators, mensen die AI labelen en mensen die grondstoffen voor chips delven.
Dit nieuws in het kort
- Paus Leo XIV heeft zijn eerste grote werk gepubliceerd en dat gaat over de impact van technologie en AI.
- Door AI en nieuwe technologie wordt de ongelijkheid in de wereld groter en vormen zich nieuwe vormen van slavernij.
- De paus roept katholieken op terughoudend te zijn met gebruik van AI en wil dat overheden AI meer gaan reguleren
Vooral mensen die de grondstoffen delven, doen gevaarlijk werk, aldus de paus in zijn werk Magnifica Humanitas. "In sommige regio's van de wereld werken kinderen en jongeren onder gevaarlijke omstandigheden, waarbij ze de materialen vermalen waaruit zeldzame aardmetalen worden gewonnen. De lichamen van deze mensen raken getekend, gewond en uitgeput, zodat de computerprocessen ongestoord kunnen doorgaan."
Het hele document gaat over hoe de christelijke kerk aankijkt tegen AI en nieuwe technologie. "In het tijdperk van kunstmatige intelligentie, waarin de menselijke waardigheid wordt bedreigd door nieuwe vormen van ontmenselijking, is het onze dringende plicht om diep menselijk te blijven", aldus de paus in het document, waaraan hij en medewerkers bijna een jaar hebben gewerkt.
Beschermen tegen 'perfecte machine'
De paus vindt dat katholieken terughoudend moeten zijn in het gebruik van AI. "De snelheid en het gemak waarmee antwoorden of samenvattingen verkregen kunnen worden, dreigen de behoefte om vragen te stellen te doen verdwijnen, terwijl dat juist een proces is dat pas na verloop van tijd vruchten afwerpt. We moeten daarom leren hoe we terughoudend kunnen zijn in het gebruik van AI en hoe we onze jongeren kunnen beschermen tegen de belofte van de perfecte machine, tegen die subtiele verleiding die menselijk denken schijnbaar overbodig maakt, juist wanneer het het meest nodig is." De paus spreekt zich ook uit voor leeftijdslimieten voor sociale media.
Bepalen welke regels AI heeft, zou niet voorbehouden moeten zijn aan een paar bedrijven, aldus de paus. "Degenen die AI controleren, zullen hun eigen morele visie opleggen, die de onzichtbare infrastructuur van deze systemen zal vormen. Een morelere AI is niet genoeg als die moraliteit door een kleine groep wordt bepaald. Wat nodig is, is een actievere politieke betrokkenheid die in staat is de zaken af te remmen wanneer alles in een stroomversnelling raakt, en die de mogelijkheden beschermt voor gemeenschappen om nog steeds te kunnen participeren en vragen te stellen."
Werkt ongelijkheid in de hand
Zo niet, dan werkt het ongelijkheid in de hand, zo vreest de leider van de katholieke kerk. "Net als bij elke grote technologische verschuiving, vergroot AI de macht van degenen die al over economische middelen, expertise en toegang tot data beschikken. Gezien het algemeen belang en de universele bestemming van goederen, baart dit ernstige zorgen, omdat kleine maar zeer invloedrijke groepen informatie- en consumptiepatronen kunnen vormgeven, democratische processen kunnen beïnvloeden en economische dynamiek naar hun eigen voordeel kunnen sturen, waardoor sociale rechtvaardigheid en solidariteit tussen volkeren worden ondermijnd." De paus vindt dat overheden moeten ingrijpen om AI te reguleren.
De paus geldt als leider van de katholieke kerk als invloedrijk. Het is onbekend wat de impact van dit document zal zijn.
:strip_exif()/i/2008186454.jpeg?f=imagenormal)