Paus Leo XIV stelt dat systemen voor kunstmatige intelligentie ‘ontwapend’ moeten worden. In een toespraak stelt hij dat mensen ‘de verantwoordelijkheid hebben om de toepassingen ervan te leiden, aan te passen en, indien nodig, af te wijzen’, en hij roept de lidstaten van de Verenigde Naties op om op te treden tegen autonome dodelijke wapens.
- Paus Leo XIV roept op om AI-systemen te ontwapenen.
- Machines zijn werktuigen, dus mensen blijven verantwoordelijk.
- Hij vraagt de Verenigde Naties om autonome dodelijke wapens te verbieden.
- Hij pleit voor gedeelde normen, onafhankelijk toezicht en duidelijke aansprakelijkheid.
De paus moedigt deze staten aan om ‘concrete stappen te ondernemen om autonome dodelijke wapens te verbieden’, naar aanleiding van hun bijeenkomst in Genève. Deze wapensystemen kunnen toeslaan zonder direct menselijk ingrijpen. De toespraak, gehouden in het kader van de Papal Address, bevat veel ideeën die Leo XIV eerder ontwikkelde in zijn eerste grote pauselijke document, gepubliceerd in mei, dat ging over ‘het beschermen van de menselijke persoon in het tijdperk van kunstmatige intelligentie’.
Een herbevestigde menselijke verantwoordelijkheid
In de lijn van deze encycliek verklaart de paus: ‘Machines zijn werktuigen, en geen personen.’ Hij waarschuwt voor de gevaren van het toekennen van rechten of rechtspersoonlijkheid aan AI-systemen. Volgens hem moeten beslissingen die het menselijk leven, de vrijheid en het gebruik van geweld raken ‘altijd onderworpen blijven aan effectief, geïnformeerd en verantwoordelijk menselijk toezicht’.
Zijn voorganger Franciscus had zich in 2024 al uitgesproken voor een verbod op deze wapens. Hij verklaarde toen: ‘Geen enkele machine zou ooit mogen kiezen om een menselijk leven te beëindigen.’ Kunstmatige intelligentie is een terugkerend onderwerp geworden voor Leo XIV. Volgens informatie van de bron zou hij zijn naam hebben gekozen omdat hij de vooruitgang van deze technologie het hoofd moet bieden, net zoals Leo XIII, die de Kerk leidde ten tijde van de industriële revolutie.
Een oproep aan internationale instellingen
De paus besluit zijn toespraak met een oproep aan internationale instellingen om het algemeen welzijn te beschermen tegen de risico’s van AI. Hij vraagt daarvoor om ‘gedeelde normen, onafhankelijk toezicht en duidelijke aansprakelijkheidsmechanismen, zodat beslissingen over de ontwikkeling en het gebruik van AI kunnen worden onderzocht, indien nodig betwist, en vergezeld gaan van passende herstelmaatregelen voor eventuele schade’.
