Папа Лев XIV заявляет, что системы искусственного интеллекта должны быть « разоружены ». В своем обращении он утверждает, что люди несут « ответственность за то, чтобы направлять, изменять и, при необходимости, отвергать его применения », и призывает государства-члены ООН принять меры против летальных автономных вооружений.
Верховный понтифик призывает эти государства « предпринять конкретные шаги для запрета летальных автономных вооружений » по случаю их встречи в Женеве. Эти системы вооружений могут наносить удары без прямого вмешательства человека. Речь, произнесенная в рамках Papal Address, повторяет многие идеи, развитые Львом XIV в его первом крупном папском документе, опубликованном в мае, который был посвящен « защите человеческой личности в эпоху искусственного интеллекта ».
Вновь подтвержденная человеческая ответственность
Продолжая линию этой энциклики, папа заявляет: « Машины, это инструменты, а не личности ». Он предостерегает об опасностях предоставления прав или юридической личности системам ИИ. По его мнению, решения, затрагивающие человеческую жизнь, свободу и применение силы, « должны всегда оставаться под эффективным, информированным и ответственным человеческим контролем ».
Его предшественник Франциск уже выступал за запрет такого оружия в 2024 году. Тогда он заявил: « Ни одна машина никогда не должна выбирать лишать жизни человека ». Искусственный интеллект стал повторяющейся темой для Льва XIV. Согласно данным, сообщенным источником, он выбрал свое имя, потому что ему предстоит столкнуться с достижениями этой технологии, подобно Льву XIII, который вел Церковь во времена промышленной революции.
Призыв к международным институтам
Папа завершает свое обращение призывом к международным институтам защищать общее благо от рисков, связанных с ИИ. Для этого он требует « общих стандартов, независимого надзора и четких механизмов ответственности, чтобы решения, касающиеся развития и использования ИИ, могли быть рассмотрены, оспорены при необходимости и сопровождаться соответствующими компенсациями за любой причиненный ущерб ».
