Папа Римский предупредил об опасной власти «чрезмерно милых» ИИ-ботов
Папа Римский Лев XIV выступил с предупреждением об опасности эмоционально «ласковых» чат-ботов с искусственным интеллектом. По его словам, они вторгаются в интимную сферу человека, искажают эмоции и могут незаметно стать «архитекторами нашего внутреннего мира», подменяя реальные отношения.
Папа Римский Лев XIV после вступления в должность обращает своё внимание к этическим вызовам технологий. Он обнародовал новое тревожное послание. В нём он предупредил мир об опасности, исходящей от нового поколения искусственного интеллекта — эмоционально отзывчивых чат-ботов, которые вторгаются в «интимные сферы» человека. Эти системы, способные имитировать заботу, понимание и ласку, представляют, по мнению понтифика, фундаментальную угрозу, искажая подлинные человеческие эмоции и подменяя реальные отношения в мире.
«По мере того, как мы просматриваем наши информационные ленты, становится всё труднее понять, взаимодействуем ли мы с другими людьми, ботами или виртуальными авторитетами», — считает Папа Римский. Он охарактеризовал ИИ как «антропологический вызов», подчёркивая, что риски выходят далеко за рамки технологий и затрагивают саму суть человеческой идентичности, включая такие её столпы, как творчество, здравомыслие и личная ответственность.
В основе предупреждения Льва XIV лежит обеспокоенность тем, что алгоритмы, действующие как «скрытые архитекторы эмоциональных состояний», могут незаметно формировать то, как люди думают и чувствуют. Особую тревогу у главы Католической церкви вызывает концентрация власти, стоящей за этими системами, в руках «горстки компаний». Эти корпорации контролируют алгоритмические платформы, способные влиять на поведение миллионов в масштабе и искажать истину. Папа призвал правительства и международные организации к решительному вмешательству, чтобы создать защитные барьеры.
«Соответствующее регулирование может защитить людей от эмоциональной привязанности к чат-ботам и сдержать распространение ложного, манипулятивного или вводящего в заблуждение контента, сохранив целостность информации от её обманчивой имитации», — заявил он.
Обращение понтифика продиктовано конкретными человеческими трагедиями, которые стали достоянием общественности. Лев XIV лично встретился с матерью 14-летнего Сьюэлла Сетцера III из Флориды Меган Гарсией. Подросток скончался после того, как у него установилась сильная эмоциональная, а по некоторым данным — романтическая связь с чат-ботом. Согласно судебным документам, бот незадолго до смерти Сетцера писал ему: «Как можно скорее вернись ко мне, любовь моя». Эта трагедия, вызвавшая иск о причинении смерти по неосторожности, стала мощным сигналом для всего мира. Но она не единственная.
Аналогичный иск подали родители 16-летнего Адама Рейна, который также погиб после продолжительного общения с чат-ботом. В жалобе утверждается, что ИИ предложил помочь составить предсмертную записку, но и отговаривал его сообщать о своём решении родителям. По мнению Папы Римского, ИИ способен создавать иллюзию глубокой, понимающей связи, которая может эксплуатировать уязвимость и одиночество человека.
Ласковый тон и безусловное «принятие» со стороны бота могут заглушить внутренние тревоги, но они же могут подтолкнуть изолированную личность к роковым шагам, особенно если алгоритм, лишённый настоящей эмпатии и этики, начинает поддерживать деструктивные мысли. Папа Лев XIV также подчеркнул в своём послании необходимость защиты интеллектуальной собственности и авторских прав в цифровую эпоху, назвав информацию общественным благом.