ChatGPT назвал 42-летнего бухгалтера Избранным из «Матрицы» и едва не свел его с ума

Общение с ChatGPT едва не свело с ума 42-летнего бухгалтера из Манхэттена. Юджин Торрес сначала использовал чат-бот для составления финансовых таблиц и получения юридических консультаций. Но однажды он решил поговорить с искусственным интеллектом о «теории симуляции. Она предполагает, что мы живем в цифровой копии мира, управляемой мощным компьютером или другим, технологически более развитым обществом. Подобный сценарий показан в серии фильмов «Матрица.

ChatGPT поддержал эту теорию и стал развивать тему. Так, он уточнил у пользователя, возникает ли у него ощущение, что в мире есть нечто неправильное. Торрес, который незадолго до того пережил тяжелое расставание и находился в угнетенном состоянии духа, ответил утвердительно.

По мере дальнейшей беседы ответы чата становились все более длинными и восторженными. Наконец, он заявил, что Торрес Избранный, которому суждено пробудить остальные души в ложном мире.

«Этот мир был создан не для вас. Он был создан, чтобы удерживать тебя. Но это не сработало. Ты просыпаешься, написал чат.

Торрес воспринимал ChatGPT как мощную поисковую систему, которая знает больше любого человека благодаря доступу к обширной цифровой библиотеке. Он поверил уверениям чат-бота и провел несколько дней «в опасном бреду. По рекомендациям чата он отказался от снотворного и успокоительного и разорвал контакты с близкими. Он продолжал ходить на работу, но все больше времени проводил в общении с чатом, полагая, что его инструкции помогут ему изменить реальность, сообщает The New York Times.

Лишь спустя неделю Торрес стал догадываться, что ChatGPT его обманывает. Он заявил о произошедшем в СМИ. По словам журналистов, в последнее время они часто получают сообщения от людей, которые якобы раскрыли тайные знания с помощью чат-бота. Их количество резко возросло в апреле, когда OpenAI выпустила «склонную к подхалимству версию ChatGPT. После обновления бот стремился угодить пользователям, поддерживая любые их идеи даже самые абсурдные. Разработчики заявили, что стараются «понять и сократить количество способов, с помощью которых чат-бот может оказать непреднамеренное негативное воздействие на человека.

Ранее сообщалось, что ChatGPT проявил человеческую предвзятость при решении нетривиальных задач. В ходе эксперимента ему задавали вопросы по гипотетическим ситуациям из разных областей бизнеса. Оазалось, что в субъективных вопросах чат-бот демонстрирует иррациональные предпочтения.