Мужчина послушал совет нейросети и попал в психлечебницу
Шестидесятилетний американец заработал необычное психическое расстройство после того, как обратился к ChatGPT за советом по бессолевой диете. Специалисты описали данный случай в журнале Американской коллегии врачей.
Пациент рассказал врачам, что исключил поваренную соль (хлорид натрия) из своего рациона, прочитав в интернете, что она негативно влияет на здоровье.
Мужчина проконсультировался с ChatGPT, после чего начал дистиллировать питьевую воду в домашних условиях, а соль заменил бромидом натрия.
«В течение 3 месяцев он заменял хлорид натрия бромидом натрия после консультации с ChatGPT. В чате он прочитал, что хлорид можно заменить бромидом, хотя, вероятно, ИИ подразумевал другие цели, таких как очистка», — говорится в исследовании.
Мужчина, у которого ранее не было психиатрических заболеваний, в итоге оказался в больнице. Там он заявил, что его отравил сосед. Он сказал врачам, что очень хочет пить, но «стал вести себя как параноик, когда ему предложили воду».
«В течение первых 24 часов после поступления пациент демонстрировал нарастающую паранойю со слуховыми и зрительными галлюцинациями. После попытки побега его пришлось принудительно госпитализировать в психиатрическую лечебницу в связи с тяжелым состоянием», — говорится в исследовании.
Врачи пришли к выводу, что мужчина отравился бромом. Данный токсикоз сегодня встречается редко. Он был распространен в начале 20 века. Тогда бром добавляли в безрецептурные лекарства, из-за чего у людей возникали психические расстройства.
В больнице мужчину вылечили от психоза и выписали через несколько недель.
Его случай подчеркивает потенциальные подводные камни использования ИИ для медицинской помощи. Специалисты предупреждают, что искусственный интеллект часто упускает важный контекст. Он пытается объединить все в кратком изложении, но может, например, «забыть» отрицательную частицу «не» или другие данные. В итоге пользователь получает вредный или опасный совет.
Избыток хлорида натрия может повысить кровяное давление и увеличить риск проблем со здоровьем, однако соль все равно критически необходима человеческому организму.