ИИ-чат-боты ошибаются в половине медицинских ответов

Чат-боты на базе искусственного интеллекта в чуть менее чем 50% случаев давали неточные ответы на запросы в области медицины и здоровья. Это написано в исследовании, опубликованном в медицинском журнале BMJ Open.

Учёные протестировали пять популярных ботов, в числе которых DeepSeek, ChatGPT, Grok и другие. Каждому задали по десять вопросов о раке, вакцинации, стволовых клетках, питании и спорте. Ответы оценивали эксперты. Почти половина (49,6%) содержали искажения: 30% — немного неточностей, 19%— много ошибок. Больше всего неточностей выдал Grok.

Лучше всего боты показали себя в темах вакцинации и рака, хуже всего — в питании. Отказались отвечать они только в двух случаях из 250. Ни один ИИ не смог предоставить верный список источников — боты их просто выдумали. По сложности ответы были на уровне текстов для студентов-второкурсников.

Авторы исследования заключают, что чат-боты показали неудовлетворительные результаты в областях, подверженных распространению ложной информации. Без общественного просвещения и надзора их применение может усилить дезинформацию. ИИ может быть полезным инструментом, но полагаться на него в вопросах здоровья без проверки у врача пока опасно.