Кошки на Луне: поиск с ИИ от Google обманывает пользователей

В мае Google запустил новую версию AI reviews. Этот инструмент использует искусственный интеллект для генерации мгновенных ответов поверх результатов поиска. Порой нейросеть предлагает довольно неожиданные версии — например, о лунных кошках, сообщает Associated Press.

В ответ на запрос корреспондента этого издания о том, бывали ли кошки на Луне, модернизированная поисковая система выдала следующее: «Да, астронавты встречали кошек на Луне, играли с ними и оказывали помощь». И добавила: «Нил Армстронг сказал: «один маленький шаг для человека», потому что это был кошачий шаг».

Ошибки нередко возникают из-за того, что нейросеть обращается к реальным источникам с сомнительными теориями. Исследователь искусственного интеллекта из США Мелани Митчелл спросила Google, сколько мусульман были президентами Соединенных Штатов. Поисковик уверенно ответил, что единственным президентом-мусульманином был Барак Обама. Жаль, что это неправда: Обама — христианин-протестант. Митчелл отметила, что ИИ подкрепляет утверждение ссылкой на главу из академического труда, написанного историками. Но в книге не содержалось ложного утверждения — в ней всего лишь упоминалась ложная теория заговора.

«Система искусственного интеллекта Google недостаточно умна, чтобы понять, что эта цитата на самом деле не подтверждает ее ответ. Учитывая, насколько она ненадежна, я думаю, эта функция должна быть отключена», — пишет Митчелл.

Новая функция обеспокоила экспертов еще и потому, что среди ошибок ИИ встречаются не только забавные, но и вредные ложные сообщения. Они подвергают опасности людей, ищущих помощи в чрезвычайной ситуации. Когда пользователи обращаются в Google с экстренным вопросом, они вряд ли могут заметить ошибку в ответе: в стрессе или в спешке легко поверить первому, что увидишь.

Кроме того, нейросети могут укреплять опасные заблуждения. Об этом специалисты предупреждали Google еще несколько лет назад. В частности, ученых беспокоит, что такие системы подпитывают расизм и сексизм: материалы подобного характера обнаружили в массивах письменных данных, на которых обучался ИИ. А людям сложнее распознать дезинформацию, когда она подтверждает их предубеждения.

Компания Google заявила, что предпринимает «быстрые действия» для исправления ошибок и использует этот опыт для разработки улучшений. Возможно, причиной проблем с новым релизом стала спешка: на пятки поисковому гиганту наступают конкуренты — американские разработчики OpenAI и Perplexity AI. Последний на многие запросы отвечает точнее, чем Google.

Новый поиск Google будет отдавать предпочтение ответам ИИ, а не ссылкам на сайты

ИИ может быть виноват в том, что мы не можем установить контакт с внеземными цивилизациями

ИИ нашел различия между мужским и женским мозгом

ИИ против ИИ: создана нейросеть, мешающая другим нейросетям быть токсичными и опасными