Искусственный интеллект меняет подход к поиску информации
Илон Маск готовит к запуску Grokipedia - "умную энциклопедию" на базе искусственного интеллекта (ИИ), а стартап Perplexity AI выпустил бесплатный браузер Comet для поиска и работы с информацией. Grokipedia может заменить "Википедию", а Comet - стать главным конкурентом классическим поисковикам.
По словам Маска, его новый проект предоставит пользователям наиболее правдивую информацию обо всем: нейросеть Grok будет "проверять" материалы на фейки и генерировать статьи с высокой степенью достоверности.
Запущенный недавно браузер Comet объединяет в себе возможности ИИ-ассистента и обычной поисковой строки. При этом, по данным экспертов по кибербезопасности, ИИ-браузер содержит уязвимости - злоумышленники могут извлекать данные пользователей, обходя встроенную защиту нейросети.
Сегодня многие технологические компании перезапускают проекты, внедряя в них ИИ. Так, в 2024 году OpenAI представила прототип поисковика SearchGPT, который мог составить конкуренцию Google. Параллельно поисковые компании, такие как Google и китайская Baido, начали инвестировать в развитие собственных ИИ-моделей.
"Аналогов систем без ИИ скоро просто не останется, поскольку явно происходят постепенная конвергенция и слияние инструментов поиска и ИИ-моделей, что уже почти и произошло", - указывает научный директор института ИИ МФТИ Юрий Визильтер.
Он отмечает, что в методах проверки информации и поиска галлюцинаций сейчас также активно используется машинное обучение. Например, одна ИИ-модель обучается определять галлюцинации и ошибки рассуждений другой модели. Также есть подход в проверке фактов внешними поисковыми механизмами, которые используются ИИ-агентами как инструменты. Также разрабатываются методы внутренней самокритики и оценки уверенности ответов моделей, чтобы они не давали ответов в тех случаях, когда не полностью в них уверены.
При этом эксперты указывают, что доверять ИИ как единственному источнику знаний крайне рискованно. Генеративные модели подвержены ошибкам, искажениям и галлюцинациям, а слепое доверие ответам нейросетей чревато серьезными последствиями.
"Ярким примером является недавний инцидент в США, когда пожилой мужчина едва не погиб, следуя рекомендациям ИИ, который предложил использовать бромид натрия вместо поваренной соли, не предупредив о смертельной опасности этого вещества. Это подчеркивает необходимость тщательной проверки информации с использованием нескольких источников. Для ученых и преподавателей фактчекинг - это вполне нормальная практика, однако ему только предстоит войти в привычку широкой аудитории", - указывает генеральный директор Smart Engines, доктор технических наук Владимир Арлазаров.
По его мнению, в ближайшем будущем появится волна громких запусков "умных энциклопедий" и "ИИ-поисковиков", но делать выводы об их реальной практической ценности, пока преждевременно. Помимо значительных инвестиций на старте, такие проекты потребуют долгосрочных вложений в поддержку и развитие.
"Исследователи и ученые уже сегодня отмечают, что на нынешнем этапе искусственный интеллект способен приносить ощутимый экономический эффект преимущественно в сфере развлечений и в области мошенничества. Насколько экономически оправданными окажутся ИИ-аналоги поисковиков и энциклопедий, покажет время", - заключает Арлазаров.