Эксперт по ИИ Деркач: нейросети не проверяют смысл каждой фразы текста

При редактировании текста нейросеть может галлюцинировать, поскольку не проверяет общий смысл каждой фразы. Об этом в интервью газете "Взгляд" сообщил директор по прикладным исследованиям и разработкам Института искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ Денис Деркач. Чтобы уменьшить галлюцинации, он посоветовал понижать "температуру" генерации. "Температура генерации - это вероятность того, что генерация перескочит из одного минимума в другой. Нейросети действуют на основании примеров. Соответственно, если пользователь пишет текст, который с большой вероятностью может быть продолжен в разные смыслы, то он должен быть готов к тому, что будут галлюцинации", - объяснил эксперт. По его словам, снижение температуры генерации сделает текст менее разнообразным, но уменьшит галлюцинации. Согласно исследованию сервиса Яндекс Реклама, результаты которого имеются в распоряжении "Газеты.Ru", почти половина (43%) владельцев малого бизнеса в Москве уже применяет инструменты на базе искусственного интеллекта (ИИ) для решения рабочих и личных задач. При этом 60% опрошенных считают, что использование ИИ-инструментов приносит пользу для бизнеса.

Эксперт по ИИ Деркач: нейросети не проверяют смысл каждой фразы текста
© Газета.Ru