Касперская: LLM нельзя использовать в социальной сфере из-за галлюцинаций

МОСКВА, 29 сентября. /ТАСС/. Большие языковые модели (LLM) нельзя использовать в социальной сфере из-за галлюцинаций - ложных ответов, которые выдают нейросети. Об этом рассказала в интервью ТАСС президент InfoWatch, председатель правления АРПП "Отечественный софт" Наталья Касперская.

"Нужны ли бредогенераторы - большой вопрос. Считаю, что их нельзя использовать в социальной сфере - например, для общения с людьми, создания нормативно-правовых актов или написания стратегии работы", - заявила она.

По словам Касперской, LLM принципиально допускают вероятностные ответы, в том числе те, которые являются ложью, потому что они только имитируют разумность.

"Такая генерация произвольного контента очень опасна, так как люди привыкают получать ответ и даже не задумываются, насколько ответ релевантен, верят ему безоговорочно. Получается, что человек становится заложником системы", - отметила она.