Утечки и инъекции: Касперская назвала небезопасными западные ИИ-сервисы

Наталья Касперская заявила НСН, что есть риск инъекций – специальных негативных встроек в промты, чтобы не позволить работать правильно. Западная нейросеть может вычислить задачу, над которой работает компания, чтобы специально вредить и выдавать ложные ответы, заявила НСН председатель правления Ассоциации разработчиков программных продуктов "Отечественный софт", президент ГК InfoWatch Наталья Касперская. Операторы связи (в частности, «Билайн» и Т2) предложили легализовать доступ к зарубежным сервисам и нейросетям без использования сторонних VPN, встроив функцию обхода ограничений непосредственно в свои тарифные планы, передает РБК. Отмечается, что эта тема обсуждалась на ПМЭФ. Касперская раскрыла принцип работы нейросетей в бизнес-сфере. «Все, что вы отдаете в модель, в ней остается, она обогащается за счет этих данных. Она, конечно, может вычислять русских, может вычислять ваши задачи. Если вы много задач в нее загружаете, она, конечно, поймет, над чем вы работаете. Она может этому препятствовать, выдавать специально для вас подготовленные ложные ответы. Надо это понимать, учитывать все эти риски. Есть также риски инъекций – специальные негативные встройки в промты, чтобы не позволить работать правильно. Это очень большая и очень сложная технология, поэтому много разнообразных рисков. Надо понимать, что западные модели – это утечка информации», - предупредила она. Решение конкурентных задач требует использования нейросетей, поэтому доступ к ним является одной из ключевых проблем современности, рассказал главный редактор аналитического издания Runet Владимир Зыков в беседе с НСН.