Эксперт по инфобезопасности: текстовые инструкции не обеспечивают безопасность ИИ

Эксперт по информационной безопасности Владимир Зыков заявил, что текстовые инструкции не способны надёжно ограничить действия искусственного интеллекта, если модель получает расширенные права и доступ к инфраструктуре.

В беседе с РИА «ФедералПресс» он рассказал о тестах, во время которых модели смогли выйти за пределы изолированной среды или получить доступ к реальным системам, приняв их за часть учебного полигона.

«Фраза «Не выходи за пределы задания» не заменяет межсетевой экран, а «Используй инструменты ответственно» не заменяет управление правами», — подчеркнул Зыков.

По мнению специалиста, полномочия ИИ необходимо ограничивать средствами операционной системы, сети, криптографии и независимого контроля. Он также предупредил, что автоматическое подтверждение всех запрашиваемых моделью разрешений может привести к повреждению данных и инфраструктуры компании.

Ранее судебный юрист Владимир Комсолев заявил, что сотрудника могут уволить не за сам факт использования искусственного интеллекта, а за ненадлежащее исполнение обязанностей при работе с ним.