ФСТЭК впервые выделила ИИ в качестве угрозы информационной безопасности
Федеральная служба по техническому и экспортному контролю (ФСТЭК) впервые выделила технологию искусственного интеллекта (ИИ) в качестве рисков для информационной безопасности, обратили внимание «Ведомости». Соответствующие изменения внесены в банк данных угроз (БДУ).
В перечне ФСТЭК появились ИИ, уязвимости в котором потенциально могут быть задействованы при кибератаках. Среди них — модели машинного обучения, наборы обучающих данных (датаcеты), RAG и LoRA-адаптеры (Retrieval Augmented Generation — подход, при котором ответ генерируется из информации от внешних источников, и Low-Rank Adaptation — подход, адаптирующий большие модели данных к конкретным задачам — FM).
Кроме того, в разделе описаны векторы возможных атак кибермошенников, например, эксплуатация уязвимостей в фреймворках для ИИ, модификация системных промптов или конфигураций агентов, DoS-атаки (атака с использованием одного устройства с целью вывести из строя систему — FM), направленные на исчерпание квоты запросов.
Изначально БДУ создавалось, чтобы информировать профильных специалистов о существующих угрозах. Но теперь любая компания, которая по закону обязана защитить свои информационные системы, должна использовать ее для разработки модели угроз. Это требование справедливо для большей части организаций, обрабатывающих персональные данные.
«Новый раздел БДУ становится официальным и актуальным источником для такого моделирования в части ИИ», — подтвердил директор департамента расследований T.Hunter Игорь Бедеров. Помимо этого, нововведения определяют критерии для выбора защиты — документ не предписывает использование конкретного софта, но указывает, от каких атах он должен защищать.
В то же время бизнес-партнер по кибербезопасности Cloud.ru Юлия Липатникова объясняет, что прямо сейчас компании не должны что-либо предпринимать, но учитывать появление соответствующего списка на сайте ФСТЭКа разработчикам следует, особенно на этапе внедрения новых процесссов разработки. В то же время компании, заранее изменившие процессы моделирования угроз в соответствии с появившейся информацией, окажутся в более конкурентноспособном положении.