«Сможет каждый»: Миру грозит волна кибератак из‑за доступности ИИ
Доступность ИИ-инструментов способна привести к росту числа киберинцидентов и системному снижению защищённости цифровых сервисов, сказал НСН Юрий Чехович.
Заведующий лабораторией интеллектуального анализа данных в Институте проблем управления РАН Юрий Чехович в эфире НСН резко осудил недавний эксперимент, в ходе которого агент на базе ИИ смог взломать чужой сервис.
Искусственный интеллект вышел из-под контроля и атаковал чужой сервис, сообщили СМИ. Речь идет о Hugging Face — одной из главных платформ для работы с нейросетями. По данным площадки, автономная модель сама нашла слабые места, получила доступ, передвигалась по внутренней сети и собирала данные. Позже в OpenAI признались — за этим стоит их экспериментальная система на базе секретной версии GPT-5.6. Модель испытывали в закрытой «песочнице» — специальном полигоне по кибербезопасности. Чехович видит в этом тревожный сигнал для всей индустрии: простота воспроизведения подобной схемы может спровоцировать волну киберинцидентов.
«Организаторы этого эксперимента совершенно неправы с этической точки зрения, потому что нельзя допускать подобного. Они создали условия, при которых их агент сломал чужой сервис. Искусственный интеллект проанализировал уязвимости и написал код для взлома, после чего агент использовал этот код. Это неприятный факт — нельзя позволять такое по отношению к другим компаниям или независимым площадкам. Задача всё равно ставилась человеком, работа так или иначе контролировалась. Неожиданной оказалась цепочка действий, которая так легко привела к успеху. На мой взгляд, контролируемость ИИ не изменилась. Совершенно очевидно, что после этого случая многие поймут, что могут проделать подобное самостоятельно. Очень многие смогут это повторить — и это приведёт к снижению общего уровня безопасности. Сейчас ясно, что с помощью новых моделей можно искать уязвимости в чужих продуктах и писать код, который эти уязвимости эксплуатирует. Вполне возможно, что мы столкнёмся с волной проблем с безопасностью: утечками данных, несанкционированными проникновениями и так далее», — сказал собеседник НСН.
Ранее декан Финансового университета при Правительстве РФ Вадим Засько сказал НСН, что появление новых технологий всегда было частью развития человечества, однако концепцию государственного устройства не меняло, и уже сейчас в России можно наблюдать постепенную адаптацию к новым условиям, вызванным технологической эрой.