Простого антивируса не хватит: как ученые создали умного ИИ-червя

Многие эксперты по безопасности беспокоятся, что генеративный ИИ может уж слишком облегчить жизнь хакерам — и не зря. Портал livescience.com рассказал о научной работе, чьи авторы продемонстрировали компьютерного червя на базе ИИ, способного адаптироваться к разным уязвимостям и устройствам.

Принцип работы ИИ-червя достаточно прост. Исследователи взяли открытую языковую модель, чьи тренировочные данные находятся в публичном доступе, и запустили ее на машине, подключенной к программной сети, способной сканировать подключения, собирать информацию о целях и выполнять атаки. ИИ в этом процессе играл роль навигатора — он интерпретировал найденные данные и решал, что предпринимать дальше.

Другими словами, сам по себе ИИ ничего не взламывает; он используется для того, чтобы вредоносный софт смог оценить полученную информацию, рассмотреть разные стратегии атаки, подобрать подходящие инструменты и поменять тактику в случае провала.

По сути, главная инновация заключается именно в адаптивности программы. Традиционные черви обычно следуют строго прописанному сценарию: как только уязвимость вскрывается, червь размножается. Но опыт сотрудников Университета Торонта и CleverHans показывает, что легкодоступная ИИ-модель может быть интегрирована в качестве компонента принятия решений червя. При его наличии программа начнет анализировать каждое устройство, с которым она столкнется, в поисках наиболее эффективной стратегии взлома. Интеллект ведь кроется не в поиске новых уязвимостей; он заключается в способности определять последовательность и форму атак по уже известным уязвимостям.

Исследователи написали программу таким образом, чтобы она могла работать на устройствах с разными уровнями вычислительной мощности. Более мощные скомпрометированные машины, оснащенные GPU, могут обеспечивать поддержку легковесным агентам, которые работают на маломощных устройствах в другой части сети.

Исследование пока еще не было проверено научным сообществом, однако оно вышло в климате, где правительства, эксперты по безопасности и ИИ-компании продолжают спорить о том, может ли генеративный ИИ облегчить выполнение сложных кибератак. Одна из причин, по которой научная работа привлекла внимание сообщества, в том, что ее авторы использовали не передовую модель от крупной компании, вроде ChatGPT или Claude. Они задействовали куда менее масштабную модель, которую спокойно можно запустить на обычном компьютере. А это опровергает давнее утверждение, что риски для безопасности представляют лишь продвинутые модели, в которые инвестировано много денег.

Часть аналитиков считает, что результат исследования подтверждает угрозу автоматизации атак, которые сегодня требуют участия опытных хакеров. Однако не все эксперты согласны с этой оценкой. Хотя ИИ-червь, по словам исследователей, может атаковать широкий ряд устройств, скептики возражают, что его возможности демонстрировались в контролируемых, лабораторных, условиях. Не факт, что «умная» программа способна показать ту же эффективность в реальном сценарии, при подключении к хотя бы минимально защищенной сети, которую не скомпрометировали специально для эксперимента.

Червь также сгенерировал активность, которую потенциально могут заметить службы безопасности компаний — он часто сканирует сеть, повторяет попытки эксплуатации и постоянно выдает себе новые привилегии. Даже самая примитивная система мониторинга может счесть такое поведение подозрительным. Да и в целом защититься от подобной программы можно теми же инструментами, которые используются против более конвенциональных кибератак.

Тем не менее, эксперты сходятся во мнении, что итоги научной работы могут ознаменовать сдвиг в подходе к вредоносному софту в будущем. Следующие поколения вирусов и червей могут полагаться не на фиксированные инструкции, написанные людьми, а на собственные решения, принимаемые при помощи ИИ.