Эксперт объяснил опасность обнаруженного западными аналитиками «агента с ИИ»
Западные аналитики в области кибербезопасности обнаружили новую виртуальную сущность, которую назвали «агентом с искусственным интеллектом (ИИ)». Насколько это опасно или, наоборот, полезно, рассказал исполнительный секретарь Координационного совета генеральных прокуроров государств - участников СНГ, заведующий кафедрой международного права РГСУ, профессор Юрий Жданов.
– Юрий Николаевич, что это за такой странный «агент»?
– Он совсем не странный, а вполне себе закономерный продукт киберпрогресса. Странно было бы иначе. Понятно, что это – не мужчина в строгом костюме и темных очках с двумя «Глоками» в карманах. Или – с тремя. Это – некое программное обеспечение, может – компьютерный вирус, что на порядок опаснее любого Джеймса Бонда или Штирлица. По сути, мы стали прижизненными свидетелями явлению миру нового рубежа в борьбе с киберпреступностью.
– В чем же эта новизна?
– Принципиально, на несколько порядков (сейчас, с ходу, даже трудно подсчитать эти порядки) возросла киберугроза. Появление агентов с искусственным интеллектом (название, разумеется, весьма условное и может со временем измениться на более адекватное) в сфере киберпреступности повысило уровень угрозы для коммерческих организаций. Но это – пока. Дойдет и до государственных инфраструктур, и до простых обывателей.
– Как это работает?
– Изощренные киберпреступники теперь действуют как бизнесмены, что представляет собой системную угрозу для легального бизнеса. Менеджер любого уровня или, скажем, гендиректор даже не поймет, что ведет переговоры не со своим давним партнером, а с бездушной, но очень умной железякой. Прошу обратить внимание – это не продвинутый искусственный интеллект, способный кем-то или чем-то притворяться, копировать голоса, лица, движения, даже мысли. Это – совсем другой, качественный рывок. Сравнить можно, разве что (и то – условно) с квантовой физикой. Объяснить на пальцах не смогу - для понимания элементарной механики процесса и вам, и мне потребуется совсем другое образование.
– Как давно этот рывок произошел?
– По моим данным, в Европе Advanced Persistent Threats (APT, можно перевести как «продвинутые постоянные угрозы») были признаны в качестве модели угрозы в сфере кибербезопасности еще в 2011 году. Но тогда всерьез эта угроза воспринята не была. А зря. APT — это высококвалифицированные и хорошо оснащенные противники, которые незаметно и настойчиво проникают в корпоративные системы, часто преследуя стратегические цели, такие как кража интеллектуальной собственности, финансовая выгода или саботаж. Такие атаки обычно длятся месяцами или годами, адаптируясь к средствам защиты и избегая обнаружения.
И вот, дождались - теперь ландшафт киберугроз вышел за рамки традиционных средств защиты. Сегодняшние злоумышленники стремятся включить в свой арсенал этих пресловутых агентов ИИ - автономные цифровые сущности, которые потенциально могут мыслить, обучаться и адаптироваться со скоростью, превосходящей человеческие возможности.
– Все же, я не очень понимаю: что так всполошило Запад? В чем суть угрозы?
– В своем непонимании, к сожалению, вы не одиноки. Дело в том, что на протяжении десятилетий кибербезопасность сводилась к возведению более высоких стен, но в конце концов организации осознали, что универсального решения не существует. С появлением агентов с искусственным интеллектом сложность угроз снова возрастает; это концепция APT, но еще более изощренная. И теперь, скорее всего, потребуется кардинальный пересмотр всей тактики и стратегии кибербезопасности.
– Какова реакция на новую угрозу на Западе?
– Надеюсь, адекватная. Согласно отчету «Искусственный интеллект и кибербезопасность: баланс рисков и преимуществ» Всемирного экономического форума, злоумышленники все чаще используют ИИ для увеличения масштабов, сложности и скорости своих вредоносных действий. В отчете подчеркивается, что генеративный ИИ используется для усиления фишинга, кражи личных данных и эксплуатации уязвимостей нулевого дня — все это усугубляет проблемы, с которыми сталкиваются организации при обеспечении устойчивости к угрозам, использующим ИИ.
В отчете Verizon о расследованиях утечек данных за 2025 год указано, что «за последние два года количество вредоносных электронных писем, созданных с помощью ИИ, удвоилось (с 5% до 10%)», что подчеркивает необходимость проактивной защиты. Учитывая унаследованные уязвимости и разнообразие способов, с помощью которых злоумышленники могут их использовать, — например, устаревшие системы, слабые учетные данные и неправильно настроенные процессы, — вредоносным агентам ИИ не составит труда найти возможности для эскалации своих атак и нанесения постоянного ущерба. Это подчеркивает острую необходимость для компаний разрабатывать комплексные стратегии, сочетающие в себе технологии, управление и человеческий фактор для борьбы с этой новой угрозой.
- Получается, что теперь киберпреступность – это и бизнес-модель, и бизнес-проблема?
– Получается, так. Такие группы, как, например, Scattered Spider, демонстрируют сложность и изощренность современных киберпреступлений. По данным Института SANS, эти организации действуют как бизнес-структуры, используя хорошо структурированный план действий. План включает в себя социальную инженерию, эксплуатацию уязвимостей и передовые методы проникновения в системы. Они умело обходят передовые инструменты безопасности, а их глубокое знание корпоративных сред Windows, облачных платформ и виртуализированной инфраструктуры делает их особенно сложными для обнаружения и устранения. Они часто используют легитимные инструменты в злонамеренных целях, органично вписываясь в обычные бизнес операции. Такая изощренность говорит о том, что некоторые злоумышленники, возможно, ранее легально работали с такими системами, что подчеркивает их способность действовать как бизнес структура и представляет серьезную угрозу даже для зрелых программ кибербезопасности.
- Неужели они отказываются от привычного нам всем киберворовства?
– Нет, конечно. Злоумышленники продолжают использовать традиционные методы, такие как кража учетных данных и социальная инженерия, для компрометации организаций. Одним из ключевых примеров является широкое распространение украденных учетных данных среди киберпреступников, на долю которых приходится 30% первоначальных точек доступа в ходе инцидентов. Такие атаки показывают, что злоумышленникам часто не нужны сложные эксплойты, такие как атаки нулевого дня или APT. Им просто нужен доступ. И обычно он появляется в самом слабом звене — в людях.
Проблема киберпреступности — это вызов для бизнеса и государственных структур. Когда все более организованные злоумышленники могут передавать часть своих операций на аутсорсинг, ландшафт рисков становится фрагментированным и децентрализованным. Теперь нам нужно отыскать решения, чтобы противостоять целой экосистеме взаимосвязанных участников.
- Насколько велики масштабы возможного ущерба?
– Почему – возможного? Вполне реального и уже нанесенного. Так, атака на корпорацию Change Healthcare иллюстрирует последствия системного киберриска. Она парализовала работу клиник, лабораторий и страховых компаний на несколько недель, принеся на сегодняшний день косвенные убытки в размере 3 миллиардов долларов, не говоря уже о репутационном ущербе. Агенты с искусственным интеллектом усиливают эту модель, позволяя преступникам развертывать автономных ботов, которые постоянно совершенствуют тактику, тестируют защиту и координируют атаки в разных регионах.
Согласно исследованию Google Cloud о неправомерном использовании генеративного ИИ злоумышленники экспериментируют, чтобы повысить эффективность своих операций и киберпреступлений. Это развивающаяся реальность. Этот широкий спектр возникающих угроз требует своевременных и скоординированных действий со стороны современных лидеров. Когда злоумышленники могут получить доступ, купив учетные данные у инсайдера или криминального посредника, проблема требует не только технологического решения, но и эффективного управления.
Вот он, системный цивилизационный кризис - граница между людьми и машинами стирается, и старые правила игры не сработают в этой новой игре.
- Нельзя ли поставить этого пресловутого «агента ИИ» на законную, нормальную службу?
– Можно и нужно (действительно, что это мы все о плохом?). Есть возможности, когда ИИ-агент способен вывести бизнес и эффективность госструктуры на новый уровень.
Так, этот агент выполняет десятки и сотни действий одновременно. Он способен работать с любым объемом обращений без перегрузки, отвечает на вопросы, находит нужную информацию, заполняет документы, запускает внутренние процессы и передает задачи в нужные отделы. Все это — параллельно, без очередей и неизбежных ошибок, присущих человеческому фактору.
– То есть ошибки у этого «продукта» исключены?
– Клясться на Библии не буду. Но – ИИ-агент знает всю информацию о вашей организации и ничего не забывает. Он мгновенно находит нужную информацию, никогда не путается в деталях и не теряет данные — в отличие от людей, ему не нужно ничего вспоминать, он всегда точно отвечает.
– В общем, идеальный, безотказный, удобный сотрудник. И платить ему не надо...
– Да, он работает круглосуточно и не ходит в отпуск, не отпрашивается по семейным обстоятельствам, ему не нужен декрет или больничные. У него не портится настроение, он не устает и уходит в запой. ИИ-агент всегда на связи — днем, ночью, в выходные и праздники. Каждый обратившийся в организацию человек получает ответ вовремя.
Более того, ИИ-агент легко справляется с ростом нагрузки - вы можете обслуживать в 10 раз больше людей, не нанимая новых сотрудников. Один агент одновременно ведет сотни диалогов, выполняет операции и работает в нескольких каналах — без снижения качества и без дополнительных затрат на персонал.
Что особенно важно, ИИ-агент строго придерживается всех прописанных правил и законов, исключая любые сбои и саботаж. Он выполняет задачи последовательно и без отклонений, обеспечивая стабильность и прозрачность работы. ИИ-агент всегда на связи — вы можете управлять им и получать важные уведомления из любой точки планеты через удобный для вас мессенджер.
Вот такая удивительная сущность пришла в наш мир. И, конечно, надо сделать все, чтобы ИИ-агент был на нашей стороне, а не служил инструментом для криминала.