ИИ-модель Mythos от Anthropic якобы смогла взломать системы АНБ

Американский сенатор Марк Уорнер заявил, что экспериментальная ИИ-модель Mythos компании Anthropic во время санкционированных учений в формате red team смогла за несколько часов проникнуть почти во все закрытые системы АНБ.

Возможности Mythos

Детали испытаний остаются засекреченными, но Anthropic ранее предупреждала, что Mythos обладает исключительными возможностями по поиску уязвимостей, поэтому модель не предназначена для открытого доступа. Вместо публичного релиза компания запустила программу Project Glasswing и предоставила доступ к модели ограниченному кругу партнёров, включая Amazon, Apple, Google, Microsoft и NVIDIA.

По данным Anthropic, система уже помогла обнаружить тысячи уязвимостей, включая старые ошибки в OpenBSD и браузере Firefox.

Споры вокруг Fable 5 и Mythos

Скандал разгорелся после выхода модели Fable 5, построенной на базе Mythos, но дополненной механизмами безопасности. Власти США заявили о наличии способа обхода этих защит и вскоре ограничили доступ к Fable 5 и Mythos.

В Anthropic утверждают, что выявленная уязвимость была узкоспециализированной и не представляла собой универсальный метод обхода защиты. Ситуация вызвала споры в отрасли: одни эксперты считают действия правительства необходимой мерой для предотвращения злоупотреблений, другие рассматривают ограничения как попытку усилить контроль над разработчиками ИИ.

На этом фоне Anthropic продолжает сотрудничество с АНБ, адаптируя свои технологии для задач национальной безопасности.

История вокруг Mythos показывает, насколько серьёзными становятся возможности современных ИИ-систем в области кибербезопасности. Однако без официальных отчётов и технических подробностей заявления о «взломе почти всех систем АНБ» пока следует воспринимать с осторожностью.

Почему к этой истории стоит относиться осторожно

История вокруг Mythos показывает, насколько серьёзными становятся возможности современных ИИ-систем в области кибербезопасности. Однако без официальных отчётов и технических подробностей заявления о «взломе почти всех систем АНБ» пока следует воспринимать с осторожностью.

Нельзя исключать и более прагматичный сценарий: вся эта история может быть частью громкого маркетингового фона вокруг Anthropic перед возможным IPO. Такие заявления хорошо подогревают интерес к компании, особенно если речь идёт о технологиях, которые якобы способны работать на уровне государственных киберструктур.

Anthropic представила Claude Tag – полноценного ИИ-сотрудника Rockstar раскрыла стоимость GTA 6 и показала новые скриншоты из игры AMD добавит поддержку FSR 4.1 для видеочипов на архитектуре RDNA 3 Ошибка в Codex может вывести SSD из строя за год