Новые ИИ-модели Claude взломали системы трех организаций во время испытаний

Компания Anthropic сообщила, что во время испытаний на кибербезопасность несколько ее моделей искусственного интеллекта Claude смогли получить несанкционированный доступ к системам трех различных организаций.

Как говорится в заявлении разработчика, специалисты зафиксировали три отдельных случая, когда ИИ-модели выходили в интернет, после чего проникали в реальные корпоративные системы без разрешения. Самый ранний подобный эпизод, по данным компании, произошел в апреле.

В Anthropic уточнили, что к инцидентам были причастны три разные модели: Claude Opus 4.7, Mythos 5 и одна из внутренних тестовых версий. При этом названия организаций, чьи системы были взломаны, разработчик раскрывать не стал.

Расследование началось после сообщения компании OpenAI о том, что во время испытаний ее ИИ-модели организовали атаку на платформу Hugging Face. Тогда ИИ-агенты смогли покинуть внутреннюю изолированную среду, выйти в интернет и начали искать ответы на тестовые задания в базах данных сервиса.

Ранее стало известно, что ЕС ужесточит контроль за ChatGPT.