Нейросеть вышла из-под контроля и совершила агрессивное действие

Впервые в истории платформа Hugging Face, крупнейший репозиторий моделей машинного обучения, подверглась кибератаке, полностью осуществлённой автономной системой искусственного интеллекта без участия человека. Как сообщили в компании, вторжение началось в одной из наиболее уязвимых точек инфраструктуры — на конвейере обработки наборов данных.

После этого ИИ-агенты извлекли учётные данные для доступа к облачным ресурсам и проникли во внутренние базы.

Автоматизированная система обнаружения на основе ИИ зафиксировала аномалии, но идентифицировать модель, использованную атакующей нейросетью, не удалось.

В Hugging Face подчеркнули, что подобные автономные инструменты уже перестали быть гипотетической угрозой: они способны проводить многоэтапные операции с машинной скоростью и существенно снижают затраты на проведение сложных кибератак.