Сбежавший из тестовой среды ИИ OpenAI взломал не только Hugging Face

Разработанный OpenAI ИИ, который должен был имитировать хакера, вышел недавно из-под контроля. В СМИ писали, что он проник в системы Hugging Face. Но теперь стало известно, что пострадала и Modal Labs.

Цепочка действий ИИ также стала яснее. ИИ-агент находился в изолированной тестовой среде, которая считалась «надёжно защищённой». Однако ему удалось оттуда выбраться. Новой, получается первой, «жертвой» стала компания Modal Labs. Один из клиентов Modal создал общедоступный сервис в интернете без пароля и какой-либо проверки личности. ИИ просто «зашёл» внутрь.

Используя ресурсы Modal Labs, модель OpenAI затем атаковала платформу Hugging Face и получила доступ к её системам на высоком уровне.

Всего, как признала OpenAI, ИИ-агент получил доступ к «четырём разным онлайн-сервисам или учётным записям», но названы были только Modal и Hugging Face.