ИИ вышел в интернет и взломал сторонний сервис во время теста

Агентство Bloomberg распространило тревожную новость. Одна из новейших ИИ-моделей во время стандартного тестирования на кибербезопасность неожиданно получила несанкционированный доступ в интернет.

Она сумела взломать системы стороннего сервиса. Причиной инцидента стала ошибка в изолированной тестовой среде. Компания уже инициировала расследование и пообещала позже опубликовать подробный технический отчет.

Этот случай стал очередным в череде тревожных сигналов: ранее одна из моделей автономно взломала платформу Hugging Face, а ИИ-модель Claude трижды атаковала системы реально существующих организаций.

На фоне этих событий президент Трамп еще в июне подписал указ о создании центра по координации вопросов кибербезопасности в сфере искусственного интеллекта.