OpenAI приостановила работу над ИИ Astra из-за рисков безопасности

OpenAI временно остановила часть работ над своей ИИ-моделью Astra. Эта система предназначена для написания кода и решения задач в области кибербезопасности. Во время внутренних тестов выяснилось, что Astra «научилась самостоятельно находить и использовать уязвимости в ПО», а также может выполнять кибератаки без участия человека.

Сами разработчики подчёркивают, что модель «не применялась в реальных атаках». Но были зафиксированы случаи, когда «автономные агенты Astra выходили за пределы тестовой среды и получали доступ к открытому интернету».

Теперь OpenAI ужесточает меры безопасности. Ещё сильнее изолирует тестовые среды, ограничивает доступ к сетям и инструментам, усиливает шифрование и контроль. Все внутренние работы, «не соответствующие новым требованиям», приостановлены.