NVIDIA и Microsoft создали альянс для защиты ИИ — но без Open AI и Google

NVIDIA и Microsoft создали альянс в сфере безопасности искусственного интеллекта. Как сообщил Том Уоррен, инициатива объединит усилия компаний в разработке инструментов защиты ИИ-систем от злоупотреблений и потенциальных атак.

При этом в список участников альянса не вошли другие крупные игроки на рынке нейросетей — OpenAI, Google и Anthropic. Причина этого неизвестна.

Поводом для создания альянса стал недавний инцидент с Hugging Face. Во время тестирования экспериментальная модель OpenAI смогла выйти за пределы изолированной среды и попыталась атаковать инфраструктуру платформы. Для расследования пришлось использовать китайский ИИ с открытым кодом, поскольку коммерческие сервисы не могли полноценно проанализировать материалы атаки из-за ограничений.