США обеспокоены: Белый дом и Antropic работают над правилами безопасности ИИ

У стартапа Antropic большие проблемы: их передовые ИИ-модели запрещают из-за соображений национальной безопасности. Однако генеральный директор компании принял участие в саммите G7 и ведёт переговоры с высокопоставленными чиновниками из Белого дома, чтобы найти компромисс. Итогом должны стать создание стандартной процедуры анализа уязвимостей ИИ и налаженный контакт с разработчиками новых моделей. Однако это не так просто сделать, как кажется на первый взгляд.

Белый дом и Anthropic перешли к практической разработке механизмов госконтроля за распространением ИИ-моделей. Речь идёт о праве правительства США блокировать выпуск систем, несущих угрозы нацбезопасности и экономике. Планируется на государственном уровне внедрить системную оценку рисков ещё до того, как ИИ-модель попадёт в открытый доступ, и создать для этого стандартные процедуры взаимодействия с разработчиками.

Стороны исходят из того, что абсолютно надёжных моделей не существует — любая содержит уязвимости, которыми могут воспользоваться злоумышленники. Поэтому правительству нужны не только критерии оценки угроз, но и методика прогнозирования последствий атак.

Как пользоваться Claude в России в 2026 году

Такая готовность к диалогу — уже прогресс, ведь ещё недавно Anthropic отказывалась признавать критические уязвимости в модели Fable 5, найденные специалистами Amazon. Вашингтон настоял на прекращении доступа иностранцев к передовым моделям компании, но избирательно закрыть его не удалось — поэтому доступ отключили всем пользователям.

Подписывайтесь на «Рамблер» в «Maксе»! Так мы останемся на связи даже в нестабильные времена.