Американская Anthropic обвинила китайские компании в краже данных
Американский ИИ-стартап Anthropic обвинил китайские DeepSeek, Moonshot AI и MiniMax в воровстве данных его чат-бота Claude с целью обучения собственных моделей искусственного интеллекта.
По данным Anthropic, эти три компании более 16 млн раз обращались к Claude для получения информации. Речь идет о применении так называемых методов дистилляции — простую ИИ-модель обучают воспроизводить поведение другой, более продвинутой и сложной нейросети. В процессе дистилляции в продвинутую нейросеть загружают большое количество запросов, а ее ответы используют для обучения другой модели.
Для этого, как утверждают в стартапе, китайские конкуренты создали суммарно 24 тысячи мошеннических аккаунтов в Claude. По данным Anthropic, DeepSeek взаимодействовала с Claude 150 тысяч раз, в то время как Moonshot и MiniMax — по 3,4 млн и 13 млн раз соответственно.
В Anthropic заявляют, что деятельность китайских разработчиков может навредить национальной безопасности США, поскольку полученные наработки можно использовать в военных целях.
Как отмечает The Wall Street Journal, Moonshot и MiniMax недавно выпустили новые модели искусственного интеллекта, которые обладают очень хорошими навыками рассуждения и программирования. DeepSeek тоже готовится к скорому выпуску нейросети следующего поколения. Представители DeepSeek, Moonshot и MiniMax пока не прокомментировали ситуацию.
Ранее в феврале американская OpenAI тоже обвинила DeepSeek в применении дистилляции. OpenAI пожаловалась в спецкомитет Конгресса по стратегической конкуренции между США и КНР, отметив, что поведение конкурентов может угрожать бизнесу американских компаний. Они инвестировали миллиарды долларов в инфраструктуру для нужд ИИ и взимают плату за использование своих нейросетей. В то же время DeepSeek и рядом других китайских ИИ-сервисов можно пользоваться бесплатно, без ежемесячной подписки.
В этом же месяце в Google публично объявили о попытках конкурентов разработать копии модели Gemini с помощью атак дистилляции. В компании подчеркивали, что дистилляция позволяет злоумышленнику быстро и значительно снизить затраты на разработку моделей, и количество подобных атак растет.