Microsoft признала уязвимость в Copilot, из-за которой ИИ читал секретные письма
Корпорация Microsoft официально признала ошибку в работе ИИ-ассистента Copilot в Windows 11 и Microsoft 365. По данным компании, ИИ некорректно обрабатывал электронную почту пользователей, включая сообщения с установленной меткой конфиденциальности, сообщает Bleeping Computer.
Проблема затронула функциональность чата Microsoft 365 Copilot, который интегрирован в рабочую экосистему и способен анализировать содержание электронных писем для подготовки сводок и выполнения рабочих задач. Несмотря на наличие меток "конфиденциально" и настроенных политик защиты от утечки данных (DLP), сервис создавал сводки с учетом таких писем во вкладке "Работа".
"Несмотря на то, что наши средства контроля доступа и политики защиты данных остались прежними, такое поведение не соответствовало нашим представлениям о Copilot, который должен исключать доступ к защищенному контенту. Для корпоративных клиентов по всему миру было выпущено обновление конфигурации", — заявили в Microsoft.
В компании пояснили, что причиной инцидента стала ошибка в программном коде. По заявлению Microsoft, исправление уже развертывается поэтапно, и проблема считается устраненной.