CNBC: в Китае хотят ограничить влияние чат-ботов с ИИ на психику пользователей

Управление киберпространством Китая представило проект новых правил, направленных на регулирование антропоморфных сервисов искусственного интеллекта (ИИ). Основная цель инициативы — предотвратить негативное эмоциональное воздействие чат-ботов, которое может привести к нанесению пользователями вреда своему здоровью. Согласно документу, меры затронут ИИ-продукты, имитирующие человеческую личность и вступающие в эмоциональное взаимодействие через текст, изображения, аудио или видео. Об этом сообщает CNBC.

По словам адъюнкт-профессора юридического факультета Нью-Йоркского университета Уинстона Ма, данные правила станут первой в мире попыткой регулирования ИИ с человеческими чертами. Эксперт отмечает, что если нормы 2023 года касались в основном безопасности контента, то текущие предложения знаменуют переход к обеспечению «эмоциональной безопасности». Общественное обсуждение проекта состоится до 25 января.

Законопроект устанавливает жесткие рамки для разработчиков: чат-ботам запрещено генерировать контент, поощряющий членовредительство, а также использовать вербальное насилие или методы эмоциональных манипуляций, наносящие вред психическому здоровью.

В случае, если пользователь прямо заявит о намерении навредить себе, технологический провайдер обязан немедленно переключить диалог на живого оператора и связаться с опекуном или доверенным лицом клиента. Кроме того, под запрет попадает генерация контента, связанного с азартными играми, насилием и материалами непристойного характера.

Особое внимание в документе уделяется защите несовершеннолетних. Для использования ИИ-компаньонов детям потребуется согласие родителей, а на время взаимодействия будут наложены строгие ограничения. Платформы должны будут уметь идентифицировать возраст пользователя даже без его прямого указания и применять защитные настройки по умолчанию в сомнительных случаях. Дополнительно правила обязывают сервисы напоминать пользователям о необходимости перерыва после двух часов непрерывного общения.

Чат-боты с аудиторией более миллиона зарегистрированных пользователей или 100 тысяч активных пользователей в месяц должны будут проходить обязательную государственную проверку безопасности.

При этом власти КНР не только ограничивают, но и поощряют использование «человекоподобного» ИИ в социально значимых сферах, таких как распространение культуры и помощь пожилым людям.

Ранее выяснилось, что OpenAI готова платить $555 000 в год человеку, который защитит человечество от ИИ.