В России ограничат искусственный интеллект
Развитие искусственного интеллекта (ИИ) открывает огромные возможности для экономики и общества, но вместе с тем порождает новые риски — от утечки персональных данных до распространения дезинформации. Поэтому регулирование ИИ становится неизбежным шагом, считает директор по маркетингу компании «Zapusk Group» Дарья Руцинская.
На форуме «Цифровая индустрия промышленной России» (ЦИПР) чётко обозначился тренд: регулирование ИИ будет развиваться по отраслевому принципу — с учётом специфики применения технологий в разных сферах. Это логично, поскольку требования к ИИ в медицине, финансах, медиа или промышленности существенно различаются, поясняет эксперт.
Особое внимание уделяется прозрачности алгоритмов, особенно в медиа и новостных сервисах. На сессии «Дзена» прозвучала идея ввести чёткие правила маркировки контента, созданного с помощью нейросетей. Это необходимо, чтобы пользователь мог отличать материалы, написанные человеком, от сгенерированных ИИ. Не менее важен вопрос ответственности за последствия применения ИИ. Если система допустила ошибку, которая привела к ущербу, — например, в медицинской диагностике или работе автопилота, — нужно чётко определить, кто несёт ответственность: разработчик, владелец системы или оператор.
Обучение нейросетей зачастую опирается на большие массивы информации, включая персональные данные. В связи с этим законодательство будет ужесточать требования к анонимизации данных, получению согласия пользователей и обеспечению безопасности хранения информации. В критически важных сферах — таких как энергетика, транспорт и оборона — вероятны наиболее жёсткие ограничения. Здесь могут ввести обязательную сертификацию ИИ‑систем, регулярный аудит алгоритмов и обязательное участие человека в принятии ключевых решений, чтобы минимизировать риски катастрофических последствий из‑за ошибок ИИ.
Борьба с дезинформацией — ещё одно приоритетное направление, продолжает Дарья Руцинская. Генеративные модели способны создавать убедительные фейки: аудио, видео и тексты. Регуляторы будут требовать внедрения механизмов верификации контента, а также установления ответственности за распространение заведомо ложной информации, созданной ИИ.
«Исходя из текущих дискуссий и международного опыта, можно предположить, что некоторые сценарии использования ИИ могут оказаться под запретом, — отмечает эксперт. — Например, не допускается массовое профилирование граждан без их согласия или автоматическое принятие решений о кредитах и трудоустройстве без возможности апелляции».
По мнению Дарьи Руцинской, крупные языковые модели и системы компьютерного зрения с широкими возможностями могут попасть под разрешительный режим: их разработка и внедрение потребуют предварительного согласования с регуляторами. Кроме того, некоторые ИИ‑решения могут быть отнесены к стратегически важным активам — тогда передача таких технологий за рубеж будет строго контролироваться, подобно тому, как это происходит с криптографическими разработками.
Законодатели также могут установить правила для датасетов: запретить использование нелицензионного контента, потребовать обеспечения разнообразия данных (чтобы избежать предвзятости алгоритмов) и ввести аудит источников информации. Технические требования тоже станут строже: например, может появиться обязанность встраивать «выключатели» в автономные системы, внедрять протоколы безопасности и механизмы обнаружения дипфейков.
«Важную роль играют отраслевые инициативы. Тот факт, что предложение по регулированию в медиа исходит не только от государства, но и от самой отрасли, внушает оптимизм. Готовность Госдумы организовать работу на своей площадке, о которой заявил председатель комитета Госдумы по информполитике Сергей Боярский, — хороший знак, — уверена Дарья Руцинская. — Это означает, что правила будут создаваться при участии экспертов, разработчиков и платформ, а не директивно “сверху вниз”. Такой подход повышает шансы на достижение баланса: с одной стороны, обеспечивается защита общества от рисков, с другой — сохраняется пространство для инноваций».
По ее прогнозу, регулирование ИИ будет гибким и дифференцированным. Жёсткие запреты коснутся самых опасных сценариев, а в большинстве случаев акцент сделают на ответственности и стандартах безопасности. Ключевой вызов — не задушить технологию избыточным контролем, но и не пустить ситуацию на самотёк, резюмирует эксперт.