Ведяхин: что необходимо учитывать в правовом регулировании искусственного интеллекта
С 1 июля 2020 года в Москве должен быть введен эксперимент по правовому регулированию условий для разработки и внедрения решений на основе искусственного интеллекта. О том, почему необходим такой шаг, рассказал агентству ТАСС Александр Ведяхин, первый заместитель председателя правления Сбербанка, участвовавшего в разработке национальной стратегии развития искусственного интеллекта и являющегося федеральным центром компетенции по развитию искусственного интеллекта. — Москва по многим пунктам уже входит в десятку самых современных городов мира. Насколько нужен городу такой эксперимент, как специальный правовой режим для развития искусственного интеллекта? — Экспериментальный правовой режим — тема, которая обсуждается и ожидаема всеми участниками — разработчиками искусственного интеллекта. Мы согласны с тем, что Москва может стать удачной площадкой для внедрения и проверки технологий искусственного интеллекта, ведь среди российских городов столица является лидером по использованию "умных" технологий. У Москвы уже есть необходимый технологический базис, поэтому проведение пятилетнего эксперимента по введению специального правового режима и условий для разработки и внедрения искусственного интеллекта в столице — закономерное и своевременное событие. Правовое регулирование технологий искусственного интеллекта у нас в стране только прорабатывается, это большая лакуна, которая несет интересные перспективы для развития новых идей и поправок в различные законы. Кроме собственно результатов эксперимента мы точно можем положиться на опыт наших зарубежных коллег и вынести нужные уроки из их уже достаточно обширного опыта. Одним из важнейших приоритетов проведения эксперимента ставится обеспечение устойчивого повышения качества жизни населения — очевидно, это необходимо городу и в целом. Если эксперимент будет успешен, его результаты могут быть тиражированы. Новые технологии помогут еще больше развивать экономику города, повышать его инвестиционную привлекательность и, безусловно, улучшать жизнь населения его агломерации. Ведь в конечном счете все сервисы направлены на облегчение рутинных повседневных операций при проживании в большом и постоянно развивающемся городе. — Как вы оцениваете перспективы развития искусственного интеллекта в условиях экспериментального правового режима? — Подобные решения позволят более широко протестировать все возможности технологии, найти новые подходы и увидеть области регулирования, которые без начала работ сложно идентифицировать и описать. Открывающиеся возможности позволят увеличить скорость и интенсивность исследований и разработок и могут стать основой определенного рывка в развитии искусственного интеллекта. При этом широта применения искусственного интеллекта в нашей жизни диктует помимо правовых ограничений еще и работу с этическими аспектами его использования. Это важно учесть в планируемом эксперименте. Именно этические аспекты становятся центральной темой международных дискуссий на форумах и конференциях. В январе этого года на Всемирном экономическом форуме в Давосе мы провели насыщенную панельную дискуссию по рискам и угрозам искусственного интеллекта и определили, что нам необходимо сделать для улучшения процесса его внедрения. — Как быстро технологии искусственного интеллекта смогут еще больше развить, например, такое направление, как "Умный город"? Что может предложить Сбербанк в этой сфере? И зачем это нужно самому банку? — Клиентоориентированность и технологичность — одни из важных критериев проекта "Умный город". Сбербанк сегодня во всех своих продуктах ориентируется на данные принципы, большая часть наших продуктов и процессов в той или иной степени уже опирается на технологии искусственного интеллекта. Качество управления ресурсами, комфорт и безопасность, экономическая эффективность также важны для нас, поэтому у нас есть идеи и наработки, которыми мы можем поделиться с коллегами в Москве и по всей России. Очевидно, что искусственный интеллект обладает невероятным потенциалом для решения различных социальных проблем и задач. Выделяется не менее 160 направлений социальной жизни человека, в которых эта технология может стать помощником. Искусственный интеллект может применяться в оптимизации рутинных, ежедневных операций, здравоохранении, образовании, ЖКХ и городском хозяйстве. Мы представили рынку облачный суперкомпьютер "Кристофари", который в добавление к нашему опыту цифровизации бизнес-процессов стал значимой вехой на пути массового применения искусственного интеллекта во всех отраслях экономики. Мы как компания предлагаем определенный технологический стандарт развития, направленный в будущее. С нашей точки зрения, компании, применяющие искусственный интеллект в продуктах и процессах, более устойчивы в среднесрочной и долгосрочной перспективе. — При внедрении закона на первый план выйдут правовые аспекты использования искусственного интеллекта. Какова актуальная ситуация в этой сфере? — Регулирование имеет важное значение, это отражено и в тексте национальной стратегии по развитию искусственного интеллекта — на правовых аспектах внедрения этой технологии сделан отдельный акцент в тексте документа. Мы находимся в постоянном диалоге с экспертным сообществом и знаем, что одной из ключевых проблем внедрения искусственного интеллекта являются административно-правовые барьеры. Сегодня законодательство не адаптировано к специфике искусственного интеллекта, но это естественно и характерно не только для России. Мы изучаем мировой опыт и занимаемся собственными научными исследованиями. Одним из действенных решений для этой проблемы являются экспериментальные правовые режимы. Сегодня они работают уже в целом ряде стран по всему миру и доказали свою эффективность. Посмотрите, например, на классическую "песочницу" в Великобритании в финансовой сфере — теперь такой принцип применяют по всему миру. Логично, что в итоге пришли к идее введения подобного режима в Москве. Конкретные формулировки и положения будут уточняться и обсуждаться, но если говорить о деле, то режим ЭПР (экспериментальный правовой режим — прим. ТАСС), как мы рассчитываем, поможет технологиям искусственного интеллекта. С учетом внедрения принципиально новых технологий особую важность приобретает и общественный контроль. Вероятно, для этого может быть полезен инструмент, базово предложенный в законопроекте в виде координационного совета. Но он потребует отдельной проработки и обсуждения. Недискриминационный доступ к данным тоже важен для развития искусственного интеллекта, думаю, в этой части законопроект важно обсудить и усовершенствовать. Это те аспекты, которые необходимо также прорабатывать, добавление подобной повестки в эксперимент может послужить основой доверия и социально ориентированного развития, а не только технологического прорыва. — Какие кейсы Сбербанка наиболее ярко демонстрируют пользу применения искусственного интеллекта? — В Сбербанке применяются и развиваются технологии поддержки и принятия решений, компьютерного зрения, обработки языка, речевой аналитики, что позволяет в значительной степени сократить время, стоимость и повысить качество принимаемых решений — мы наблюдаем ускорение процессов в десятки раз, — а клиентам позволяет получать удобные персонализированные продукты и сервисы в режиме реального времени. Например, при формировании персонализированного меню в наших цифровых каналах и устройствах самообслуживания (банкоматах — прим. ТАСС). Модели работают в риск-менеджменте, в бизнес-планировании, комплаенс, мы внедрили искусственный интеллект для взаимодействия с клиентами через чат-боты и для формирования персональных предложений. Наша дочерняя компания VisionLabs применяет свои технологии и в наших некоторых офисах — у нас уже установлена их система бесконтактного пропуска сотрудников в здание вместо использования карточки-пропуска. Одним из мировых трендов применения технологий искусственного интеллекта является решение социальных проблем и повышение качества жизни населения. Яркий пример здесь — совместный с МЧС хакатон, который мы проводили осенью — зимой прошлого года. Его результатом стала разработка решений оперативной классификации и оценки силы пожаров на основании данных точек температурных аномалий, полученных со спутниковых снимков. В перспективе это решение позволит не только спасти много гектаров леса, но и избежать уничтожения огнем населенных пунктов и гораздо быстрее предотвращать чрезвычайные ситуации в масштабах всей страны. — Нужны ли иные механизмы контроля технологии искусственного интеллекта, помимо нормативного регулирования? В частности, темой вашей панельной дискуссии в Давосе была этика использования искусственного интеллекта. — Да, мы детально обсуждали эту тему. В числе основных факторов обсуждались вопросы этики, международный опыт и практика работы с данными, социально полезные области применения, условия недопустимости дискриминации людей при принятии решений с помощью данного класса технологий, а также ряд других вопросов, связанных с мировой повесткой использования технологий искусственного интеллекта в интересах человечества и проблемами устойчивого развития в целом. Мы провели голосование участников и гостей дискуссии, оценили, какие риски при использовании искусственного интеллекта наиболее опасны, и сошлись во мнении, что работа над этическими аспектами при внедрении технологий искусственного интеллекта должна быть существенным образом усилена. Нам необходимо оценивать влияние искусственного интеллекта на социальные факторы и нести ответственность за свои решения в масштабах всей цивилизации. Беседовал Руслан Салахбеков
