Южная Корея и еще 26 государств заявили о необходимости человеческого надзора над ИИ
СЕУЛ, 22 мая. /ТАСС/. Представители 27 государств и ЕС подписали совместное заявление по итогам "министерской встречи" саммита по искусственному интеллекту в Сеуле. Стороны, в частности, заявили о необходимости сохранения человеческого контроля над применением технологии.
Министерское заявление продолжает идеи, заложенные в декларации Сеульского саммита по ИИ, принятой накануне после сессии на высшем уровне. Центральной темой саммита были три принципа: безопасность, инновационность и инклюзивность. Министр науки Республики Корея Ли Чжон Хо указал, что в заявлении отражен подход Сеула к ИИ и полупроводниковой промышленности.
"Необходимо подготовиться к всевозможным рискам, связанным с разработкой и использованием нынешних и будущих моделей ИИ. Принципы по обеспечению безопасности ИИ включают в себя: прозрачность, совместимость и понятность, конфиденциальность и подотчетность, достаточный надзор со стороны человека и эффективное использование данных", - говорится в коммюнике.
"Мы понимаем, что серьезные риски могут представлять потенциал или склонность систем избегать человеческого надзора, в том числе с помощью обхода протоколов безопасности, манипуляции и обмана, а также возможность автономного самовоспроизведения и адаптации без выраженного одобрения человека", - сказано в документе. Стороны также предположили, что негосударственные субъекты могут воспользоваться ИИ при производстве оружия массового поражения.
Инновации и инклюзивность
В очной сессии на министерском уровне в Сеуле приняли участие представители 19 государств, подписались под заявлением 28 стран и организаций. В числе последних не только западные страны, но и государства Африки, Латинской Америки, Азии - Индия, Мексика, Кения, ОАЭ, а также Украина. Сопредседателями этой встречи были глава министерства науки и информационно-коммуникационных технологий Ли Чжон Хо и министр цифровых технологий Великобритании Мишель Донелан.
Говоря об инновациях, страны подчеркнули, что роль правительств заключается не только в финансировании технологических разработок, но и в формулировании правовых рамок, в том числе касающихся личных данных. Они также пообещали способствовать внедрению ИИ в производство.
В ноябре 2023 года на территории усадьбы Блетчли-парк недалеко от Лондона открылся первый международный саммит по безопасному использованию искусственного интеллекта. Следующее после сеульского мероприятие пройдет во Франции.
Во время брифинга Донелан сказала, что в рамках этого двухдневного саммита стороны не стремились к достижению или согласованию договоров, которые имели бы обязательную силу. Как отметил южнокорейский министр Ли Чжон Хо, в саммите, который прошел по видеосвязи 21 мая, приняли участие американский предприниматель Илон Маск, бывший исполнительный директор Google Эрик Шмидт, председатель Samsung Ли Чжэ Ён, основатель южнокорейской технологической компании Naver Ли Хэ Чжин.
