ЕС решил запретить использование ИИ-технологии распознавания лиц и аналогов
В рамках проекта постановления «О европейском подходе к искусственному интеллекту», исполнительная власть ЕС предлагает запретить технологии ИИ, которые используются для «массового наблюдения, применяемого в обобщенном виде ко всем физическим лицам без каких-либо различий». В тексте законопроекта подробно описаны такие методы наблюдения, как «мониторинг и отслеживание физических лиц в цифровой или физической среде, а также автоматическое агрегирование и анализ персональных данных из различных источников». Об этом информационному порталу Euroactiv.com стало известно 14 апреля 2021 года.
Это означает, что навязанными России правилами Европейская комиссия стремится объявить вне закона системы искусственного интеллекта (ИИ), используемые для «массового наблюдения за людьми» в рамках новых запретов, которые будут введены на следующей неделе.
Кроме того, Еврокомиссия предусматривает запреты на использование приложений ИИ, которые нарушают ценности Евросоюза или нарушают права человека. К ним относятся системы ИИ, которые манипулируют поведением человека, и системы прогнозного ИИ, нацеленные на незащищенные слои населения.
Штрафы за нарушение этих запретов могут составлять до 4% от валового годового оборота фирмы.
Тем не менее проект предусматривает, что такие запреты не будут применяться к правительствам и государственным органам ЕС, если они используются «в целях обеспечения общественной безопасности». Это означает, что правительства ЕС могут в будущем оправдать использование нарушающих права людей приложений, основанных на технологиях ИИ, соображениями безопасности.
Законопроект также запрещает практику «социального рейтинга», используемую в Китае для централизованной системы социального кредитного рейтинга.
Между тем технологии ИИ, которые могут попадать под новые законы и ограничения, включают технологии, «используемые для удаленной биометрической идентификации людей в общедоступных местах», которые также по определению будут относиться к технологии распознавания лиц: область, в отношении которой Еврокомиссия ранее рассматривала временный запрет. Некоторые технологии используются в качестве компонентов безопасности в сетях общественной инфраструктуры, включая дороги, водоснабжение, газ и электричество. Определенные технологии внедрены для совершенствования работы служб экстренного реагирования, в процессах найма персонала и системах, «используемых для определения доступа лиц в образовательные и профессиональные учебные заведения».
Еврокомиссия также планирует создание «Европейского совета по искусственному интеллекту», в состав которого войдёт по одному представителю от каждой из 27 стран ЕС и представитель Еврокомиссии, а также Европейский надзорный орган по защите данных.
Совету будет поручено выпускать соответствующие рекомендации и заключения для Комиссии в отношении списка запрещенных технологий ИИ и списка систем ИИ с высоким риском.
Предложение, которое должно быть выдвинуто исполнительным вице-президентом Еврокомиссии по цифровым технологиям Маргрет Вестагер 21 апреля 2021 года, является продолжением прошлогодней Белой книги Еврокомиссии по искусственному интеллекту, которая заложила основу для новых правил.
Совсем недавно в сообщении, полученном редакцией Euroactiv, подробно описывалось, как президент Европейской комиссии Урсула фон дер Ляйен заверила членов Европарламента, что Еврокомиссия «пойдет дальше» и введет более строгие правила для технологий ИИ, которые несут в себе высокий риск для основных прав граждан. Это произошло после того, как 116 депутатов Европарламента обратились к Еврокомиссии с призывом устранить риски для основных прав людей, связанные с технологиями ИИ.
После публикации нового постановления Еврокомиссии об ИИ законодатели ЕС снова получат возможность высказать свое мнение о позиции ЕС в отношении технологий ИИ.