Что такое дипфейк. Объясняем простыми словами
Дипфейк — реалистичная подмена фото-, аудио- и видеоматериалов, созданная с помощью нейросетей. Когда вы смотрите видео, где у модели Dior лицо мистера Бина, а все роли во «Властелине колец» играет Арнольд Шварценеггер, знайте — это и есть дипфейк. Само название deep fake объединяет в себе «машинное обучение» (machine learning) и «подделку» (fake). Компьютерные алгоритмы научились «оживлять» фотографии, синтезировать голос человека, заменять лица на видео. В итоге появляется контент, внешне (почти) неотличимый от настоящего. Например, в феврале 2021 года в TikTok появился пародийный аккаунт deeptomcruise , в котором выкладывают дипфейки с Томом Крузом. Ролики записывает пародист актёра Майлз Фишер. Его персонаж движется, говорит, поёт без видимых следов наложения одного изображения на другое. В 2020 году приобрёл популярность дипфейк, в котором Илон Маск спел песню «Трава у дома» вместо солиста группы «Земляне». Пример употребления на «Секрете» «Помимо фейкньюс мы стоим на пороге новой угрозы — дипфейка, это очень страшная штука. Вот я стою, и вместо меня на компьютере можно вставить другую голову, другой голос. Если всё это оказывается в руках и головах других ребят, вы представляете, сколько они могут наделать вреда?» (Пресс-секретарь президента России Дмитрий Песков — об опасности дипфейков.) Нюансы Для создания дипфейков используют генеративно-состязательные нейросети (GAN). Это алгоритмы на базе машинного обучения, которые генерируют новый контент на основе заданного набора. Например, сети изучают тысячу фотографий Анджелины Джоли и создают новую с чертами и мимикой актрисы. Или накладывают её лицо на видео с другой женщиной. При этом один алгоритм создаёт видео, а второй пытается определить, настоящее оно или нет. Если второй алгоритм смог обнаружить фальшивку, первый начинает сначала, узнав от алгоритма-напарника о причинах отбраковки. Пара нейросетей действует снова и снова, пока не выдаст результат, который сочтёт достаточно реалистичным. История В 2014 году технологию разработал студент Стэнфордского университета Иэн Гудфэллоу . В 2017 году она стала широко известной благодаря пользователю Reddit с ником deepfake, который начал с её помощью заменять лица порноактрис лицами знаменитостей. Вскоре появилась программа, сильно упрощавшая процесс, и порноролики со «звёздами кино» заполнили интернет. Критика Технологию критикуют, из-за того что её можно использовать для мошенничества и манипуляций общественным мнением. Например, в 2019 году в США распространилось видео с «пьяной» Нэнси Пелоси — спикером палаты представителей и одним из лидеров Демократической партии. Для видео речь политика замедлили , а затем подключили нейросети, чтобы сделать голос естественным. В начале 2020 года Facebook объявил об ужесточении борьбы с дипфейками, созданными для введения пользователей в заблуждение. А МВД России в мае 2021 года опубликовало тендер на разработку новой системы распознавания лиц. Программа «Зеркало» должна будет также выявлять дипфейки. Статью проверил:
