«Обману.Нет»: Как ИИ стал новым инструментом преступников и как с этим бороться?
Старая песенка из фильма «Приключения Электроника, в которой есть строчка «Вкалывают роботы, а не человек, сегодня очень актуальна. Зачем напрягаться, если можно найти программу (и не одну), задать алгоритм искусственному интеллекту — и зарабатывать легко, беззаботно. Один нюанс — пока не вычислят. И как честным гражданам не угодить в сети к современным обманщикам?
29 августа в 16.15 на телеканале «МИР состоится премьера программы «Обману.Нет.
Корреспондент MIR24.TV провел мини-опрос среди экспертов, работающих непосредственно с ИИ.
Какими алгоритмами и программами могут пользоваться мошенники для создания фейков и дипфейков?
Мнение совпало — практически все респонденты указали, в первую очередь, на генеративно-состязательные сети (GAN).
Для создания дипфейков мошенники пользуются искусственным интеллектом. Многие модели работают бесплатно и при этом дают качественный результат, что значительно повышает количество создаваемых дипфейков и снижает порог входа в киберпреступную деятельность. Существуют множество программ и ботов, которые работают прямо в мессенджерах и позволяют оперативно создавать дипфейки. Основой для них становятся лицо и голос конкретного человека. Для этого мошенники берут фото, видео и аудио из социальных сетей. Затем связываются с потенциальными жертвами, например, друзьями, родственниками и коллегами, просят деньги или сообщают фейковую информацию
Доступность и скорость в достижении результатов — все перечисленное играет на руку хитрым личностям. И открытые для всех пользователей личные страницы в социальных сетях, без специальных настроек приватности, становятся хорошим источником визуальных материалов для преступников.
Мошенники используют открытые и коммерческие генеративные модели. Эти инструменты доступны даже без глубоких технических знаний. Генерация качественного дипфейка сейчас занимает часы, а не недели, а фейковый голос — считанные минуты
Кроме того, злоумышленники используют профессиональное программное обеспечение для обработки видео, включая Adobe Premiere и After Effects
Как распознать фальшивку?
Нужно различать два аспекта — технический и поведенческий.
Дипфейки становятся все более качественными. При этом фальшивки все еще можно определить по некоторым признакам. Во-первых, странная речь и неестественные движения. Алгоритмы ИИ не идеальны, поэтому в речи цифровых копий возникают паузы в ненужных местах, неуместные интонации. То же самое касается и движений, положения частей тела. Во-вторых, стоит обращать внимание на фон, так как именно в нем часто кроются несовершенства подделок неправильная геометрия зданий и объектов, непонятные предметы. В-третьих, низкое качество изображения также может быть свидетельством фейка таким способом преступники пытаются скрыть изъяны сгенерированного контента
Екатерина Корнюшина перечислила технические методы, которые могут помочь определить подлинность.
• Анализ артефактов: нереалистичная мимика, искажения глаз или зубов, тени, разрывы на границах лица.• Анализ метаданных: отсутствие EXIF-информации или признаки ее редактирования.• Синхронизация аудио и видео: рассинхрон губ и голоса.• AI-детекторы: aIDeepFake, Microsoft Video Authenticator, Intel FakeCatcher, Deepware Scanner.• Мультимодальная проверка: анализ одновременно видео и аудио.
EXIF (Exchangeable Image File Format) означает наличие метаданных у файла: например, авторство, условия и способы его получения.
К поведенческим признакам эксперт отнесла, конечно же, срочные просьбы в духе «немедленно перевести деньги. И нужно быть настороже, если стиль общения вдруг стал отличаться от прежнего или наступила резкая смена эмоций в голосе.
Стоит обращать внимание и на текстовые сообщения в электронной почте и мессенджерах.
Текстовые подделки демонстрируют часто стилистические несоответствия, повторяющиеся конструкции или фактические ошибки, которые не допустил бы настоящий автор
Как обезопасить свои счета и персональные данные от посягательств?
Николай Калуцкий, ведущий инженер-программист НОЦ ФНС России и МГТУ им. Н.Э. Баумана, рекомендует использовать сложные пароли, регулярно их обновлять и применять специальные менеджеры. Обязательно проводить проверку URL-ссылок и соблюдать осторожность при оплате в интернете. Программист считает, что всегда лучше иметь несколько разных карт — допустим, одну только для покупок в сети, а другую для оплаты офлайн.
В первую очередь это касается цифровой гигиены: использование многофакторной аутентификации (MFA), регулярная смена паролей, применение специализированных менеджеров паролей и шифрование важных данных. Не менее важны организационные меры, включающие ограничение доступа к личной информации, регулярное обновление программного обеспечения, современные антивирусные решения и постоянное обучение персонала правилам кибербезопасности
Павел Коваленко в очередной раз напоминает самые необходимые меры предосторожности: «Во-первых, если с вами связались из банка, государственных органов или же ваши близкие, положите трубку и свяжитесь с ними самостоятельно. Во-вторых, никогда не переходите по ссылкам, которые получили из сомнительных источников. Велика вероятность, что это фишинговые рассылки. В-третьих, следите за информацией, которую вы оставляете на своих страницах в социальных сетях и других публичных платформах. Эта информация может быть использована для организации целевой фишинговой атаки. В-четвертых, никому не сообщайте коды из СМС от банков и других приложений. Эта информация конфиденциальна, доступ к ней должен быть только у вас. В-пятых, используйте антифрод-услуги от операторов связи, чтобы заранее блокировать мошеннические звонки, а также установите двойную аутентификацию в важных приложениях и аккаунтах, это позволит повысить защищенность ваших данных и средств.
Надежда Капустина предупреждает, что биометрические данные нужно использовать с осторожностью, ведь отпечатки пальцев или селфи уже могли быть ранее скомпрометированы и воспроизведены. И Екатенина Корнюшина призывает минимизировать цифровой след, то есть не выкладывать публично образцы своего голоса и фото в высоком качестве.
Как правоохранительные вычисляют мошенников и какие меры пресечения при доказательстве вины могут последовать?
С законодательством в сфере ИИ оказалось все не так однозначно, как можно было предполагать.
«В УК РФ на данный момент отсутствует четкое понимание того, какие преступления могут быть совершены с использованием ИИ, по причине того, что данное явление относительно новое. В начале апреля в Госдуму РФ был внесен законопроект № 885494-8, в соответствии с которым применение ИИ в преступных целях предлагалось отнести к отягчающим обстоятельствам. Однако, он был отклонен в связи с несоответствием, в частности, ст. 104 Конституции РФ, — говорит Надежда Капустина.
Тем не менее есть статьи, к которым можно апеллировать при обвинении в киберпреступлении.
Правоохранительные органы используют несколько основных методов для выявления злоумышленников. Среди них — трассировка IP-адресов, анализ блокчейн-транзакций, цифровая криминалистика и мониторинг активности в darknet. При доказательстве вины злоумышленникам грозят серьезные последствия. Это может быть административная ответственность за нарушение Федерального закона №152, уголовная ответственность по статьям 159 УК РФ («Мошенничество), 272 УК РФ («Неправомерный доступ) и 273 УК РФ («Вредоносные программы). Кроме того, предусмотрена гражданско-правовая ответственность в виде возмещения причиненного ущерба. В качестве профилактических мер осуществляется разработка новых нормативно-правовых актов, создаются специализированные подразделения по борьбе с киберпреступностью, развивается международное сотрудничество и проводится работа по повышению цифровой грамотности населения
Другая сторона вопроса — процент раскрываемости подобных правонарушений. А он весьма невысок.
Мошенников вычисляют по IP-адресам, с которых они общаются с жертвами, отслеживают по счетам, на которые осуществляются переводы. Проблема в том, что эти данные легко подменить, запутать. Поэтому раскрываемость интернет-преступлений остается на низком уровне 20-25%. Мера пресечения также зависит от ущерба, нанесенного преступником. Минимальное наказание штраф 120 тыс. рублей или обязательные работы. Максимальное тюремное заключение до 10 лет
И по справедливому замечанию Екатерины Корнюшиной, криминалисты используют тот же искусственный интеллект — AI-детекторы для доказательства факта синтетичности контента.
Все эксперты сходятся во мнении, что от новых форм технологического мошенничества можно защититься только за счет повышения уровня общественной осведомленности и цифровой грамотности населения.