Правда или ложь: стартапы против фейковых новостей

Люди больше не разносят слухи, они распространяют фейковые новости. В 2018 году ученые Массачусетского технологического института выяснили, что ложь в социальных сетях распространяется в шесть раз быстрее, чем правда. «Инвест-Форсайт» попытался понять, как это происходит и что придумали стартапы для борьбы с поддельной информацией. Фейковые войска Прежде чем запустить в Сети фейковую кампанию, ее организаторы изучают целевую аудиторию. Интересует все — от наличия образования до взглядов на жизнь и семейного положения. На этом этапе в свое время поймали Cambridge Analytica, которая пыталась повлиять на исход президентских выборов в США. В 2016 году компанию обвинили в сборе и использовании личных данных 50 млн пользователей Facebook. Фейковые новости распространяют разные источники — тролли из соцсетей, «живые» блогеры, поддельные новостные сайты, группы или сообщества. Обычно ради фальшивой новости создается новостной сайт. Он выглядит как известное СМИ. URL-адрес поддельного ресурса незначительно отличается от настоящего — if24.ru.de, например, или bbc.ru.co. В соцсетях фальшивую новость сначала разносят боты, а затем ее подхватывают реальные пользователи, которые верят заголовкам или картинкам и делятся контентом с друзьями. На социальных платформах в ход также идут черные и белые технологии SMM — за деньги можно расплодить до нескольких тысяч фальшивых пользователей и продвинуть новость в топ. В китайском аналоге Twitter — Weibo, например, легко создать селебрити с 300 тыс. подписчиков за $2,5 тыс. в месяц. Чем больше пользователи репостят новость, тем быстрее алгоритмы соцсетей поднимают ее вверх. Быстрее всех фальшивые новости разносит Facebook. Он хуже Twitter и Google вместе взятых, выяснили в Принстонском университете. В преддверии президентских выборов 2016 года группа исследователей во главе с Эндрю Гессом отслеживала использование интернета более чем 3000 американцами. Оказалось, в 15% случаях Facebook перенаправлял пользователей на ненадежные источники новостей. Перейти на оригинальные новостные сайты платформа предлагала только в 6% случаях. «Такая схема дифференцированных посещений Facebook непосредственно перед ненадежными посещениями веб-сайтов не наблюдается для Google (3,3% ненадежных новостей против 6,2% важных серьезных новостей) или Twitter (1% ненадежных новостей против 1,5% реальных)», — сообщается в исследовании. Реальные последствия нереальных новостей Сегодня фейковые новости и политика неразделимы. Самый известный пример, который вызвал широкий мировой резонанс, связан с именем Хилари Клинтон. В воскресенье 2016 года отец двоих детей Эдгар Уэлш (Edgar Welch) сказал своей семье, что ему нужно кое-что сделать. Он взял свою винтовку AR-15 и, проехав 350 миль до Вашингтона, оказался около пиццерии Pizzagate. В Сети он прочитал, что это место — штаб-квартира педофилов, которую возглавляет Хилари Клинтон. «Я просто хотел сделать что-то хорошее и поступил неправильно», — объяснил Уэлш после того, как устроил пальбу в Pizzagate. Эдгар Уэлш (Edgar Welch) На фоне пандемии фальшивые новости о коронавирусе заполонили российские социальные сети. В начале марта, когда в Москве были зафиксированы первые случаи заражения, в чатах стали появляться аудиофайлы, призывающие скупать продукты. Параллельно распространялась информация о том, что в столице коронавирус обнаружен у «20 тыс. человек». Вброс поддельных новостей был рассчитан на самую восприимчивую аудиторию Сети — групп мам детских садов и школ, а задача стояла банальная — разжечь панику. Но кто сказал, что фейковые кампании нацелены только на политиков? Бизнес тоже попадает под обстрел. В 2016 году PepsiCo обнаружила себя в центре скандала. В интервью газете New York Times Dealbook Conference председатель совета директоров и CEO компании Индра Нуйи прокомментировала президентские выборы: «Думаю, нам следует скорбеть о тех из нас, кто поддерживал другую сторону, — и добавила, — мы должны собраться вместе, и жизнь должна продолжаться». Но блог Treehouse переформулировал ее слова иначе: PepsiCo CEO Tells Trump Supporters to Take Their Business Elsewhere. Фейковую новость о том, что Индра Нуйи призывает сторонников президента перенести свой бизнес в другое место, подхватили другие СМИ. Одна строчка изменила жизнь всей компании. Сторонники Трампа предложили бойкотировать продукцию PepsiCo. В день выхода интервью Нуйи акции компании упали на 3,75%, а осенью снизились еще на 5,21%. После бурных президентских выборов в США бизнес стал мудрее и теперь осторожнее высказывается о политике. История New Balance — поучительный пример того, что могут сделать поддельные новости с известным брендом. Когда представитель New Balance заявил на пресс-конференции, что Барак Обама подвел их, а с Дональдом Трампом «все будет двигаться в правильном направлении», он имел в виду Транстихоокеанское партнерство. Фейковые блоги вырвали фразу из контекста — и получилось: «New Balance — официальный бренд революции Трампа». Дальше события нарастали как снежный ком: альт-правые группы провозгласили New Balance «обувью для белых», а противники Трампа стали сжигать кроссовки этой фирмы и делиться ритуальными видео в Сети. Отследить в блокчейне Основатель израильско-нидерландского стартапа AdVerif.ai Ор Леви (Or Levi) считает, что фальшивые новости могут уничтожить бизнес-репутацию любого бренда. Это основная причина, по которой такие крупные рекламодатели, как Proctor&Gamble, сокращают свои бюджеты на интернет-рекламу. Что предлагает сам Леви? В 2017 году бывший руководитель группы Data Science в Ebay запустил стартап на базе AI — AdVerif.ai (объем инвестиций не раскрывается — ред.). В проекте разработали алгоритм FakeRank. По принципу работы он похож на PageRank (Google). Только вместо ранжирования ссылок в арсенале FakeRank — машинное обучение, искусственный интеллект и технология обработки естественного языка (NLP). С их помощью алгоритм вникает в смысл контента, а затем ищет доказательства, подтверждающие новость, в других источниках. Фейковые новости, по словам Ора Леви, хорошо помогает распознать семантический анализ текста. Короткие эмоциональные предложения, восклицательные знаки, вопросительные слова редко используются при написании новостей. AdVerif.ai, как утверждают в стартапе, способен выявлять поддельные истории с точностью до 90%. «Недавний отчет Gartner предсказал, что к 2022 году люди в странах с развитой экономикой будут потреблять больше ложной информации, чем правдивой информации. Это может показаться слишком пессимистичным, но проблема поддельных новостей, вероятно, не исчезнет, ​если учесть, что технология генерации подделок продолжает развиваться более быстрыми темпами, чем технология их обнаружения, — говорит Ор Леви. — Чтобы решить эту проблему, нам нужно быть более критичными в потреблении информации. Ведь искусственный интеллект не сможет на 100% заменить человеческое суждение». Итальянский стартап Trueinchain использует блокчейн для отслеживания поддельных новостей. В 2017 году журналист и генеральный секретарь института IASSP Марко Франко (Marco Franco), специалист по большим данным и преподаватель IASSP Николо Руссо (Nicolò Russo), маркетолог и основатель 2duerighe.com Лоренцо Эчеони (Lorenzo Echeoni) решили изменить «матрицу дезинформации, в которой ложь не имеет аналогов». Журналист и генеральный секретарь института IASSP Марко Франко (Marco Franco) «Фальсификация — это угроза демократии: она затрагивает человека, общество и, следовательно, всю страну. Поэтому чтобы не развивать саморазрушительные черты, обществу нужна система, способная распознавать и подтверждать ложь», — считает Марко Франко. Цель Trueinchain — создать базу данных фальшивых новостей в Италии и мировое сообщество разоблачителей фейков. Для этого достаточно вставить на Trueinchain ссылку на поддельную новость и пояснить в комментарии, почему она «фальшивая». Платформа проверит ее подлинность, и если информация подтвердится, источник навсегда попадет в «черную» блокчейн-базу. Интеллектуальный канал новостей В 2016 году студент факультета машиностроения и информатики в Массачусетском технологическом институте Лирик Джейн (Lyric Jain) стал свидетелем того, как активно люди распространяли дезинформацию во время кампании Brexit в Лондоне. Чтобы общество могло лучше отсеивать факты от вымысла, он разработал мобильное приложение Logically: первый, по его словам, интеллектуальный канал новостей. Лирик Джейн (Lyric Jain) «Logically собирает новости из более чем 70 000 доменов и определяет достоверность утверждений по каждой статье. Он делает это с помощью алгоритма машинного обучения, который способен обнаружить логическую ошибку, смещение политических акцентов и неправильную статистику», — поясняет Лирик Джейн. Сейчас Logically доступен на iOS и Android-смартфонах. Когда пользователь делится новостью, алгоритм выделяет в ней ключевые требования и проверяет достоверность фактов в других источниках. Приложение также создает персонализированную ленту новостей, если предварительно выставить фильтры по заголовкам, местоположению, событиям и ключевым темам. Помимо этого, искусственный интеллект Logically коротко пересказывает истории: только факты — без оценки и суждений. За последние три года стартап Лирик Джейн собрал $9,6 млн инвестиций и, помимо Великобритании, вышел на рынок Индии. Последние 20 лет Станислас Мотт (Stanislas Motte) работал во французских СМИ. Уже в 2012 году он понял, что поддельные новости скоро станут проблемой, и вместе с бывшим журналистом Пьером-Альбертом Рукье (Pierre-Albert Ruquier) основал компанию Trooclick. Партнеры разработали дополнение для браузера Glitch Spotter, которое находило в Сети фальшивые финансовые новости. Но вскоре стало ясно: финансы — слишком узкая ниша. Запущенный ими стартап Storyzy стал логичным продолжением Trooclick. Сначала с помощью технологии обработки естественного языка (NLP) проект проверял цитаты, которые приписываются общественным деятелям или знаменитостям. Сейчас Storyzy находит фальшивые веб-сайты, блоги и видеоканалы. Для школ компания разработала продукт Newscoach (помогает учащимся, учителям и родителям разобраться в окружающей дезинформации), а для брендов и рекламных платформ — более безопасную рекламную среду. База проекта насчитывает свыше 30 тыс. фейковых источников. С момента основания в 2012 году французский проект получил финансирование в размере $900 тыс. Среди клиентов Storyzy числятся Havas Media, IPG Mediabrands, etc. «Наше цель состоит не в том, чтобы закрыть поддельные сайты, а в том, чтобы ослабить их влияние. Мы просим рекламодателей: “Пожалуйста, не размещайте свою рекламу на этом сайте”. Нам всем предстоит проделать большую просветительскую работу, и в этом важную роль может сыграть Франсуаза Ниссен. Наша же задача — отследить нелегальные сайты. Между рекламодателями, рекламными сетями и другими участниками рынка важно установить этическую хартию с таким девизом — “Мы не финансируем сайты, распространяющие ложную информацию”», — считает Станислас Мотт. Автор: Ольга Гриневич