«ВКонтакте» тестирует нейросеть для борьбы с враждебными высказываниями

Соцсеть «ВКонтакте» начала работать с искусственным интеллектом, чтобы бороться с враждебными высказываниями пользователей. Об этом Sostav рассказали в компании. С помощью технологии удастся ускорить обработку жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости, ожидают в VK. Нейросеть позволит быстрее находить материалы с хейтспичем и публикации, вызывающие агрессию. Она учится выявлять проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, оскорбления на религиозной почве, из-за возраста, внешности или наличия заболеваний. «ВКонтакте» также добавила категорию жалоб «Враждебные высказывания» - она появится, если пользователь нажмет кнопку «Пожаловаться» у публикации. Затем модераторы рассмотрят обращение. С помощью категории удастся точнее откалибровать существующие инструменты и собрать данные для разработки новых, пояснили в VK. Также сотрудники занимаются внутренним мониторингом, используя механизмы автоматического поиска, технологии цифровых отпечатков и нейронных сетей. «Мы разделяем позицию наших пользователей и партнёров касательно языка вражды и прославления насилия. С проявлениями нетерпимости эффективнее бороться вместе — и мы призываем пользователей присоединяться к нам в этой борьбе», - заявил Иван Корнеев, руководитель команды модерации «ВКонтакте». В 2020 году за первые шесть месяцев из «ВКонтакте» удалили 520 тыс. единиц контента по теме разжигания вражды и ненависти и заблокировали 1340 профилей и 2470 сообществ, которые распространяли враждебные высказывания, говорят представители соцсети. Ранее во «ВКонтакте» рассказали, что новая платформа «Клипы» научится распознавать неприличные жесты. Платформа, заметив такие жесты, либо размоет их, либо закроет черным прямоугольником.