Instagram начал предупреждать об оскорблениях

В Instagram появилась новая функция, активирующаяся при публикации фотографий или видео. Программа анализирует сопровождающую контент подпись и оценивает, может ли она оказаться оскорбительной. Во время публикации искусственный интеллект сравнивает сделанную подпись с теми, на которые уже поступали жалобы из-за их содержания. Если у программы возникают подозрения, она сообщает об этом пользователю и предлагает изменить подпись. Советом искусственного интеллекта можно пренебречь и все равно опубликовать фотографию или видео с первоначальной подписью — никаких санкций в данном случае не предусматривается. Новая функция основана на аналогичном инструменте на базе ИИ, который Instagram представил еще в июле 2019 года. Разрабатывался он для оценки содержания комментариев к постам. Это лишь немногие из предпринимаемых компанией мер по борьбе с онлайн-издевательствами. В прошлом году, например, в Instagram появилась система отслеживания оскорблений и издевательств на фотографиях. Instagram полагается на то, что пользователи сами поймут, когда они выходят за рамки приличия и будут перед публикацией редактировать свои подписи и комментарии. Это вряд ли остановит злостных хулиганов, но у подобной системы мягкого контроля есть потенциал. В Instagram заявили, что новая функция в настоящее время доступна только в нескольких странах, но в ближайшие месяцы появится во всем мире.