Как ИИ превращает реальные наблюдения в ложные и чем опасна обработка фотографий птиц
Учёные призвали любителей птиц ограничить обработку фотографий с помощью искусственного интеллекта (ИИ): поддельные и улучшенные нейросетями снимки редких птиц всё чаще попадают в базы данных, которыми пользуются исследователи. Это подрывает доверие к платформам гражданской науки — проектам, где данные для учёных собирают добровольцы.
Зафиксировать редкую птицу далеко за пределами её ареала — заветная цель многих орнитологов-любителей, и такие находки бурно обсуждают на форумах. Но развитие нейросетей привело к всплеску поддельных снимков. Чаще всего проблемы возникают, когда фотограф просит ИИ улучшить реальный кадр (например, убрать закрывающие птицу ветку или лист), а алгоритм при этом достраивает изображение деталями других видов.
Эксперты просят горожан быть внимательными и не забирать птиц с газонов
Иногда такая правка полностью меняет птицу на снимке, и в базе оказывается несуществующее наблюдение. Так возникло ложное сообщение о красноплечем чёрном трупиале в Бразилии, который обитает в Северной Америке. На фото был обычный для Южной Америки кайенский цветной трупиал, но после просьбы улучшить снимок ИИ добавил чужие черты.
Александр Лис, эколог из Манчестерского столичного университета, в своём комментарии авторам издания The Guardian отметил, что в его ленте в соцсетях в последнее время возникает огромное количество фотографий дикой природы. Часть из них — это просто изображения, сгенерированные искусственным интеллектом.
Точный масштаб проблемы неизвестен. Исследователи сообщают, что в популярных базах наблюдений уже нашли сотни подделок, но многие остаются незамеченными. Отследить их сложно: на iNaturalist из более чем 610 миллионов изображений лишь 1400 публикаций помечены авторами как связанные с ИИ. Проблема в том, что именно на точность этих записей опирается наука: по данным добровольцев отслеживают, как виды реагируют на изменение климата, и делают десятки открытий. Поэтому даже редкие подделки бьют по тому, ради чего такие платформы и существуют.
«На таких платформах, как наша, обычные люди публикуют информацию, которую учёный, вероятно, никогда не смог бы получить в таком масштабе. Это почти как датчик того, что происходит на Земле в режиме реального времени: цветут ли растения раньше времени, перемещаются ли виды на север по мере потепления климата. Чем больше мы знаем о местонахождении видов, тем лучше мы можем быть информированы как защитники природы. Но информация должна быть точной», — говорит Тони Иване, директор по поддержке сообщества iNaturalist.
Пока запрещать обработку фотографий никто не предлагает — учёные лишь просят фотографов помнить о последствиях.
Искусственный интеллект всё активнее вторгается не только в науку о природе, но и в куда более личные сферы жизни. Например, люди всё чаще обращаются к нейросетям как к психотерапевтам — разбираемся, новый ли это вид помощи или опасный тренд.
Подпишитесь на «Рамблер» в Max! Будем на связи вопреки блокировкам и сбоям.