Ученые заявили о критической уязвимости ИИ при поиске внеземной жизни

Искусственный интеллект подвержен серьезным ошибкам и ложным выводам при работе над идентификацией признаков внеземной жизни. Как сообщает журнал Popular Science, исследователи из Университета штата Мичиган доказали, что современные алгоритмы можно обмануть в 100% случаев.

Компьютерный инженер Анкит Гупта и его коллега Кристоф Адами провели эксперимент с использованием программы Avida, которая симулирует эволюционные процессы. Они обучили ИИ на десятках тысяч цифровых организмов, чтобы он смог отличать самовоспроизводящиеся цепочки от остальных.

Хоть точность на этапе обучения была высокой, нейросеть не справилась с новыми примерами. Всего 150 незначительных изменений в программном коде «организмов» привел к тому, что алгоритм стал регулярно принимать ложные сигналы за признаки жизни.

Авторы исследования считают, что проблема выходит за рамки космических исследований. Ложные срабатывания нейросетей способны затронуть самые разные сферы: медицинские сканеры, беспилотные системы, системы распознавания лиц.