ИИ все еще не похож на мозг, показала обратная проверка
Системы машинного зрения на базе искусственного интеллекта работают не так, как мозг человека при выполнении тех же задач, выяснили в Йоркском университете в Торонто.
В последнее десятилетие у таких искусственных нейронных сетей (ИНС) сложилась репутация ИИ, подобного мозгу. Вполне закономерно стремление использовать их в качестве моделей для изучения его работы.
«Системы искусственного интеллекта часто называют “подобными мозгу”, потому что они могут предсказывать активность в тех областях мозга, которые помогают нам распознавать объекты. До сих пор ученые в основном проверяли это в одном направлении: способны ли модели ИИ предсказывать активность мозга», — говорит старший автор нового исследования Кохитидж Кар, который в Йоркском университете занимается визуальной нейронаукой.
Он перевернул вопрос с ног на голову: если ИИ действительно отражает работу мозга, должна ли тогда активность мозга, в свою очередь, предсказывать то, что происходит внутри модели ИИ? — и разработал тест на «обратную предсказуемость», чтобы найти ответ. Результаты опубликованы в журнале Nature Machine Intelligence.
«Как ни крути, нам нужны вычислительные модели, чтобы по-настоящему понимать нейронные механизмы, которые помогают нам распознавать объекты. Как мы видим движущиеся предметы? Обыденная задача, с которой мы сталкиваемся каждый день, но с вычислительной точки зрения она крайне сложна», — отмечает ученый.
Для исследования взяли 1320 натуральных или реалистично нарисованных изображений медведя, слона, лица, яблока, автомобиля, собаки, стула, самолета, птицы и зебры на фоне естественных пейзажей, а также интерьеров или уличных сцен. Дополнительно были использованы 300 изображений тех же объектов в виде контуров, рисунков, схематичных форм или художественных вариаций.
«Результаты оказались поразительными. Хотя модели ИИ довольно хорошо предсказывают активность зафиксированных нами нейронов, мозг, в свою очередь, не может с той же точностью предсказать многие внутренние параметры модели. И что любопытно, такого не наблюдается, когда нейроны одного мозга сравнивают с нейронами другого», — рассказывает Кар.
Проблема с тем, что ИНС решают задачи зрения иначе, заключается в том, что расхождение между мозгом приматов и моделями будет усугубляться и накапливаться со временем, если его не исправить сейчас. Направление прогнозирования всегда строилось так, чтобы модель предсказывала поведение нейронов, но если обратное не верно — такие модели не могут служить адекватными гипотезами о работе мозга, объясняет исследователь.
«Наши выводы ставят под сомнение то, насколько современные системы ИИ на самом деле близки к мозгу приматов. Мы показали, что модели, которые ранее считались подобными мозгу, полагаются на внутренние компоненты, которые мозг, судя по всему, не использует», — добавляет соавтор исследования Сабина Мюзеллек.
Если модели ИИ станут более похожими на мозг, в будущем они смогут помогать людям с самыми разными состояниями — от посттравматического стрессового расстройства до аутизма. Но пока их применение в экспериментах слишком рискованно. Не мешало бы схожим образом проверить аналогичные модели, которые используются для изучения слуховой, языковой и моторной систем.
«Наш подход позволяет определить, какие именно части искусственной нейронной сети действительно соответствуют активности мозга, что дает нам возможность создавать более надежные модели для понимания того, как люди видят и интерпретируют мир. Это особенно важно для нашей программы исследований аутизма, которая опирается на модели нейротипичного мозга в качестве базового ориентира», — подытожил Кар.
Набор инструментов для тестирования, который разработчики ИИ смогут использовать для проверки и улучшения своих моделей в будущем, выложен в открытый доступ.