Эксперт по нейроморфным технологиям в "ЛК" Лаврентьев рассказал об ИИ будущего

Особый чип - Что из себя представляет новый нейроморфный чип? - Нейроморфный — это значит биологоподобный. Тот искусственный интеллект, который у всех на слуху, например, ChatGPТ, работает на основе так называемых искусственных нейронных сетей. Они на вход берут число и на выход дают число. А работают за счет того, что в нейронах такой сети происходит суммация этих чисел, умноженных на веса связей, и далее вычисление активации, которая дает число на выходе нейрона. В биологическом мозге никаких чисел нет. Там есть электрические импульсы – или спайки. Есть сигнал — идет импульс. Нет сигнала – нет импульса. По такому же принципу работает и наш чип. Он работает со спайковыми нейросетями. Мы называем это нейроморфной платформой. - Чем ваш чип лучше обыкновенного? - Его самое ключевое отличие — энергоэффективность. Есть событие — есть работа. Нет события — нет работы. А обычная нейросеть занимается вычислениями постоянно, поэтому ей нужно много энергии. - Вы единственные в мире, кто создал нейрочип на спайках? - История началась с 2014 года, когда IBM сделала чип TrueNorth, похожий на кроссбар — прямоугольную сетку, по горизонтали у которой входы, а по вертикали — выходы сигнала. И на узлах этой сетки лежат искусственные импульсные нейроны. Они умеют делать только простые вещи: суммировать спайки. И такая схемотехника аппаратного решения позволяет ему быть очень энергоэффективным. После IBM компания Intel сделала подобный чип Loihi. Потом китайцы сделали чип Tainjic. Теперь — мы. - IBM и Intel для чего их используют? - Пока ведутся исследования, так как это абсолютно новый подход. Есть как много надежд, так и много скепсиса. Потому что еще не до конца понятно, как обучать и эффективно работать таким сетям. Нейроморфные чипы также пробуют строить на новой электронике на основе мемристоров, которые "помнят" какой ток через них протек. Наш чип построен на традиционной транзисторной электронной базе. Тут нужна технология создания чипов как минимум на 28 нм. У нас в стране пока такой нет. Сверхскоростные камеры - Какие устройства будут работать на ваших нейроморфных чипах, что они будут уметь? - Прежде всего, наши чипы хороши тем, что они очень энергоэффективны. Это значит, что на батарейке от часов сможет долго работать умное какое-то устройство. Без провода, без розетки. И, прежде всего, это камеры. Примеров в мире по коммерческим применениям нейроморфных устройств для нужд обычных пользователей пока немного. Например, есть спайковая камера с обнаружением движения. Эта камера легкая и дешевая, она крепится на стену и регистрирует движения всех, кто есть в квартире. Человека отличает от собаки, и, если старый человек упадет, - посылает сигнал оповещения. Идея тут в том еще, что такая камера не передает полную картинку, сохраняя приватность обстановки дома. Если случится инцидент, то в центре реагирования увидят только некие контуры объектов. Для промышленности примеров гораздо больше. Например, IBM использует такие камеры в системах компьютерного зрения на самолетах: с большой скоростью анализируют картинку большого разрешения и определяют интересующие объекты. Но это пока в стадии исследования. Intel применяет такие камеры для научных задач. Особенно интересны проекты, в которых ученые пытаются повторить возможности биологических организмов. Например европейская группа, изучая навигацию муравья, смоделировала импульсную нейронную сеть муравья для навигации дрона: с помощью камеры сеть запоминает путь от одного места до другого, и потом может без всяких GPS, сама, управляя дроном, вернуться в начальную точку. - Отличие этих камер от обычных только в энергоэффективности? - Нет. Еще одно замечательное свойство нейроморфных чипов - способность обрабатывать очень быстрые сигналы. Например, мы можем анализировать более 1000 кадров в секунду. На такие скорости способны только особенные камеры - нейроморфные. Они шлют не картинку, а изменению яркости каждого пиксела - более миллиона событий в секунду. По-другому они называются DVS-камерами (Dynamic Vision Sensor). С таким потоком данных ни один компьютер и сеть не справятся, потому что такие объемы негде хранить - их нужно налету обработать. Спайковые сети с этим справляются. - То есть, камеры будущего будут висеть над городом, считывая лица всех, кто едет в автомобилях и идут по улице, мгновенно передавая эту информацию? - Насчет лиц - не знаю, а вот проекты по отслеживанию и управлению трафиком машин на загруженных перекрестках - ведутся. - Также, как я понимаю, перспективно использовать ваши чипы в дронах? - Честно говоря, задачи для дронов или нет - все примерно одинаковы: есть какая-то картинка, на ней нужно какие-то объекты распознавать. Или управлять движением - дрона, робота, беспилотного автомобиля... Недавно была публикация о том, что нейросетка выиграла соревнование у лучших операторов дронов: нужно было как можно быстрее провести дрон через ряд мелких окошек. Нейросеть - пока не спайковая - с этим справилась лучше. Хотя на реальной местности все будет, конечно, сложнее. - Можно ли с помощью спайковой нейросети и сверхскоростной камеры создать неуязвимые уворачивающиеся от препятствий дроны? - Такие камеры нужны для любых автопилотов. Взять, допустим, самоуправляемые машины. Сейчас проблема внезапно выбежавшего на дорогу человека решается лидарами или ультразвуковыми сенсорами. Но если у тебя есть DVS-камера, если есть нейроморфная сетка, то эффективность ее решения вырастает во много раз. Для дронов есть известная задача "распознание как препятствия линий электропередач". Очень трудно дрону понять, как их облететь, часто дроны в них врезаются. С DVS-камерами эта задача решается намного легче. Также с этими камерами дроны могут видеть в темноте, так как DVS работают во всем диапазоне яркости: не слепнут от солнца и в темноте видят. - На каких производствах можно было бы их использовать такие нейроморфные камеры, способные видеть и подсчитывать миллион событий в секунду? - Везде, где нужно быстрое распознание и реакция. Например, быстро считать таблетки, но это можно сделать и более простым способом... А вот отслеживать динамику газовой струи в турбине или те процессы, которые человек глазом и увидеть не может, - это как раз задача для нейроморфной платформы. И это важно для промышленности. - Энергоэффективность, скорость – что еще отличает нейроморфную платформу? - Третье очень важное отличительное свойство – такие решения очень трудно обмануть. - Что вы имеете в виду? - Обмануть обычные нейросети достаточно легко. Именно поэтому сейчас все так опасаются за безопасность решений на основе ИИ. Их можно обучить на "отравленных" данных или встроить в нейронную сеть зловредный слой нейронов, которые будут делать то, что нужно вредителю. И специалисты это знают. Меняешь чуть-чуть входную картинку, чтобы нужные веса в сетке правильно среагировали и все. Для человеческого глаза изменение картинки будет вообще незаметно. Но для сетки это будет признаком, что это "не кошечка, а собачка". А у спайковых сетей все не так, – там нет возможности легко подобрать малое изменение во входных данных, которое будет незаметно человеку, но изменит реакцию сетки. Можно сказать, что импульсные сети более устойчивы к таким атакам, и мы используем этот принцип в наших решениях по защите других, не импульсных сетей. ИИ будущего - Можно ли сделать ChatGPT, работающий на спайковых нейросетях? - Сейчас не получится, потому что нет нужного железа. - А в будущем? - В будущем, я считаю, что да. Это возможно, будет даже правильным подходом именно из-за того, что обычные нейросети легко обмануть. Почему произошел весь этот бум с ChatGPT? Когда это стало возможно? Когда программисты предложили архитектуру Self-attention — сеть с вниманием, и архитектуру Transformer, которая позволяет выявлять глубокие структурные зависимости во входной информации. Transformer - это архитектура, на которой сейчас работает ChatGPT. И весов (связей) нейронов в такой сети при большой глубине очень много, – триллионы. Спайковые сети работают с событиями, на них можно строить элементы памяти, внимания, и иерархии распознаваемых образов. Это будет более устойчивая и более прозрачная архитектура, чем трансформеры. Но, конечно, нужно железо, поддерживающее миллионы и миллиарды импульсных нейронов. Пока его нет. Я считаю, что разработка архитектур для спайковых сетей открывает просто колоссальные возможности, в том числе для самообучения сетей. - Каким будет искусственный интеллект будущего? В некоторых фильмах про будущее такой ИИ представляет собой большое-большое здание, где стоят серверы. И там базируется ядро нейросети, которое выходит в интернет, видит улицы всех городов, читает все медкарты, определяет местоположение всех людей и т.д. - Я совсем по-другому себе это представляю. Чтобы система была устойчива, для анализа любой ситуации должно быть множество вариантов, так как невозможно заранее сказать, какой из них правильный. Это эволюционный путь: непонятно какой мозг выиграет, - правильно предскажет, поэтому нужно множество мозгов - децентрализованная система. В этой системе существует много центров ИИ. Какой-то запас знаний в такой ИИ можно заранее заложить, как в человека. У него пять органов чувств, по каждому из чувств есть какие-то паттерны, которые он уже "из коробки" распознает. А потом "собирает" из них уже более сложные комбинации — возникают образы, реакции, ситуации… - А что вы заложили в свой спайковый ИИ, чтобы он это распознавал "из коробки"? - Мы реализовали в своей сетке такой навык, как сон. - Сон? Но ведь до сих пор не понятно, что мозг человека делает во время сна. На что же вы ориентировались? - Мы решили вложить свое понимание функции этого явления в действие нейросети. - Что же ваша нейросеть делает во сне? - Она оптимизирует свои дневные решения. Вот прошел день, пришла куча информации, система ее переварила. Нейросеть выдает решение, которое необходимо принять немедленно, а не через час. Это решение может быть не самым оптимальным. И вот накопился за один день такой опыт. Но если бы вернуться назад, имея какой-то запас времени, больше объема информации охватить, проанализировать, сравнить, - возможно решение было бы иным. Наша нейросеть занимается постанализом, принимает во сне более взвешенные решения и учится на них. - Так каким будет искусственный интеллект будущего, если он будет базироваться на описываемых вами децентрализованных спайковых нейросетях? - Моя идея созвучна той, которая описана в трилогии Роберта Уилсона "Ось", "Спин", "Вихрь". Там гигантская нейронная сеть интеллекта существует на уровне Вселенной. Этот мегамозг существует миллиарды лет, и видит все в глобальных масштабах. У него именно такая задача – видеть процессы длинной миллиарды лет. А вот видеть вещи на мелких масштабах времени – задача для локальных ИИ – например человек и масштаб времени порядка 100 лет. То есть задачи мозга определяются масштабами времени. И это самая правильная идея, - ведь в мире есть единственная единица измерения — это время.