Роботы до могилы. Какие электроовцы приснятся андроидам нашего века?
Эмма Харт, профессор вычислительной школы Эдинбургского университета Нейпира и участник проекта «Эволюция автономных роботов: от колыбели до могилы» в Йоркском университете, опубликовала в The Guardian популярную статью, в которой объясняет, где и зачем могли бы пригодиться эволюционирующие роботы. Замысел хорош, основан на уже имеющемся опыте математической оптимизации начиная с 1960-х годов. Пользы — как практической, так и теоретической — из его воплощения можно извлечь немало. И всё же не удается отделаться от ощущения, что все это невозможно как следует воплотить при нынешних научно-технических возможностях. Причем дело тут не в наличии «мягких пластиков» или других новоизобретениях, на которые рассчитывает профессор Харт: они не помогут.
На первый взгляд, стремящиеся к совершенству роботы могут значительно упростить взаимодействие с человеком, так же как и робота с «низшими» по отношению к нему механизмами. Если робот обнаружит слово «копать» и сопоставит его с инструментом «лопата», это уже будет неплохо. Впрочем, это то, что нынешние роботы и так умеют. Речь идет о другом: о том, чтобы в процессе копания наш робот узнал много нового об окружающем его мире, себе и инструменте, осознал это все и записал — нет, не просто в память, а в сам генетический код. Которым он может в условленном месте обменяться с другим копателем, у которого будет другой объект работы, а, значит, и другой опыт, чтобы их «потомок» знал и то, и это. Десяток «поколений», смена которых займет год-два (ведь робота не надо водить в детсад и школу), — и у нас появится сотня, а то и больше гениальных копателей. Теперь можно отправлять их изучать что-нибудь другое, например, игру на фортепиано.
В идеале получается красивая картина самоулучшающихся роботов, позволяющая их повелителям не только моделировать эволюцию, но и значительно ее ускорять в корыстных целях или из эстетических соображений. Осталось решить пару вопросов, без которых вся эта робототехническая благодать никогда не даст серьезного результата.
Биологической эволюцией правят желание жить, оно же страх смерти, и стремление оставить потомство. Если с последним все не так сложно, ибо можно прописать нашему подопечному правило, мол, раз в месяц сходи в укромный цех и там размножься, то с роботовским жизнелюбием возникают проблемы. Ведь у робота нет причины появления на свет, кроме той, что вложена в него при создании, недаром «робот» и «работа» слова родственные (так придумал для обозначения механического работника чешский писатель Карел Чапек). Так что эволюционный успех той или иной модели надо будет измерять по заранее заданным критериям эффективности. А тут все зависит от мастерства творца и параметров, которые люди в свое создание заложат. Хорошо, когда речь идет о виртуальном пространстве, здесь успехи электронного псевдоинтеллекта уже несомненны — идет ли речь о распознании образов или оригинальных решений в конструировании. Но с реальной материей и накоплением опыта о ней могут возникнуть серьезные сложности. Например, с получением полной и адекватной картины мира.
Живое существо, состоящее из живых клеток, вписано в окружающую среду настолько, что постоянно обрабатывает массу нюансов в изменении температуры, химического состава, механических перемещений и прочего. Оно, собственно, так и живет, ориентируясь в море сигналов, говорящих ему об опасности, пище или удобном месте для убежища. Искусственный робот, собранный из материалов, неспособных ощущать «всей кожей», будет вынужден ориентироваться на показания своих датчиков, которые пока что далеко отстают по своим возможностям от живых аналогов. Так что и данные, на основании которых нашему эволюционирующему роботу предстоит делать свои выводы, будут весьма примитивны. Впрочем, это, скорее всего, проблема техническая, и дать возможность электронному другу насыщать свой мозг интенсивными ощущениями, может быть, получится в обозримом будущем. Это могла бы быть интересная задача для самой эволюционирующей искусственной системы — максимально приблизить свои возможности взаимодействия со средой к возможностям живого существа. Но за кадром остается еще одна, пожалуй, самая главная проблема.
Для того чтобы эволюционный процесс с участием роботов имел какой-то смысл, он должен содержать в себе критерий различения Добра и Зла, ощущение радости жизни, приходящее к элементу системы от понимания (или восприятия сигнала) о достигнутом улучшении. Иначе весь процесс не будет ничем отличаться от предшествующей «эволюции» человеческой техники, когда конструкторы и пользователи раз за разом оценивали новые модели разнообразных машин и механизмов, делая на их основе следующие, с улучшенными свойствами. А сможет ли робот «понять, что у него проблема», для того чтобы устранить ее в следующем поколении? Есть серьезные подозрения в том, что любой, сколь угодно сложный робот смог бы когда-нибудь проделать этот фокус — который, кстати, каждодневно вынуждены проделывать все живые существа на Земле. Испытывать то, что называется радостью жизни. Даже со знаком «минус», как чувство собственного несовершенства.
Эмма Харт могла и не особо задумываться над этим моментом, считая, что и его можно, например, прописать в перечне параметров деятельности самоулучшающихся роботов. Кстати, польский фантаст Станислав Лем много ломал голову и напрягал фантазию, пытаясь представить именно эту ситуацию — роботов и даже их «общество», если они до такого доберутся по эволюционной тропе, движимые стремлением к совершенству. Результат зачастую оказывался в его представлении весьма курьезным. Только вот в последнее время тема искусственного интеллекта, способного тотально оптимизировать все, зазвучала особенно громко. Те, кто уверовал в цифровизацию, обладая при этом административными возможностями, уже пытаются соорудить нечто, подобное автоматическому управленцу, который будет способен учесть все нюансы сначала узкого, а потом все расширяющегося поля ответственности. Скорее всего, у энтузиастов цифры дело кончится большим крахом из-за неучтенного параметра, о котором «забыли сказать» электронному надсмотрщику, и в выигрыше останется тот, кто заранее озаботится не делать окончательную ставку на как бы всеспасительную электронику.
Страшнее будет в том случае, если у цифроверов-роботоделов получится. Но об этом уже снято много фантастических фильмов разной степени мрачности. Остается только добавить, что надежды на решение с помощью эволюционирующих роботов проблем загрязнения окружающей среды или экономии материалов — это еще одно противоречие. Эволюция действует перебором поистине астрономического числа вариантов, так что энергии и материи на это дело может понадобиться изрядное количество.
Дело, если до него дойдет, может ограничиться очередным информационно-финансовым пузырем, вроде уже показавших себя в реальности ветрогенераторов, от которых проблем оказалось не меньше, чем пользы, когда подошло время ремонта. Но, к сожалению, деятельность для имитации деятельности становится все более популярной у т.н. «развитого» человечества. Вот и интересную идею о развитии у роботов инженерной и художественной жилки может постигнуть та же участь.