Войти в почту

Роботы выходят из подчинения. Судный день человечества близок?

Поломка или порабощение человечества? Ученых поставило в тупик поведение роботов. Эксперимент проводили исследователи из Facebook. Его результаты заставили комментаторов вспомнить фильмы о восстании машин. Чего хотят роботы? Ученые пытались обучить ботов искусству простейшего диалога. Они должны были торговаться и в итоге достичь компромисса. Например, один говорит другому: мне нужна шапка и мячи. Тот ему отвечает: шапка мне нужна самому, но я могу дать тебе книги. Собеседник не соглашается: книги мне не нужны, забери их и один мяч… И так далее. Сначала роботы послушно выполняли задания, но потом что-то пошло не так. «Для меня, для меня, для меня…» — начал твердить один робот. «Я могу, я все остальное», — похвастался электронный собеседник. Ученые подумали, что ошиблись и ввели неправильный алгоритм. Но оказалось, что боты, которые способны к самообучению, решили упростить себе задачу. Эти бессмысленные фразы они посчитали самым эффективным способом договориться. Михаил Бурцев заведующий лабораторией нейронных систем и глубокого обучения МФТИ «Первый блин комом. В чем идея этих экспериментов? Разработать системы, которые могли бы вести диалог с пользователем, помогать пользователю решать какие-то задачи. И для этого нужно поддерживать нормальный диалог. Очевидно, что в их случае никакого нормального диалога не получилось, и понятно, что это нельзя использовать на реальных пользователях. И вообще, это просто говорит о том, что сегодня искусственный интеллект примитивен еще». Интернет-сообщество, впрочем, сделало другие выводы. Новость облетела весь мир. И пользователи вспоминают фильмы о Терминаторе. Суперкомпьютер SkyNet выходит из подчинения, поэтому людям приходится посылать бойца в прошлое, чтобы предотвратить восстание машин. Причем в одной из серий франшизы Судный день наступает в октябре 2017 года. И даже есть сходство в словах. Бот говорит: мне нужна шапка. А киногерою, как известно, была «нужна твоя одежда». Впрочем, лепет роботов мог быть вызван элементарной поломкой, предполагает писатель-фантаст Леонид Каганов. Леонид Каганов писатель-фантаст «В приведенных отрывках я не вижу признаков интеллекта, то есть признаки искусственности я вижу, признаков интеллекта пока не наблюдаю. Поэтому мне кажется, что версия о том, что это такой искусственный интеллект, который так сам развился, что стал просто писать бессмыслицу, она, конечно, интересная, она, конечно, красивая, но мы не можем исключить вариант, что это просто бессмыслица и неработающий софт». Показательна реакция ученых. Как только боты начали самовольничать, исследователи отключили систему во избежание непредвиденных последствий. Интересно, каких? СМИ заодно вспомнили, как недавно Марк Цукерберг поспорил с Илоном Маском. Последний назвал искусственный интеллект фундаментальной угрозой человечеству. Основатель Facebook с ним не согласился. И так вышло, что нештатная ситуация с роботами случилась именно у разработчиков Facebook. Конечно, верить больше хочется Цукербергу. Но и страшилка о поработителях человечества слишком въелась в сознание. Я даже, когда писал эти строки, живо представлял, как получаю сообщение в личку от бота: «Не пиши об этом. Не надо».

Роботы выходят из подчинения. Судный день человечества близок?
© BFM.RU