«Технологии могут стать дорогой в ад»
В конце октября в Москве прошел закрытый деловой завтрак-дискуссия на тему «Игры искусственного разума. Что будет завтра с обществом, бизнесом и работой?», одним из ключевых спикеров на котором был доктор Марк Эспозито, член преподавательского состава дивизиона непрерывного обучения Гарвардского университета и профессор бизнес-школы IE Business School. Среди его клиентов — национальные правительства, советы директоров крупных мировых корпораций. Доктор Марк Эспозито во время своего выступления высказал ряд парадоксальных мыслей, которые глубоко врезались в сознание слушателей. Вот пример одного из них: экономика — одна из самых негибких дисциплин, так как вы выходите после обучения с представлением, что вы понимаете, как все устроено. Как отметил эксперт, во многих странах труд — это право, положенное людям по конституции. Но внедрив повсеместно искусственный интеллект, убрав труд из многих бизнес-моделей и из определенных типов отношений, мы можем получить совершенно неочевидный результат. И если так легко манипулировать человеком, побуждая его сделать покупку, то кто поручится, что эта механика не может быть настроена для любых других целей? Гарвардский ученый очень подробно остановился на феномене предиктивных методов, которые помогают анализировать и предсказывать поведение потребителей. Может ли искусственный интеллект быть ступенькой к социальному неравенству? К сожалению, ответ утвердительный: может. В качестве примера доктор Эспозито привел возможность выбора эмбриона в некой элитной клинике в американском штате Техас. Как правило, богатые клиенты выбирают детей с лучшей генетикой. А генетические персональные данные, как правило, доступны потенциальным родителям. Таким образом, иногда после внедрения искусственного интеллекта деньги дают доступ к возможности произвести «лучшее» потомство. Доктор Эспозито упомянул, что исследования социологов показывают небывалую степень маргинализации детей в США при нынешней системе публичного обучения. Школы там финансируются из местных бюджетов: соответственно, в богатых районах бюджеты у школ будут обширнее. Федералы финансируют школы, исходя из их метрик, достигаемых KPI и успехов. Поэтому неблагополучные школы и дети заведомо получат меньше ресурсов: школы — меньше денег, учащиеся — меньше внимания учителей. В банках также богатые клиенты идут к людям — частным финансовым советникам, а для бедных кредитный рейтинг определяет автоматический алгоритм. Парадокс, но этот так. Еще одна техническая проблема в сфере машинного обучения и искусственного интеллекта — это преодоление зависимости от исторических данных в пользу реальных, поскольку исторические данные могут оказаться нерелевантными. В то же время доктор Эспозито считает, что искусственный интеллект не является чем-то пугающим и аморальным: это не SkyNet, не DarkNet, не Терминатор — всего лишь некая инструментальная история. Проблемы могут быть лишь в сфере правильного использования технологии. Впрочем, по мнению ученого, речь идет не о противопоставлении машины и человека, а об их симбиозе, не о замене людей роботами, а об интеграции искусственного интеллекта в рабочее место человека. В 2015 году аналитики предсказывали, что в течение пяти лет, в связи с пришествием AI, исчезнет 45–50% рабочих мест, но в реальности автоматизированными оказались всего 15% рабочих мест. Играет роль человеческий фактор: наше несовершенство нас спасает, мы не следуем предначертанным планам. Я задал доктору Эспозито два вопроса. Во-первых, какова его оценка активно внедряемой в Китае системы социального кредита, которая присваивает людям рейтинг в зависимости от тех или иных их поступков, и этот рейтинг дает им доступ или отказывает в доступе к определенным социальным услугам и инфраструктуре? И каковы шансы, что у стран золотого миллиарда в ближайшее время окажется внедрена некая подобная система широкомасштабного рейтингования? В ответ доктор Эспозито заявил, что крупнейшие технологические компании США просто не озаботились до сих пор интегрированием подобных технологий в существующую инфраструктуру, кроме некоторых специальных случаев, например в рамках проектов, связанных с охраной государственной границы США. Системы, подобные китайской, в странах золотого миллиарда, по его мнению, будут созданы лишь в отдельных нишах. Но, с другой стороны, есть область, в которой в США уже властвует «Большой Брат» — это сфера big data. В то же время доктор Эспозито считает, что индивидуальные свободы определяют возможности общества. По словам Марка Эспозито, как ученый, изучающий общество, он «заинтригован» системой социального кредита, в том числе потому что это один из редких в настоящее время примеров, когда госсектору, наконец, удалось успешно внедрить и использовать технологии, связанные с искусственным интеллектом. «Моя головная боль не в самой технологии, а в том, как мы ее будем использовать для социальных целей, ведь в отсутствие социальных целей технология может стать прямой дорогой в ад», — отметил ученый. По мнению Марка Эспозито, необходимо обеспечить доступность технологий искусственного интеллекта все большему числу людей, это должно стать повседневным товаром. Тот же Facebook, по мнению эксперта, должен стать организацией с социальными целями. Далее экономист добавил: «Я родился в 70-х, для меня программирование — неестественный процесс. Для нынешних детей эта технология уже воспринимается как актив. Ваш ребенок должен понимать, что такое код, так как его жизнь во многом будет определяться вещами, с этим понятием связанными». Один вопрос из зала заставил Марка Эспозито на минуту задуматься: «Приведет ли нас искусственный интеллект в общество, где никто не будет обязан трудиться?» Ответ был таков: еще большой и нерешенный вопрос, какова будет степень внедрения технологий в глобальном масштабе. С точки зрения доктора Эспозито, внедрение мобильных технологий со степенью проникновения 90% по всему миру за 10–15 лет было исключением. И вот здесь я с американским экономистом не очень согласен. Ведь это как раз один из последних по хронологии примеров, который показывает, что внедрение новых технологий на каждом витке технологической эволюции ускоряется, занимает все меньше времени. Однако, по мнению гарвардского экономиста, важная проблема заключается в том, будут ли работать при этом механизмы социальной мобильности. А резкое снижение издержек в результате внедрения технологических инноваций вовсе не означает резкого роста производительности и тем более спроса. Одна японская ученая, живущая в Лондоне, доказала, что большинство технологических прорывов, о якобы достижении которых громко заявляют инноваторы, в действительности никогда не случатся. По мнению Эспозито, мы никогда не увидим на наших улицах миллионы автомобилей Tesla. Ни у кого не должно оставаться иллюзий, что эта конкретная компания является частной при таких объемах и масштабах господдержки в ее адрес. По мнению Эспозито, экономическая ценность раньше считалась той основой, вокруг которой создается социальная ценность. Но верно обратное. На конкретный вопрос: есть ли будущее у профессии бизнес-переводчиков? — именитый гость ответил, казалось бы, невпопад, но все в зале поняли, что он имел в виду. Он ответил: «10 дней назад я вел лекцию, в которой половина аудитории была с различными устройствами, обеспечивающими перевод с английского языка». Были заданы вопросы о том, представляет ли ценность диплом о получении высшего образования в сфере бизнеса, а именно, диплом MBA. Гость привел в ответ статистику о том, что 78% руководителей компаний в одном опросе заявили, что не будут при найме персонала давать преимущество людям с MBA. А кому же тогда? Преобладающий ответ респондентов был таким: будем нанимать тех, кто может и умеет принимать решения. Общий вывод доктора Эспозито все-таки был, на мой взгляд, умиротворяющим: «Человечество несовершенно. Самым совершенным образом». Нам все еще необходимо социальное взаимодействие, чтобы создавать ценность. При этом, к сожалению или к счастью, мы достаточно просты, чтобы нас мог легко взломать правильно примененный алгоритм. Вот все, что нужно знать о состоянии предиктивной аналитики в наше время. Выступление гостя завершилось довольно интересной ремаркой. На днях одна американская леди-конгрессмен спросила Марка Цукерберга: «Если в вашей соцсети будет запущена лживая информация, вы ее уберете или нет?» Цукерберг ответил: «Мы считаем, что каждый должен разбираться сам, правда это или ложь». Доктор Эспозито признался, чем его не удовлетворил этот ответ: далеко не каждый в состоянии сам разобраться, где правда, а где ложь.
