Искусственный интеллект на службе девушек и человечества
Через 20 лет мир будет совершенно иным из-за развития технологий искусственного интеллекта (ИИ). Однако изменения в разных странах будут сильно отличаться друг от друга. Одни общества имеют шанс прийти к всеобщему изобилию, в других — вырастет социальное неравенство и связанные с этим проблемы, а технологии лишь станут средством окончательного закабаления людей и уничтожения свободной личности.
Совсем недавно миру была представлена книга «ИИ-2041: Десять образов нашего будущего». Ее авторы — крупнейший в мире специалист по искусственному интеллекту, бывший глава Google Chine и основатель венчурного фонда Sinovation Ventures Ли Кайфу и китайский писатель-фантаст Чен Цзюфань.
Книга состоит из 10 художественных новелл Чен Цзюфаня, которые повествуют о жизни героев из разных стран через 20 лет, в эпоху повсеместного внедрения систем искусственного интеллекта.
После каждого рассказа следует глава Ли Кайфу, который в публицистической манере описывает технические тонкости литературного произведения. По словам Ли Кайфу, он изначально задумал рассказать о 20 различных технологиях в 10 разных сферах, таких как образование или здравоохранение, чтобы люди могли почувствовать скорое влияние ИИ на их жизнь.
Вот как описал одну из историй сам Ли Кайфу:
«Один из моих любимых фильмов - «Социальная дилемма». Это очень точная картина, как соцсети управляют нами. Так вот. Страховая компания в Мумбаи была также поставщиком социальной электронной коммерции, доставляла еду, организовывала рестораны и писала туристические приложения. Она так много знала о человека, что могла помочь ему минимизировать страховые риски. Это значит, что компания помогает людям быть здоровыми и уменьшить их страховые взносы. Но программа продолжала раскрывать некоторые вещи и пыталась повлиять на человека.
Она просчитала, что девушка с большой долей вероятности выйдет замуж за парня, которого встретила. И велика вероятность того, что потом у нее возникнут проблемы со здоровьем. И программа пытается предотвратить замужество, скрывая контент, который может привести к этому. И так программа повлияла на судьбу девушки, хотя сама она хотела оставаться здоровой, а страховая компания желала блага».
Фильм «Социальная дилемма», на который при рассказе ссылается Ли Кайфу, был снят в 2020 году. В нем приняли участие бывшие ведущие разработчики IT-гигантов вроде Google и Facebook. Они честно говорят, что все соцсети изначально были заточены на то, чтобы манипулировать поведением пользователей, так как это позволяет эффективно продавать рекламу.
Помимо этого в книге раскрываются другие аспекты использования искусственного интеллекта. Например, системы распознавания лиц. Авторы описывают жизнь юноши в Нигерии, который вынужден носить маску, чтобы не платить в общественном транспорте. Сам он занимается созданием имитаций, то есть накладывает на зафиксированное камерой изображение лицо другого человека по заказу криминальных структур. И между такими хакерами и авторами софта для камер идет непрерывная, всё более технологичная борьба.
В общем, авторы как могут предупреждают, что использование ИИ может обернуться для человека потерей не только внешней свободы, но и внутренней свободы воли.
Но в итоге всё дело в той общественно-политической и социальной-экономической модели, которую люди выбрали в той или иной стране. По мнению Ли Кайфу, искусственный интеллект может помочь роботам построить настоящий коммунизм.
Роботы произведут столько товаров, сколько необходимо, а люди смогут высвободить время для творчества. В настоящий момент это возможно лишь в Китае, где взят курс на построение справедливого социалистического общества и главная ценность — возможность для всех пользоваться благами цивилизации.
Наоборот, в странах Запада усилится неравенство. А значит, возрастет угроза терроризма и социальных катаклизмов. При капитализме слишком много тех, кто захочет не просто иметь больше денег, чем остальные, но и пожелает владеть мыслями людей. Если говорить в религиозных терминах, их душами.
В России об этом, в частности, давно предупреждает специалист по искусственному интеллекту, писатель Игорь Шнуренко. По его мнению, всеобщее внедрение технологий искусственного интеллекта при неснятых общественных противоречиях могут привести к такому феномену, как появление «цифрового Левиафана».
Это когда не только создатели программ, но и сами машины, без чьего-либо ведома, будут повелевать людьми. Игорь Шнуренко считает, что в скором времени Россия может получить все негативные стороны использования ИИ:
- Заблуждение считать, что технологии искусственного интеллекта лишь инструмент и не влияют на человека. Даже более простые технологии не могут быть отделены от людей. Человека сильно изменило книгопечатание, сильно изменили радио и телевидение. Сейчас эти изменения вышли на принципиально новый уровень. Об этом предупреждали еще величайшие философы.
Например, Мартин Хайдеггер, который писал об опасности тотальной инструментализации общества, когда технологии сделают инструментом самих людей. Когда мы говорим, что технологии это инструмент, мы забываем, что люди сами начинают служить технологиям.
Сейчас, с появлением, как это я называю, «цифрового Левиафана», люди становятся инструментами ИИ. И делают вещи, которые противные человеческой природе и ухудшают их жизнь. Но люди продолжают это делать, ведомые машинными алгоритмами.
Ли Кайфу прекрасно знает, как устроено китайское общество и как развиваются технологии в КНР. Он прав в своих прогнозах в том, что Китай смотрит на технологии ИИ комплексно.
Это у нас принято воспринимать технологии как некий инструмент, который человек может отключить нажатием кнопки. Китайцы на взаимодействие человека и машины смотрят в общем, и потому с самого начала пытаются регулировать эту сферу.
В последнее время они предприняли ряд шагов, чтобы приструнить цифровые корпорации в Китае. Чтобы они не принимали важные для общества решения и были под контролем государством. Технологии должны быть частью системы, а не наоборот, когда государство и общество служат цифровой среде, как это происходит в России или США.
В Китае сразу учитывают риск искусственного интеллекта. И это выражается не в пустых прениях и конференциях, а в конкретных шагах по ограничению манипуляций людьми цифровыми платформами. Поэтому у Китая есть шанс получить плюсы от использования ИИ и не получить минусы. Хотя риски огромны, и не факт, что КНР ждет будущее, о котором пишет Ли Кайфу. Даже гигантские усилия по ограничению «цифровиков», недостаточны.
«СП»: - Ли Кайфу считает, что обуздать негативные тенденции помогут ограничительные правительственные меры и самоограничение корпораций и СМИ.
- Думаю, что это только первый шаг. Нужно повышать уровень просвещения. Необходимо, чтобы все люди осознали риски и опасности. Конечно, надо прекратить оголтелую пропаганду цифровых технологий, когда говорят только о преимуществах. Вот эти сладкие речи приведут нас прямиком в ад.
Китайцы делают правильные первые шаги. Но надо идти дальше по пути осознанности. Нельзя просто принять ограничительные законы и дальше успокоиться, мол всё под контролем. Люди должны задуматься над использованием ИИ, даже если это им приносит определенные удобства. Так что нужны усилия всех. Если Китай будет идти в этом направлении, то его действительно ждет процветание.
«СП»: - В использовании ИИ есть опасность того, что у кого-то появится желание владеть умами людей. И тут встают даже религиозные вопросы. Однако извлекать прибыль и по-настоящему управлять ценно только людьми со свободной волей.
- Во всём этом действительно есть некоторое оккультное измерение. Безусловно, как только у последнего человека будет изъята душа «цифровым Левиафаном», то сам он станет ненужным и самоликвидируется. Он может существовать, только питаясь душами. Но «цифровой Ливеафан» только начал поглощать души. И он может далеко зайти.
«СП»: - Авторы «Десяти образов нашего будущего» фактически предрекают самые разрушительные последствия малоразвитым странам. Что ждать России?
- В России есть ученые, которые думают над проблемами, есть некоторый интеллектуальный задел. Но на государственном уровне не допускается никаких других мнений.
Приняли программу цифровизации, ее проводят железной рукой, любое сопротивление подавляется и никакие альтернативные мнения не слышны, риски не учитываются. Поэтому очень скоро мы окажемся в очень большой беде. Причем большей, чем Соединенные Штаты.
В Америке всё-таки дискуссия идет. Слушают тех, кто предупреждает о рисках. С опасениями летом 2019 года выступил даже очень уважаемый в Штатах человек Генри Киссинджер. Но у нас только сплошной «ура патриотизм». Мол, мы создадим какой-то патриотический искусственный интеллект, который ни с того ни с сего принесет нам пользу.
Но в реальности технологии у нас практически не развиваются. И нет отдельного российского угла зрения на это. При копировании технологий никто не думает об учете российского пути, менталитета народа, использовании отечественных достижений.
Мы просто копируем то, что делают американские корпорации и на государственном уровне продвигаем. Иногда русифицируют, иногда нет. Точно также, как происходит в других странах, неразвитых в этой области.
И получается, что мы зависимы от США. Причем даже не от конкретных технологий, а в области идей. Американцы полностью определяют пути развития отрасли, подходы.
Кроме этого, нам навязывают точку зрения, что надо идти по самому негативному пути. То есть по пути установления тотальной слежки, манипуляций, управления. Просто потому, что по этому пути идут Соединенные Штаты. А мы почему-то должны бежать за ними вдогонку, чтобы ни в коем случае не отстать.