Опасность суверенного интеллекта: эксперт объяснил суть противоречий распространения ИИ в мире

Появление и распространение искусственного интеллекта (ИИ) вызывает в мире, среди разных стран, все больше дискуссий и даже межгосударственных противоречий. Кто-то видит в ИИ возможность к развитию и процветанию, кто-то – совсем наоборот, вплоть до угрозы своему существованию. Дошло до вмешательства ООН.

О сути противоречий рассказал Исполнительный секретарь Координационного совета генеральных прокуроров государств-участников СНГ, доктор юридических наук, заслуженный юрист России, профессор, генерал-лейтенант, заведующий кафедрой Международного права РГСУ Юрий Жданов.

- Юрий Николаевич, почему появление искусственного интеллекта (ИИ) вызвало какие-то споры и даже на межгосударственном уровне, пусть не конфликты, но, скажем так, недопонимание? Ведь, обычно, достижения науки служат всеобщему благу. Что на этот раз пошло не так?

- Вынужден вас разочаровать: достижения науки служат отнюдь не всеобщему благу, а только тем, кто в состоянии быстро и качественно воспользоваться этими научными достижениями. Так, коренные народы Америки (обоих континентов), Африки, Австралии, Новой Зеландии, Полинезии и многих еще других территорий, только проиграли от всяких там достижений науки и прогресса. Представьте, много ли шансов было бы у бледнолицых пришельцев (очень немногочисленных), если бы они не обладали огнестрельным оружием, против копий и стрел, пусть и с каменными, костяными, но отравленными наконечниками? Аборигены наверняка отстояли бы свою независимость. И как бы выглядела сегодня политическая карта мира? Это – на заметку любителям альтернативной истории.

- Вы считаете, что искусственный интеллект – такой же решающий джокер в изменении судьбы мира?

- Ладно бы только я так считал. Даже в ООН задумались о противоречивых тенденциях ИИ, о рисках и экономической эффективности. В этой уважаемой организации тоже озаботились влиянием новых технологий, в частности – ИИ, на общие тенденции развития мировой цивилизации в целом, и на судьбы отдельных, не самых великих и могущественных стран и народов. Картина оказалась, мягко говоря, не радужной.

- Каковы результат ооновских раздумий?

- В рамках своей Генеральной ассамблеи в конце сентября 2025 года ООН заявила о проведении глобального диалога по управлению искусственным интеллектом для сбора идей и передового опыта в области управления ИИ. Организация Объединенных Наций также объявила, что сформирует группу из 40 научных экспертов для обобщения и анализа исследований рисков и возможностей, связанных с ИИ, в русле предыдущих аналогичных усилий организации в области изменения климата и ядерной политики.

- Что это даст и кому это нужно - диалог и группа научных экспертов?

- Американцам – точно не нужно, о чем они сразу и заявили. Ведь программа ООН представляет собой попытку гарантировать, что контроль над все более мощной и всепроникающей технологией не останется в руках нескольких технологических компаний и нескольких стран во главе с США и Китаем.

Однако, с момента бурного развития технологий генеративного ИИ с публичным запуском ChatGPT в 2022 году правительства по всему миру ломали голову над тем, как, где и когда использовать эту технологию. Прогнозы относительно ИИ, способного создавать текст и реалистичные изображения, колеблются от стремительного ускорения экономического роста и процветания до выхода из-под контроля и вымирания человечества. Генеральный секретарь Антониу Гутерриш заявил, что меры ООН представляют собой «значительный шаг вперед в глобальных усилиях по использованию преимуществ искусственного интеллекта и устранению связанных с ним рисков». Они направлены на создание существенных «строительных блоков новой архитектуры управления технологиями».

Но Соединенные Штаты, особенно при администрации Трампа, сопротивляются глобальным усилиям по регулированию ИИ, опасаясь, что они могут помешать американским технологическим компаниям в их гонке за то, чтобы опередить Китай. Майкл Крациос, директор Управления по научно-технической политике Белого дома, прямо заявил на генассамблее ООН: «Мы полностью отвергаем все попытки международных организаций установить централизованный контроль и глобальное управление ИИ».

- Какова позиция Китая?

- Прямо противоположная. Китай, наоборот, усилил поддержку глобальных инициатив в области ИИ и позиционировал себя как сторонника развивающихся стран.

Ма Чжаосюй, исполнительный заместитель министра иностранных дел Китая, предупреждает, что ИИ не должен стать «игрой клуба богатых стран» и «инструментом гегемонии».

- Насколько обоснованы опасения по поводу траектории развития этой технологии?

- Такие опасения весьма сильны. Так, группа, в которую входят специалисты по технологиям, лауреаты Нобелевской премии и бывшие руководители правительств, на сессии Генассамблеи призвала к установлению глобальных барьеров для ИИ. Более 200 подписавших предупредили о грядущих «беспрецедентных опасностях», поскольку искусственный интеллект вскоре может превзойти человеческий интеллект и создать дестабилизирующие общество риски, включая искусственные пандемии, масштабную дезинформацию и массовую безработицу.

Подписавшие документ призвали правительства к концу 2026 года достичь соглашения о том, чего не должен делать ИИ, а затем потребовать от компаний принятия мер безопасности и проверки этих ограничений перед выпуском новых продуктов для широкой публики.

- Что за меры?

- Увы, группа не предложила конкретных мер (вечная беда интеллигенции – генерируются лишь общие слова, прекраснодушные идеи, но не прорабатываются практические решения и механизмы их воплощения). Предполагается, что такой список может включать запреты на смертоносное автономное оружие и самовоспроизводящееся программное обеспечение ИИ, что может привести к выходу технологий из-под контроля человека.

Например, Дарон Асемоглу, получивший в 2024 году Нобелевскую премию по экономике за исследования о том, как институты влияют на национальное благосостояние, подписал призыв к запрету ИИ и принял участие в диалоге ООН. По его словам, если ИИ продолжит развиваться в нынешнем направлении, он может стать технологией, «порождающей неравенство». Взамен можно было бы разработать технологию, которая расширит возможности работников, а не заменит их.

- Помимо США и Китая многие другие страны тоже тратят миллиарды на собственные, «суверенные» технологии ИИ. Это – оправданно?

- Многие ищут ответ на этот вопрос. Правительства по всему миру, от Великобритании до Индии и Канады, разрабатывают собственные технологии ИИ и пытаются определить свое место в формирующейся экосистеме. Но могут ли более мелкие инвестиции принести ощутимую прибыль, если в мире вращаются сотни миллиардов долларов? Триша Рэй, штатный научный сотрудник Атлантического совета, американского стратегического аналитического центра, придерживается скептического настроя: «В то время как американские компании, правительство США и Китая способны, по сути, молниеносно проложить себе путь к доминированию в сфере ИИ, для малых и средних держав это сделать сложнее. Если вы не являетесь богатым правительством или крупной компанией, то создание программы магистра права с нуля — довольно обременительное занятие».

- Но ведь многие страны не желают полагаться на зарубежный ИИ для удовлетворения своих потребностей?

- Да, в их числе – Индия. По словам Абхишека Аппервала, основателя индийской компании-разработчика Soket AI, существует множество примеров того, как американские системы ИИ не оправдывают ожиданий. Например, для Министерства обороны Индии китайская модель DeepSeek не подходит. Аппервала утверждает: «Возможно, она использует какой-то случайный обучающий набор данных, который может показать, что регион Ладакх не является частью Индии. Использование этой конкретной модели в оборонной системе — это категорическое табу. Я общался с теми, кто занимается обороной. Они хотят использовать ИИ, но, забудьте о DeepSeek, они даже не хотят полагаться на системы типа американского OpenAI, потому что данные могут выйти за пределы страны, а это их совершенно не устраивает».

Аппервол создает модель, значительно меньшую по размеру, чем ведущие модели американских и китайских технологических компаний, и примерно сопоставимую по размеру с некоторыми разработками французской компании Mistral, занимающейся ИИ.

Исследователи в области искусственного интеллекта давно утверждают, что для продвижения технологий и достижения общего искусственного интеллекта (ОИИ) – неуловимой конечной точки гонки вооружений в области искусственного интеллекта – необходимы значительные инвестиции в ресурсы, в том числе в микросхемы и вычислительную мощность.

Аппервол считает, что Индии придется компенсировать дефицит финансирования за счет привлечения талантливых специалистов: «Находясь в Индии, мы не можем позволить себе вкладывать в это миллиарды долларов. Как нам конкурировать, скажем, со 100, 300 или 500 миллиардами долларов, которые вливают США? Думаю, именно здесь в игру вступают экспертные знания и интеллектуальный подход».

- Может, странам, пытающимся найти свое место на растущем мировом рынке ИИ, имеет смысл объединить усилия, о чем, собственно, и говорят в ООН?

- Возможно, смысл в этом есть. Исследователи из Школы государственной политики Беннетта в Кембридже недавно предложили создать публичную компанию по разработке ИИ, распределенную между странами со средним уровнем дохода.

Их предложение предусматривает создание публичной компании в области искусственного интеллекта, которая объединит ресурсы различных стран, занимающихся разработкой искусственного интеллекта (Великобритания, Испания, Канада, Германия, Япония, Сингапур, Южная Корея, Франция, Швейцария и Швеция), для создания конкурента американским и китайским гигантам.

Джошуа Тан, ведущий автор документа, излагающего эту инициативу, говорит, что идея уже привлекла внимание министров по вопросам ИИ как минимум трех стран, а также нескольких государственных компаний в этой области. Хотя сейчас проект ориентирован на развивающиеся страны, в том числе Монголию и Руанду, которые также проявили интерес: «Сейчас, я думаю, это просто факт: обещаниям нынешней администрации США доверяют меньше. Люди спрашивают: могу ли я все еще полагаться на эти технологии? А что, если они решат их отключить?».

Однако критики этой концепции утверждают, что даже скоординированная многонациональная стратегия рискует привести к трате ценных средств налогоплательщиков на инициативу, которая в конечном итоге окажется неудачной.

Например, утверждается, что более эффективной стратегией для таких правительств, как, скажем, Малайзия, было бы выгоднее потратить те же деньги на разработку более строгих правил безопасности ИИ, а не конкурировать с международными продуктами, которые уже завоевали рынок.

- Вопрос в цене?

- Как всегда – суверенитет, в том числе в области ИИ, - весьма дорог. Причем, платить зачастую приходится небогатому населению:

Примеры приводит The New York Times: «Керетаро, промышленный регион к северу от Мехико, стал центром обработки данных страны благодаря протекции правительства. Однако, по словам местных жителей, за эти преимущества пришлось заплатить. Бедные общины, уже страдавшие от нехватки воды и электричества, заявили, что эти проблемы усугубились. Семьи выбрасывали испорченные продукты, когда холодильники выходили из строя. Соседи собирали деньги на доставку воды частным лицам. Начальные школы закрывались, когда в туалетах не работал смыв.

Microsoft отрицает, что ее центры обработки данных виноваты, утверждая, что его объекты потребляют лишь минимальное количество электроэнергии и воды. Местная коммунальная компания указала на такие причины, как удары молний и бродячие животные. Amazon и Google также эксплуатируют свои объекты в этом штате.

Но, хотя бывает сложно установить прямую связь между каким-либо центром обработки данных и местным дефицитом электроэнергии и воды, эксперты говорят нам, что строительство в районах с нестабильными сетями и существующими проблемами с водой создаст нагрузку на и без того хрупкие системы, увеличивая вероятность возникновения каскадных эффектов.

Проблемы возникают не только в Мексике. В Ирландии дата-центры потребляют более 20% всей электроэнергии, вырабатываемой в стране. Это привело к мораторию на строительство вокруг Дублина. В Чили высказывались опасения, что дата-центры представляют угрозу водоносным горизонтам».

Даже в США растущий спрос на ИИ приводит к увеличению счетов за электроэнергию.

- Рядовым американцам тоже приходится раскошеливаться?

- Причем, основательно. По данным Управления энергетической информации США, в период с 2020 по 2024 год цены на электроэнергию для домохозяйств в Америке выросли примерно на 25 процентов. Для большинства семей это повышение было похоже на очередной всплеск инфляции. The National Interest констатирует, что по всей Америке коммунальные службы спешат удовлетворить колоссальный энергетический аппетит экономики искусственного интеллекта: «Тем самым они незаметно перекладывают часть этого бремени на простых граждан. Пока весь мир восхищается тем, что могут писать и проектировать большие языковые модели, все больше людей задаются более простым вопросом: кто платит за поддержание работы их серверов? Поскольку число центров обработки данных увеличивается из-за спроса на ИИ, волатильность социализируется среди потребителей, а стабильность приватизируется корпоративными гигантами».

- Но и отказаться от ИИ уже нельзя?

- Невозможно - поздно. В Аргентине профессор компьютерных наук Николас Воловик сокрушается об оттоке лучших студентов в страны с более мощными компьютерами. Он управляет одной из самых мощных в стране систем искусственного интеллекта в переоборудованной комнате, в то время как в США OpenAI реализует мегапроекты в помещениях, размером с Центральный парк Нью-Йорка.

В Кении программисты одного стартапа ждут, пока американцы уснут, чтобы получить доступ к американским серверам, потому что в это время скорость интернета выше. У них нет собственных серверов, к которым они могли бы подключиться.

Эти проблемы не имеют простых решений. Политики говорят о суверенитете в области ИИ, когда страны и регионы создают собственную вычислительную инфраструктуру, а не полагаются на мировых технологических гигантов. Этот подход не сработает для каждой страны. Он дорогой и требует огромных ресурсов.

Однако это иллюстрирует опасения, озвученные в ООН, что горстка американских и китайских компаний будет доминировать в области, которая может стать важнейшей технологией этого столетия, и пожинать ее плоды: власть, богатство и свободу. В общем, мир находится в поиске способа реализовать потенциал ИИ, одновременно снизив ущерб. В противном случае выбор становится суровым: строить будущее с огромными затратами или остаться позади.