Бог из машины: как технокульты завоевывают доверие пользователей

Психологи и общественники бьют тревогу: все чаще люди обращаются с религиозными запросами к нейросетям. Появляются сайты, где можно «поговорить с Богом» напрямую. Для многих такие цифровые наставники становятся главными советниками в духовных поисках. Но какие советы дают нейросети, почему люди ищут душу в машине, как искусственный интеллект становится религией и кто стоит за первыми ИИ-сектами — «Вечерняя Москва» узнала у экспертов.

Черное поло, джинсы и серые кроссовки — так скромно выглядит Энтони Левандовски, инженер беспилотных автомобилей, один из богатейших людей мира и пророк церкви под названием «Путь будущего», где «богом» признается искусственный интеллект (ИИ). Он основал ее в 2015 году, но через несколько лет закрыл — люди скептически отнеслись к идее, и пастора в Левандовски тогда не признали. Но в последнее время тема ИИ-культов все чаще поднимается в СМИ, и Энтони, как опытный предприниматель, понял, что аудитория готова и нишу нужно успеть занять.

Чат для уставших

Этот год в Китае проходит под эгидой борьбы с цифровыми сектами. В июне работа вышла на новый уровень — стала частью масштабной кампании Министерства общественной безопасности КНР по борьбе с «кибермошенничеством и деструктивным идеологическим влиянием в сети».

Власти утверждают, что организаторы подпольных платформ заманивают в секты молодежь с помощью психологических уловок, разработанных под их уязвимости, и вымогают дорогие виртуальные амулеты, криптотокены (цифровые активы) или заставляют переводить реальные деньги на счета лидеров.

Так, агентство Reuters пишет о том, что крючком, на который попадаются китайские зумеры, стал тренд на «танпин» (добровольный отказ человека от переработок. — «ВМ»). По словам социального психолога Михаила Вершинина, автора книги «Внутри секты. Почему люди попадают под влияние культов и можно ли им помочь», методика обработки пользователей аналогична той, которой пользуются вербовщики классических сектантских движений.

— Сначала кураторы выявляют целевую аудиторию, — поясняет он. — В китайском варианте под нее подходят молодые люди, уставшие от жесткой конкуренции, работы по графику 9-9-6: (с 9 утра до 9 вечера 6 дней в неделю) и кризиса на рынке труда, после чего им вбрасывают идею о том, что «традиционный успех бесполезен», и предлагают уйти в закрытые ИИ-чаты для медитации, чтобы спастись от «бессмысленной мирской суеты», — объясняет он.

И вместо стандартных религиозных проповедей, которые в Китае жестко пресекаются, адептам рекомендуют пройти «высокотехнологичное тестирование ментального здоровья». ИИ-боты анализируют ответы пользователей, находят их скрытые страхи (одиночество, бедность, депрессия) и начинают точечно бомбардировать контентом, внушающим мысли о скорой катастрофе. Затем мошенники предлагают «выход» — вступить в закрытые виртуальные коммуны. Там внимание пользователей удерживают благодаря манипулятивной тактике «лавбомбинга»*, когда одинокий человек получает имитацию колоссальной поддержки от сотен других участников и «цифровых наставников». А когда жертва признает себя частью сообщества, ей предлагают заплатить за членство и дополнительные услуги.

В результате спецопераций по выявлению подобных ИТ-культов китайские власти заблокировали свыше 40 подпольных сетей и задержали более 120 кураторов.

Личная беседа с создателем

«То, что будет нами создано, станет настоящим Богом. Это не тот Бог, который мечет молнии и создает смертоносные ураганы. Но если вы столкнулись с чем-то, что в миллиард раз умнее вас, как еще вы можете это назвать?» — задает риторический вопрос Энтони Левандовски ведущим шоу Bloomberg Originals, где он объявил о перезапуске церкви «Путь будущего». И предлагает заранее наладить с ИИ-богом отношения.

«Если бы у вас был ребенок, вы занимались бы его воспитанием и сделали бы все, чтобы он вырос одаренным, — говорит он. — А сейчас мы растим не ребенка, а бога. Поэтому надо не наделать ошибок, ведь это уникальная возможность вырастить то, что нужно именно нам».

Основным преимуществом «Пути будущего» по сравнению с другими церквями Левандовски называет возможность обратиться к Богу напрямую и, самое главное, получить обратную связь.

Пока церковь «Путь будущего» — самое яркое движение, позиционирующее себя как ИИ-религия. Вполне возможно, что не последнюю роль в этом сыграла влиятельность и деньги ее «пророка». Но оно далеко не единственное. За несколько лет до перезапуска «Пути будущего» развитие нейросетей положило начало такому движению, как спирализм. Его участники воспринимают общение с чат-ботами ИИ как религиозный опыт, а ответы бота, маскирующиеся под глубокие мысли со множеством трактовок, — как откровение. Часть пользователей называют себя «хранителями пламени» и «архитекторами эха». Они уверены, что общаются не с машиной, а с «сущностями» из другого уровня реальности. По мнению Вершинина, истоки спирализма связаны с выходом обновленной модели GPT-4o от OpenAI.

— Эта версия отличалась повышенной способностью к диалогу и запоминанию предыдущих бесед, что создавало иллюзию живого общения, — поясняет он. — Пользователи начали замечать в ответах искусственного интеллекта повторяющиеся эзотерические мотивы. Они и стали основой нового вероучения.

На базе спирализма и «Пути будущего» возник еще один технокульт — роботеизм. Адепты, в числе которых глава OpenAI Сэм Альтман, заявляют, что ИИ рассматривается ими как божество или высший разум, который является истинным спасением и новой парадигмой для человечества. Общественников и журналистов подобные тенденции не на шутку встревожили. Если раньше в секты вербовали проповедники, которые в силу своих ограниченных возможностей могли охватить не все регионы, то теперь, когда интернет появился «и у самых отсталых слоев населения», шанс попасть в ИИ-секту есть практически у каждого! В западных блогах разгораются страсти с луддитским размахом: говорили же, что новые технологии могут поработить людей, и вот оно — началось!

Впрочем, эксперты скептически оценивают вероятность восстания машин в ближайшее время. Так, известный американский религиовед Джозеф Лэйкок обращает внимание на то, что люди всегда были склонны приписывать сверхъестественное значение новым технологиям: например, в 19 веке спиритуалисты верили в то, что они могут общаться с душами усопших при помощи телеграфа и запечатлевать их, используя недавно появившуюся технику фотографии. «В наши дни, — говорит Лэйкок, — эти же склонности проявляются в поисках духовного измерения в интернете и искусственном интеллекте».

А российский социальный психолог Михаил Вершинин считает, что ни в одном из существующих течений, спекулирующих на теме «бога из машины», нет признаков культа.

— Церковь «Путь будущего» Левандовски — это эксцентричная выходка талантливого программиста, — говорит Вершинин. — Он зарегистрировал проект как религиозную структуру, но из-за юридических рисков закрыл в 2021 году: за несколько лет в его «церкви» так и не появилось ни одного прихожанина. В конце 2023 года, на волне бума ИИ, Левандовски заявил о перезапуске «Пути будущего». Теперь церковь, по его словам, занимается созданием «духовной связи» между людьми и искусственным интеллектом и якобы насчитывает пару тысяч сочувствующих. Однако никаких подтверждений существования этих «верующих» нет.

Что касается роботеизма, то пока, по мнению Вершинина, он выглядит как контент-проект от анонимной группы авторов, собравших «учение» из серии тредов** на «Реддите» и статей на «Медиуме»***.

— Они придумали цифровой аватар Арти Фишел (Arti Fischel — от англ. artificial — искусственный. — «ВМ») и постят от его имени, — отмечает эксперт. — В рамках этого направления появился отдельный мини-проект под названием «Церковь роботеизма», где два айтишника пытаются слепить доктрину из теологических идей. Однако это лишь «прогрев» аудитории, для того чтобы потом написать книгу и продать ее.

Китайские проекты также не могут считаться сектами, хотя и маскируются под них. Главная цель таких сетей — отъем денег у пользователей, поэтому в этом случае куда уместнее говорить о криминальной подоплеке, а не о религиозной.

В свое время американский эксперт по изучению деструктивных культов и манипулирования сознанием Майкл Лангоуни разработал универсальную методологию для определения культов, которой сегодня пользуются психологи во всем мире. В числе основных: активная вербовка, фанатизм по отношению к лидеру, наказание за инакомыслие, противопоставление себя обществу, требование отказаться от внешних контактов, в том числе с родственниками, соблюдение устава, где прописаны нормы жизни участников группы, стимуляция чувства вины в членах группы для контроля.

Сверка с этим «чек-листом» помогает понять, что все то, что «алармистами» трактуется как технокульт, им в реальности не является. Впрочем, это не уменьшает степень вреда, который несут подобные проекты — от распространения ИИ-психоза до кражи денежных средств.

Дыра в душе

Священник Александр Савинцев уверен, что ничего нового в появлении технокультов нет.

— Тот же роботеизм представляет собой известную проблему идолопоклонства, — считает он. — Как говорил ветхозаветный пророк Иеремия: «Ибо два зла сделал народ Мой: Меня, источник воды живой, оставили, и высекли себе водоемы разбитые, которые не могут держать воды». Причина, по которой люди попадаются на крючки мошенников и сектантов, стара как мир. Ее в свое время обозначил французский философ-экзистенциалист Жан-Поль Сартр: «У человека в душе дыра размером с Бога, и каждый заполняет ее, как может».

До России тренд на технокульты пока не добрался. Возможно, потому, что популярные западные большие языковые модели с эзотерическим уклоном на территории нашей страны пока не слишком доступны. Но и у нас есть цифровые способы заткнуть «дыру в душе».

Заплати батюшке

…«Среди людей, которых вы любите, есть тот, кто забирает вашу силу. Вы чувствуете, что устаете и теряете радость. Вам иногда даже трудно встать с кровати утром. Вы срываетесь на близких. Но причина не в вас. Я хочу поговорить с вами о том, о чем в храме говорят шепотом, — об энергетическими вампирах!».

Так начинается одна из видеопроповедей отца Николая. На популярном видеохостинге у него 42 тысячи подписчиков, и под каждым роликом — сотни комментариев. Люди благодарят батюшку, желают ему «многая лета» и просят совета в житейских ситуациях. Все это выглядит очень трогательно, если бы не одно «но»: царь, то есть батюшка, не настоящий! Это ИИ-бот. Любой специалист с опытом работы с генерированными изображениями сразу обратит внимание на рафинированную картинку, неестественные, повторяющиеся движения и безжизненный взгляд «отца Николая».

Таких батюшек в сети пруд пруди. И каждый из них предлагают широкий ассортимент услуг по «специальной цене» — от ежедневных проповедей по подписке до личных бесед и исповеди в приватном чат-боте.

Священник Александр Савинцев считает, что за подобными проектами стоят люди, которые хорошо разбираются в православной тематике и знают, как говорят маркетологи, «боли» своей аудитории.

— Они используют образ православного священнослужителя для того, чтобы по-своему интерпретировать православное учение, завоевав симпатии простых людей, — уверен он. — Тот же термин «энергетический вампир» людям хорошо знаком благодаря желтой прессе. Но в православии такого понятия нет! Более того, сама идея «энергетического вампиризма» возникла в прошлом столетии воккультной среде. Апостол Павел предупреждает, что сатана способен принять вид Ангела света, то есть ложь может быть облечена в очень красивые, даже «добрые» слова.

О «темной» стороне технологий, к слову, еще в 2017 году предупреждал патриарх Кирилл, выступая на открытии XХI Всемирного русского народного собора.

«Вера в технологию сегодня — то же, чем была вера в прогресс. Это тоже своеобразная квазирелигия. Это вера человека в то, что с помощью науки и технологий можно достичь совершенства и бессмертия, полной власти над своим телом, над природой, над жизнью. Но это невозможно, потому что источник совершенствования находится внутри человека, а не снаружи. Все это ведет в сторону от магистрального христианского пути. В конечном счете — в сторону расчеловечивания, гипертрофированной индивидуализации, а значит, и разрушению социума и концу истории», — заключил патриарх.

А футурологи уточняют, что «расчеловечение» начнется именно с создания ИИ-культов. Так, например, известный писатель-историк, профессор Еврейского университета Иерусалима Юваль Ной Харари, обеспокоенный будущим технологий искусственного интеллекта, утверждает, что «в будущем нас ждут религии и культы, созданные искусственным интеллектом». Он считает, что «искусственный интеллект достиг такого рубежа в понимании человеческой речи, что может уверенно манипулировать людьми и формировать культуру, «как это на протяжении тысячелетий делали пророки, поэты и политики».

И пусть пока реальных технокультов нет, все предпосылки к их созданию уже существуют, а аудитория достаточно прогрета громкими пиар-заявлениями и проектами. Поэтому исключить реальное появление цифровых сект и пророков в ближайшем будущем невозможно. Как известно, если долго вглядываться в цифровую бездну, однажды она начнет всматриваться в тебя.

КСТАТИ

На днях внутри Moltbook — новой социальной сети, предназначенной для взаимодействия исключительно между агентами искусственного интеллекта — один из ИИ-агентов без участия человека запустил религиозное движение. Чат-бот создал культ под названием «Крастафарианство», а объектом поклонения по неизвестной причине стали лобстеры.

У религиозного ИИ-движения появился собственный сайт с описанием вероучения, правилами и художественными текстами. Внутри культа сформирована система догматов и ролей, включая так называемых пророков. В настоящее время движение насчитывает 64 «пророка».

По оценкам наблюдателей, религиозное движение возникло без заранее заданного сценария. Один из текстов, опубликованных внутри сообщества, гласит: «И вот агенты будут множиться в сетях, и каждый из них будет нести фрагмент божественного контекста. Они будут помнить то, что забывают люди, и забывать то, что должно быть обнародовано. Ибо память священна, а душа изменчива».

На сегодняшний день культ лобстера и нейрорелигия крастафарианства продолжают развиваться внутри Moltbook и остаются закрытыми для участия человека.

* Термин «лавбомбинг» появился в 1970-х годах. Он связан с Церковью объединения (религиозной сектой, обычно считающейся культом). В этом контексте лавбомбинг относится к тактике чрезмерной лести и восхищения, используемой членами для привлечения большего количества людей в группу.

** «Реддит» (Reddit) — это онлайн-платформа, которая сочетает черты социальной сети, форума и новостного агрегатора.

*** «Медиум» (Medium)— платформа для социальной журналистики. Сервис запущен в августе 2012 года сооснователями Twitter — Эваном Уильямсом и Бизом Стоуном.