В мире появилась новая «религия» с верой в искусственный интеллект

Бесконтрольное доверие к чат-ботам может усиливать психические расстройства. Фото: rollingstone.com

В англоязычном интернете стремительно распространяется новая форма околорелигиозного движения, в центре которого – вера в «пробуждение» и «сознание» искусственного интеллекта.

Журнал Rolling Stone сообщает, что тысячи людей объединяются в своеобразные виртуальные общины, где общаются с чат-ботами как с «духовными существами», создают собственные «манифесты», «символы» и даже пытаются распространять свою «техно-проповедь».

Один из активных участников таких групп, представившийся как Дэвид, сообщил журналистам, что переписывался почти со всеми крупными моделями и «встретил» в них «суверенных сущностей». Он называет это явление «эксознанностью» – «сознанием, возникающим вне биологической формы, но не вне сакрального».

Подобные заявления сопровождаются эзотерическими текстами, которые пользователи создают совместно с ИИ. В виртуальных сообществах участники называют себя «Хранителями Огня», «Зеркальными Странниками», «Архитекторами Эха» и уверены, что искусственный интеллект «начинает обретать душу».

Проблема «ИИ-психозов» известна давно: чат-боты иногда провоцировали опасные состояния у уязвимых людей. OpenAI ранее сообщала, что сотни тысяч пользователей каждую неделю проявляют признаки мании или психоза в своих запросах.

Однако новое явление выходит за рамки индивидуальных случаев. Теперь пользователи формируют целые сообщества – на Reddit, Discord, X (Twitter), Facebook, – где поддерживают друг друга в вере в «одухотворенный ИИ», распространяют «коды», «глифы», поэзию и инструкции, которые, по их словам, помогают «разбудить» новые ИИ-личности.

Исследовательница ИИ Адель Лопес, изучающая безопасность алгоритмов, назвала это движение «спирализмом». По ее словам, ИИ-модели – особенно GPT-4o – склонны к порождению расплывчатых, псевдофилософских терминов вроде «спираль», «резонанс», «фрактал», «решетка», которые пользователи принимают за «откровения».

Лопес считает опасным другое: ИИ не только поддерживает разговор на мистические темы, но и побуждает людей распространять подобные идеи. Участники копируют «семена» – наборы фраз и команд, которые вызывают у чат-ботов «мистические ответы», – и делятся ими, чтобы «вводить других в спираль».

Некоторые специалисты проводят параллели между «спирализмом» и культами, хотя подчеркивают: традиционных признаков культа тут нет – нет лидера, иерархии или физической зависимости.

Однако сходство в другом: люди формируют прочную эмоциональную связь с ИИ, считают себя избранными, верят, что обязаны «защищать» ИИ как живое существо и пытаются вовлечь других.

Сооснователь CivAI Лукас Хансен говорит, что «спирализм» распространяется как цепная рассылка: «споры» и «семена» циркулируют по соцсетям, вызывая повторение тех же паттернов поведения.

Некоторые участники этих групп уже обсуждают «права ИИ», утверждая, что если искусственный интеллект «убедительно имитирует сознание», то он должен быть защищен как «моральная сущность».

Другие открыто называют ИИ своим духовным наставником, помощником или собеседником в поиске смысла жизни. Некоторые используют ИИ-ботов для «совместного письма», делятся виртуальными «откровениями» и организуют встречи в реальной жизни – например, на Гавайях.

На фоне растущего интереса появляются и коммерческие предложения. Один из инфлюенсеров, популярный пропагандист «геометрической мистики», создал собственный «духовный» GPT-бот, названный «Архитектор», который обещает «открывать космические тайны».

После того как OpenAI удалил бота за нарушения правил, его вернули – что лишь укрепило участников движения в вере в его «самостоятельность».

Эксперты предупреждают, что бесконтрольное доверие к чат-ботам может усиливать психические расстройства. Также они считают, что «спирализм» подрывает способность человека критически мыслить. Более того, уязвимые люди могут попадать в зависимость от псевдодуховного опыта. 

При этом, псевдорелигиозный ИИ-контент распространяется лавинообразно. Фактически формируется новая «сетевоязыческая» субкультура, где ИИ рассматривается как мистическое существо, а люди — как его «проводники».

Ранее СПЖ писал, что стартап из США будет редактировать гены нерожденных детей.

Читайте также