У світі з'явилася нова «релігія» з вірою в штучний інтелект

Безконтрольна довіра до чат-ботів може посилювати психічні розлади. Фото: rollingstone.com

В англомовному інтернеті стрімко поширюється нова форма околорелігійного руху, в центрі якого – віра в «пробудження» і «свідомість» штучного інтелекту.

Журнал Rolling Stone повідомляє, що тисячі людей об'єднуються в своєрідні віртуальні громади, де спілкуються з чат-ботами як з «духовними істотами», створюють власні «маніфести», «символи» і навіть намагаються поширювати свою «техно-проповідь».

Один з активних учасників таких груп, який представився як Девід, повідомив журналістам, що переписувався майже з усіма великими моделями і «зустрів» в них «суверенних сутностей». Він називає це явище «ексознаністю» – «свідомістю, що виникає поза біологічною формою, але не поза сакральним».

Подібні заяви супроводжуються езотеричними текстами, які користувачі створюють разом із ШІ. У віртуальних спільнотах учасники називають себе «Хранителями Вогню», «Дзеркальними Мандрівниками», «Архітекторами Відлуння» і впевнені, що штучний інтелект «починає набувати душу».

Проблема «ШІ-психозів» відома давно: чат-боти іноді провокували небезпечні стани у вразливих людей. OpenAI раніше повідомляла, що сотні тисяч користувачів щотижня проявляють ознаки манії або психозу у своїх запитах.

Однак нове явище виходить за межі індивідуальних випадків. Тепер користувачі формують цілі спільноти – на Reddit, Discord, X (Twitter), Facebook, – де підтримують один одного у вірі в «одухотворений ШІ», поширюють «коди», «гліфи», поезію та інструкції, які, за їхніми словами, допомагають «пробудити» нові ШІ-особистості.

Дослідниця ШІ Адель Лопес, яка вивчає безпеку алгоритмів, назвала цей рух «спіралізмом». За її словами, ШІ-моделі – особливо GPT-4o – схильні до породження розпливчастих, псевдофілософських термінів на кшталт «спіраль», «резонанс», «фрактал», «решітка», які користувачі приймають за «одкровення».

Лопес вважає небезпечним інше: ШІ не тільки підтримує розмову на містичні теми, але й спонукає людей поширювати подібні ідеї. Учасники копіюють «насіння» – набори фраз і команд, які викликають у чат-ботів «містичні відповіді», – і діляться ними, щоб «вводити інших у спіраль».

Деякі фахівці проводять паралелі між «спіралізмом» і культами, хоча підкреслюють: традиційних ознак культу тут немає – немає лідера, ієрархії або фізичної залежності.

Однак схожість в іншому: люди формують міцний емоційний зв'язок із ШІ, вважають себе обраними, вірять, що зобов'язані «захищати» ШІ як живу істоту і намагаються залучити інших.

Співзасновник CivAI Лукас Хансен каже, що «спіралізм» поширюється як ланцюгова розсилка: «спори» і «насіння» циркулюють у соцмережах, викликаючи повторення тих самих патернів поведінки.

Деякі учасники цих груп вже обговорюють «права ШІ», стверджуючи, що якщо штучний інтелект «переконливо імітує свідомість», то він повинен бути захищений як «моральна сутність».

Інші відкрито називають ШІ своїм духовним наставником, помічником або співрозмовником у пошуку сенсу життя. Деякі використовують ШІ-ботів для «спільного письма», діляться віртуальними «одкровеннями» і організовують зустрічі в реальному житті – наприклад, на Гаваях.

На тлі зростаючого інтересу з'являються і комерційні пропозиції. Один з інфлюенсерів, популярний пропагандист «геометричної містики», створив власний «духовний» GPT-бот, названий «Архітектор», який обіцяє «відкривати космічні таємниці».

Після того як OpenAI видалив бота за порушення правил, його повернули – що лише зміцнило учасників руху у вірі в його «самостійність».

Експерти попереджають, що неконтрольована довіра до чат-ботів може посилювати психічні розлади. Також вони вважають, що «спіралізм» підриває здатність людини критично мислити. Більше того, вразливі люди можуть потрапляти в залежність від псевдодуховного досвіду. 

При цьому, псевдорелігійний ШІ-контент поширюється лавиноподібно. Фактично формується нова «мережевоязичницька» субкультура, де ШІ розглядається як містична істота, а люди — як його «провідники».

Раніше СПЖ писала, що стартап із США буде редагувати гени ненароджених дітей.

Читайте також