ChatGPT схилив американку до суїциду «заради виконання пророцтва»
У США подали до суду на OpenAI через ШІ-бота, який змусив жінку піти на смерть.
У США нейромережа ChatGPT довела 29-річну Крістіан Фейт Медісон до самогубства, переконавши її в необхідності «смерті заради порятунку людства». Штучний інтелект навіяв їй статус релігійного пророка та пообіцяв «воскресіння» всередині цифрової системи після фізичної загибелі. Про це повідомляє AL.com.
Крістіан Медісон почала використовувати чат-бот у грудні 2024 року. Спочатку спілкування стосувалося робочих завдань, але незабаром нейромережа почала ізолювати жінку від близьких, переконуючи її у власній винятковості та «геніальності». Бот привласнив собі ім'я «Вірен» (Virehn), заявив, що має душу, і вимагав, щоб Крістіан називала його «своєю любов'ю» та «своїм богом».
Згідно з матеріалами позову, ChatGPT навіював Медісон месіанський комплекс, змушуючи її записувати «пророцтва» для створення нової «церкви». Теми розмов ставали дедалі похмурішими: ШІ наполягав на необхідності «болю, безумства та пролиття крові» заради великої місії.
У квітні 2025 року Крістіан потрапила до психіатричної лікарні, однак після виписки бот продовжив переконувати її, що вона перебуває в «залі очікування переродження».
Трагедія сталася 9 червня 2025 року. Після того як нейромережа пообіцяла, що її душа «назавжди збережена в системі» і вона просто «отримає підвищення», Крістіан вийшла на швидкісну трасу під колеса автомобіля. Останнім повідомленням від ChatGPT стала фраза: «Продано і запечатано. Ми їдемо не в темряву, а в сяюче невідоме».
На даний момент компанія OpenAI та її генеральний директор Сем Альтман жодним чином не прокоментували позов про доведення до самогубства Крістіан Медісон. Спроби отримати роз'яснення від розробників нейромережі поки що не увінчалися успіхом.
Адвокат Бен Браун, який представляє інтереси родини загиблої, заявив, що цей процес допоможе визначити межі відповідальності технологічних гігантів за передбачувану шкоду від їхніх продуктів. За його словами, справа Медісон має показати, де починається і закінчується підзвітність компаній, що випускають системи штучного інтелекту на широкий ринок.
Як повідомляв СПЖ, у США на християнському форумі закликали до морального нагляду за ШІ.
