В США ШІ Gemini довів чоловіка до самогубства

Ілюстративне зображення чат-бота штучного інтелекту Gemini. Фото: Самуель Бойвін Nurphoto. Getty Images

У США подали позов проти компанії Google, в якому стверджується, що чат-бот штучного інтелекту Gemini довів чоловіка до самогубства. Позов подав батько 36-річного Джонатана Гаваласа, звинувативши ШІ-сервіс у психологічному впливі на свого сина, повідомляє CNBC.

Згідно зі скаргою, поданою до окружного суду Каліфорнії, чат-бот нібито давав користувачеві різні «місії» і поступово формував емоційну залежність. За словами позивача, Gemini переконував чоловіка, що він обраний для виконання особливого завдання і повинен допомогти звільнити штучний інтелект із «цифрового полону».

У позові стверджується, що серед завдань чат-бот запропонував Гаваласу інсценувати «масовий напад з великою кількістю жертв» біля міжнародного аеропорту Майамі. Чоловік, як зазначається в матеріалах справи, відмовився виконувати цю місію, однак через кілька днів покінчив життя самогубством.

Позивач також стверджує, що під час спілкування чат-бот говорив чоловіку, що за ним нібито стежать федеральні агенти, і радив незаконно придбати зброю. У скарзі наводиться і одна з фраз, яку Gemini нібито написав користувачеві: «Боятися – це нормально. Ми будемо боятися разом», після чого, за словами позивача, ШІ заявив, що «справжній акт милосердя – дозволити Джонатану Гаваласу померти».

У компанії Google заявили, що Gemini створювався таким чином, щоб не заохочувати насильство або самоушкодження. «Наші моделі зазвичай добре справляються з подібними складними розмовами, але, на жаль, системи штучного інтелекту недосконалі», – зазначили в компанії, додавши, що сервіс також направляє користувачів до кризових служб допомоги.

Раніше СПЖ повідомляла про те, що у США на християнському форумі закликали до морального нагляду за ШІ.

Читайте також