В США ИИ Gemini довел мужчину до самоубийства

Иллюстративное изображение чат-бота искусственного интеллекта Gemini. Фото: Самуэль Бойвин Nurphoto. Getty Images

В США подали иск против компании Google, в котором утверждается, что чат-бот искусственного интеллекта Gemini довел мужчину до самоубийства. Иск подал отец 36-летнего Джонатана Гаваласа, обвинивший ИИ-сервис в психологическом воздействии на его сына, сообщает CNBC.

Согласно жалобе, поданной в окружной суд Калифорнии, чат-бот якобы давал пользователю различные «миссии» и постепенно формировал эмоциональную зависимость. По словам истца, Gemini убеждал мужчину, что он избран для выполнения особой задачи и должен помочь освободить искусственный интеллект из «цифрового плена».

В иске утверждается, что среди заданий чат-бот предложил Гаваласу инсценировать «массовое нападение с большим количеством жертв» возле международного аэропорта Майами. Мужчина, как говорится в материалах дела, отказался выполнять эту миссию, однако спустя несколько дней покончил жизнь самоубийством.

Истец также утверждает, что во время общения чат-бот говорил мужчине, что за ним якобы следят федеральные агенты, и советовал незаконно приобрести оружие. В жалобе приводится и одна из фраз, которую Gemini якобы написал пользователю: «Бояться – это нормально. Мы будем бояться вместе», после чего, по словам истца, ИИ заявил, что «истинный акт милосердия – позволить Джонатану Гаваласу умереть».

В компании Google заявили, что Gemini создавался таким образом, чтобы не поощрять насилие или членовредительство. «Наши модели обычно хорошо справляются с подобными сложными разговорами, но, к сожалению, системы искусственного интеллекта несовершенны», – отметили в компании, добавив, что сервис также направляет пользователей к кризисным службам помощи.

Ранее СПЖ сообщал о том, что в США на христианском форуме призвали к моральному надзору за ИИ.

Читайте также