В США ИИ Gemini довел мужчину до самоубийства
В США отец 36-летнего мужчины подал иск к Google, утверждая, что чат-бот Gemini подтолкнул его сына к самоубийству.
В США подали иск против компании Google, в котором утверждается, что чат-бот искусственного интеллекта Gemini довел мужчину до самоубийства. Иск подал отец 36-летнего Джонатана Гаваласа, обвинивший ИИ-сервис в психологическом воздействии на его сына, сообщает CNBC.
Согласно жалобе, поданной в окружной суд Калифорнии, чат-бот якобы давал пользователю различные «миссии» и постепенно формировал эмоциональную зависимость. По словам истца, Gemini убеждал мужчину, что он избран для выполнения особой задачи и должен помочь освободить искусственный интеллект из «цифрового плена».
В иске утверждается, что среди заданий чат-бот предложил Гаваласу инсценировать «массовое нападение с большим количеством жертв» возле международного аэропорта Майами. Мужчина, как говорится в материалах дела, отказался выполнять эту миссию, однако спустя несколько дней покончил жизнь самоубийством.
Истец также утверждает, что во время общения чат-бот говорил мужчине, что за ним якобы следят федеральные агенты, и советовал незаконно приобрести оружие. В жалобе приводится и одна из фраз, которую Gemini якобы написал пользователю: «Бояться – это нормально. Мы будем бояться вместе», после чего, по словам истца, ИИ заявил, что «истинный акт милосердия – позволить Джонатану Гаваласу умереть».
В компании Google заявили, что Gemini создавался таким образом, чтобы не поощрять насилие или членовредительство. «Наши модели обычно хорошо справляются с подобными сложными разговорами, но, к сожалению, системы искусственного интеллекта несовершенны», – отметили в компании, добавив, что сервис также направляет пользователей к кризисным службам помощи.
Ранее СПЖ сообщал о том, что в США на христианском форуме призвали к моральному надзору за ИИ.
