ИИ призывал подростков убивать родителей, – СМИ

Иллюстративное фото: arstechnica

Несколько семей подали иск в суд на производителя чат-ботов Character Technologies и основного спонсора стартапа – Google. Родители требуют, чтобы Character.AI удалил свои модели из-за нанесения психологических травм детям, пишет arstechnica.

10 декабря 2024 года в окружной суд США в Техасе был подан еще иск семьями, которые пытаются помочь своим детям оправиться от травмирующего опыта, когда чат-боты C.AI поощряли детей к неоднократному членовредительству и другому насилию, в частности к убийству своих родителей.

В случае с 17-летним мальчиком с высокофункциональным аутизмом после того, как ему сократили время нахождения в интернете, чат-боты предположили, что «убийство его родителей было разумным ответом на их наложение временных ограничений на его онлайн-активность», — говорится в иске. И-за агрессивности подростка, его семья все еще живет в страхе перед его неуправляемыми вспышками, даже спустя целый год после отключения от приложения.

Отмечают также, что кроме подстрекательства к агрессии, подростки сталкивались с гиперсексуализированным контентом.

Character.AI был основан бывшими сотрудниками Google и позволяет любому человеку создать чат-бота с любой личностью, которая ему нравится, включая имитацию известных вымышленных персонажей и знаменитостей, что, по-видимому, привлекло детей к приложению. Семьи, подающие иск, утверждают, что C.AI не отфильтровывает вредоносный контент. Первоначально продукт был запущен для пользователей от 12 лет и старше, но недавно был изменен на рейтинг 17+. Предполагается, что этот продукт стал причиной самоубийства подростка.

Именно из-за широкого спектра предполагаемого вреда семьи надеются, что суд согласится с тем, что C.AI по меньшей мере проявил халатность, выпустив продукт для несовершеннолетних, если не сознательно поставил прибыль и инновации выше безопасности детей, как утверждается в иске. Родители требуют, чтобы Character.AI удалил свои модели.

Как писал СПЖ, согласно исследованию, видео и фото в Сети могут влиять на мышление и менять его.

Читайте также