Штучний інтелект закликав підлітків вбивати батьків, – ЗМІ

Ілюстративне фото: arstechnica

Кілька родин подали позов до суду на виробника чат-ботів Character Technologies та основного спонсора стартапу – Google. Батьки вимагають, щоб Character.AI видалив свої моделі через нанесення психологічних травм дітям, пише arstechnica.

10 грудня до окружного суду США в Техасі було подано ще позов родинами, які намагаються допомогти своїм дітям оговтатися від травматичного досвіду, коли чат-боти C.AI заохочували дітей до неодноразового членоушкодження та іншого насильства в реальному світі, зокрема до вбивства своїх батьків.

У випадку з 17-річним хлопцем з високофункціональним аутизмом після того, як йому скоротили час перебування в інтернеті, чат-боти припустили, що «вбивство його батьків було розумною відповіддю на їхнє накладення тимчасових обмежень на його онлайн-активність», — йдеться у позові. Через агресивність підлітка, його родина все ще живе в страху перед його некерованими спалахами, навіть через цілий рік після відключення від додатку.

Зазначають також, що крім підбурювання до агресії, підлітки стикалися з гіперсексуалізованим контентом.

Character.AI був заснований колишніми співробітниками Google і дозволяє будь-якій людині створити чат-бота з будь-якою особистістю, яка їй подобається, включаючи імітацію відомих вигаданих персонажів і знаменитостей, що, очевидно, привабило дітей до додатку. Родини, що подають позов, стверджують, що C.AI не відфільтровує шкідливий контент. Спочатку продукт був запущений для користувачів від 12 років і старших, але нещодавно був змінений на рейтинг 17+. Припускається, що цей продукт став причиною самогубства підлітка.

Саме через широкий спектр передбачуваної шкоди родини сподіваються, що суд погодиться з тим, що C.AI щонайменше проявив недбалість, випустивши продукт для неповнолітніх, якщо не свідомо поставив прибуток та інновації вище безпеки дітей, як стверджується у позові. Батьки вимагають, щоб Character.AI видалив свої моделі.

Як писав СПЖ, згідно з дослідженням, відео та фото в Мережі можуть впливати на мислення та змінювати його.

Читайте також