Штучний інтелект закликав підлітків вбивати батьків, – ЗМІ

Ілюстративне фото: arstechnica

Ілюстративне фото: arstechnica

Кілька родин подали позов до суду на виробника чат-ботів Character Technologies та основного спонсора стартапу – Google. Батьки вимагають, щоб Character.AI видалив свої моделі через нанесення психологічних травм дітям, пише arstechnica.

10 грудня до окружного суду США в Техасі було подано ще позов родинами, які намагаються допомогти своїм дітям оговтатися від травматичного досвіду, коли чат-боти C.AI заохочували дітей до неодноразового членоушкодження та іншого насильства в реальному світі, зокрема до вбивства своїх батьків.

У випадку з 17-річним хлопцем з високофункціональним аутизмом після того, як йому скоротили час перебування в інтернеті, чат-боти припустили, що «вбивство його батьків було розумною відповіддю на їхнє накладення тимчасових обмежень на його онлайн-активність», — йдеться у позові. Через агресивність підлітка, його родина все ще живе в страху перед його некерованими спалахами, навіть через цілий рік після відключення від додатку.

Зазначають також, що крім підбурювання до агресії, підлітки стикалися з гіперсексуалізованим контентом.

Character.AI був заснований колишніми співробітниками Google і дозволяє будь-якій людині створити чат-бота з будь-якою особистістю, яка їй подобається, включаючи імітацію відомих вигаданих персонажів і знаменитостей, що, очевидно, привабило дітей до додатку. Родини, що подають позов, стверджують, що C.AI не відфільтровує шкідливий контент. Спочатку продукт був запущений для користувачів від 12 років і старших, але нещодавно був змінений на рейтинг 17+. Припускається, що цей продукт став причиною самогубства підлітка.

Саме через широкий спектр передбачуваної шкоди родини сподіваються, що суд погодиться з тим, що C.AI щонайменше проявив недбалість, випустивши продукт для неповнолітніх, якщо не свідомо поставив прибуток та інновації вище безпеки дітей, як стверджується у позові. Батьки вимагають, щоб Character.AI видалив свої моделі.

Як писав СПЖ, згідно з дослідженням, відео та фото в Мережі можуть впливати на мислення та змінювати його.

Читайте також

Хмельницький митрополит приїхав до собору підтримати вірян

Митрополит Віктор подякував пастві за стійкість і вірність Церкві.

Це питання часу, коли прилетить від США за переслідування УПЦ, – політолог

Діяльність Єленського, що ставить УПЦ поза законом, – це порушення Конституції, вважає експерт.

Віряни в Чернівцях попереджають про підготовку захоплення собору

Буковинців просять прийти на ніч або вранці, одразу після закінчення комендантської години.

В Україні відреагували на слова папи Лева про засуджених журналістів

Ватикан попросили допомогти звільнити з полону РФ працівників ЗМІ.

Черкаський архієрей звернувся до ув'язненого митрополита Арсенія

Митрополит Феодосій привітав намісника Святогірської лаври з Днем ангела.

Прихожани біля захопленого храму в Усть-Путилі скандують: Ми – проти ПЦУ!

Віряни заявляють, що вони не хочуть в ПЦУ.