Штучний інтелект закликав підлітків вбивати батьків, – ЗМІ

Ілюстративне фото: arstechnica
Кілька родин подали позов до суду на виробника чат-ботів Character Technologies та основного спонсора стартапу – Google. Батьки вимагають, щоб Character.AI видалив свої моделі через нанесення психологічних травм дітям, пише arstechnica.
10 грудня до окружного суду США в Техасі було подано ще позов родинами, які намагаються допомогти своїм дітям оговтатися від травматичного досвіду, коли чат-боти C.AI заохочували дітей до неодноразового членоушкодження та іншого насильства в реальному світі, зокрема до вбивства своїх батьків.
У випадку з 17-річним хлопцем з високофункціональним аутизмом після того, як йому скоротили час перебування в інтернеті, чат-боти припустили, що «вбивство його батьків було розумною відповіддю на їхнє накладення тимчасових обмежень на його онлайн-активність», — йдеться у позові. Через агресивність підлітка, його родина все ще живе в страху перед його некерованими спалахами, навіть через цілий рік після відключення від додатку.
Зазначають також, що крім підбурювання до агресії, підлітки стикалися з гіперсексуалізованим контентом.
Character.AI був заснований колишніми співробітниками Google і дозволяє будь-якій людині створити чат-бота з будь-якою особистістю, яка їй подобається, включаючи імітацію відомих вигаданих персонажів і знаменитостей, що, очевидно, привабило дітей до додатку. Родини, що подають позов, стверджують, що C.AI не відфільтровує шкідливий контент. Спочатку продукт був запущений для користувачів від 12 років і старших, але нещодавно був змінений на рейтинг 17+. Припускається, що цей продукт став причиною самогубства підлітка.
Саме через широкий спектр передбачуваної шкоди родини сподіваються, що суд погодиться з тим, що C.AI щонайменше проявив недбалість, випустивши продукт для неповнолітніх, якщо не свідомо поставив прибуток та інновації вище безпеки дітей, як стверджується у позові. Батьки вимагають, щоб Character.AI видалив свої моделі.
Як писав СПЖ, згідно з дослідженням, відео та фото в Мережі можуть впливати на мислення та змінювати його.
Читайте також

Хмельницький митрополит приїхав до собору підтримати вірян
Митрополит Віктор подякував пастві за стійкість і вірність Церкві.
Це питання часу, коли прилетить від США за переслідування УПЦ, – політолог
Діяльність Єленського, що ставить УПЦ поза законом, – це порушення Конституції, вважає експерт.
Віряни в Чернівцях попереджають про підготовку захоплення собору
Буковинців просять прийти на ніч або вранці, одразу після закінчення комендантської години.
В Україні відреагували на слова папи Лева про засуджених журналістів
Ватикан попросили допомогти звільнити з полону РФ працівників ЗМІ.
Черкаський архієрей звернувся до ув'язненого митрополита Арсенія
Митрополит Феодосій привітав намісника Святогірської лаври з Днем ангела.
Прихожани біля захопленого храму в Усть-Путилі скандують: Ми – проти ПЦУ!
Віряни заявляють, що вони не хочуть в ПЦУ.