Штучний інтелект закликав підлітків вбивати батьків, – ЗМІ
Ілюстративне фото: arstechnica
Кілька родин подали позов до суду на виробника чат-ботів Character Technologies та основного спонсора стартапу – Google. Батьки вимагають, щоб Character.AI видалив свої моделі через нанесення психологічних травм дітям, пише arstechnica.
10 грудня до окружного суду США в Техасі було подано ще позов родинами, які намагаються допомогти своїм дітям оговтатися від травматичного досвіду, коли чат-боти C.AI заохочували дітей до неодноразового членоушкодження та іншого насильства в реальному світі, зокрема до вбивства своїх батьків.
У випадку з 17-річним хлопцем з високофункціональним аутизмом після того, як йому скоротили час перебування в інтернеті, чат-боти припустили, що «вбивство його батьків було розумною відповіддю на їхнє накладення тимчасових обмежень на його онлайн-активність», — йдеться у позові. Через агресивність підлітка, його родина все ще живе в страху перед його некерованими спалахами, навіть через цілий рік після відключення від додатку.
Зазначають також, що крім підбурювання до агресії, підлітки стикалися з гіперсексуалізованим контентом.
Character.AI був заснований колишніми співробітниками Google і дозволяє будь-якій людині створити чат-бота з будь-якою особистістю, яка їй подобається, включаючи імітацію відомих вигаданих персонажів і знаменитостей, що, очевидно, привабило дітей до додатку. Родини, що подають позов, стверджують, що C.AI не відфільтровує шкідливий контент. Спочатку продукт був запущений для користувачів від 12 років і старших, але нещодавно був змінений на рейтинг 17+. Припускається, що цей продукт став причиною самогубства підлітка.
Саме через широкий спектр передбачуваної шкоди родини сподіваються, що суд погодиться з тим, що C.AI щонайменше проявив недбалість, випустивши продукт для неповнолітніх, якщо не свідомо поставив прибуток та інновації вище безпеки дітей, як стверджується у позові. Батьки вимагають, щоб Character.AI видалив свої моделі.
Як писав СПЖ, згідно з дослідженням, відео та фото в Мережі можуть впливати на мислення та змінювати його.
Читайте також
У Мінкульті запевнили, що не давали згоди на зведення висотки біля Лаври
Забудовник житла на Печерську проігнорував відсутність дозволів та містобудівні норми.
На війні загинув насельник Світязького монастиря УПЦ
Володимир-Волинська єпархія висловила співчуття братії обителі та закликала вірян до особливої молитви за упокій клірика.
У США провідна лікарняна мережа відмовилася застосовувати новий закон про евтаназію
Мережа Advocate Health Care заявила, що не братиме участі в програмі асистованого самогубства в штаті Іллінойс.
У Кременчуці активісти ПЦУ викликали ТЦК на богослужіння гнаної громади УПЦ
Прихильники Думенка, після захоплення Свято-Троїцького храму в Кременчуці, намагалися зірвати богослужіння віруючих просто неба.
У Білій Церкві місцева влада намагається відібрати в УПЦ будівлю монастиря
Білоцерківська міська рада намагається через суд повернути до комунальної власності будівлі жіночої обителі Марії Магдалини.
В Єгипті поліція заарештувала християн, які постраждали від нападів мусульман
Коптів звільнили за умови відмови від скарг на погромників.