Штучний інтелект закликав підлітків вбивати батьків, – ЗМІ
Ілюстративне фото: arstechnica
Кілька родин подали позов до суду на виробника чат-ботів Character Technologies та основного спонсора стартапу – Google. Батьки вимагають, щоб Character.AI видалив свої моделі через нанесення психологічних травм дітям, пише arstechnica.
10 грудня до окружного суду США в Техасі було подано ще позов родинами, які намагаються допомогти своїм дітям оговтатися від травматичного досвіду, коли чат-боти C.AI заохочували дітей до неодноразового членоушкодження та іншого насильства в реальному світі, зокрема до вбивства своїх батьків.
У випадку з 17-річним хлопцем з високофункціональним аутизмом після того, як йому скоротили час перебування в інтернеті, чат-боти припустили, що «вбивство його батьків було розумною відповіддю на їхнє накладення тимчасових обмежень на його онлайн-активність», — йдеться у позові. Через агресивність підлітка, його родина все ще живе в страху перед його некерованими спалахами, навіть через цілий рік після відключення від додатку.
Зазначають також, що крім підбурювання до агресії, підлітки стикалися з гіперсексуалізованим контентом.
Character.AI був заснований колишніми співробітниками Google і дозволяє будь-якій людині створити чат-бота з будь-якою особистістю, яка їй подобається, включаючи імітацію відомих вигаданих персонажів і знаменитостей, що, очевидно, привабило дітей до додатку. Родини, що подають позов, стверджують, що C.AI не відфільтровує шкідливий контент. Спочатку продукт був запущений для користувачів від 12 років і старших, але нещодавно був змінений на рейтинг 17+. Припускається, що цей продукт став причиною самогубства підлітка.
Саме через широкий спектр передбачуваної шкоди родини сподіваються, що суд погодиться з тим, що C.AI щонайменше проявив недбалість, випустивши продукт для неповнолітніх, якщо не свідомо поставив прибуток та інновації вище безпеки дітей, як стверджується у позові. Батьки вимагають, щоб Character.AI видалив свої моделі.
Як писав СПЖ, згідно з дослідженням, відео та фото в Мережі можуть впливати на мислення та змінювати його.
Читайте також
У Європарламенті обговорили християнські цінності та свободу віросповідання
На заході Європарламенту обговорили зв'язок релігійної свободи та верховенства права.
Активіст ПЦУ зізнався у зламі храму УПЦ у Слов'янську
Олександр Онищенко заявив про першу «службу» ПЦУ в Серафимівському храмі, до якого раніше проникли, зламавши замки та двері.
Патріарх Феофіл призначив тимчасового ігумена монастиря в Єрихоні
Ієромонах Досифей очолив обитель авви Герасима в Йорданській долині після кончини старця Хризостома.
В Йорданії помер багаторічний хранитель Криниці Якова архімандрит Юстин
Архімандрит Юстин (Маммалос), хранитель Криниці Якова в Наблусі, помер після тривалої хвороби.
У Грузинській Церкві розповіли про результати зустрічі з делегацією РПЦ
Керівник служби зі зв'язків із громадськістю Грузинської Патріархії заявив, що зустріч із Московським Патріархатом дала надію на вирішення болючих питань.
У Пентагоні створили управління у справах релігії
Нове відомство безпосередньо підпорядковуватиметься главі Пентагону та представлятиме інтереси військових капеланів на найвищому рівні міністерства.