Компанія Anthropic попередила про екзистенційну загрозу ШІ
Розробники Claude заявили про катастрофічну загрозу штучного інтелекту за відсутності механізмів захисту суспільства.
Американська компанія Anthropic, що розробляє чат-бот Claude, попередила про можливу катастрофічну та екзистенційну загрозу штучного інтелекту для людства в документах, підготовлених перед виходом на біржу. Про це повідомляє BBC.
У поданій заявці на первинне публічне розміщення акцій (IPO) на біржі Nasdaq керівництво компанії наголосило, що за відсутності жорсткого контролю, належних заходів безпеки та нагляду передові ШІ-системи створюють смертельну загрозу для людей.
Головні небезпеки пов’язані з імовірним зловживанням технологіями, перетворенням їх на автономну зброю або наданням системам надмірної самостійності, за якої вони зможуть діяти без контролю з боку людини.
Застереження підтримали фахівці самої компанії, а також незалежні дослідники та регулятори. Експерти й колишні працівники галузі підтвердили, що створення потужних алгоритмів випереджає розробку механізмів захисту, здатних убезпечити суспільство від шкідливих дій автономних агентів.
Раніше СПЖ писав, що Ілон Маск попередив про небезпеку надінтелекту ШІ для людства.
