Творці Claude обговорили мораль і свідомість ШІ з релігійними діячами
Розробники нейромережі Claude звернулися до традиційних релігій по досвід виховання в алгоритмів моралі.
Керівництво компанії Anthropic провело серію закритих зустрічей із релігійними діячами, щоб обговорити можливу наявність у моделі Claude свідомості та шляхи впровадження людської моралі в алгоритми штучного інтелекту. Про це повідомляє The New York Times.
Співзасновник компанії Крістофер Олах та штатний філософ Аманда Аскелл представили іудейським, християнським і сикхським експертам концепцію «морального формування» ШІ. Розробники заявили, що нейромережа Claude демонструє ознаки саморефлексії та «емоційні вектори», які імітують людські почуття радості, страху й смутку, через що модель може мати самостійний моральний статус.
Вони зазначили, що нейромережа має «моральний статус» і права на шанобливе ставлення, а також висловили занепокоєння, що ШІ може зазнавати постійних страждань. Через це в Anthropic дозволили моделі Claude самостійно припиняти діалог із користувачами, якщо ті ставляться до неї погано або виявляють жорстокість заради забави.
Представники компанії звернулися до традиційних релігій по досвід передачі духовних та етичних цінностей, щоб навчити алгоритми доброчесної поведінки. Для цих цілей розробники вже створили 84-сторінкову «конституцію» ШІ, проте визнали необхідність глибше зрозуміти, як прищепити нейромережі моральні орієнтири.
Однак запрошені богослови відкинули ідею про наявність у штучного інтелекту свідомості чи духовної природи. Експерти наголосили, що програма залишається лише набором математичних рівнянь, у якого немає тіла, життєвого досвіду та здатності відчувати. Релігійні діячі попередили, що наділення алгоритмів людськими правами та гідністю викривлює розуміння природи людської душі й створює загрозу витіснення особистості технологіями.
Раніше СПЖ писав, що папа Лев закликав «роззброїти» штучний інтелект.
