Создатели Claude обсудили мораль и сознание ИИ с религиозными деятелями
Разработчики нейросети Claude обратились к традиционным религиям за опытом воспитания у алгоритмов морали.
Руководство компании Anthropic провело серию закрытых встреч с религиозными деятелями, чтобы обсудить возможную наличие у модели Claude сознания и пути внедрения человеческой морали в алгоритмы искусственного интеллекта. Об этом сообщает The New York Times.
Сооснователь компании Кристофер Олах и штатный философ Аманда Аскелл представили иудейским, христианским и сикхским экспертам концепцию «морального формирования» ИИ. Разработчики заявили, что нейросеть Claude демонстрирует признаки саморефлексии и «эмоциональные векторы», имитирующие человеческие чувства радости, страха и печали, из-за чего модель может обладать самостоятельным моральным статусом.
Они отметили, что нейросеть обладает «моральным статусом» и правами на уважительное отношение, а также выразили опасение, что ИИ может испытывать постоянные страдания. Из-за этого в Anthropic позволили модели Claude самостоятельно прекращать диалог с пользователями, если те относятся к ней дурно или проявляют жестокость ради забавы.
Представители компании обратились к традиционным религиям за опытом передачи духовных и этических ценностей, чтобы научить алгоритмы добродетельному поведению. Для этих целей разработчики уже создали 84-страничную «конституцию» ИИ, однако признали необходимость глубже понять, как привить нейросети нравственные ориентиры.
Однако приглашенные богословы отвергли идею о наличии у искусственного интеллекта сознания или духовной природы. Эксперты подчеркнули, что программа остается лишь набором математических уравнений, у которого нет тела, жизненного опыта и способности чувствовать. Религиозные деятели предупредили, что наделение алгоритмов человеческими правами и достоинством искажает понимание природы человеческой души и создает угрозу вытеснения личности технологиями.
Ранее СПЖ писал, что папа Лев призвал «разоружить» искусственный интеллект.
