О серьезных рисках искусственного интеллекта предупреждают работники OpenAI

OpenAI — американская научно-исследовательская организация, занимающаяся разработками в области искусственного интеллекта. Фото: Майкл Дуайер/AP

Нынешние и бывшие сотрудники OpenAI и Google DeepMind говорят, что «широкие соглашения о конфиденциальности не позволяют им высказывать свои опасения» по поводу «серьезных рисков» технологий, которые создают эти и другие компании. Об этом пишет Bloomberg.

«Пока за этими корпорациями не будет эффективного государственного надзора, нынешние и бывшие сотрудники являются одними из немногих людей, кто может призвать их к ответу перед общественностью», – говорится в публичном письме, которое подписали 13 человек, работавших в компании, семь из которых указали свои имена.

Отмечается, что в последние время OpenAI столкнулась с противоречиями по поводу своего подхода к защите искусственного интеллекта после роспуска одной из самых высокопоставленных команд безопасности и серии увольнений сотрудников. Их обязали подписать соглашение, которое, по сути, не позволяет выступать против ИИ-стартапа.

«Широкие соглашения о конфиденциальности не позволяют нам озвучивать наши опасения, за исключением тех самых компаний, которые, возможно, не решают эти проблемы», – говорится в сообщении.

Группа нынешних и бывших сотрудников OpenAI и Google DeepMind призывают к защите от возмездия за то, что они делятся опасениями по поводу «серьезных рисков» технологий, которые создают эти и другие компании.

В частности, Леопольд Ашенбреннер, экс-инженер OpenAI, написал 165-страничный документ, где утверждает, что к 2027 году мы достигнем AGI (ИИ, равный человеческому). Он также считает, что этот AGI быстрыми темпами сможет дорасти до уровня ASI (ИИ, превосходящий человеческий).

Как писал СПЖ, «Отец Иустин»: В РКЦ запустили приложение на основе ИИ для ответов о вере.

Читайте также