Разработчик ИИ рассказал, когда эта технология может убить человечество

Джеффри Хинтон. Фото: www.theguardian.com

Британо-канадский ученый-компьютерщик, который был удостоен Нобелевской премии по физике в этом году, Джеффри Хинтон, считает, что искусственный интеллект может через 30 лет уничтожить человечество. 

Джеффри Хинтон, которого часто называют «крестным отцом» искусственного интеллекта заявил, что вероятность того, что ИИ приведет к вымиранию человечества через три десятилетия, составляет от 10 до 20 %, поскольку «изменения происходят быстро». 

Ранее Хинтон говорил, что вероятность того, что технология приведет к катастрофическому исходу для человечества, составляет 10 %.

Отвечая на вопрос в программе «Today» на радио BBC 4, не изменил ли он свой анализ потенциального ИИ-апокалипсиса и вероятность его наступления - один к десяти, он сказал: «Не совсем, от 10 до 20 %». 

Реагируя на слова Хинтона приглашенный редактор «Today» Саджид Джавид, сказать: «Вы идете вверх», на что Хинтон ответил: «Видите ли, нам еще никогда не приходилось иметь дело с вещами более умными, чем мы сами».

Он добавил: «Сколько вы знаете примеров, когда более разумное существо контролируется менее разумным? Таких примеров очень мало. Есть мать и ребенок. Эволюция приложила немало усилий, чтобы позволить ребенку контролировать мать, но это единственный пример, который я знаю».

По мнению Хинтона, люди будут похожи на малышей по сравнению с возможностями мощных систем искусственного интеллекта.

«Мне нравится думать об этом так: представьте себя и трехлетнего ребенка. Мы будем трехлетними детьми», – сказал он.

В прошлом году Хинтон получил известность, уволившись с работы в Google, чтобы более открыто говорить о рисках, связанных с неограниченным развитием ИИ. 

По его мнению, «плохие игроки» будут использовать эту технологию для причинения вреда другим людям. 

Одна из основных проблем, волнующих сторонников безопасности ИИ, заключается в том, что создание искусственного интеллекта общего назначения, или систем, которые умнее человека, может привести к тому, что технология будет представлять собой экзистенциальную угрозу, уходя от человеческого контроля.

Хинтон сказал, что темпы развития «очень, очень быстрые, гораздо быстрее, чем я ожидал», и призвал к государственному регулированию технологии.

«Меня беспокоит то, что невидимая рука не сможет обеспечить нам безопасность. Поэтому, если оставить все на усмотрение крупных компаний, они не смогут обеспечить безопасную разработку», – сказал он. 

«Единственное, что может заставить эти крупные компании проводить больше исследований в области безопасности, – это государственное регулирование», - считает профессор.

Ранее СПЖ писал, что по мнению Илона Маска, ИИ может стать умнее человека уже к концу следующего года.

Также, нейросеть Gemini вежливо попросила пользователя умереть из-за вредоносности и бесполезности человечества.

Читайте также