Компания Anthropic предупредила об экзистенциальной угрозе ИИ
Разработчики Claude заявили о катастрофической угрозе искусственного интеллекта при отсутствии механизмов защиты общества.
Американская компания Anthropic, разрабатывающая чат-бот Claude, предупредила о возможной катастрофической и экзистенциальной угрозе искусственного интеллекта для человечества в документах, подготовленных перед выходом на биржу. Об этом сообщает BBC.
В поданной заявке на первичное публичное размещение акций (IPO) на бирже Nasdaq руководство компании подчеркнуло, что при отсутствии жесткого контроля, надлежащих мер безопасности и надзора передовые ИИ-системы создают смертельную угрозу для людей.
Главные опасности связаны с вероятным злоупотреблением технологиями, превращением их в автономное оружие или наделением систем чрезмерной самостоятельностью, при которой они смогут действовать без контроля со стороны человека.
Предостережения поддержали специалисты самой компании, а также независимые исследователи и регуляторы. Эксперты и бывшие работники отрасли подтвердили, что создание мощных алгоритмов опережает разработку механизмов защиты, способных обезопасить общество от вредоносных действий автономных агентов.
Ранее СПЖ писал, что Илон Маск предупредил об опасности сверхинтеллекта ИИ для человечества.
