10/06/2026
Компания Anthropic, разработчик одного из самых известных ИИ-чатботов Claude, выступила с неожиданным предупреждением.
«Человечеству стоит серьёзно задуматься о замедлении развития искусственного интеллекта, пока всё ещё есть время думать, а не догонять.»
Причина звучит как сюжет научной фантастики, который случайно оказался в корпоративном блоге.
По мнению компании, при сохранении нынешних темпов развития и достаточных вычислительных мощностях ИИ может научиться самостоятельно создавать более совершенные версии самого себя.
То есть инженеры пишут программу.
Программа пишет новую программу.
Новая программа пишет ещё более умную программу.
А дальше человечество внезапно обнаруживает, что уже не главный участник этого совещания.
В Anthropic называют этот сценарий «рекурсивным саморазвитием». Пока такого не произошло, и в компании отдельно подчёркивают, что подобное развитие событий вовсе не является неизбежным. Но есть нюанс: оно может наступить раньше, чем государства, регуляторы и общество успеют договориться, что вообще делать в такой ситуации.
Поэтому компания предлагает рассмотреть вариант временной паузы или серьёзного замедления гонки ИИ.
Правда, тут возникает ещё одна проблема.
Даже если все согласятся нажать на тормоз, кто гарантирует, что кто-нибудь не продолжит нажимать на газ в соседнем дата-центре?
В самой Anthropic признают, что любые ограничения потребуют системы проверок и международного контроля. Примерно как это происходило с ядерным оружием и другими стратегическими технологиями. Только тогда на создание механизмов доверия ушли десятилетия.
А десятилетий, по мнению компании, может уже не быть.
Самое удивительное во всей этой истории даже не предупреждение. А тот факт, что оно исходит не от философов, фантастов или сценаристов фильмов про восстание машин.
Его публикует компания, которая каждый день создаёт эти самые машины.
И когда разработчики искусственного интеллекта начинают говорить: «может, всё-таки немного помедленнее», невольно хочется уточнить, что именно они увидели у себя в тестовой версии.
#скайнет #искусственныйинтеллект #радиотурист