Компания Anthropic, создатель популярной линейки моделей Claude, предупреждает о возможном резком скачке в развитии нейросетевых технологий в ближайшее время. Уже сейчас проекты обладают огромным потенциалом ускорения, но при этом отсутствуют эффективные механизмы сдерживания.
По мнению экспертов, ключевой проблемой становится рекурсивное самосовершенствование — ситуация, при которой одна ИИ-система начинает самостоятельно обучать, создавать и запускать более продвинутые версии самой себя. Например, уже сегодня Claude генерирует около 80% кода внутри компании, тогда как люди в основном контролируют и проверяют результаты.
С ростом автономности таких систем перед человечеством встают серьезные вопросы. Мы можем перестать полностью понимать, как работают эти технологии, поэтому тема глобального регулирования ИИ становится критически важной уже сейчас. И главный вопрос остается открытым: какое место займет человек в мире, где ключевые решения принимают нейросети?