Самосовершенствующийся ИИ — скорее лозунг, чем факт. Главное за неделю в ИИ

Аналитический центр red_mad_robot рассказывает и комментирует главные новости индустрии за неделю с 14 по 18 сентября

Tsinghua University, ByteDance и другие китайские ИИ-лаборатории выпустили обзор по рекурсивному самосовершенствованию ИИ (RSI) — сценарию, где ИИ использует опыт, чтобы менять собственные возможности и сам процесс улучшения. Прогресс предлагают оценивать по пяти уровням автономии:

L1 — человек задаёт цель, метод и критерии, ИИ исполняет.
L2 — цель и метрики внешние, но ИИ находит проблемы и решения.
L3 — ИИ сам определяет, какие данные и эксперименты нужны для цикла.
L4 — ИИ меняет собственную память, навыки, код или агентский harness и переносит изменения на будущие задачи.
L5 — ИИ модифицирует процесс развития и передаёт его в следующий цикл.

Из 491 проанализированной работы: ¾ систем пока ограничены L1–L2, где ключевые параметры контролирует человек. Только в 29 работах уровня L5 авторы не нашли устойчивого улучшения от поколения к поколению — главного доказательства того, что рекурсивный цикл действительно работает. Почему это важно: работа даёт картину того, где на самом деле находится RSI — и она резко расходится с риторикой вокруг темы. Во-первых, вместо расплывчатых заявлений «модель начала улучшать сама себя» появляется классификация с чёткими критериями. Во-вторых, это охлаждает алармистские сценарии быстрого роста интеллекта ИИ: если даже самые продвинутые кандидаты на L5 пока не демонстрируют поколение-за-поколением рост качества, разговоры о неконтролируемом самоускоряющемся ИИ пока остаются гипотезой и маркетингом, а не трендом. Экономисты из METR, Stanford, MIT, Epoch AI, Yale и других университетов предлагают экономический взгляд на вопрос, при каких условиях ИИ может запустить самоподдерживающееся ускорение собственного развития. Они представляют прогресс ИИ как цепь: улучшения в алгоритмах делают модели способнее, те помогают находить новые улучшения, а они создают ещё более сильные модели. Разгонится ли эта цепь, зависит от силы каждого звена. Модель строится постепенно: сначала простая петля с убывающей отдачей от открытий, затем добавляется промежуточное звено — способности ИИ, а также ограничения — человеческий труд, вычисления, данные. Если хотя бы один ресурс становится узким местом, петля слабеет. Отдельно учитывается экономическая петля: рост способностей ИИ повышает производительность и доходы, те финансируют новые чипы и данные, что снова питает развитие ИИ. Самоускорение наступает, только если суммарный эффект всех петель превышает определённый порог. Важное разграничение — узкие способности (напрямую помогают оптимизировать сами ИИ-исследования: код, эксперименты) и широкие (польза для экономики в целом — продукты, медицина, управление). Ускорение в узких задачах не гарантирует ускорения в широких: ИИ может быстро прогрессировать в оптимизации кода, но почти не продвигаться там, где мешают нехватка данных или регулирование. Почему это важно: по грубой оценке авторов, для самоускорения каждое улучшение способностей должно повышать продуктивность исследований примерно на 15%; реальная отдача сейчас — около 9%, ниже порога. Сейчас ИИ не в состоянии самоускорения, но отдача постепенно растёт, поэтому ускорение в будущем не исключено. Ещё два теоретических нюанса: даже полная автоматизация R&D не гарантирует «интеллектуального взрыва», если отдача от новых открытий убывает; а возможен временный «скачок роста», когда ИИ помогает только с лёгкими подзадачами, а затем упирается в потолок или в узкое место, которое не может улучшить сам.

Также на неделе:

Z.ai опубликовала отчёт о том, как GLM-5.3 оптимизировала инференс GLM-5.3-Flash, самостоятельно формулируя гипотезы о потерях производительности, исправляя код и проверяя результаты. Z.ai называет это первым шагом к RSI. Японская ИИ-лаборатория Sakana AI продемонстрировала PC-ALM — метод обучения нейросетей без классического обратного распространения ошибки, где каждый слой самостоятельно минимизирует ошибку предсказания как локальная динамическая система. Новая ИИ-лаборатория TypeSafe представила Jev — модель для структурированных решений внутри автоматизированных систем, которая вместо текста выдаёт заранее заданные значения с вероятностями. Модель отвечает за 70–500 мс, стоит $0,042 за млн входных токенов без тарификации выходных, а по заявлениям компании даёт ускорение в 193,6 раз и снижение стоимости до 444,6 раз относительно крупных LLM — её ниша не замена ChatGPT-подобных систем, а классификация и маршрутизация внутри программных процессов.