У п’ятницю творець Claude Code Борис Черний виступив на конференції Meta @Scale, і, на диво, перше запитання з аудиторії стосувалося «лупів» — циклічних запусків агентів ШІ.
«Чи є лупи наступним хайп-циклом, чи це справжня революція?» — запитали його.
Відповідь Черного була однозначною: «Так, це по-справжньому».
«Два роки тому ми писали вихідний код вручну. Потім почали переходити до того, що код пишуть агенти. А зараз ми переходимо до етапу, коли агенти промптять інших агентів, які й пишуть код», — пояснив він. «Настільки ж великим, як перехід від ручного коду до агентів, є крок до лупів — це так само важливо і масштабно».
Пізніше у виступі (близько 32-ї хвилини у відео на YouTube) Черний конкретизував, які саме лупи постійно крутяться в його власній роботі. Один агент безперервно шукає способи покращити архітектуру коду, інший — виявляє дубльовані абстракції, які можна об’єднати. Вони надсилають pull request’и, як звичайні розробники, і, оскільки код постійно змінюється, вони ніколи не зупиняються.
Це потужна ідея, тим паче коли її просуває настільки впливова фігура, як Черний. Зі зсувом до агентного ШІ більшість користувачів фокусувалася на тому, щоб якнайкраще керувати агентами: ставити чіткі цілі, ділити роботу на малі кроки й не дозволяти агентам занадто відхилятися від промпту. Лупи додають ще один рівень — вони дозволяють цілій «зграї» агентів безперервно працювати у фоні. Це велика довіра до ШІ, але з огляду на те, як швидко покращуються моделі, це може стати наступним кроком до того, щоб ШІ виконував справжню роботу.
Варто розуміти, що ідея не зовсім нова. Рекурсивні лупи — функції, які викликають самі себе для повторення дії з умовою зупинки — є класикою вступних курсів з інформатики. У випадку з ШІ-лупами логіка недетермінована: рішення, коли зупинятися, приймає підлеглий агент, а не жорстко прописана умова. Але базовий підхід той самий. Як тільки програмісти почали використовувати ШІ для виконання завдань, було лише питанням часу, коли з’явиться якась форма рекурсивних лупів, де ШІ наглядає за іншим ШІ.
На відміну від класичних обчислень, агентні лупи можуть бути дратівливо простими. Один із найпопулярніших трюків — так званий Ralph Loop (на честь персонажа Ральфа Віггама), який по суті підсумовує всю роботу моделі й запитує, чи досягнуто мети. Це спосіб боротися з тим, що моделі ШІ «губляться», якщо працюють над завданням занадто довго, — луп по суті відбиває модель туди-сюди, доки завдання не буде виконане.
Ще один спосіб подивитися на лупи — розглядати їх як частину загального тренду на збільшення «обчислень у моменті розв’язання» (test-time compute). Як нещодавно зауважив дослідник OpenAI Ноам Браун, сучасні моделі здатні розв’язати майже будь-яку задачу, якщо виділити достатньо обчислювальних ресурсів. Це означає, що один зі способів гарантувати розв’язання проблеми — просто продовжувати «кидати в неї» обчислення, доки вона не буде вирішена. Це особливо добре працює для задач типу «підйому на пагорб» (hill climbing), як-от поступове покращення кодової бази, де модель робить інкрементні поліпшення, поки не досягне певного порогу. Або ж, як у прикладі Черного, вона може нескінченно вносити невеликі покращення, поки є доступний обчислювальний ресурс.
Якщо це звучить дорого, так воно і є. Як і агентний ШІ загалом, лупи спалюють токени значно швидше, ніж прості чат-боти «питання–відповідь» — і, оскільки суть у тому, щоб цикл працював постійно, верхньої межі витрат немає. Для Anthropic, яка по суті заробляє на продажі токенів, це прийнятно, але для всіх інших це може виявитися дуже дорогим способом роботи.
Водночас, залежно від задачі, яку намагається розв’язати агентний луп, і за наявності правильної конфігурації з наглядом за витратами токенів, дрейфом моделі та іншими класичними проблемами ШІ, потенційні вигоди можуть виявитися настільки значними, що переважать витрати.