Один промпт, конвейер или агент: как выбрать до того, как начали писать код

Свобода выбора пути стоит денег, задержки и предсказуемости

Три архитектуры решают перекрывающиеся классы задач, и разница между ними — в том, кто определяет последовательность шагов. В одном промпте последовательности нет вовсе. В конвейере её определяете вы на этапе разработки. В агенте её определяет модель во время выполнения. Каждый переход вправо добавляет возможностей и отнимает предсказуемость, поэтому решение принимают осознанно, а не по моде.

Признак, по которому проходит граница

Вопрос ровно один: известен ли граф шагов до запуска. Если для всех входов последовательность одна и та же, агент не нужен — вы просто отдали модели то, что могли записать в коде, и оплачиваете лишние вызовы и лишний риск. Если ветвлений мало и они перечислимы, это по-прежнему конвейер, только с условиями: пусть модель классифицирует вход, а маршрут выбирает код. Агент оправдан там, где число шагов и их порядок зависят от того, что обнаружится по дороге, и перечислить варианты заранее нельзя.

задача
 |-- ответ выводится из одного контекста?        -> один промпт
 |-- шаги фиксированы или ветвлений < 10?        -> конвейер (код решает маршрут)
 |-- порядок зависит от промежуточных данных
     и заранее не перечислим?                    -> агент (модель решает маршрут)

Цена перехода в числах

Полезно оценивать до реализации. Один промпт — один вызов, задержка секунды, стоимость предсказуема с точностью до длины входа. Конвейер из четырёх этапов — четыре вызова, задержка складывается, стоимость всё ещё известна заранее с точностью до процентов. Агент — от 3 до 30 вызовов на одну задачу, разброс стоимости между запусками на одинаковых входах в 5-10 раз, задержка от секунд до минут, и доля запусков, не дошедших до результата, редко бывает нулевой. Планируйте бюджет по 90-му перцентилю числа шагов, а не по среднему: именно хвост определяет счёт в конце месяца.

Гибрид почти всегда выигрывает

На практике чистый агент нужен редко. Обычная рабочая форма — конвейер, внутри одного этапа которого сидит короткий агент с двумя-тремя инструментами и лимитом в 5-8 шагов. Сбор данных, нормализация, запись результата остаются детерминированными, свободный поиск пути отдан только тому участку, где он действительно нужен. Такая система отлаживается по этапам, деградирует частично, а не целиком, и её стоимость предсказуема, потому что свобода локализована.

Шпаргалка

• Граница проходит по вопросу, известен ли граф шагов до запуска.
• Ветвления, которые можно перечислить, — это конвейер, а не агент.
• Бюджет агента считают по 90-му перцентилю числа шагов.
• Рабочая форма — конвейер с коротким агентом на одном этапе.