Агент сделал в 3,3 раза больше ходов и потратил в 5,3 раза больше денег

Разработчик, опубликовавший материал на Habr, столкнулся с типичной проблемой при переводе AI-агента (программы, которая самостоятельно выполняет цепочку действий) из демонстрационной версии в промышленную эксплуатацию. В описанном кейсе агент должен был выполнить задачу за 30 шагов, но зациклился и сделал 100 ходов — в 3,3 раза больше запланированного. Каждый новый ход требовал перечитывания всей истории диалога, что привело к перерасходу средств в 5,3 раза относительно ожидаемого бюджета.

Дополнительная проблема возникла при сбоях: если процесс падал на 25-м ходе, а задачу запускали заново с нуля, стоимость возрастала на 81%, и все уже выполненные действия дублировались. Например, письмо клиенту могло уйти дважды. Это показывает, насколько критично для AI-агентов управление контекстом (историей общения с моделью) и обеспечение надёжности при повторных запусках.

Автор собрал практические приёмы, которые помогают отделить демо-агента от рабочего решения. Среди них — ограничение длины контекста, чтобы модель не перечитывала всю историю при каждом шаге, и использование внешних инструментов для хранения промежуточных результатов. Также рекомендуется внедрять проверки на каждом этапе, чтобы агент не застревал в циклах.

Для бизнеса и разработчиков, работающих с AI-агентами, этот кейс означает, что без контроля числа ходов и размера контекста (объёма данных, которые модель обрабатывает за один раз) затраты могут многократно превысить плановые. Важно заранее закладывать механизмы остановки при превышении лимитов и сохранять состояние задачи, чтобы при сбое не приходилось начинать с нуля. Это напрямую влияет на экономику внедрения ИИ-решений в реальные процессы.