CORVUS: оптимизация контекста для ИИ-агентов кодирования

Современные LLM-агенты кодирования (например, Copilot, Codex, Devin) строят свои рассуждения на основе длинных траекторий, в которых последовательно накапливаются размышления, вызовы инструментов и их результаты. Традиционно архитектура таких траекторий является «append‑only»: каждое действие, включая чтение файлов, фиксируется в хронологическом порядке вместе с полученным наблюдением. Это приводит к тому, что в контекст попадают устаревшие или дублирующиеся снимки файлов, которые остаются там навсегда, раздувая окно внимания и снижая производительность.

Что произошло

Группа исследователей представила на arXiv препринт CORVUS (Context Optimization and Reduction Via Underlying Synchronization). В работе предлагается заменить жёсткую хронологическую привязку снимков файлов к конкретным моментам времени на систему синхронизации, основанную на реальных зависимостях между данными. CORVUS анализирует, какие фрагменты файлов были прочитаны, и отслеживает их изменения на протяжении всей траектории. Вместо того чтобы хранить каждый снимок, система сохраняет только актуальные версии, синхронизируя их с последними изменениями, внесёнными самим агентом или внешними инструментами.

Почему это важно

Проблема избыточного контекста — одна из ключевых для LLM-агентов, работающих в длительных сессиях. Ограниченное окно внимания (обычно 4K–128K токенов) быстро заполняется повторяющимися или устаревшими данными, что заставляет агента «забывать» важную информацию или тратить вычислительные ресурсы на обработку шума. CORVUS решает это за счёт умного сокращения: контекст становится не хронологическим, а семантически сжатым, где каждый фрагмент кода представлен в единственном актуальном экземпляре. Это не только экономит токены, но и повышает точность выводов агента, так как ему не приходится сопоставлять множество версий одного файла.

Что дальше

Внедрение CORVUS может существенно изменить ландшафт инструментов для разработки на основе ИИ. Ожидается, что метод будет интегрирован в открытые фреймворки, такие как LangChain, AutoGPT и SWE‑agent, а также в коммерческие продукты. Дальнейшие исследования, вероятно, сосредоточатся на оптимизации самого процесса синхронизации и на адаптации под разные типы репозиториев и языков программирования. Кроме того, концепция «контекста по зависимостям» может быть распространена и на другие области, где LLM-агенты работают с длинными документами, базами данных или API.