Инженерия · · 8 мин чтения
Cortex Loom: меньше токенов контекста, видимые пробелы
Пакет evidence под задачу может быть гораздо меньше копии папок. Бенчмарк также показывает, почему экономия токенов сама по себе не цель.
Coding-агенту часто нужен контекст репозитория, но копирование целых папок в prompt расходует токены на сведения вне текущей задачи. Cortex Loom — отдельный local-first проект — собирает ограниченный пакет evidence из фактов Weavatrix и показывает, какие заявленные требования покрыты, отсутствуют, противоречат друг другу или устарели.
Ключевое слово — evidence. Короткий пакет, пропустивший вызывающую функцию, от которой зависит баг, дёшев, но бесполезен. Cortex сохраняет происхождение фактов и видимые пробелы, чтобы агент мог запросить точечное расширение, а не слепо доверять сжатому резюме.
Что измеряет сокращение
В опубликованном probe из десяти задач наивный способ отобрал 403 238 оценочных токенов контекста для 40 заданных фактов. Cortex с проверенными окнами исходников отобрал 19 035 для тех же 40/40 фактов: на 95,3% меньше. По MCP было доставлено 22 936 токенов. Это бенчмарк конкретных задач и репозитория с оценкой четыре символа на токен, а не универсальная сумма в счёте модели.
Для отдельного вопроса к живому серверу подробная таблица бенчмарка указывает 79 040 токенов сессии при чтении файлов и 9 801 за один вызов Cortex context-profile; оба пути нашли четыре заданных факта. В сумму Cortex входят 454 токена схемы и 9 347 токенов ответа. Краткий README приводит другое число — 4 167, поэтому мы опираемся на явный учёт подробной таблицы и не смешиваем показатели. Это измерение конкретной задачи, а не гарантия для любого кода.
Почему дешёвый контекст может не помочь
Матрица coding-агентов даёт отрезвляющий пример: в одной задаче Grok использовал 809 468 токенов без Cortex и 40 403 с пакетом models-off Cortex, но класс завершения не улучшился — пакет в основном состоял из карт модулей. Короткий ответ без нужной детали реализации экономит расход, но может не исправить ошибку.
README проекта явно отделяет бенчмарк компилятора контекста от качества coding-агента. Ячейки, не выполненные из-за лимита сессии или 429, не оцениваются. Учёт затрат Claude Code и Cursor тоже устроен по-разному, поэтому их нельзя складывать в одно обещание экономии.
Связь с GrantTap
Будущая интеграция GrantTap могла бы отбирать контекст кода при смене execution, сохраняя revision и неизвестные факты видимыми. Текущий handoff capsule переносит ограниченные факты Task и git; это не утверждение, что пакеты Cortex уже доставляются между всеми провайдерами.
Cortex полезен при изучении незнакомых вызовов, контрактов и связей между файлами. Для крошечной правки в известном файле его собственная документация советует пропустить этот шаг. Надёжная система тратит контекст там, где он меняет следующее решение, и измеряет как полноту evidence, так и результат работы агента.
Сначала определите знаменатель
Процент сокращения имеет смысл, только когда сравниваемые величины имеют общую границу. Опубликованный probe из десяти задач сообщает оценку отобранных токенов контекста для двух подходов, покрывающих 40 заданных фактов: 403 238 при наивном отборе и 19 035 для подтверждённых окон Cortex. Указанные 95,3% относятся именно к этому показателю отбора. Это не обещание такого же снижения счёта модели, времени или расхода любой coding-сессии. Отдельно репозиторий указывает доставленный MCP envelope в 22 936 токенов.
Оценка построена на допущении четыре символа на токен. Оно помогает воспроизводимо сравнивать способы внутри probe, но отличается от точного tokenizer и биллинга провайдера. Поэтому единицы нужно оставлять рядом с числом: оценочные выбранные токены контекста в данном бенчмарке. Если убрать оговорку, аккуратно ограниченный результат превращается в рекламное обещание, которого источник не поддерживает.
Откуда другое число
Репозиторий описывает отдельный вопрос к живому серверу в подробной таблице. Чтение подходящих файлов заняло 79 040 токенов сессии; один вызов Cortex context-profile — 9 801, включая 454 токена схемы и 9 347 ответа. Оба пути нашли четыре заданных факта. Краткое резюме README приводит для Cortex число 4 167 без такого же явного табличного учёта. Статья выбирает подробную таблицу и прямо сообщает о расхождении вместо сложения несопоставимых цифр в более яркий ratio.
Это полезная привычка для любого отчёта об эффективности. Уточняйте, измеряется ли выбранный текст, доставленный payload, накладные токены схемы, вся сессия или сумма в биллинге. Совпадают ли tokenizer, задача и правило остановки? Если один вариант читает файлы, а другой вызывает инструмент, это интересное сравнение процессов, но рядом всё равно нужны определённая задача и цель по фактам. Ссылка на бенчмарк позволяет проверить детали.
Отбор не равен завершению
Пакет контекста может включать все заданные факты, но не помочь агенту сделать правильную правку. Матрица coding-агентов проекта содержит случай, где гораздо меньший пакет не улучшил класс завершения, потому что в нём преобладали карты модулей вместо деталей реализации. Именно такой результат скрывает график одних токенов. Инженерный вопрос — стало ли следующее действие точнее, проверяемее и полнее, а не только получил ли model меньше байтов.
Для надёжного сравнения задачу определяют до результата. Фиксируют revision исходников, необходимые факты, model и tool setup, размер контекста, действие с кодом и итог проверки. Не выполненные, отсутствующие и ограниченные rate limit прогоны называют своими именами. Ячейку без запуска нельзя превращать в нулевую оценку. Методы учёта провайдеров различаются, поэтому их стоимость нельзя складывать и ранжировать без общей границы.
Когда помогают окна исходников
Разработчику в незнакомом репозитории часто нужны несколько контрактов, callers и соседние детали реализации. Окно с привязкой к исходнику сохраняет путь от краткого контекста к точному файлу и строке, позволяя проверять утверждение. Это отличается и от копирования целой папки в prompt, и от веры в сгенерированный пересказ без опоры. Когда вопрос касается поведения между файлами, отбор подходящих окон может убрать шум, сохранив проверяемое evidence.
У метода есть пределы. Динамическое поведение, generated artifacts, внешние сервисы и устаревший index могут требовать прямого просмотра за пределами пакета. Для маленькой правки известного файла context compiler может быть вовсе не нужен; документация Cortex советует его пропустить. Отбор должен служить конкретному решению. Он никогда не должен мешать открыть дополнительный исходник, если пакет неполон или тест противоречит его картине.
Возможная связь с GrantTap
Поддерживаемый handoff GrantTap сейчас переносит ограниченные факты Task и git. Будущая интеграция могла бы выбрать контекст репозитория для принимающего execution, добавить revision исходника и явно показать неизвестное. Это направление проектирования, а не заявление о нынешнем cross-provider переносе Cortex packets. Телефон показывает причину handoff и место следующего решения; принимающему coding-агенту могут потребоваться более полные окна исходников на компьютере.
Разделение важно. Краткая видимая человеку запись Task и контекст кода для модели имеют разную аудиторию и разные риски. Первой нужны ясные полномочия, цель и статус. Второму — достаточно деталей реализации для правки и проверки. Безусловное сжатие любого из них способно выбросить решающий факт. Если evidence Cortex когда-либо включат в маршрут, пользу надо проверять по результатам реальных Tasks, а не выводить из отдельного процента экономии.
Как оценить на своём репозитории
Выберите несколько настоящих вопросов: найти caller, объяснить контракт, локализовать падающий путь и предложить узкое исправление. Запишите необходимые факты и критерии приёмки до запуска обоих способов. Сравните обычное чтение файлов и отбор окон на одной revision. Считайте выбранный и доставленный контекст отдельно; учитывайте накладные токены схемы и общий расход сессии, где это измеримо. Затем проверьте, найден ли нужный исходник и прошло ли изменение значимые тесты.
Первая сгенерированная картинка показывает отбор без чисел; вторая напоминает проверить coding-результат. Скриншот GrantTap ниже — детерминированный fixture архитектуры, а не интерфейс бенчмарка Cortex. Источниками чисел остаются опубликованный репозиторий и подробный отчёт. Практический вывод условен: экономный контекст полезен, когда сохраняет нужное evidence и улучшает реальное решение. Меньший пакет, после которого Task остаётся незаконченной, просто меньше.
