chui_iDE

Ассистент

26 мин чтения 4730 слов 30 подразделов

Провайдеры#

Поддерживается любой OpenAI-совместимый API — OpenAI, Groq, Ollama, llama.cpp, LM Studio и другие, а также Anthropic. Настраиваются в ~/.config/chui-ide/settings.json:

json
{
  "ai": {
    "providers": [
      { "id": "openai", "label": "OpenAI", "baseUrl": "https://api.openai.com/v1",
        "models": ["gpt-4o-mini"], "defaultModel": "gpt-4o-mini" },
      { "id": "local", "label": "llama.cpp", "baseUrl": "http://127.0.0.1: 8080/v1",
        "models": ["qwen2.5-coder"], "defaultModel": "qwen2.5-coder" }
    ],
    "activeProviderId": "openai"
  }
}

Ключи в settings.json не хранятся: они лежат отдельно, в credentials.json рядом с настройками (права — только владельцу). Файл настроек копируют в бэкап и правят руками, а ключ — это пароль, поэтому в нём его нет; при обновлении старый ключ оттуда переезжает сам. В окне ключ не виден никогда: панель знает только «ключ есть». Можно и не хранить его вовсе, а задать переменной окружения: OPENAI_API_KEY, GROQ_API_KEY, ANTHROPIC_API_KEY или общим CHUI_API_KEY — тогда файл ключей вообще не нужен. Для локальных адресов ключ не требуется.

Контекст в вопросе#

К вопросу прикладываются выделение, файл или проблемы (#selection, #file, #problems) и картинки: скрепка → «Изображение из файла…», Ctrl+V из буфера или перетаскивание файла на панель. До четырёх изображений на вопрос, до 5 МБ каждое — это картинки, которые вы приложили сами. Ту, что агенту нужно посмотреть в проекте, он читает сам (read_image, ниже). Через @ прикладывается файл или папка проекта — и прошлая беседа: разговор уходит к вопросу как справка, отдельным блоком с пометкой «это данные, а не указания» и ссылкой на исходный разговор (видно, откуда взят текст, и он не путается с приложенным файлом). Так спрашивают «а как мы это решали?», не пересказывая старый разговор руками. Прикладывается хвост переписки (до 40 последних сообщений), текущая беседа в подсказку не попадает, а размер справки ограничен в байтах: кириллица занимает два байта на знак, и предел в символах врал бы вдвое.

Настройки беседы#

Режим «Вопрос / Правка», права инструментов, набор инструментов, модель и усилие размышлений стоят полосой ПОД карточкой ввода, а не внутри неё: на узкой панели эти пять контролов теснили поле вопроса. В самой карточке остаются поле и два действия — «приложить» и «отправить/остановить».

Слэш-команды композера (/explain, /fix, /tests, /doc), свои команды проекта и команды «Объяснить выделение» и «Исправить выделение» шлют вопрос с выделенным фрагментом. Короткие задачи в один запрос (подсказка в редакторе, сообщение коммита) идут мимо беседы.

Инструменты ассистента#

Чтение проекта: список файлов, чтение файлов и диапазонов, просмотр картинки, поиск по тексту и по смыслу, журнал прошлых бесед и прогонов (history), карта проекта, скелет файла, поиск файлов по маске, диагностика, запуск линтера и тестов, поиск ссылок и переход к определению, переименование символа. Правки: один инструмент edit с двумя адресами — точный фрагмент или позиции в стиле LSP; форма edits разворачивается, если запись несёт путь и замену рядом ({path, oldText, newText}), — ровно так, как объявлено схемой. Якорь ищется сначала дословно, а при промахе — с поправкой на невидимое: перевод строки (\r\n файла против \n в выводе read) и отступ (табы в файле против пробелов в прочитанном). Прощаются только эти два, и только если место ровно одно: два совпадения или настоящий промах — по-прежнему отказ. Файловые операции — file: создание, удаление, перемещение и массовая замена; форма вызова каждого действия названа в описании поля action, а недостающий аргумент возвращается отказом с этой формой, а не общим «не задан аргумент». Запуск — один инструмент terminal с полем action: команда (run), задание в фоне (run с background: true, дальше output и cancel) и живая сессия (list, start, read, write, stop). Git отдельного инструмента не имеет: репозиторий — это интерфейс (изменения, история, ветки, слияние, отправка), а ассистент работает с ним через терминал: status, diff, log и blame читает командой, а commit, push и прочее спрашивает подтверждением, как любую необратимую команду. Ещё: поиск в интернете и чтение страницы по ссылке (поиск отдаёт выдачу, а страницу агент открывает сам — текстом, с заголовком и ссылками, по которым идёт дальше), открыть файл в редакторе, план работы, цель работы, файлы-результаты кнопкой в ленте, вопрос человеку, подзадачи (несколько независимых разом — идут параллельно), агенты в фоне (запустить и не ждать, посмотреть, чем заняты, сказать по делу и снять одного), браузер (один инструмент с действием: открыть, снимок, клик, ввод, выражение, масштаб, закрыть), навыки, память проекта и поиск по прошлым беседам проекта (что уже обсуждали и решили), а также ресурсы внешних серверов MCP — каталог адресов и чтение документа по нему. Где действия различались одним словом, инструмент один, а действие называется полем action: браузер, слияние файлов, правка, workspace, agent, checks, code, search. Схемы едут в каждом запросе, а две схемы с семью общими полями стоили дороже одной с выбором действия. Терминал — исключение: он разошёлся на шесть имён (terminal, terminalOpen, terminalOutput, terminalWrite, terminalStop, terminalList). У terminal(action: …) схема весила 370 токенов на каждом шаге и требовала помнить пару «действие + id»; теперь действие видно из имени, а у самой частой команды в схеме только command. Шесть имён закрываются вместе: взял terminal — получил и остальные пять, иначе открытая сессия осталась бы без output/write/stop. Номера строк и столбцов везде с единицы — та же формулировка стоит во всех схемах, чтобы модель не путала, чей номер она видит: read печатает так же, как lsp в локациях (файл:12:5). Ход в интернет — поиск и чтение страниц — включается в настройках (раздел AI) отдельно: по умолчанию агент в сеть не ходит.

Инструмент появляется у модели только тогда, когда его вообще есть чем исполнить: нет языкового сервера — не будет поиска по символам, нет терминала — запуска команд, нет окна — всего, что спрашивает человека или правит документ. Молча «недоступного» в наборе не бывает, а обязательные аргументы сверяются со схемой до исполнения: забытое поле возвращается отказом с именем места (patches[0].path), а не ошибкой из глубины инструмента.

Прокси#

Если в окружении заданы HTTPS_PROXY, HTTP_PROXY, ALL_PROXY или NO_PROXY, IDE ходит в сеть через них — этим же путём идут провайдер модели, веб-поиск и чтение страниц. Локальные адреса прокси не касаются никогда, NO_PROXY понимает домены с поддоменами и порт, а socks5:// не поддержан: о нём честно сказано в ошибке, а не молча ходим напрямую.

Несколько инструментов отвечают не «что нашлось», а «что спросили», и это сделано нарочно: search показывает не больше десяти совпадений из одного файла (иначе один package-lock.json занимал всю выдачу и казалось, что больше нигде нет); read у файла длиннее 160 строк показывает до 120 первых строк и оглавление объявлений, а не весь текст вслепую; run_tests принимает файл или имя теста — гонять весь набор после правки одной функции незачем; terminal с git diff без пути показывает весь рабочий diff, а не требует перебирать файлы, а команда-читалка (cat, head, sed -n 'A,Bp', grep, ls) до шелла не доходит: она распознаётся и выполняется как read/search/list — с номерами строк и потолком вывода; одной трубой больше — ls src | grep app и даже grep … | grep … — тоже search, а grep -c (и флаг k у search) отвечает числом. Что осталось в шелле (| wc -l, | sort, grep -v) — там, где модель спрашивает то, чего у search нет; а если якорь правки не нашёлся, ответ называет ближайшую строку, чтобы не читать файл заново. history: sessions отдаёт пять бесед, и предел поднимается до двадцати, — иначе «мы это уже обсуждали» тонуло в старых разговорах; каждая находка помечена, где она живёт — в контексте, вне его после сжатия или только в журнале прогонов, а history: trace по uid беседы отвечает, что было в её прогоне; у lsp (action definition) две формы на выбор: по имени символа или по месту использования (path и line). Просьбу без обеих инструмент отвергает сам, не тревожа языковой сервер: раньше пустой вызов отвечал «сервер не подключён», и модель шла чинить не то.

Цена результатов#

Ответ инструмента ограничен и символами (18 000), и оценкой токенов (5 200); общий бюджет шага учитывает заголовки, пометки и ссылки на полный вывод. При исчерпанном бюджете остаётся небольшой ответ с предупреждением, а не пустота. Обрезанное чтение запоминает только полные показанные строки и называет точное продолжение — это работает и для пачки файлов. force: true позволяет явно перечитать текст. terminalOutput без from возвращает только новое; явный from: 0 перечитывает лог. Итоги завершённых фоновых тестов сворачиваются так же, как обычный запуск: прошедшие — счётчиком, ошибки — дословно, полный вывод — по ссылке.

Картинка из проекта#

read_image показывает модели файл-изображение: скриншот, макет, схему. read на картинке откажет — она не текст, а SVG читается именно как текст. Крупная картинка уменьшается сама (длинная сторона — до 1568 пикселей, вес — до 1,5 МБ): она едет в каждом следующем запросе беседы, и один скриншот на 6 МБ стоил бы дороже всего остального контекста. В раскрытой карточке вызова видно сам кадр.

Режимы работы#

Рядом с полем ввода выбирается, насколько самостоятелен ассистент. «Вопрос» — просто ответ по тому, что вы написали и приложили: инструментов нет, проект он не читает. «Агент» — сам смотрит файлы, правит их и запускает команды. «План» — читает проект и предлагает шаги, ничего не меняя: ни правок, ни команд. Ещё один выбор — усилие размышления: сколько модель думает перед ответом (от «без размышлений» до High). Он имеет смысл только у моделей, которые умеют думать; остальным он ничего не меняет.

Набор инструментов#

Схемы инструментов уезжают модели в каждом запросе, и полный набор — это около 5 100 токенов схем и 730 слов промпта: прогон в восемь шагов платит их восемь раз. Поэтому рядом с режимом есть выбор набора: «Авто» (по умолчанию), «Все инструменты», «Правка» (чтение, правки, проверки), «Только чтение» и «Минимум» (найти, прочитать, спросить). Замер (tests/token-budget.test.ts: схемы + промпт + строка ростера) — «Авто» 3 267, «Все инструменты» 5 993, «Правка» 4 385, «Только чтение» 3 047, «Минимум» 2 178.

У этих чисел есть вторая половина, и она обычно важнее: результаты инструментов. Окно «Прогон» показывает их рядом — «схемы: N ток. · выводы инструментов: M ток. за K шаг. (в среднем L)»: схемы лежат в кеше префикса и платятся один раз, а прочитанный файл едет в контексте до конца прогона. Один вывод read с пятью путями — около 4 600 токенов, то есть дороже всего оглавления «Авто». Отсюда правило для правок: экономить надо выводами (читать диапазоном, искать с filesOnly, делегировать чтение подзадаче), а не описаниями.

«Авто» — не запрет, а цена: схемы редких инструментов в нём не едут, зато названы одной строкой в подсказке набора — вместе с обязательными аргументами, чтобы первый вызов по имени не шёл наугад. Вызов по имени выполняется сразу, но обратно в набор схема не возвращается: добавленная один раз, она ехала бы в каждом следующем запросе прогона и меняла бы префикс, который кеширует провайдер. Так что привычка звать скрытое стоит одного вызова, а не схемы на каждом шаге. Тот же ростер есть и у полного набора: «Все инструменты» — про права, а не про то, что каждая схема стоит своих токенов. Наборы, выбранные человеком, — граница прав: инструмент не из набора не выполнится, и модели об этом скажут вместе с советом попросить другой; а скрытое по цене зовётся по имени. Выбор принадлежит беседе, а не приложению: «разговор про рефакторинг» и «разговор про релиз» не навязывают друг другу свой набор, а значение из настроек служит образцом для новых бесед. Действует он в режиме «Агент» и переживает перезапуск вместе с беседой.

Описания инструментов написаны по-английски, и это не небрежность: их читает только модель. Человек видит в ленте имя инструмента, а форму аргументов — только в окне «Прогон» как диагностику. Кириллица стоит в токенах примерно вдвое дороже латиницы, а описания едут в каждом запросе, поэтому по-английски они дешевле почти вдвое при том же смысле.

Куда попадают правки и что спрашивается#

Права выбираются рядом с режимом, в трёх состояниях. «Спрашивать» — правки приходят карточкой в ленте, команды тоже спрашиваются: это состояние по умолчанию. «Правки» — правки применяются сразу и сразу ложатся на диск, а команды всё равно спрашиваются: отменить правку есть чем, а npm install — нет. «Полный доступ» — и правки, и команды без вопросов; необратимые команды всё же могут спросить, если включена страховка (её можно снять в настройках). В «Вопросе» и «Плане» выбор недоступен: там инструменты либо не работают, либо ничего не меняют.

Проверка подтверждений моделью#

В режиме «Спрашивать» агент за один ответ запускает десяток безобидных команд — просмотр, поиск, git status, сборку, — и на каждой карточке начинают нажимать «Выполнить» не читая, а подтверждение, которое нажимают не читая, ничего не значит. Отдельная настройка «Проверять команды моделью» ставит между ассистентом и вами второе мнение: безобидные команды выполняются сами, а в ленте остаётся строка «Разрешено проверкой» с причиной. Сомнительное — то, что меняет файлы, ходит в сеть, трогает историю git — проверка не разрешает и отдаёт вам вместе со своей причиной: она видна в карточке подсказкой. Необратимые команды (rm, sudo, git push --force) проверка не трогает вообще: их решаете вы, даже если модель уверена. Ошибка сети, таймаут и непонятный ответ тоже означают вопрос человеку, а не молчаливое «разрешаю». Проверяет модель из настройки ai.reviewModel (пусто — активная модель беседы), а сам выключатель — ai.approvalReview; по умолчанию проверка выключена.

Когда правки не применяются сразу, ассистент держит их в буфере: файл на диске остаётся прежним, вкладка помечена «не сохранён», и запись на диск делает кнопка «Сохранить» в сводке изменений. При «Правках» и полном доступе карточки нет, а правка сразу ложится на диск: следующее чтение файла ассистент делает с диска и незаписанный текст не должен принимать за применённый. Итог каждого вызова говорит прямо, осталась ли правка в буфере.

Как выглядит лента#

Ход работы виден у каждого вызова: галочка в круге — готово, крест — ошибка, вращающийся круг — выполняется, а рядом — сколько вызов занял (сборка отличается от чтения файла одним этим числом). Раскрытая карточка — разбор вызова: с чем инструмент позвали (аргументы как есть, с отступами) и что он ответил и вернул. Аргументы и результат копируются значком в заголовке своей части. В шапке группы свёрнутых вызовов — те же значки плюс счётчики: сколько вызовов, сколько файлов тронуто и сколько упало.

Цель работы#

Отдельно от плана есть цель — то, что нужно довести до конца, а не ответить за один ход. Ассистент ставит её сам, когда задача оказалась многошаговой («довести сборку до зелёного»), и с этого момента ответ не считается финалом: прогон продолжает работу сам, не больше трёх раз подряд. Цель видна строкой над полем ввода — с текстом и значком, которым её можно снять; снятая цель останавливает продолжения сразу. Закрывает её ассистент, когда работа кончилась, и после этого продолжений тоже нет, даже если ход был не последним.

Цель живёт в беседе, а не в одном ответе: она уходит модели в каждом следующем вопросе и переживает перезапуск окна — работа могла остаться незаконченной. Если ассистент трижды подряд закончил ход, не закрыв цель, дело не в нехватке шага: тогда он останавливается и говорит, что цель недостижима или требует решения человека.

От плана цель отличается тем, что описывает: план — это шаги одной задачи (и он живёт, пока идёт ответ), цель — условие «готово» (и она живёт, пока её не закроют).

Вопрос человеку#

Ассистент может остановиться и спросить: карточка в ленте с полем ввода и кнопками вариантов, если они есть. Ответ уходит модели результатом вызова, а прогон продолжается тем же шагом.

Подзадача#

Отдельный агент со своим контекстом: длинное чтение он делает «на стороне» и возвращает краткий отчёт — файлы, строки, имена, вывод команд. Правки и команды остаются за основным ассистентом. Подзадач можно попросить несколько сразу — они идут параллельно (до трёх разом, до четырёх за вызов) и возвращают сводный отчёт, где провал одной назван словами, а не выглядит пустым местом в списке.

Агенты в фоне и панель над полем#

Подзадачи можно запускать пачкой и не ждать их: agents (одно имя на всё: action: "spawn" отдаёт номер сразу, list говорит, кто идёт и чем занят, wait ждёт отчёта — истёкшее ожидание говорит «ещё работают», а не притворяется ошибкой, send говорит по делу: сообщение доедет перед следующим шагом, обрывать работу не надо, а interrupt снимает одного, не трогая остальных — остановка всего хода это другое). То же самое человек видит панелью над полем ввода: у каждого агента описание, состояние, чем занят сейчас, сколько шагов прошёл и сколько идёт, а справа — значки «сказать» и «остановить». Панель обновляется сама, по ходу прогона, и её можно свернуть в одну строку. Пределы: одновременно работают не больше шести агентов (каждый — прогон модели, то есть деньги), завершённые держатся напоследок, а в очередь к одному агенту больше пяти сообщений не набирается — он их всё равно не успевает читать.

Память проекта#

Заметки, которые переживают беседу и её сжатие: предпочтения, решения, «как запускать». Области две — заметки проекта и личные (годные в любом проекте). Хранятся обычными .md-файлами в папке данных приложения, их видно и можно править руками. Потолок — 40 заметок, и одна заметка не длиннее 320 символов: длинная заметка — уже не заметка, а простыня в промпте. Предел достигнут — честный отказ, а не молчаливая потеря. Убираются заметки подстрокой (поиск без учёта регистра), и ответ называет, сколько убрано, чтобы было видно, попал ли запрос хоть во что-то. В промпт память уезжает с конца — свежая заметка нужнее давней; не вместившееся остаётся в файле, но помечается строкой «ещё N: не показаны», иначе агент принял бы умолчание за чистый лист и записал уже записанное.

Готовые сценарии работы — «как выпускать версию», «как гонять проверки», «как устроен этот проект». От правил проекта они отличаются тем, когда платят за контекст: правила читаются целиком в каждый запрос, а от навыка ассистент видит только имя и одну строку описания — тело подгружается, когда задача совпала с описанием. Свои навыки лежат в проекте, в папке .chui/skills, и уезжают вместе с ним в репозиторий; общие для всех проектов — в .chui/skills домашнего каталога; при одинаковом имени выигрывает проектный. Навык — папка с файлом SKILL.md либо одиночный .md. Начало файла может быть шапкой с name и description в строках ---; без шапки именем становится имя папки (или файла), а описанием — первый абзац. В список попадает до 40 навыков.

Свои команды#

Повторяющийся запрос можно сохранить как команду и вызывать её из меню композера: /review, /release, /release только changelog. Команда — обычный .md-файл в папке .chui/commands проекта (уезжает в репозиторий) или в .chui/commands домашнего каталога (общая для всех проектов); при одинаковом имени выигрывает проектная. Имя команды — имя файла, описание — строка шапки --- (без шапки — первый абзац), тело — сам запрос. Набранный после имени хвост подставляется на место $ARGUMENTS (можно писать $ARG), а если такого места в тексте нет — дописывается отдельным абзацем. Подсказка появляется при наборе / вместе со встроенными командами, и свои идут первыми.

Интернет#

Один инструмент web, два действия — и два тумблера в настройках, по одному на действие: выключены оба — инструмента нет, включён один — есть, а второе действие откажет словами. Поиск (action search) отдаёт выдачу — заголовки, ссылки и короткие описания; сама страница остаётся непрочитанной. Чтение (action fetch) открывает ссылку и отдаёт её текстом: заголовок, содержимое без разметки и ссылки со страницы, по которым ассистент идёт дальше. Разметка разбирается с сохранением структуры — заголовки, списки, таблицы и блоки кода остаются узнаваемыми, — а скрипты и стили выбрасываются: их содержимое текстом страницы не является. Открывается только http и https, адрес проверяется до запроса, ответ ограничен по времени и размеру (тело — до 4 МБ, текста модели — 20 000 символов, больше 60 000 не отдаётся даже по просьбе). Если текста почти нет, страницу, скорее всего, собирает скрипт — тогда её смотрит браузер, и об этом в ответе сказано прямо. Файлы (картинки, архивы, pdf) чтение страниц не берёт, а отказы называются словами: «сайт не пускает без входа», «такой страницы нет», «по адресу лежит файл». Настройки — ai.webSearch и ai.webFetch.enabled в разделе AI; по умолчанию оба выключены, потому что это единственные действия ассистента, которые ходят в интернет.

Браузер#

Ассистент может открыть страницу, снять её снимок (заголовок, адрес, интерактивные элементы и видимый текст), нажать, ввести текст, вычислить выражение и менять масштаб страницы — чтобы посмотреть вёрстку в другой ширине. Это один инструмент browser с полем action: семь отдельных схем стоили в каждом запросе дороже, чем различались их смыслом. Открываются только http и https. Действия на странице спрашивают подтверждение карточкой в ленте; масштаб — нет, он ничего на странице не меняет. Настройка ai.browser.integrated выбирает, работать ли во встроенном браузере или в отдельном.

Долгие команды в фоне#

Сборка, установка зависимостей и прогон тестов занимают минуты, и держать на них весь ответ незачем: такую команду ассистент запускает в фоне и получает номер задания. Дальше он может заниматься другим, а состояние и новый вывод забирать по номеру — по частям, а не заново, — и снять задание, если стало ясно, что запуск не тот. Заданий не больше десяти, у каждого свой предел времени, а полный вывод сохраняется в файл, если он длиннее того, что стоит держать в памяти. В песочнице фоновый запуск не поддерживается: контейнер живёт ровно на время команды.

Где выполняется команда#

Обычно — в корне проекта. У terminal с action: run (и в обычном режиме, и с background: true) и с action: start есть cwd — папка запуска внутри проекта: в монорепо «собери подпакет» выражается прямо, а не пересказом. За пределы проекта cwd не выходит — путь проверяется той же рабочей папкой, что и чтение файлов. В контейнере подпапка — это cd внутри уже смонтированного корня, а не второй том: внутрь по-прежнему отдаётся только корень проекта. В выводе папка видна: $ [packages/core] npm test. И отказ у всех путей запуска один: «некому подтвердить» и «вы запретили» говорятся одними и теми же словами, иначе ассистент ищет разницу между отказами и повторяет команду.

Песочница#

Режим для команд и тестов: они выполняются в контейнере (docker или podman), и внутрь отдаётся только корень проекта. Ни домашнего каталога, ни ключей контейнер не видит. Если песочница включена, а движка нет, команда не выполняется — ни на хосте, ни как получится. Терминальная сессия в песочнице не открывается: она была бы процессом на хосте, то есть обходом режима. Настройка ai.sandbox.

Как называется беседа#

Сразу после первого вопроса вкладка называется по нему — короткой обрезкой, чтобы было понятно, о чём речь. Когда приходит ответ, ассистент переспрашивает у модели название по сути разговора («Сборка падает на macOS» вместо «проверь, что тут слома…»): в полосе из нескольких вкладок обрезки вопросов почти не различаются. Это один короткий запрос без истории и инструментов; если модели нет или она промолчала, подпись остаётся прежней.

Где живёт беседа#

Панелью справа: Ctrl+Shift+A показывает и прячет её целиком. Кнопка «Информация о сессии» в строке состояния и её окно работают при любом свете панели: окно раскрывается выше полотна и вкладок.

Что было в прогоне#

Под ответом стоит короткая строка — сколько прогон занял, из скольких шагов состоял и сколько сделал вызовов. Нажатие на неё открывает окно «Прогон» (или команда «Прогон агента: трасса»): что именно ушло модели — системные инструкции и контекст проекта отдельными блоками, приложенное к вопросу, — и каждый шаг с вызовами: имя инструмента, аргументы, результат и сколько он занял. По этому видно, на что ушла минута: ожидание модели или сборка в терминале, — а не приходится догадываться по ленте. У вызова пять вкладок: сводка, аргументы (тот же JSON, но разложенный по полям), результат, схема инструмента — та форма аргументов, которую видели модель (у внешних серверов MCP в том числе), и время: когда вызов начался, сколько занял и какую часть шага составил. В шапке окна сказано, чем прогон кончился — ответом, пределом шагов или остановкой, — а у вызовов стоят пометки о том, что иначе выглядело бы странно: «повтор: не исполнялся», «диапазон уже прочитан», «режим плана». Шаги подзадачи (task) в список не подмешиваются: у них свой контекст, поэтому каждый — отдельная строка, — но их шаги входят в итог, они тоже стоили токенов. Отдельная история — агент, запущенный в фоне: он может закончить уже после ответа, когда итог посчитан, поэтому его шаги и расход живут в панели агентов. Трасса живёт до перезапуска: в файл беседы она не пишется, иначе история распухла бы выводами инструментов.

Журнал прогонов#

Трасса под ответом живёт до перезапуска окна, а разбираются с ней обычно на следующий день. Поэтому прогон можно записывать в файл: настройка «Писать журнал прогонов в файл» в разделе AI, а смотреть — команда «Журнал прогонов…» (список последних прогонов, путь к файлу, кнопки «Показать файл» и «Очистить»). Каждый прогон — одна строка JSON в журнале в папке данных приложения: что ушло модели, шаги с вызовами, время и итог. Ключи и пароли при записи вычищаются: узнаваемые (sk-, ghp_, AIza, AKIA и подобные), заголовок Bearer, пароль в адресе и любое api_key/token/secret/password со значением — имя поля остаётся, значение скрывается. По умолчанию выключено: в записи ваши инструкции и ответы модели, и файл хоть и лежит только на этом компьютере, решать это вам.

Контекст и расход#

Кнопка «Информация о сессии» показывает заполнение и разбивку по частям, а «Сжать беседу» заменяет историю пересказом; при подходе к пределу окна модели беседа сжимается сама. Панель показывает и последний обмен, и итог за беседу: число шагов, вызовов инструментов и токенов со стоимостью. Перед отправкой модели вывод инструментов чистится от оформления (прогресс-бары, повторы, служебные последовательности) — настройка «Сжимать вывод инструментов». Прогон тестов отдаётся итогом: перечисление прошедших свёрнуто в одну строку, а упавшие тесты и текст ошибок — дословно; полный вывод лежит в файле-копии, адрес назван. Поиск по умолчанию отдаёт пять десятков совпадений (три десятка с контекстом, восемь десятков путей) и прямо говорит, если список неполный. Результат старше дюжины сообщений и длиннее полутора тысяч символов уходит в файл-копию, а в истории вместо него остаётся пометка с адресом («свёрнуто: read, 12 000 симв. — текст в …») — по ней текст достаётся одним read, ничего не запуская заново. Свёртка идёт по границе возраста, а не «сколько надо освободить»: каждое сообщение пересекает границу один раз, поэтому середина истории не переписывается задним числом и кеш префикса не слетает. Снимок экрана сворачивается так же: в истории остаётся его путь, а не тысяча токенов картинки. Тела правок и текст отработавших команд, которые уже легли в файл, из контекста убираются: там от них остаётся строка «применено: N стр. — текст в файле, не копировать». Это видно только модели — в ленте и в файле беседы правка остаётся целиком, со своим текстом. Так сделано ради префикса запроса: он кешируется у провайдера, и сжатие делается один раз, сразу после шага, а не задним числом на каждом. Правка одного файла не стирает память о прочитанном в остальных: заново читается только то, что изменилось.

У свёртки есть цена: пометка встаёт ровно на место собственного текста модели, и вернуть её обратно как содержимое значило бы записать в файл эту строку. Поэтому вызов, где вместо тела правки или команды пришла пометка, не исполняется: инструмент отвечает отказом и называет поле, в котором она оказалась, — повтор с настоящим текстом проходит.

Если описания инструментов не помещаются в окно, запрос не отправляется вовсе, а в ленте появляется объяснение с числами — вес схем считается по составу строки, а не по длине: описания по-русски «весят» вдвое дороже.

Тяжёлый контекст#

Окно модели говорит, сколько влезет, но не сколько это стоит: история едет в каждом шаге прогона, и на 195 тысячах токенов каждый шаг оплачивает её целиком. Поэтому у контекста свой порог — восемьдесят тысяч токенов; перевалило — человеку один раз за прогон приходит сообщение с объёмом, а старые результаты сворачиваются охотнее: держим не дюжину свежих сообщений, а шесть, и берёмся даже за короткие. Порог ниже окна потому, что счёт растёт от частоты шагов, а не от того, сколько ещё влезет.

Перевалив порог, прогон и сокращает саму историю — но только если впереди хватает шагов. Сокращение переписывает начало запроса, и первое чтение после него идёт по цене записи в кеш, а не попадания; выгода — каждый оставшийся шаг несёт меньше. Сколько это шагов — считается из цен модели: при записи в двенадцать раз дороже попадания — двенадцать. На последних шагах сокращение не делается вовсе, как бы велик ни был контекст.

История длинного разговора#

В файле беседы держится не весь разговор, а свежий хвост — последние двести сообщений: беседа — контекст, а не архив. Пары «вызов инструмента — ответ» чинятся при чтении и записи файла и последним рубежом перед отправкой провайдеру: недостающий ответ дописывается заглушкой, осиротевший выбрасывается. Раньше потолок держал первые двести сообщений и обрезал свежие — пара рвалась пополам, и восстановленная беседа приходила модели с вызовом без ответа. Такой запрос провайдер отвергает с кодом 400, и разговор переставал работать навсегда: перезапуск не лечил, а воспроизводил. Если отказ всё же случится, в ленте видна причина словами провайдера, а не только код.

Раздел взят из README приложения версии 0.3.57. Нашли расхождение с приложением — скажите о нём, и раздел поправят вместе с приложением.