Добавлен GRAPH_ARCHITECTURE_v2.md (уточнения v1 после анализа скрипта записи в вике клиники: различение soft-insertion и hard-handoff, защита от петель через handoff_count, resumable state, guards в new_booking, подписка ветки на разделы вики как альтернатива отдельным коллекциям Chroma, per-step RAG, eval-набор до Спринта 5, разбивка Спринта 5 на 5a/5b). SPRINTS.md переработан: - Спринт 5 закрыт как «ядро v1» с явным списком того, что не вошло из v2. - Спринт 6 разбит на 6a (структурированный выход + intent_steps + валидатор переходов + exit_conditions_text + handoff_count + suspended/resumable) и 6b (soft-insertion + guards + reason в escalate_human + умный роутер + 8 ручных сценариев). - В каждом блоке — UI-чекпойнт и явное «что проверяем глазами», чтобы можно было смотреть результат после каждого шага, а не в конце спринта. - Мульти-RAG (Спринт 7) делается до мини-eval (Спринт 8), чтобы наборы в eval проверяли поведение уже с per-intent retrieval. - Зафиксированы 4 принятых решения: момент обновления current_step, cap на soft-insertion, сверка шагов new_booking с вики, формат структурированного выхода — JSON-блок в хвосте ответа. Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
49 KiB
Спринты — Chat Agent for Patients (инструмент настройки)
Поэтапный план MVP: RAG-ядро + веб-инструмент для настройки агента операторами. Подключение реальных каналов (приложение, МАКС) — вне скоупа, это задача другого разработчика.
Спринт 1. RAG-ядро, загрузка документов и тестовая страница
Цель
Поднять FastAPI-сервис с ChromaDB и сразу получить воспроизводимый «пайплайн в действии»: на одной тестовой странице видно, какие файлы загружены, можно задать одиночный вопрос от лица пациента и увидеть одновременно три вещи — какие чанки нашёл RAG, какой промпт собрался, какой ответ вернул DeepSeek. Аналог Debug UI из work-pcs-dr-cdss.
Статус: ⏳ Запланирован
Задачи
RAG-ядро:
- Инициализация проекта (main.py, config.py, requirements.txt, Dockerfile, docker-compose, .env.example)
- Переиспользовать паттерны из
work-pcs-dr-cdss:services/embeddings.py,vectorstore.py,document_processor.py,llm_client.py - Адаптировать чанкер под wiki-статьи (не клинреки)
Эндпоинты:
GET /health— статус, кол-во документов и чанковPOST /documents/upload— загрузка + превью первых 3 чанков в ответеGET /documents— список загруженныхDELETE /documents/{id}— удалениеPOST /query— одиночный вопрос от лица пациента → ответ + источники соscore+assembled_prompt(как RAG for Doctors, но без полей карты — только текст вопроса)
Тестовая страница (одна HTML-страница, vanilla JS):
- Шапка со статусом сервиса (auto-refresh
/health, счётчики документов и чанков) - Блок «База знаний»: drag & drop загрузка, таблица документов с превью первых чанков, кнопка удаления
- Блок «Тест-вопрос от пациента»: поле ввода вопроса, поле
top_k, кнопка «Отправить» - 3-колоночный результат ответа: релевантные фрагменты (текст + document, section, page, score) | собранный промпт | ответ LLM
Критерий готовности
- Оператор открывает
http://localhost:PORT/→ видит Debug UI со статусом сервиса - Загружает wiki-статью → она появляется в таблице, превью чанков отображается
- Пишет вопрос «как записать ребёнка к лору?» → получает ответ DeepSeek с указанием источников
- В средней колонке виден собранный промпт, в левой — какие чанки подтянулись со score
- Может удалить статью, счётчики в шапке обновляются
Спринт 2. Многошаговый диалог с памятью треда
Цель
Перейти от одиночного /query к полноценному диалогу: агент помнит историю, оператор ведёт разговор из 5+ реплик. Текущую страницу отладки (одиночный вопрос) оставляем без изменений, добавляем вторую отладочную страницу — «Песочница» со списком всех сохранённых диалогов.
Статус: ✅ Закрыт
Задачи
Хранилище:
- Стек: SQLite + SQLAlchemy 2.0 (async, ORM-стиль) + Alembic для миграций
- Таблицы:
threads(id, name, user_id nullable, agent_config_id nullable, created_at, updated_at)messages(id, thread_id FK, role, text, sources_json, assembled_prompt, created_at)- Колонки
user_idиagent_config_idзаводим сразу nullable — под будущие Спринты 3+ (мульти-пользователи, мульти-промпты), чтобы не тащить миграции задним числом
- Первая миграция Alembic с этими двумя таблицами
- Все диалоги сохраняются навсегда (никакого авто-удаления)
- Имя треда генерируется автоматически по первой реплике пациента + дата; оператор может переименовать вручную
Эндпоинты:
POST /chat— принимаетthread_id(или создаёт новый если не передан) +text→ возвращает ответ агента + источники со score +assembled_promptGET /threads— список всех диалогов (id, name, created_at, messages_count, превью первой реплики)GET /threads/{id}— тред целиком с историей сообщенийPATCH /threads/{id}— переименовать тредDELETE /threads/{id}— удалить тред со всеми сообщениями
Сборка ответа:
- Базовый системный промпт (хардкод для старта): роль агента, тон клиники, что можно и нельзя
- Сборка контекста для LLM: системный промпт + история треда + RAG-чанки по последней реплике
Веб-интерфейс:
- В шапке обеих страниц — ссылки «Отладка» (текущая
/) / «Песочница» (новая/sandbox) - Текущий
static/index.htmlостаётся без изменений - Новая страница
static/sandbox.htmlна отдельном маршруте/sandbox:- левая колонка — список сохранённых диалогов: превью, дата, кнопка «переименовать», кнопка «удалить», кнопка «новый тред»
- центральная колонка — сам чат (оператор пишет как пациент, видит ответы агента, история подгружается при клике на тред из списка)
- правая колонка — retrieved-чанки со score + собранный промпт по последней реплике
Критерий готовности
- Оператор может провести диалог из 5+ реплик, агент помнит контекст
- Все диалоги сохраняются и видны в левой колонке после перезагрузки страницы
- Оператор может открыть старый диалог, переименовать его, удалить
- В правой колонке видно, что нашёл RAG и что улетело в LLM на последнем шаге
- Старая страница отладки (
/) работает как раньше, ничего не сломано
Спринт 2.5. Доработки после пилота Спринтов 1–2
Цель
Закрыть технический долг, накопленный за первые два спринта: почистить чанки от markdown-мусора, сделать ответ агента читаемым в UI, подготовить системный промпт к вынесению в редактор (Спринт 3) и навести порядок в логах и README.
Статус: ✅ Закрыт
Задачи
Качество RAG:
- Почистить чанки: убрать markdown-ссылки
[текст](url), блоки навигации**Вернуться на:**, дубликаты меню - Эндпоинт
POST /documents/{id}/reindex— переразметить существующий документ с новыми правилами чанкера (без повторной загрузки файла — но у нас пока нет хранения исходников, поэтому надо хранить исходный текст в метаданных чанков или сохранять оригинал приupload); решение по способу — в рамках задачи - Эндпоинт
POST /documents/reindex-all— прогнать переиндексацию по всей базе
UI:
- Markdown-рендер ответов ассистента в «Песочнице» (жирный, курсив, списки, код); реплики пациента оставить plain text
Системность:
- Вынести системный промпт из
services/llm_client.pyв отдельный файл (например,prompts/system_prompt.md), загружать при старте — задел под Спринт 3 - Привести логи в порядок: настроить root-logger так, чтобы
logger.exceptionписался в stderr/файл; не ломать uvicorn access/error - Обновить
README.mdпод текущее состояние: две страницы,/chat+/threads, SQLite + Alembic, как запустить и как мигрировать
Критерий готовности
- Загружаем свежую wiki-статью → в её чанках нет markdown-ссылок и блоков «Вернуться на:»
- На «Песочнице» ответ агента рендерится с жирным/курсивом/списками
- Системный промпт хранится в отдельном файле, правится без трогания кода
- При ошибке в
/chatв логах виден читаемый traceback - README описывает актуальное состояние (две страницы, эндпоинты, запуск, миграции)
Спринт 3. Настройки агента: системный промпт и правила
Цель
Дать операторам веб-редактор системного промпта и списка правил («если спрашивают про X — отвечай так-то», «если пациент злится — делай то-то»). Версионирование: можно сохранить конфигурацию и откатиться.
Статус: ✅ Закрыт
Задачи
- Хранилище (SQLite):
agent_configs(version, created_at, system_prompt, rules_text, is_active) - Эндпоинты:
GET /configs,POST /configs(создать новую версию),POST /configs/{id}/activate - Песочница использует активную версию при каждом
/chat - Веб-страница «Настройки агента»:
- редактор системного промпта (textarea)
- редактор правил (отдельным блоком; на старте — просто textarea, позже — список записей)
- кнопка «Сохранить как новую версию»
- список версий с кнопкой «Сделать активной» и пометкой активной
- Показ активной версии в шапке песочницы
Критерий готовности
- Оператор меняет промпт → сохраняет как v2 → активирует → тестирует в песочнице → при желании откатывается к v1
- Правила реально влияют на ответы агента (проверяется вручную через песочницу)
Архитектурный разворот после Спринта 3 (2026-04-23)
После пилота Спринтов 1–3 решили уходить от одного «мега-промпта» ко графовой архитектуре: роутер намерений + изолированные ветки + state machine + exit conditions. Подробности — в GRAPH_ARCHITECTURE.md.
Принятые решения по открытым вопросам:
- Фреймворк оркестровки: пишем вручную на Python. LangGraph/n8n не берём — проект компактный, свой стек работает, не тянем лишних зависимостей.
- Модель для роутера: остаёмся на DeepSeek, но
RouterClientделаем отдельным классом отLLMClient— потом сменим модель в одном месте, если станет дорого. - Exit conditions: свободный текст в промпте ветки + независимый роутер на каждой реплике. Если ветка пропустит триггер — роутер подстрахует.
- Эскалация на человека: одна ветка
escalate_humanс полемreason(acute_pain/surgery/angry/explicit_request). Отдельная маршрутизация «куда именно» — задача смежного разработчика при подключении каналов. - Confidence score: не тянем в первый спринт. Роутер всегда возвращает один из intent'ов, при сомнении —
general_info. После первого живого прогона посмотрим на реальные ошибки.
Старые Спринт 4 (сценарии) и Спринт 5 (экспорт) не удалены — они переехали в Спринт 7 с дополнением под граф (прогон сценариев проверяет маршрутизацию, экспорт — снапшот графа).
Спринт 4. Фундамент графа — intents + роутер + переключение веток
Цель
Заменить «один активный промпт на всё» на «свой промпт на каждую ветку + роутер выбирает ветку на каждой реплике». Это первый шаг к графовой архитектуре из GRAPH_ARCHITECTURE.md.
Статус: ✅ Закрыт
Задачи
Данные:
- Новая таблица
intents(code, name, description, is_enabled, order_index) - Миграция Alembic + в
agent_configsдобавитьintent_id(nullable для обратной совместимости) - Сид при первом запуске: 6 стартовых веток —
new_booking,reschedule,price_question,medical_question,general_info,escalate_human - Перенос текущего v1 конфига в ветку
general_infoкак стартовый промпт
Роутер:
services/router_client.py— отдельный класс под DeepSeek, методclassify(history, text) → intent_code- Короткий промпт-классификатор с фиксированным перечнем категорий
- При сомнении возвращает
general_info(без confidence score на этом спринте)
Оркестрация:
- В
chat_service.send_message: сначалаrouter.classify()→ активный конфиг выбранной ветки →llm.chat()с этим промптом - В таблице
messagesсохраняетсяintent_idкаждого обмена
API:
GET /intents— список ветокPATCH /intents/{code}— включить/выключитьPOST /configsпринимаетintent_id; создание новой версии — всегда в рамках ветки
UI:
- «Настройки»: слева список веток, справа редактор промпта/правил активной версии выбранной ветки
- В «Песочнице» в отладке показывать: решение роутера + выбранный intent + какая ветка ответила
Критерий готовности
- «У меня острая боль» →
medical_question - «Сколько стоит приём» →
price_question - «Как доехать» →
general_info - В отладочной панели «Песочницы» виден intent и какая ветка дала ответ
- Для каждой ветки можно отдельно править промпт и сохранять версии
Спринт 5. State machine + exit conditions (bouncing)
Цель
Научить ветки вести многошаговые скрипты и бесшовно передавать тред в другую ветку, если пациент сменил тему.
Статус: ✅ Закрыт (ядро; дотяжка до GRAPH_ARCHITECTURE v2 — в бэклоге)
Задачи
Данные:
- Таблица
thread_state(thread_id, current_intent_code, current_step, slots_json, updated_at) + миграция Alembic (batch-режим под SQLite)
State machine (первая ветка — new_booking):
- 6-шаговый скрипт: приветствие → повод → специалист → удобное время → подтверждение → запись
- Модель на каждой реплике видит блок
[ТЕКУЩЕЕ СОСТОЯНИЕ]сstepиslots - Переход шагов управляется служебным тегом
[STATE: step=N; slots={...}]в ответе модели (строковый тег, парсится балансировкой фигурных скобок)
Exit conditions и bouncing:
- В промпт
new_bookingдобавлен блок условий выхода с сигналом[INTENT_CHANGE: <code>] - Парсер в
services/chat_service._parse_assistant_signalsвырезает служебные теги из ответа - Bouncing: одна итерация (
MAX_BOUNCES=1) — ветка может передать управление другой, делаем повторный вызов LLM - Роутер на каждой реплике: если классификация ≠
thread_state.current_intent_code→ сбросstepиslots
UI:
- В «Песочнице» блок «Состояние треда»: intent, шаг, слоты (JSON), список переходов в текущей реплике
- В отладке роутера — пометка, если ветка «передала управление»
Критерий готовности
- Сценарий new_booking проходит: ФИО → повод → специалист → время → подтверждение собираются в
thread_state.slots - Переключение ветки через роутер: «Сколько стоит приём?» внутри записи → state сбрасывается в
price_question - В отладке видна вся цепочка: роутер-intent, served-intent, шаг, слоты, переходы
Что НЕ вошло в этот спринт (по сравнению с GRAPH_ARCHITECTURE_v2.md)
Реализовано ядро v1. Вся дотяжка до v2 — Спринт 6.
Спринт 6a. State machine v2 — ядро, защита от петель, возврат в ветку
Цель
Заменить строковый тег [STATE: ...] на структурированный выход модели с валидатором переходов по таблице intent_steps; добавить handoff_count с автовыходом в escalate_human: routing_loop; научить систему возобновлять прерванную ветку через suspended_intent. В конце Спринта 6a уже видно глазами: вкладка «Шаги» в «Настройках» для new_booking, в «Песочнице» — handoff_count и suspended_intent, timeline переходов первой версии.
Статус: ⏳ Запланирован
Принятые решения (зафиксировано 2026-04-24, действуют и для 6b)
- Момент обновления
current_step— после успешного коммита сообщения ассистента в БД. - Cap на soft-insertion'ы подряд — 3 (реализация в 6b).
- Шаги
new_booking— сверить с вики клиники по ЛОР до переписывания промпта в блоке A. - Формат структурированного выхода — JSON-блок в хвосте ответа, парсим сами балансировкой скобок +
json.loads.
Задачи и UI-чекпойнты (порядок: A → A2 → B → C)
Блок A. Структурированный выход + таблица intent_steps + валидатор переходов (v2 §3.3)
Бекенд:
- Новая таблица
intent_steps:id, intent_id FK, code (intro/qualify/present/offer_time/book/close), name, order_index, system_prompt Text, allowed_next JSON, guards JSON (пустой на этом спринте — наполняется в 6b/F). Миграция Alembic. - Сид шагов
new_bookingпри старте: читаетprompts/intents/new_booking/steps/{code}.md+prompts/intents/new_booking/transitions.yaml. - Разделить
prompts/intents/new_booking.mdна базовый промпт ветки (общие правила) + отдельные файлы на каждый из 6 шагов. - В
services/chat_service— сборка промпта:base_prompt + intent_steps[current_step].system_prompt + state_context. - Парсер нового формата ответа:
{reply, state_after, slots_updated}— JSON-блок в хвосте. - Валидатор: сверка
state_afterсintent_steps.allowed_next. Легален → применяем, иначе — остаёмся на текущем шаге + warning в лог. Слоты сливаем{**old, **slots_updated}. assistant_msg.text=reply; служебные поля — вassembled_promptдля отладки.
UI-чекпойнт A:
- В «Настройках» для ветки
new_bookingпоявляется вкладка «Шаги»: список шагов изintent_steps+ на клик открывается редактор (textarea сsystem_prompt, чекбоксы сallowed_next). Кнопка «Сохранить шаг» —PATCH /intents/{code}/steps/{step_code}пишет сразу (без версионирования). - В «Песочнице» бейдж текущего шага берётся из
intent_steps.name, а не из сырого числа. Если валидатор отклонилstate_after— красная пометка «модель просилась вX, остались наY». - Что проверяем глазами: открыть
new_booking→ вкладка «Шаги» видит 6 шагов; править любой промпт → применяется в новом треде; в песочнице прогнать «Здравствуйте, хочу записаться» → шаг подписан словами («Приветствие»), а не числом.
Блок A2. exit_conditions_text — отдельное поле в agent_configs (v2 §UI)
Бекенд:
- Миграция: добавить
exit_conditions_text Text NULLABLEвagent_configs. compose_full_system_promptсклеивает:system_prompt + rules_text + exit_conditions_text.- Миграция данных: при старте для существующих конфигов попытаться распарсить блок «Условия выхода» /
[INTENT_CHANGE: ...]из хвостаsystem_promptи перенести в новое поле. Не удалось — оставить пусто.
UI-чекпойнт A2:
- В «Настройках» на вкладке активной версии — третья textarea
exit_conditions_textрядом сsystem_promptиrules_text. - Что проверяем глазами: у ветки
general_infoпосле миграции данных в полеexit_conditions_textлежат правила[INTENT_CHANGE: ...], а не в теле промпта. В песочнице поведение не изменилось.
Блок B. handoff_count и защита от петель (v2 §4.3)
Бекенд:
- Миграция
thread_state: добавитьhandoff_count INT NOT NULL DEFAULT 0. - В
chat_serviceинкрементить при каждом hard-handoff (INTENT_CHANGE или router-инициированное переключение). - При
handoff_count >= 2— авто-уход вescalate_humancreason=routing_loop. Ответ-заглушка формируется без нового вызова LLM («Передаю ваш вопрос администратору»). - Счётчик сбрасывается на 0 при возврате из
suspended_intent(блок C) и при переходе вescalate_human.
UI-чекпойнт B:
- В «Песочнице» в «Состоянии треда» — строка
handoff_count: N. При автоуходе вescalate_human: routing_loop— явная отметка в timeline. - Что проверяем глазами: искусственная петля «хочу записаться → сколько стоит → хочу записаться → сколько стоит» → после второго-третьего handoff'а бот говорит «передаю администратору»; в песочнице
handoff_countвырос, ветка сменилась наescalate_human.
Блок C. suspended_intent + resumable_step + resumable_slots (v2 §4.4)
Бекенд:
- Миграция: добавить колонки
suspended_intent,resumable_step INT,resumable_slots_json TEXT(все nullable) вthread_state. - При hard-handoff из многошаговой ветки (
new_booking) — сохранятьcurrent_*вsuspended_*перед сбросом. - Возврат: роутер классифицировал реплику в
suspended_intent→ восстанавливаемcurrent_*изsuspended_*и очищаем поля. Альтернативный триггер — сигнал[RESUME]из ветки detour'а (наполняем в 6b).
UI-чекпойнт C:
- В «Состоянии треда» —
suspended_intentиresumable_step(если заполнены). - Timeline переходов между ветками в рамках треда: список типа
new_booking (step=4) → price_question → new_booking (step=4, восстановлено). Собирается на бекенде из diff'овintent_idу соседних сообщений + лога handoff'ов. - Что проверяем глазами: запись до 4 шага → «сколько это стоит?» →
suspended_intent=new_booking, resumable_step=4видно в панели → «ок, тогда бронируем» → слотыnew_bookingвернулись, шаг=4, timeline показывает три перехода.
Критерий готовности 6a
- Сценарии 1 (базовая запись), 3 (handoff с suspended), 4 (возврат из suspended), 6 (routing_loop) из блока H Спринта 6b проходят в «Песочнице».
handoff_countиsuspended_intentвидны глазами в «Состоянии треда».- Вкладка «Шаги» в «Настройках» работает — можно отредактировать промпт шага и увидеть эффект в песочнице без рестарта.
- Третья textarea
exit_conditions_textработает; данные старых веток мигрированы. current_stepпишется только после коммитаassistant_msg— проверяется код-ревью.- Парсер структурированного выхода устойчив к невалидному
state_after.
Спринт 6b. Глубина сценария — soft-insertion, guards, reason, умный роутер
Цель
Поверх ядра из 6a — добавить различение soft/hard-handoff, guards в new_booking, структурированный reason в escalate_human, умный роутер, видящий thread_state. В конце Спринта 6b все 8 ручных сценариев из блока H проходят в «Песочнице».
Статус: ⏳ Запланирован (после 6a)
Задачи и UI-чекпойнты (порядок: D → F → E → G → H)
Блок D. Soft-insertion vs hard-handoff (v2 §4.2)
Бекенд:
- В промпт ветки
new_booking(базовый + шагиqualify/present/offer_time) — правило «короткие боковые вопросы (цена услуги, адрес, часы, длительность приёма, требования к документам) отвечай сам, не покидая шаг». Модель возвращаетstate_after=текущий_шаг,slots_updated={}. - Миграция
thread_state: добавитьsoft_insertion_count INT NOT NULL DEFAULT 0. - На soft-insertion счётчик инкрементится; на продвижение по шагу — сбрасывается в 0.
- При
soft_insertion_count >= 3— ветка в промпте получает явное указание «вернуть пациента к вопросу шага».
UI-чекпойнт D:
- В «Состоянии треда» —
soft_insertion_count: N. - В timeline переходов помечать soft-insertion как
new_booking · soft-answer (price)— без смены ветки. - Что проверяем глазами: запись до шага 3 → «а сколько стоит?» → ответ по цене, шаг=3 сохранился,
soft_insertion_count=1. Повторить 3 раза → на 3-м ответе бот возвращает к вопросу шага.
Блок F. Guards в new_booking (v2 §3.2)
Бекенд:
- В
intent_steps.guardsнаполняем условия дляnew_booking: ребёнок →legal_rep_name+legal_rep_phoneдо перехода изqualify; запрос конкретного врача с листом ожидания → рукавwaitlist; жалоба на слух без предварительного сурдолога → сначалаsurgologistвspecialist. - Слоты:
is_child,legal_rep_name,legal_rep_phone,requested_doctor,waitlist_flag,needs_surgologist_first. - Валидатор переходов (блок A 6a) проверяет
guards: если не пройден — блокируетstate_after, оставляет на шаге, возвращает пациенту ответ модели как есть. - Обновить промпты шагов под сценарии guard'ов.
UI-чекпойнт F:
- На вкладке «Шаги» — отдельная textarea для
guards(JSON) с валидацией формата. - В «Состоянии треда» — если валидатор заблокировал переход guard'ом, явная отметка «guard
require_legal_repне пройден, ждёмlegal_rep_phone». - Что проверяем глазами: сценарий 7 (ребёнок) — на шаге
qualifyпосле «это для сына, 5 лет» бот спрашивает ФИО и телефон родителя; пока не заполнены — не переходит; в песочнице видна причина блокировки. Сценарий 8 (конкретный врач) — переход в рукавwaitlist.
Блок E. reason в escalate_human (v2 §1, §5)
Бекенд:
- Обновить промпт
_router: приescalate_humanвозвращать паруcode + reason(acute_pain / surgery / angry / explicit_request / routing_loop). RouterClient.classifyпарсит reason, дефолт при неразобранном —explicit_request.- Ветка
escalate_human.mdи шаги (если есть) — reason влияет на текст первой реплики. - В
messages— колонкаescalation_reason NULLABLE(миграция). В API-ответе/chatполеescalation_reason. - Заготовка саммари для оператора: при эскалации формируется
{reason, history, slots_from_suspended}, логируется в файл/консоль (канал передачи — Спринт 9).
UI-чекпойнт E:
- В «Состоянии треда» — при активной эскалации показывать
reason. - В «Отладке ответа» под блоком роутера — сгенерированное саммари оператора (read-only preview).
- Что проверяем глазами: сценарий 5 («упомянул хирургию») → эскалация с
reason=surgery, превью саммари содержит всю историю + собранные слоты. Сценарий 6 (петля) → эскалация сreason=routing_loop.
Блок G. Умный роутер (видит thread_state)
Бекенд:
RouterClient.classifyпринимает снимокthread_state(intent, step, slots, suspended_intent, handoff_count). Вставляет в системный промпт роутера блок «Сейчас идёт сценарий X на шаге Y, слоты Z. Если реплика — реакция или ответ на вопрос шага, скорее всего intent тот же».- Обновить
prompts/intents/_router.mdпод новый формат. - Это снимает проблему Спринта 5: «Меня Алексей зовут» внутри
new_bookingсейчас уходит вgeneral_info.
UI-чекпойнт G:
- В «Отладке ответа» → блок «Решение роутера» — свернуть/развернуть кнопкой просмотр промпта, который ушёл в роутер (включая блок состояния треда). Полезно для отладки.
- Что проверяем глазами: тот же сценарий 1 (базовая запись) прогнать повторно — «Меня Алексей зовут» остаётся в
new_booking, не сбрасывается вgeneral_info. В развёрнутом промпте роутера видно блок[ТЕКУЩЕЕ СОСТОЯНИЕ].
Блок H. Финальный прогон 8 ручных сценариев (прокси-eval)
- Зафиксировать в
eval/MANUAL_CASES.mdполный список 8 сценариев (уже описан в этом документе выше, просто консолидируем). - Прогнать в «Песочнице». Для каждого сценария — в
eval/MANUAL_REPORT.mdфиксируем результат (ок / расхождение + детали).- Базовая запись (6 шагов →
confirmed=true). - Запись → вопрос про цену (soft-insertion, без смены шага).
- Запись → перенос старой записи (hard-handoff в
reschedule,suspended=new_booking). - Запись → detour → возврат «бронируем на четверг» (восстановление из
suspended). - Запись → упоминание хирургии (
escalate_human: surgery, саммари). - Искусственная петля (
routing_loopпосле cap). - Запись ребёнка (guard блокирует переход).
- Конкретный врач (waitlist-рукав).
- Базовая запись (6 шагов →
Критерий готовности 6b
- Все 8 сценариев из блока H проходят в «Песочнице» без ручной правки state.
MANUAL_REPORT.mdзакоммичен. - Все UI-чекпойнты (D, F, E, G) проверены глазами.
- Роутер при активной state machine не сбрасывает intent на коротких репликах внутри сценария.
- Саммари оператору формируется и логируется при эскалации — пусть пока и без канала передачи.
Спринт 7. Мульти-RAG (вариант Б из v2: подписка ветки на разделы вики)
Цель
Дать каждой ветке собственный срез базы знаний, чтобы детская wiki не засоряла ответы по записи, а скрипты возражений — ответы по ценам. Согласно GRAPH_ARCHITECTURE_v2.md §6 — Вариант Б предпочтительнее отдельных коллекций: одна общая коллекция + фильтр по разделам вики в метаданных чанков. Делаем до мини-eval, чтобы наборы в Спринте 8 проверяли поведение уже с реальным per-intent retrieval.
Статус: ⏳ Запланирован
Задачи
- В
intents— полеwiki_sources: list[str](префиксы путей или doc-ID). Миграция. - В метаданные чанка при загрузке записывать
doc_path/ раздел вики. - В
services/vectorstore.py— where-фильтр поdoc_pathна основеwiki_sourcesактивной ветки при query. - UI «Настройки» — редактор
wiki_sourcesу ветки (список префиксов). - Если
wiki_sourcesпуст — дефолт: вся коллекция (дляgeneral_info). - Задел под v2 §3.4: опциональный
wiki_sources_by_step(на уровне шага state machine) — сделать именно здесь, раз у нас уже есть state machine из Спринта 6.
Критерий готовности
- Документ раздела
/wiki/pricing/*автоматически используется только вprice_question(без ручного дублирования). - При переключении ветки в диалоге retrieval берёт нужный срез.
- В «Отладке» видно: какие префиксы активны, какие чанки пришли из каких разделов.
- Для шага
offer_timeвnew_bookingотдельный per-step срез работает (если ветка его заполнила).
Спринт 8. Мини-eval: роутер, handoff, resumable
Цель
После дотяжки v2 (Спринт 6) и мульти-RAG (Спринт 7) — зафиксировать автоматизированный тест-набор, чтобы следующие правки промптов и wiki_sources не ломали собранное. Формализует ручные сценарии из блока H Спринта 6.
Статус: ⏳ Запланирован
Задачи
Eval-наборы (отдельные файлы в репозитории, без БД):
eval/router_cases.csv— 20–30 фраз на каждую из 6 веток: типичные, пограничные (ловушечные), злые (короткие, эмоциональные, с опечатками). Колонки:text, expected_intent, note.eval/handoff_cases.yaml— 5–10 многошаговых мини-диалогов: реплики пациента по порядку + ожидаемый intent на каждую.eval/resumable_cases.yaml— 3–5 сценариев detour-и-возврат: реплики + ожидаемыеcurrent_intent,current_step, ключевые слоты на каждом шаге.eval/loop_cases.yaml— 1–2 сценария искусственной петли с проверкойreason=routing_loop.eval/guard_cases.yaml— сценарии на guards (ребёнок, waitlist).eval/rag_cases.yaml— сценарии на мульти-RAG: реплика внутри ветки → проверка, что retrieved-чанки из правильного раздела вики.
Запускалка (CLI, не часть сервиса):
eval/run.py— читает наборы, прогоняет через живой сервис. Режимы:router— прямой вызовRouterClient.classify()на фразах из CSV (быстро).dialog— полный/chatна чистых тредах, сверка intent + step + slots + handoff_count + reason + источники.
- Вывод: per-ветка accuracy, confusion matrix, список расхождений с текстом реплики.
- Отчёт: stdout +
eval/reports/{timestamp}.md(добавлять в git для сравнения во времени).
Документация:
- В
README.md— раздел «Как прогнать eval» (одна команда). - Договорённость: перед правкой промпта роутера / ветки /
wiki_sources— прогнать eval, зафиксировать baseline; после — сравнить.
Критерий готовности
eval/run.pyработает одной командой, полный набор проходит за ≤ 3 минуты.- Отчёт покрывает все 8 сценариев из блока H Спринта 6 + базовые kv-тесты роутера + RAG-проверки Спринта 7.
- Baseline зафиксирован в
eval/reports/{date}_baseline.mdи добавлен в git.
Спринт 9. Сценарии + экспорт графа
Цель
То, что изначально планировалось как Спринты 4 + 5 до архитектурного разворота. Теперь встроено в граф: прогон сценария проверяет не только текст ответов, но и правильность маршрутизации; экспорт — снапшот всего графа (intents + промпты + коллекции).
Статус: ⏳ Запланирован
Задачи
Сценарии:
- Таблица
scenarios(id, name, note, label, messages_json, expected_intents_json, config_snapshot_id) POST /scenarios— сохранить текущий тред «Песочницы» как сценарий, зафиксировать ожидаемый intent на каждую реплику пациентаPOST /scenarios/{id}/run— прогнать реплики пациента на текущих активных конфигах всех веток; вернуть новые ответы + распознанные intents- Веб-страница «Сценарии»: список + открытая карточка со side-by-side (старый ответ / новый), подсветка «маршрутизация совпала / разошлась»
- Счётчик «ок / расхождение» по всей базе сценариев после последнего прогона
Экспорт:
GET /configs/export— JSON-снапшот графа: все intents, для каждого — активный промпт и правила, список коллекций RAG и документов в них- Документация API в README:
POST /chat,GET /health, контракт ответов - Инструкция «Как подключить канал» + пример curl / минимальный webhook-адаптер
- docker-compose поднимается одной командой, внешний разработчик получает рабочий
/chat
Критерий готовности
- После изменения промпта в одной из веток — прогон сценариев показывает расхождения именно в этой ветке
- Виден общий счётчик «ок / изменилось» по базе сценариев
- В README готов раздел «Как подключить канал», работает docker-compose-запуск
Бэклог
Дальнейшие идеи
- Раздельные правила по доменам — перекрыто архитектурой: теперь это ветки (
intents) - A/B сравнение двух версий промпта на одном тест-наборе (в рамках одной ветки или между ветками)
- Метрики качества ответов (MRR, CSAT по сценариям)
- Подсветка цитат источников в ответе агента
- Автосинхронизация wiki
- Перевод правил из свободного текста в структурированный список (pattern → instruction)
- Мультипользовательский режим (несколько операторов одновременно настраивают)
- Хранение исходных файлов (
./data/uploads/{document_id}.{ext}+source_pathв метаданных Chroma) — чтобы переиндексировать без повторной загрузки и показывать оператору оригинал документа - Confidence score роутера + clarifying question при низкой уверенности — включить после реального прогона eval'а, если будет много ошибок классификации
- Визуализация графа (веток и переходов между ними) — возможно, в виде отдельной панели
- Вынесение роутера на отдельную более дешёвую модель (gpt-4o-mini, локальная Qwen) — когда вызовов станет много
- Структурированные exit conditions (список триггеров с keyword-match) — если свободный текст в промпте будет пропускать реальные случаи смены темы
routing_log(таблица решений роутера по каждой реплике) — для офлайн-анализа и тюнинга, когда eval покажет, что нужно