AR 15 M4
a7f78d71b2
FastAPI + ChromaDB + E5-large + DeepSeek по паттерну work-pcs-dr-cdss, адаптированному под пациентский контекст: - services: embeddings (E5-large с префиксами), vectorstore (коллекция operators_wiki), document_processor (PDF/DOCX/TXT/MD + чанкер с FAQ- паттерном под wiki), llm_client (системный промпт ассистента клиники), rag_pipeline (одиночный вопрос → retrieval → ответ). - routers: /health, /documents (upload, list, chunks, delete), /query. - static/index.html: шапка со статусом, блок базы знаний с раскрытием чанков по клику, блок тест-вопроса с 3-колоночным ответом (чанки со score / собранный промпт / ответ LLM). - Порт 8003 (8001 занят CDSS, 8002 — voicenote). E2E проверен: загрузка wiki_test.md → 2 чанка, вопрос «как записать ребёнка к лору?» → top score 84.8%, корректный ответ DeepSeek. Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
48 lines
1.4 KiB
Python
48 lines
1.4 KiB
Python
import logging
|
|
|
|
from fastapi import APIRouter, HTTPException
|
|
|
|
from config import settings
|
|
from models.requests import QueryRequest
|
|
from models.responses import QueryResponse, SourceInfo
|
|
from services.llm_client import LLMClient
|
|
from services.rag_pipeline import rag_query
|
|
|
|
logger = logging.getLogger(__name__)
|
|
|
|
router = APIRouter(tags=["query"])
|
|
|
|
|
|
@router.post("/query", response_model=QueryResponse)
|
|
async def query_rag(request: QueryRequest):
|
|
from main import vectorstore_service
|
|
|
|
if vectorstore_service is None:
|
|
raise HTTPException(status_code=503, detail="Service not ready")
|
|
|
|
if not settings.deepseek_api_key:
|
|
raise HTTPException(status_code=500, detail="DEEPSEEK_API_KEY not configured")
|
|
|
|
llm_client = LLMClient()
|
|
|
|
try:
|
|
result = await rag_query(
|
|
vectorstore=vectorstore_service,
|
|
llm_client=llm_client,
|
|
question=request.text,
|
|
top_k=request.top_k,
|
|
document_ids=request.document_ids,
|
|
temperature=request.temperature,
|
|
max_tokens=request.max_tokens,
|
|
)
|
|
except Exception as e:
|
|
logger.exception("RAG query failed")
|
|
raise HTTPException(status_code=500, detail=f"RAG query error: {e}")
|
|
|
|
return QueryResponse(
|
|
answer=result["answer"],
|
|
sources=[SourceInfo(**s) for s in result["sources"]],
|
|
model_used=result["model_used"],
|
|
assembled_prompt=result.get("assembled_prompt", ""),
|
|
)
|