Medical RAG System with YandexGPT
Система для автоматического преобразования кратких медицинских записей в развернутые формулировки жалоб пациентов с использованием RAG (Retrieval-Augmented Generation) и модели YandexGPT.
🚀 Особенности
- RAG-архитектура: Поиск релевантных медицинских примеров из базы знаний
- Гибкое использование GPU: Автоматическое определение и использование GPU для ускорения работы
- Управление токенами: Интеллектуальное ограничение длины контекста
- Русскоязычная оптимизация: Специально настроена для работы с медицинскими текстами на русском языке
- Хранение состояния: Сохранение векторной базы данных между сессиями
📋 Требования
Аппаратные требования
- Минимально: CPU с 8+ GB RAM
- Рекомендуется: GPU с 8+ GB VRAM (NVIDIA)
- Память: 10+ GB свободного места
Программные требования
- Python 3.8+
- PyTorch (с поддержкой CUDA при наличии GPU)
- Библиотеки:
chromadb,llama-cpp-python,sentence-transformers,tiktoken