You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
Максим Чистогов
f94df248d0
|
4 weeks ago | |
|---|---|---|
| .gitignore | 4 weeks ago | |
| rag_corpus.json | 4 weeks ago | |
| readme.md | 4 weeks ago | |
| requerements.txt | 4 weeks ago | |
| yandex.py | 4 weeks ago | |
| yandex_gpu.py | 4 weeks ago | |
| yandex_gpu_lowPC.py | 4 weeks ago | |
readme.md
Medical RAG System with YandexGPT
Система для автоматического преобразования кратких медицинских записей в развернутые формулировки жалоб пациентов с использованием RAG (Retrieval-Augmented Generation) и модели YandexGPT.
🚀 Особенности
- RAG-архитектура: Поиск релевантных медицинских примеров из базы знаний
- Гибкое использование GPU: Автоматическое определение и использование GPU для ускорения работы
- Управление токенами: Интеллектуальное ограничение длины контекста
- Русскоязычная оптимизация: Специально настроена для работы с медицинскими текстами на русском языке
- Хранение состояния: Сохранение векторной базы данных между сессиями
📋 Требования
Аппаратные требования
- Минимально: CPU с 8+ GB RAM
- Рекомендуется: GPU с 8+ GB VRAM (NVIDIA)
- Память: 10+ GB свободного места
Программные требования
- Python 3.8+
- PyTorch (с поддержкой CUDA при наличии GPU)
- Библиотеки:
chromadb,llama-cpp-python,sentence-transformers,tiktoken