fix type field audio

.env.test

@@ -0,0 +1,24 @@
+# Database
+# DATABASE_URL=sqlite:///./speech_analytics.db
+# Для PostgreSQL:
+DATABASE_URL=postgresql://postgres_test:test_user@postgres_test:5432/audiofiles_db
+
+# API Settings
+API_V1_PREFIX=/api/v1
+MAX_UPLOAD_SIZE=104857600  # 100MB in bytes
+
+# Application
+APP_TITLE=Speech Analytics API
+APP_VERSION=1.0.0
+
+# Server
+HOST=0.0.0.0
+PORT=5056
+RELOAD=True
+
+#SFTP
+SFPT_HOSTNAME = 192.168.1.150
+SFPT_USERNAME = monitor
+SFPT_PASSWORD = Audio4analy6!6
+
+FILESAPTH = audiofiles

apiApp/config.py

@@ -17,3 +17,6 @@ ALLOWED_AUDIO_EXTENSIONS = {".mp3", ".wav", ".ogg", ".flac", ".m4a", ".aac"}
 # Application
 APP_TITLE = "Speech Analytics API"
 APP_VERSION = "1.0.0"
+
+PORT = int(os.getenv("PORT", "8000"))
+HOST = os.getenv("HOST", "localhost")

apiApp/database/AiConclusion.py

@@ -18,4 +18,5 @@ class AiConclusion(Base):
     index_date = Column(DateTime, default=datetime.utcnow)
     end_date = Column(DateTime)
 
-    audio = relationship("Audio", back_populates="ai_conclusion")
+    audio = relationship("Audio", back_populates="ai_conclusion")
+    versions = relationship("ConclusionVersion", back_populates="ai_conclusion")

apiApp/database/Audio.py

@@ -1,4 +1,4 @@
-from sqlalchemy import Column, String, DateTime, UUID, ForeignKey, Float, Integer
+from sqlalchemy import Column, String, DateTime, Text, UUID, ForeignKey, Float, Integer
 from sqlalchemy.orm import relationship
 from apiApp.database import Base
 import uuid
@@ -9,9 +9,9 @@ class Audio(Base):
     __tablename__ = "audio"
 
     id = Column(UUID(as_uuid=True), primary_key=True, default=uuid.uuid4)
-    filename = Column(String(255), nullable=False)
+    filename = Column(Text, nullable=False)
     index_date = Column(DateTime, default=datetime.utcnow)
-    file_path = Column(String(500))
+    file_path = Column(Text)
     duration = Column(Float)
     file_size = Column(Integer)
 

apiApp/database/ConclusionVersion.py

@@ -1,4 +1,5 @@
 from sqlalchemy import Column, UUID, ForeignKey, Integer, Text
+from sqlalchemy.orm import relationship
 from apiApp.database import Base
 import uuid
 
@@ -7,6 +8,8 @@ class ConclusionVersion(Base):
     __tablename__ = "conclusion_version"
 
     id = Column(UUID(as_uuid=True), primary_key=True, default=uuid.uuid4)
-    conclusion_id = Column(UUID(as_uuid=True), ForeignKey("conclusion.id"))
+    conclusion_id = Column(UUID(as_uuid=True), ForeignKey("ai_conclusion.id"))
     version = Column(Integer)
-    content = Column(Text)
+    content = Column(Text)
+
+    ai_conclusion = relationship("AiConclusion", back_populates="versions")

apiApp/database/Operator.py

@@ -11,6 +11,6 @@ class Operator(Base):
     fio = Column(String(100))
     num = Column(Integer)
 
-    calls = relationship("Call", back_populates="operator")
-
+    # TODO: Добавить relationship когда будет создана модель Call
+    # calls = relationship("Call", back_populates="operator")
 

apiApp/database/__init__.py

@@ -28,4 +28,7 @@ def get_db():
 from apiApp.database.Operator import Operator
 from apiApp.database.Audio import Audio
 from apiApp.database.AiConclusion import AiConclusion
-from apiApp.database.ConclusionVersion import ConclusionVersion
+from apiApp.database.ConclusionVersion import ConclusionVersion
+
+# Все модели должны быть импортированы здесь для правильной работы SQLAlchemy metadata
+# Это гарантирует, что все relationship будут работать корректно

autoLoader/__init__.py

@@ -0,0 +1,3 @@
+from autoLoader.database import *
+from autoLoader.loader import Loader
+loader = Loader()

autoLoader/config.py

@@ -0,0 +1,7 @@
+import os
+
+SFTP_HOSTNAME = os.getenv("SFPT_HOSTNAME", "192.168.1.150")
+SFTP_USERNAME =  os.getenv("SFPT_USERNAME", "monitor")
+SFTP_PASSWORD =  os.getenv("SFPT_PASSWORD", "Audio4analy6!6")
+FILESAPTH =  os.getenv("FILESAPTH", "audiofiles")
+DATABASE_URL = os.getenv("DATABASE_URL", "sqlite:///./speech_analytics.db")

autoLoader/database/__init__.py

@@ -0,0 +1,40 @@
+from sqlalchemy import create_engine
+from sqlalchemy.orm import sessionmaker, Session
+from autoLoader.config import DATABASE_URL
+from contextlib import contextmanager
+
+# Создаём engine, но используем Base из apiApp.database
+from apiApp.database import Base, engine
+
+# SessionLocal (используем тот же engine)
+SessionLocal = sessionmaker(autocommit=False, autoflush=False, bind=engine)
+
+
+# Зависимость для получения сессии БД (для FastAPI)
+def get_db():
+    db = SessionLocal()
+    try:
+        yield db
+    finally:
+        db.close()
+
+
+# Контекстный менеджер для использования в loader
+@contextmanager
+def get_db_session():
+    """Контекстный менеджер для работы с БД в loader"""
+    db = SessionLocal()
+    try:
+        yield db
+        db.commit()
+    except Exception as e:
+        db.rollback()
+        raise e
+    finally:
+        db.close()
+
+
+# Импортируем ТОЛЬКО нужные модели из apiApp.database
+# НЕ импортируем из autoLoader.database, чтобы избежать дублирования таблиц
+from apiApp.database.Audio import Audio
+

autoLoader/loader/__init__.py

@@ -0,0 +1,2 @@
+from autoLoader.loader.connector import *
+from autoLoader.loader.loader import * 

autoLoader/loader/connector.py

@@ -0,0 +1,53 @@
+from autoLoader.config import SFTP_HOSTNAME, SFTP_USERNAME, SFTP_PASSWORD
+
+
+import socket
+def check_connection():
+    """Проверка доступности сервера"""
+    sock = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
+    sock.settimeout(10)
+    
+    try:
+        result = sock.connect_ex((SFTP_HOSTNAME, 22))
+        if result == 0:
+            print("Порт 22 доступен")
+        else:
+            print(f"Порт 22 недоступен. Код ошибки: {result}")
+    except Exception as e:
+        print(f"Ошибка проверки соединения: {e}")
+    finally:
+        sock.close()
+
+# Перед подключением вызовите проверку
+# check_connection()
+
+import paramiko
+class ConnectorSFTP():
+    def __init__(self):
+        self.sftp = None 
+        self.ssh = paramiko.SSHClient()
+        
+    def connect(self, remote_path: str):
+        try:
+            self.ssh.set_missing_host_key_policy(paramiko.AutoAddPolicy())
+            self.ssh.connect(
+                hostname=SFTP_HOSTNAME, 
+                username=SFTP_USERNAME, 
+                password=SFTP_PASSWORD,
+            )
+            self.sftp = self.ssh.open_sftp()
+            remote_path = remote_path.lstrip('/')  # Удаляем начальный слэш, если есть
+            self.sftp.chdir(remote_path)  # Переходим в директори
+
+        except paramiko.AuthenticationException:
+            print("Ошибка аутентификации. Проверьте имя пользователя и пароль.")
+            return None, None
+        except paramiko.SSHException as e:
+            print(f"Ошибка SSH: {e}")
+            return None, None
+        except FileNotFoundError:
+            print(f"Директория {remote_path} не найдена на сервере.")
+            return None, None
+        except IOError as e:
+            print(f"Ошибка ввода-вывода: {e}")
+            return None, None

autoLoader/loader/loader.py

@@ -0,0 +1,106 @@
+from autoLoader.config import FILESAPTH
+from autoLoader.loader import ConnectorSFTP
+import datetime, os
+from autoLoader.database import Audio, get_db_session
+from sqlalchemy import inspect
+
+local_path = os.path.join(os.getcwd(), FILESAPTH)
+
+class Loader():
+    def __init__(self):
+        self.call_types = ['in']
+        pass
+
+    def filter_call(self, filename: str):
+        if filename.split("-")[0] in self.call_types:
+            return True
+        return False
+
+    def check_database(self):
+        """Проверяет существование таблиц в БД"""
+        from autoLoader.database import engine
+
+        inspector = inspect(engine)
+        existing_tables = inspector.get_table_names()
+
+        if 'audio' not in existing_tables:
+            print("❌ Таблица 'audio' не существует в базе данных!")
+            print("💡 Запустите 'python init_db.py' для создания таблиц")
+            return False
+
+        return True
+
+    def load(self):
+        # Проверяем БД перед началом работы
+        if not self.check_database():
+            exit(1)
+
+        date_now = datetime.datetime.now()# - datetime.timedelta(days=1)
+        remote_path = f"/{date_now.strftime('%Y/%m/%d')}"
+
+        connector = ConnectorSFTP()
+        connector.connect(remote_path=remote_path)
+
+        sftp_client = connector.sftp
+        ssh_client = connector.ssh
+
+        if sftp_client is None or ssh_client is None:
+            print("Не удалось подключиться к SFTP. Завершение работы.")
+            exit(1)
+
+        try:
+            listdir = sftp_client.listdir()
+            os.makedirs(local_path, exist_ok = True)
+
+            for file in listdir:
+                if self.filter_call(filename=file):
+                    remote_file = f"{file}".lstrip('/')
+                    filepath = os.path.join(local_path, file)
+
+                    # Проверяем, существует ли файл локально
+                    if os.path.exists(filepath):
+                        print(f"Файл уже существует локально: {file}")
+                        continue
+
+                    try:
+                        # Скачиваем файл
+                        sftp_client.get(remote_file, filepath)
+                        print(f"📥 Скачан файл: {remote_file}")
+
+                        # Получаем размер файла
+                        file_size = os.path.getsize(filepath)
+
+                        # Сохраняем в БД через контекстный менеджер
+                        with get_db_session() as db:
+                            # Проверяем, есть ли уже такой файл в БД
+                            existing_audio = db.query(Audio).filter(Audio.filename == file).first()
+                            if existing_audio:
+                                print(f"⏭️ Файл {file} уже есть в БД, пропускаем")
+                                continue
+
+                            # Создаём новую запись
+                            audio = Audio()
+                            audio.index_date = datetime.datetime.now()
+                            audio.filename = file
+                            audio.file_size = file_size
+
+                            db.add(audio)
+                            # commit произойдёт автоматически при выходе из контекста
+
+                        print(f"✅ Файл {file} сохранён в БД")
+
+                    except Exception as e:
+                        print(f"❌ Ошибка при обработке файла {remote_file}: {e}")
+                        # Если файл скачался, но ошибка в БД - удаляем файл
+                        if os.path.exists(filepath):
+                            try:
+                                os.remove(filepath)
+                                print(f"🗑️ Файл {file} удалён из-за ошибки")
+                            except:
+                                pass
+
+        finally:
+            # Закрываем соединения
+            sftp_client.close()
+            ssh_client.close()
+

init_db.py

@@ -0,0 +1,39 @@
+#!/usr/bin/env python3
+"""
+Скрипт для инициализации базы данных
+Создаёт все необходимые таблицы
+"""
+from apiApp.database import Base, engine
+from sqlalchemy import inspect
+
+def init_database():
+    """Создаёт все таблицы в базе данных"""
+    print("🔧 Инициализация базы данных...")
+
+    # Проверяем существующие таблицы
+    inspector = inspect(engine)
+    existing_tables = inspector.get_table_names()
+
+    if existing_tables:
+        print(f"📋 Существующие таблицы: {', '.join(existing_tables)}")
+
+    # Создаём все таблицы
+    Base.metadata.create_all(bind=engine)
+
+    # Проверяем результат
+    inspector = inspect(engine)
+    all_tables = inspector.get_table_names()
+
+    print(f"✅ Создано таблиц: {len(all_tables)}")
+    for table in all_tables:
+        print(f"   - {table}")
+
+    return all_tables
+
+if __name__ == "__main__":
+    try:
+        tables = init_database()
+        print(f"\n🎉 База данных готова! Создано таблиц: {len(tables)}")
+    except Exception as e:
+        print(f"\n❌ Ошибка при создании таблиц: {e}")
+        exit(1)

main.py

@@ -5,7 +5,7 @@ from fastapi.middleware.cors import CORSMiddleware
 from sqlalchemy.exc import SQLAlchemyError
 import logging
 
-from apiApp.config import APP_TITLE, APP_VERSION, API_V1_PREFIX, UPLOAD_FOLDER, DATABASE_URL
+from apiApp.config import APP_TITLE, APP_VERSION, API_V1_PREFIX, UPLOAD_FOLDER, DATABASE_URL, PORT, HOST
 from apiApp.database import engine, Base
 from apiApp.routers import audio_router, recognition_router
 
@@ -77,4 +77,4 @@ async def health_check():
 
 if __name__ == "__main__":
     import uvicorn
-    uvicorn.run(app, host="0.0.0.0", port=8000)
+    uvicorn.run(app, host=HOST, port=PORT)

requirements.txt

@@ -4,3 +4,5 @@ sqlalchemy==2.0.35
 pydantic==2.9.2
 python-multipart==0.0.12
 aiofiles==24.1.0
+psycopg2-binary
+paramiko

run_loader.py

@@ -0,0 +1,12 @@
+from autoLoader import loader
+from apiApp.database import Base, engine
+
+# Создаём таблицы, если они не существуют
+print("🔧 Создание таблиц базы данных...")
+Base.metadata.create_all(bind=engine)
+print("✅ Таблицы созданы")
+
+# Запускаем загрузчик
+print("\n🚀 Запуск AutoLoader...")
+loader.load()
+print("✅ AutoLoader завершил работу")