fastapi

Local AI server with persistent memory, RAG, and multi-backend inference (MLX / llama.cpp / Ollama). Runs entirely on your machine — zero data sent to external services.

Experimental web console for real-time multimodal AI interactions (voice/video) using Gemini 2.0 Live API and NijiVoice. Next.js (TypeScript, Tailwind) frontend and FastAPI backend communicate over WebSocket for low-latency streaming.

📞 Локальный AI-секретарь, тех. поддержка и менеджер по продажам с клонированием голоса XTTS v2, real-time распознаванием речи (Vosk/Whisper) и offline LLM (vLLM + Qwen/Llama и тп). Полноценная админ-панель (Vue 3), Telegram-бот, виджет для сайта, fine-tuning pipeline. Self-hosted, приватность данных, СМС и телефонные звонки .