Zum Inhalt

System-Dokumentation

Dieser Bereich enthält die technische Systemdokumentation für Sovereign MoE — das vollständig selbst gehostete Mixture-of-Experts-LLM-System.


Inhalt

Seite Beschreibung
Überblick & Systemdoku Vollständige Systemdokumentation: Hardware, Pipeline, Experten, API, Deployment
Architektur LangGraph-Pipeline, Service-Topologie, Caching-Architektur, Expert Routing
Kafka Event-Streaming Kafka-Architektur, Topics, Nachrichten-Schemata, HowTo Admin & Dev
Docker-Services Service-Übersicht, Ports, Volumes, Betriebskommandos

Schnellübersicht

Das System besteht aus folgenden Kernkomponenten:

  • LangGraph Orchestrator (Port 8002) — FastAPI + LangGraph-Pipeline, OpenAI-API-kompatibel
  • MCP Precision Tools Server (Port 8003) — 16 deterministische Berechnungs-Tools
  • Admin UI (Port 8088) — Web-Konfiguration, User-Management, Monitoring
  • ChromaDB (Port 8001) — Vektorcache für semantisches Caching
  • Redis (Port 6379) — LangGraph-Checkpoints, Expert-Performance-Scores, User-Cache
  • Neo4j (Port 7687) — Knowledge Graph (GraphRAG)
  • Kafka (Port 9092) — Entkoppeltes Event-Streaming für Ingest und Audit-Logging
  • Prometheus (Port 9090) + Grafana (Port 3001) — Observability