knowledge-base-ai

Problem

RAG-Demos gibt es tausend; die meisten beantworten Fragen über ein einzelnes PDF und schicken dafür jeden Absatz an eine Cloud-API. Was fehlt: ein System, das gemischte Quellen (PDFs, YouTube-Transkripte, Webseiten) in eine Wissensbasis überführt, Antworten gegen mehrere Quellen prüft — und das lokal läuft, wenn die Dokumente sensibel sind.

Ansatz

Eine Ingest-Pipeline kategorisiert Dokumente beliebiger Domänen und legt sie mit Metadaten in Qdrant ab. Das Retrieval ist metadata-aware — es filtert nach Domäne und Dokumenttyp, statt blind über alles zu suchen. Antworten laufen durch einen Cross-Reference-Faktencheck mit Confidence-Scoring: was nur eine Quelle behauptet, wird als genau das ausgewiesen. FastAPI im Kern, SvelteKit-Oberflächen für Nutzung und Verwaltung, Docker-Compose inklusive GPU-Variante.

Entscheidungen

• Privacy-first als Architektur, nicht als Option. Der komplette Stack läuft auf Wunsch über lokales Ollama — Embeddings und Generierung eingeschlossen. Cloud-Modelle sind der Sonderfall, nicht der Default.
• Faktencheck statt Vertrauen. Ein RAG-System, das seine eigenen Antworten nicht gegen die Quellen prüft, ist eine Halluzination mit Zitatapparat.

Status & Learnings

Läuft lokal im Eigengebrauch. Das Learning steckt im Retrieval: die Qualität kommt nicht vom Modell, sondern von Metadaten und Filterung — wer beim Ingest schlampt, kann beim Prompt nichts mehr retten.