serri.khalil
04 · Dokumenten-KI

Dokumenten-Chatbot

Ein interner Assistent, der Fragen zu über 1.500 Dokumenten aus dem Anweisungswesen beantwortet, Arbeitsanweisungen samt Anlagen, und jede Aussage mit der Fundstelle belegt. Auf eigene Initiative entwickelt für den Dokumentenalltag im streng regulierten Umfeld: Die Dokumente und ihre Aufbereitung für die Suche bleiben im eigenen Haus.

Eigene Server 1.500 Dokumente Quellenpflicht Eigenes Suchwerkzeug Messwerte
Problem

1.500 Dokumente, keine brauchbare Suche

Mitarbeitende finden Vorgaben in über 1.500 Anweisungs-Dokumenten nicht wieder. Die klassische Volltextsuche kennt keine Synonyme: Wer nach „Lieferung beanstanden" sucht, findet das Dokument nicht, das von „Reklamationsbearbeitung" spricht. Und die Dokumentnummern, mit denen alle täglich arbeiten, kann eine KI-Suche nach Bedeutung prinzipbedingt nicht zuverlässig finden: Eine Nummer bedeutet nichts.

Lösung

Ein Assistent mit Quellenpflicht und zweitem Suchweg

Ein Assistent auf Basis freier Software, betrieben auf eigenen Servern und ergänzt um ein selbst entwickeltes Suchwerkzeug für alles, was die KI-Suche nicht kann.

  • Ohne Quelle keine Antwort: Der Assistent darf nur wiedergeben, was in den Dokumenten steht, und muss die Fundstelle nennen.
  • Im eigenen Haus statt Cloud: Der Baustein, der Texte für die Suche aufbereitet, antwortete lokal typischerweise in 0,08 statt 2,59 Sekunden. Und nichts fließt nach außen ab.
  • Eigenes Suchwerkzeug für Dokumentnummern und Namen, das bei gleicher Frage immer dieselbe Antwort liefert und damit prüfbar ist.
  • Messwerte statt Bauchgefühl bei jeder wichtigen Entscheidung.
Umsetzung

Dokumente bleiben im Haus

Der Assistent ist für eigene Server gebaut: Die Dokumente und ihre Aufbereitung für die Suche bleiben im Haus. Auffälligkeiten habe ich mit dokumentierten Messreihen untersucht und dabei zwei Fehler im eingesetzten Produkt selbst gefunden, belegt und dokumentiert.

Demo Geskriptete Demo · alle Daten fiktiv
assistent.demo.local
Case Study

Wenn die Suche still versagt

Nach dem Einlesen aller Dokumente brach die Suche plötzlich zusammen: Fehlermeldungen, lange Wartezeiten, teils stillschweigend leere Ergebnisse. Die Ursachenanalyse zeigte: Der Fehler lag nicht an den eigenen Daten, sondern im eingesetzten Produkt selbst, das bei großen Dokumentbeständen an eine eingebaute Grenze stößt. Ein zweiter Fehler sorgte dafür, dass die vorgesehene Ersatzlösung nie ansprang, ohne jede Meldung. Wie es weitergeht, habe ich anschließend nicht nach Gefühl entschieden, sondern gemessen.

1.594Dokumente
36.446Chunks
39×schnellere Textaufbereitung
Antwortzeit Suche
Eingebaute Kombi-Suche2,96 s
Einfache KI-Suche0,04 s

Gleicher Dokumentbestand, gleiche Frage, 200 gesuchte Treffer. Die Kombi-Suche scheiterte dabei sogar mit Fehler.

Speicherbedarf Suche
Eingebaute Kombi-Suche2,3 GB
Einfache KI-Suche368 MB

2,3 GB Allokation vor dem Abbruch brachten den Container zum Stillstand.

Antwortzeit des KI-Textbausteins (Median)
Cloud-Dienst2,59 s
Im eigenen Haus0,08 s

Gleiches Modell, identische Treffer-Scores. Der Index musste nicht neu aufgebaut werden.

Architekturskizze: Pfad 1 führt von den Dokumenten über Chunking und lokales Embedding in den Vektorindex und zum LLM mit Zitatpflicht; Pfad 2 führt von der Frage über ein deterministisches Namens- und Nummern-Suchtool direkt zu den Dokumenttreffern.
Zwei Suchwege: die KI-Suche für Themen und Fragen, das eigene Werkzeug für Nummern und Namen.

Ein eigenes Werkzeug statt einer Notlösung

Dokumentnummern wie „AA-04.02" bedeuten für eine KI-Suche nichts, deshalb findet sie sie nicht zuverlässig. Also habe ich ein eigenes Suchwerkzeug ergänzt: Es findet Nummern und Namen exakt, behandelt Schreibweisen wie Krämer und Kraemer gleich und liefert bei gleicher Frage immer dieselbe Antwort. Genau diese Verlässlichkeit zählt in einem Umfeld, in dem jede Auskunft nachprüfbar sein muss.