Interne Wissenssuche · Lokale KI

Antworten aus den eigenen Unterlagen, ohne dass Dokumente das Haus verlassen.

Eine Suche, die auf Fragen in ganzen Sätzen antwortet und jede Aussage mit der Ursprungsdatei belegt. Sprachmodell und Suchindex laufen dabei auf einem Rechner im eigenen Netz.

Ausgangslage

Wissen liegt in kleinen und mittleren Unternehmen selten an einer Stelle. Arbeitsanweisungen, Protokolle, Projektakten und Vorlagen verteilen sich auf Laufwerke, Postfächer und einzelne Köpfe. Wer eine Antwort braucht, fragt deshalb meist eine Person statt ein System.

Herausforderung

Eine Volltextsuche findet nur, wer die richtigen Wörter kennt. Wer nach "Freigabegrenze" sucht, findet den Absatz nicht, in dem von "Unterschrift der Geschäftsführung ab" die Rede ist. Gleichzeitig scheidet der einfache Weg über einen Cloud-Dienst aus, sobald Kundendaten, Kalkulationen oder Personalunterlagen betroffen sind.

Lösung

Jede Datei wird an ihren Überschriften in Abschnitte geteilt und in eine Zahlenreihe übersetzt, die ihre Bedeutung abbildet. Eine Frage wird genauso übersetzt und mit allen Abschnitten verglichen. Das Modell antwortet ausschließlich aus den gefundenen Stellen und nennt sie. Übersetzung und Vektorspeicher laufen als eigene Dienste im Netz des Unternehmens.

Nachvollziehbar suchen statt plausibel klingen.

Suche über Bedeutung

Gefunden wird, was inhaltlich passt, auch wenn im Dokument völlig andere Begriffe stehen als in der Frage. Ergänzend zählt die exakte Begriffsüberdeckung mit, damit Bezeichnungen wie Maschinennummern zuverlässig treffen.

Findet auch, wer die interne Wortwahl nicht kennt

Jede Antwort mit Quelle

Zu jeder Aussage werden Datei und Überschrift genannt. Wer prüfen will, ob eine Regel noch aktuell ist, springt direkt an die Stelle im Original.

Antworten lassen sich gegenprüfen statt glauben

Schweigen statt raten

Findet die Suche keine belastbare Stelle, wird das ausgegeben. Das System füllt die Lücke nicht mit einer plausibel klingenden Antwort auf.

Keine erfundenen Regeln aus dem Sprachmodell

Betrieb im eigenen Netz

Das Sprachmodell für die Übersetzung läuft über Ollama, die Vektoren liegen in Qdrant, beide Dienste ausschließlich auf der lokalen Adresse. Der Index zieht vor jeder Suche selbst nach und liest nur, was sich geändert hat, sodass weder ein Wartungsfenster noch ein nächtlicher Lauf nötig ist.

Sensible Unterlagen bleiben im Unternehmen

Anschluss an vorhandene Werkzeuge

Die Suche ist nicht nur eine Oberfläche, sondern über den offenen Standard MCP auch als Werkzeug ansprechbar. Auf demselben Weg lassen sich Postfach, Kalender, Dateiablage oder das Warenwirtschaftssystem anbinden, sodass der Assistent selbst nachschlägt statt aus dem Trainingswissen zu antworten.

Ein Index, beliebig viele Zugänge

Aus der Frage wird ein Arbeitsergebnis

Derselbe Bestand trägt mehr als eine Antwort. Aus ihm entstehen das Foliengerüst für den Kundentermin, der Entwurf einer Mail, eine Auswertung über einen Zeitraum oder ein festgehaltener Ablauf, der danach allen zur Verfügung steht. Wie das aussieht, zeigt die Demo oben.

Weniger Zusammensuchen vor jedem Termin

Ablauf

  1. Quellen anbinden – Vorhandene Ordner, Laufwerke oder Ablagen werden eingelesen. Struktur und Verweise bleiben erhalten, es muss nichts neu geschrieben werden.
  2. In Abschnitte zerlegen – Dateien werden an ihren Überschriften geteilt. Jeder Abschnitt behält den Pfad seiner Überschriften als Kontext.
  3. Bedeutung berechnen – Ein lokal laufendes Modell übersetzt jeden Abschnitt in einen Vektor. Inhaltlich ähnliche Abschnitte liegen darin nah beieinander.
  4. Antworten und weiterverwenden – Die Frage wird ebenso übersetzt und mit allen Abschnitten verglichen. Aus den gefundenen Stellen entsteht die Antwort, auf Wunsch direkt als Entwurf, Auswertung oder festgehaltener Ablauf.

Ergebnis

  • Wiederkehrende Rückfragen lassen sich beantworten, ohne die Kollegin zu unterbrechen, die es zufällig weiß
  • Regeln, Entscheidungen und eingearbeitetes Wissen bleiben auffindbar, auch wenn jemand das Team verlässt
  • Sensible Unterlagen können durchsuchbar gemacht werden, ohne sie an einen externen Dienst zu geben

Funktionsumfang

  • RAG
  • Lokales Sprachmodell
  • Quellenangaben
  • Vektordatenbank
  • MCP-Werkzeuge

Eingesetzte Technik

  • Node.js
  • Ollama
  • embeddinggemma
  • Qdrant
  • MCP
  • Docker

Rolle

Konzeption, Indexierung, Suchlogik, Anbindung an den Assistenten und Betrieb der lokalen Dienste.