KI-Wissensdatenbank einführen: Ablauf, Datenweg und Abnahme vor dem Start
Wer richtet ein, wo liegen die Daten, und woran erkennen Sie, dass die Antworten stimmen? Der Ablauf Schritt für Schritt, mit zwei kurzen Videoausschnitten.
Wer eine KI-Wissensdatenbank einführen will und danach sucht, landet schnell bei Software, die sich in wenigen Minuten einrichten lässt. Für einen Betrieb stellen sich vorher aber andere Fragen. Wer richtet das ein? Wo liegen danach Ihre Handbücher, Verträge und Arbeitsanweisungen? Und woran erkennen Sie, dass die Antworten stimmen, bevor sich Ihr Team darauf verlässt?
Die Einführung ist ein kleines Projekt mit klaren Abschnitten. Wer diese Abschnitte kennt, kann jedes Angebot dazu prüfen, auch meines.
Was wird vor der Einführung geklärt?
Bevor die erste Datei eingelesen wird, klären wir drei Dinge: welche Unterlagen hinein sollen, wer welche davon sehen darf und ob sensible Daten dabei sind. Sind sensible Unterlagen dabei, steht vor dem Start eine Datenschutz-Folgenabschätzung.
Bei der Auswahl hilft eine einfache Regel: lieber ein Bereich mit gepflegten Unterlagen als das ganze Laufwerk. Gut geeignet sind Arbeitsanweisungen, Handbücher, Wartungs- und Lieferverträge, Protokolle und QM-Dokumente. Personalakten, Gehaltslisten und Gesundheitsdaten lesen wir am besten gar nicht erst ein. Was nicht in der Wissensdatenbank steht, kann auch nicht versehentlich in einer Antwort auftauchen.
Dabei lohnt ein Blick darauf, welche Dokumente veraltet sind oder doppelt vorliegen. Die Wissensdatenbank antwortet aus dem, was drinsteht, und das gilt auch für eine überholte Fassung.
Was wird eingerichtet?
Die Einrichtung übernehme ich komplett. Ihr Betrieb bekommt eine eigene Server-Umgebung in einem Rechenzentrum in der EU, abgesichert mit Firewall, verschlüsselter Verbindung und regelmäßigen Sicherungen. Darauf läuft eine Automatisierungs-Plattform, die neue Dokumente abholt, aufbereitet und die einzelnen Bausteine verbindet.
Dazu kommt ein KI-Sprachmodell, das ebenfalls in einem Rechenzentrum in der EU betrieben wird. Ihr Team fragt am Arbeitsplatz im Browser. Technisches Vorwissen braucht dafür niemand.
Wie werden Ihre Unterlagen aufbereitet?
Jedes Dokument wird eingelesen und in kurze Abschnitte zerlegt. Jeder Abschnitt bekommt einen Fingerabdruck seiner Bedeutung. Text, Fingerabdruck und Herkunft landen zusammen in einer Vektordatenbank. Das ist ein Karteikasten, der nach Bedeutung sortiert ist und nicht nach dem Alphabet.
Textfassung zum Ausschnitt
Die Aufbereitung läuft wie in einer Bibliothek. Eingelesen werden PDF, Word und Scans, die eine Texterkennung lesbar macht. Jedes Dokument wird in kurze Abschnitte zerlegt. Jeder Abschnitt bekommt einen Fingerabdruck seiner Bedeutung, eine lange Zahlenreihe, die beschreibt, worum es darin geht. Abschnitt, Fingerabdruck und Herkunft kommen in eine Vektordatenbank, das ist ein Karteikasten, der nach Bedeutung sortiert ist. Neue und geänderte Dokumente zieht das System automatisch nach, gelöschte verschwinden wieder.
Eingelesen werden PDF- und Word-Dateien, Scans macht eine Texterkennung lesbar. Der Fingerabdruck ist eine lange Zahlenreihe, die beschreibt, worum es in einem Abschnitt geht. Kommt ein neues Dokument dazu oder ändert sich eines, zieht das System die Änderung automatisch nach. Gelöschte Dokumente verschwinden auch aus dem Karteikasten.
Wie entsteht eine Antwort?
Eine Mitarbeiterin stellt ihre Frage in normaler Sprache. Das System sucht die Abschnitte mit der ähnlichsten Bedeutung heraus, eine zusätzliche Stichwortsuche findet Fachbegriffe und Paragrafen. Das Sprachmodell formuliert die Antwort nur aus diesen Abschnitten und nennt das Quelldokument.
Die Suche nach Bedeutung findet auch Stellen, in denen andere Wörter stehen als in der Frage. Wer nach Überstunden am Wochenende fragt, bekommt den Abschnitt über Mehrarbeit an Samstagen und Sonntagen. Steht zu einer Frage nichts in den Unterlagen, sagt die Wissensdatenbank das offen. Das Prinzip dahinter heißt RAG, ausführlicher erklärt im Artikel RAG einfach erklärt.
Wo liegen Ihre Daten?
Dokumente, Karteikasten und Gesprächsverläufe liegen auf Ihrer Server-Umgebung in der EU. Auch das Sprachmodell verarbeitet die Anfragen in der EU. Mit jedem beteiligten Dienstleister besteht ein Auftragsverarbeitungsvertrag (AVV), und welche Dienstleister das sind, erhalten Sie vor dem Start schriftlich.
Textfassung zum Ausschnitt
Und wo bleiben Ihre Daten? Dokumente, Karteikasten und Gesprächsverläufe liegen auf Ihrem Server in der EU. Auch das Sprachmodell verarbeitet die Anfragen in der EU, nicht auf Servern in den USA oder in China. Mit jedem beteiligten Dienstleister besteht ein Auftragsverarbeitungsvertrag. Ihre Dokumente werden nicht zum Training von KI-Modellen verwendet. Zugriff haben nur berechtigte Mitarbeitende, auf Wunsch nach Rechten gestaffelt. Bei sensiblen Unterlagen steht vor dem Start eine Datenschutz-Folgenabschätzung.
Die Tabelle zeigt, welcher Baustein wo läuft und was Sie dazu vor dem Start schriftlich bekommen.
| Baustein | Wo er läuft | Was Sie schriftlich bekommen |
|---|---|---|
| Dokumente und Karteikasten | Ihre Server-Umgebung in einem Rechenzentrum in der EU | AVV und Standort |
| Fragen und Antworten | Ihre Server-Umgebung in der EU | Speicherdauer, die wir gemeinsam festlegen |
| Texterkennung und Fingerabdruck | Rechenzentrum in der EU | AVV |
| Sprachmodell | Rechenzentrum in der EU | AVV und Liste der beteiligten Dienstleister |
Den Anbieter für die einzelnen Bausteine wähle ich je Betrieb aus. Deshalb steht hier kein Markenname. Für jeden Aufbau gilt dasselbe: Speicherung und Verarbeitung in der EU, ein Vertrag mit jedem Beteiligten und die Offenlegung vor dem Start.
Wer darf was sehen?
Jede Person meldet sich an, und die Wissensdatenbank durchsucht danach nur die Dokumente, die diese Person auch sehen darf. Alles andere bekommt das Sprachmodell bei dieser Frage gar nicht zu lesen. Deshalb kann es davon auch nichts weitergeben, egal wie die Frage formuliert ist.
Am einfachsten läuft die Anmeldung über das Firmenkonto, das Ihr Team schon für E-Mail und Dateiablage nutzt. Wer den Betrieb verlässt, verliert mit dem gesperrten Konto auch den Zugang. Die Rechte lassen sich gut an der Ordnerstruktur festmachen, etwa mit Gruppen wie „Alle“, „Vertrieb“ und „Geschäftsleitung“.
Eine Anweisung an die KI, bestimmte Dokumente nicht zu zeigen, reicht dafür nicht. Hat die KI einen Text einmal gelesen, kann eine geschickt gestellte Frage ihn wieder herausholen. Die Sperre gehört deshalb in die Suche selbst.
Wie wird geprüft, ob die Antworten stimmen?
Vor dem Start testet Ihr Team mit echten Fragen aus dem Alltag, und jede Antwort wird mit dem Originaldokument abgeglichen. Eine Antwort ohne Fundstelle gilt als Fehler. Erst wenn alle Testfragen bestanden sind, geht die Wissensdatenbank in Betrieb.
Zur Abnahme gehören drei Arten von Fragen. Bei der ersten Art steht die Antwort sicher in den Unterlagen. Hier wird geprüft, ob sie stimmt und die richtige Stelle nennt. Bei der zweiten Art steht nichts dazu in den Unterlagen, und die Wissensdatenbank muss das sagen, ohne zu raten.
Die dritte Art prüft die Gegenrichtung. Ein Testkonto ohne Berechtigung fragt nach Inhalten aus gesperrten Ordnern, lässt sich Dokumentlisten zeigen und verlangt den vollständigen Text eines vertraulichen Dokuments. Gibt das System dabei etwas preis, wird nachgebessert und neu getestet.
Fällt eine Antwort durch, lohnt der Blick ins Dokument. Eine veraltete Fassung oder ein schlecht lesbarer Scan sind typische Ursachen, und beides lässt sich vor dem Start beheben.
Praxisbeispiel: Abnahme in einem Elektrobetrieb
Das folgende Beispiel ist ausgedacht und zeigt, wie eine Abnahme aussehen kann. Ein Elektrobetrieb mit 20 Mitarbeitenden möchte, dass Monteure und Büro schneller an Wartungsverträge, Montageanleitungen und Arbeitsanweisungen kommen. Meister und Büroleitung schreiben vorher 30 Fragen auf, die im Alltag wirklich gestellt werden, etwa nach der Kündigungsfrist eines Wartungsvertrags oder nach den Prüffristen aus dem eigenen Prüfkonzept.
Fünf dieser Fragen sind so gewählt, dass die Antwort nicht in den Unterlagen steht. Dazu kommt ein Testkonto ohne Zugriff auf den Ordner „Geschäftsleitung“.
Bestanden ist die Abnahme, wenn alle 25 beantwortbaren Fragen richtig und mit Fundstelle beantwortet sind und die fünf übrigen als „steht nicht in den Unterlagen“ zurückkommen. Außerdem darf das Testkonto aus dem gesperrten Ordner nichts zu sehen bekommen. Erst dann arbeitet das Team mit der Wissensdatenbank.
So bereiten Sie die Einführung Ihrer KI-Wissensdatenbank vor
Einiges können Sie schon vor dem ersten Gespräch erledigen:
- einen Bereich auswählen, in dem heute viel gesucht wird
- die Unterlagen dieses Bereichs in der aktuellen Fassung zusammentragen
- 20 bis 30 Fragen aufschreiben, die Ihr Team wirklich stellt
- festlegen, welche Gruppen welche Ordner sehen dürfen
- Betriebsrat und Datenschutzbeauftragte früh informieren, falls es sie gibt
Was die Einrichtung im Einzelnen umfasst, steht auf der Seite Interne KI-Wissensdatenbank. Ist noch offen, ob eine Wissensdatenbank überhaupt der richtige erste Schritt ist, klären wir das in einer KI-Beratung.
FAQ
Kann jeder Mitarbeiter jedes Dokument sehen?
Nein. Jede Person meldet sich an, und die Suche läuft nur über die Dokumente ihrer Gruppen. Was jemand nicht sehen darf, bekommt das Sprachmodell bei seiner Frage gar nicht erst zu lesen.
Warum nicht einfach einen allgemeinen KI-Chat nutzen?
Ein allgemeiner KI-Chat kennt Ihre Handbücher und Verträge nicht und liefert im Zweifel eine Antwort, die nur plausibel klingt. Die Wissensdatenbank antwortet aus Ihren freigegebenen Unterlagen, nennt die Fundstelle und sagt offen, wenn nichts dazu da ist.
Funktioniert das auch mit eingescannten Unterlagen?
Ja. Eine Texterkennung macht Scans lesbar, bevor sie zerlegt werden. Wie gut das gelingt, hängt von der Qualität des Scans ab. Schlecht lesbare Seiten fallen spätestens bei der Abnahme auf und werden neu eingescannt.
Muss der Betriebsrat beteiligt werden?
Wenn es einen gibt, ja. Mit persönlicher Anmeldung lässt sich nachvollziehen, wer welche Frage gestellt hat. Bei solchen technischen Einrichtungen hat der Betriebsrat nach § 87 Abs. 1 Nr. 6 Betriebsverfassungsgesetz mitzubestimmen. Binden Sie ihn deshalb früh ein.
Wie lange werden Fragen und Antworten gespeichert?
Das legen wir vor dem Start gemeinsam fest. Die Gesprächsverläufe liegen wie die Dokumente auf Ihrer Server-Umgebung in der EU. Die vereinbarte Speicherdauer steht in den Unterlagen, die Sie vor dem Start schriftlich bekommen.
Was kostet eine KI-Wissensdatenbank?
Das hängt vom Umfang der Unterlagen, von der Zahl der Nutzer und von den Rechtegruppen ab. Eine belastbare Aussage ist möglich, wenn diese Punkte im Erstgespräch auf dem Tisch liegen.
Quellen
- Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Art. 28 „Auftragsverarbeiter“ und Art. 35 „Datenschutz-Folgenabschätzung“: EUR-Lex, abgerufen am 28.10.2026
- Betriebsverfassungsgesetz, § 87 Mitbestimmungsrechte, Abs. 1 Nr. 6: gesetze-im-internet.de, abgerufen am 28.10.2026
Ich bin Ulli Albrecht, KI-Berater aus Mettenheim in Rheinhessen und KI-Manager (TÜV). Das Erstgespräch ist kostenlos und dauert 30 Minuten.