Fast jedes mittelständische Unternehmen kennt das Problem: Wissen ist vorhanden, aber nicht greifbar. Es steckt in Handbüchern auf dem Netzlaufwerk, in SharePoint-Bibliotheken, in E-Mail-Postfächern, in gelösten Service-Tickets, in Protokollen, Produktdatenblättern und nicht zuletzt in den Köpfen erfahrener Mitarbeitender. Wer eine konkrete Frage hat, sucht in mehreren Systemen, fragt Kolleginnen und Kollegen oder gibt irgendwann auf. Mit jedem Renteneintritt und jedem Wechsel geht ein Stück dieses Wissens verloren. Eine KI-Wissensdatenbank setzt genau hier an: Sie macht vorhandenes Wissen auffindbar, verständlich und wiederverwendbar, ohne dass alle Inhalte vorher in ein neues System umgezogen werden müssen.
Technisch beruht eine moderne KI-Wissensdatenbank fast immer auf dem Prinzip der Retrieval-Augmented Generation, kurz RAG. Dabei werden Dokumente in Abschnitte zerlegt, in Vektoren übersetzt und in einem Suchindex abgelegt. Stellt jemand eine Frage, sucht das System die inhaltlich passendsten Abschnitte heraus und übergibt sie einem Sprachmodell, das daraus eine Antwort formuliert. Das Sprachmodell erfindet also nicht aus seinem allgemeinen Trainingswissen heraus, sondern stützt sich auf die Inhalte des Unternehmens. Das reduziert das Risiko sogenannter Halluzinationen deutlich, beseitigt es aber nicht vollständig – ein Punkt, auf den wir in mehreren Kapiteln zurückkommen.
Ein Unternehmenswiki ist ein Redaktionssystem: Menschen schreiben Seiten, verlinken sie und pflegen sie. Gefunden wird über Navigation, Seitenbäume und eine Stichwortsuche, die nur dann zuverlässig trifft, wenn man die richtigen Begriffe kennt. Das Wiki ist damit so gut wie seine Pflege – und genau daran scheitern viele Wikis im Mittelstand. Seiten veralten, Strukturen wuchern, und nach einigen Jahren vertraut niemand mehr den Inhalten.
Eine KI-Wissensdatenbank ersetzt das Wiki nicht zwingend, sondern legt sich als Erschließungsschicht darüber und daneben. Sie liest das Wiki ebenso wie andere Quellen ein, versteht Umschreibungen und Synonyme und beantwortet Fragen, für die es keine eigene Seite gibt, weil die Antwort aus mehreren Dokumenten zusammengesetzt werden muss. Gleichzeitig deckt sie Lücken und Widersprüche auf: Wenn auf eine häufig gestellte Frage keine belastbare Quelle existiert, ist das ein klarer Hinweis, wo redaktionelle Arbeit fehlt. Wiki und KI-Wissensdatenbank ergänzen sich also – das eine als gepflegte Primärquelle, das andere als intelligenter Zugang.
Ein Dokumentenmanagementsystem (DMS) verwaltet Dokumente revisionssicher: Versionen, Freigaben, Aufbewahrungsfristen, Metadaten und Zugriffsrechte. Seine Stärke ist die Ordnung und Nachweisbarkeit, nicht das Verstehen von Inhalten. Die Suche im DMS ist in der Regel eine Volltext- und Metadatensuche: Man findet das Dokument, muss es aber selbst öffnen, lesen und interpretieren.
Die KI-Wissensdatenbank setzt am Inhalt an. Sie nutzt das DMS als vertrauenswürdige Quelle und übernimmt idealerweise dessen Rechte und Metadaten, beantwortet aber die eigentliche Frage. Statt „Hier sind zwölf Dokumente zum Thema Reklamation“ lautet die Antwort sinngemäß „Reklamationen über diesem Wert müssen von der Qualitätsleitung freigegeben werden, siehe Verfahrensanweisung, Abschnitt 4“. Das DMS bleibt das System of Record, die KI-Wissensdatenbank wird zum System of Answers.
Fertige SaaS-Lösungen sind auf genau diesen Anwendungsfall spezialisiert. Sie bringen Konnektoren für gängige Quellsysteme mit, übernehmen Berechtigungen aus den angebundenen Systemen, bieten eine Chat- und Suchoberfläche und kümmern sich um Modellauswahl, Indexierung und Betrieb. Der große Vorteil ist die Geschwindigkeit: Ein Pilot ist oft in wenigen Wochen aufgesetzt, ohne dass intern Entwicklungs-Know-how aufgebaut werden muss. Die Kehrseite: Funktionsumfang, Datenstandort, eingesetzte Modelle und Preisgestaltung bestimmt der Anbieter. Spezielle Quellsysteme – etwa ein branchenspezifisches ERP oder eine selbst entwickelte Fachanwendung – sind häufig nur über Umwege anzubinden.
Copilot- und Suite-Funktionen großer Büro- und Kollaborationsplattformen verfolgen einen anderen Ansatz. Sie erschließen in erster Linie das, was ohnehin in der jeweiligen Suite liegt: E-Mails, Chats, Dokumentbibliotheken, Kalender und Besprechungen. Für Unternehmen, deren Wissen überwiegend in einem solchen Ökosystem liegt, ist das ein bequemer Einstieg ohne zusätzliches System. Allerdings zeigen diese Werkzeuge schonungslos, wie es um die Rechtevergabe steht: Was technisch für eine Person freigegeben ist, kann die KI auch finden – auch wenn es nie so gedacht war. Zudem bleiben Daten außerhalb der Suite oft außen vor oder lassen sich nur mit Zusatzaufwand einbinden.
KI-Plattformen liegen zwischen Fertigprodukt und Eigenbau. Sie stellen Bausteine wie Dokumentverarbeitung, Vektorsuche, Modellanbindung, Prompt-Verwaltung, Evaluation und eine Oberfläche bereit, die sich zu einer eigenen Wissensanwendung kombinieren lassen. Viele dieser Plattformen sind als Managed Service in der Cloud erhältlich, einige auch zum Selbstbetrieb oder als Open-Source-Variante. Sie eignen sich für Unternehmen, die mehr Kontrolle und Anpassbarkeit wollen als bei SaaS, ohne jede Komponente selbst entwickeln zu müssen.
Der Eigenbau mit Open-Source-Komponenten bietet die größte Freiheit. Frameworks wie Haystack, LlamaIndex oder LangChain orchestrieren die Pipeline, Vektordatenbanken wie Qdrant, Weaviate, Milvus oder pgvector speichern die Vektoren, und offene Embedding- und Sprachmodelle lassen sich auf eigener Hardware oder bei europäischen Hostern betreiben. Damit kann eine KI-Wissensdatenbank vollständig im eigenen Verantwortungsbereich laufen. Der Preis ist Verantwortung: Architektur, Qualitätssicherung, Sicherheit, Updates und Weiterentwicklung liegen beim Unternehmen oder seinem Dienstleister. Für Organisationen mit hohen Souveränitätsanforderungen oder sehr spezifischen Quellsystemen ist das dennoch häufig der richtige Weg.
Die meisten Qualitätsprobleme einer KI-Wissensdatenbank entstehen nicht im Sprachmodell, sondern ganz am Anfang der Kette. Wenn die Textextraktion aus einem gescannten PDF fehlerhaft ist, wenn Tabellen zu Buchstabensalat werden oder wenn Kopf- und Fußzeilen jeden Abschnitt verunreinigen, kann auch das beste Modell keine gute Antwort geben. Eine robuste Ingestion erkennt Dokumentstrukturen, behandelt Tabellen und Bilder gesondert, nutzt bei Bedarf Texterkennung und reichert jeden Abschnitt mit Metadaten an: Quelle, Titel, Gültigkeit, Sprache, Abteilung und Berechtigungsgruppe.
Das Chunking entscheidet, in welchen Einheiten Wissen später gefunden wird. Zu kleine Abschnitte verlieren ihren Kontext, zu große verwässern die Suche und füllen das Kontextfenster des Sprachmodells mit Unwichtigem. Bewährt haben sich strukturbewusste Verfahren, die sich an Überschriften und Absätzen orientieren, sowie ergänzende Techniken wie überlappende Abschnitte oder das Voranstellen des Dokumenttitels. Welche Strategie am besten funktioniert, hängt vom Dokumenttyp ab: Eine Betriebsanleitung will anders zerlegt werden als ein Ticketverlauf oder ein Vertrag. Mehr dazu in unserem Artikel zu Chunking-Strategien.
Das Embedding-Modell bestimmt, wie gut das System Bedeutung erkennt. Für deutschsprachige Inhalte und Fachvokabular sind mehrsprachige Modelle mit guter Abdeckung des Deutschen wichtig. Ob kommerzielle API oder selbst betriebenes Open-Source-Modell, ist auch eine Datenschutzfrage, denn beim Erzeugen der Embeddings verlassen die Inhalte gegebenenfalls das Haus. Ein Wechsel des Modells erfordert in der Regel eine Neuindexierung aller Inhalte – die Wahl sollte daher bewusst getroffen werden.
Im Vektor-Index liegen die Abschnitte samt Metadaten. Für kleinere Bestände genügt oft eine Erweiterung der vorhandenen Datenbank, etwa pgvector in PostgreSQL; für größere oder anspruchsvollere Szenarien kommen spezialisierte Vektordatenbanken oder Suchmaschinen mit Vektorfunktionen zum Einsatz. Entscheidend für die Praxis ist die hybride Suche: Sie kombiniert semantische Ähnlichkeit mit klassischer Schlüsselwortsuche, damit sowohl Umschreibungen als auch exakte Begriffe wie Artikelnummern, Fehlercodes oder Normbezeichnungen gefunden werden. Filter auf Metadaten sorgen dafür, dass nur berechtigte und gültige Inhalte in die Auswahl kommen.
Die Vektorsuche liefert schnell eine Kandidatenliste, ist aber in der Reihenfolge nicht immer präzise. Ein Reranker bewertet Frage und Kandidat gemeinsam und sortiert die Treffer neu. Das kostet etwas Rechenzeit, verbessert die Relevanz der an das Sprachmodell übergebenen Abschnitte aber oft spürbar. Erst danach kommt das Sprachmodell ins Spiel. Seine Aufgabe ist es, aus den ausgewählten Abschnitten eine verständliche, korrekte Antwort zu formulieren, Quellen anzugeben und bei fehlender Information nicht zu raten. Ein sorgfältig gestalteter Systemprompt, klare Antwortregeln und eine Begrenzung auf den bereitgestellten Kontext sind dafür ebenso wichtig wie die Wahl des Modells selbst.
Die zentrale Funktion ist der Dialog: Mitarbeitende stellen eine Frage so, wie sie sie einer Kollegin stellen würden, und erhalten eine Antwort in ganzen Sätzen. Qualitativ hochwertige Systeme zeigen zu jeder Aussage, aus welchem Dokument und welchem Abschnitt sie stammt, und ermöglichen den direkten Sprung ins Original. Diese Quellenangaben sind kein Komfortmerkmal, sondern Voraussetzung für Vertrauen und Nachprüfbarkeit. Sie erlauben es, Antworten zu verifizieren, veraltete Dokumente zu erkennen und Verantwortung dort zu belassen, wo sie hingehört – bei der Fachabteilung, die das Dokument verantwortet.
Gute Systeme beherrschen außerdem Rückfragen im Gesprächsverlauf, also Anschlussfragen wie „Und wie ist das bei Teilzeitkräften?“, ohne dass der Kontext erneut erklärt werden muss. Ebenso wichtig ist das Verhalten bei Wissenslücken: Ein System, das bei fehlender Quelle offen sagt, dass es keine belastbare Information gefunden hat, ist wertvoller als eines, das stets eine plausibel klingende Antwort liefert. Feedback-Funktionen, mit denen Nutzer Antworten als hilfreich oder falsch markieren, liefern zudem wertvolle Daten für die Verbesserung.
Über einzelne Fragen hinaus kann eine KI-Wissensdatenbank Zusammenfassungen erstellen: die wichtigsten Änderungen einer neuen Richtlinie, die Kernaussagen eines langen Projektberichts oder den bisherigen Verlauf eines komplexen Kundenvorgangs. Darauf aufbauend lassen sich Entwürfe erzeugen – etwa eine Antwort auf eine Kundenanfrage auf Basis früherer Lösungen und aktueller Produktdokumentation, eine Checkliste für eine Wartung oder eine Einarbeitungsübersicht für neue Mitarbeitende. Wichtig bleibt dabei die menschliche Prüfung vor dem Versand.
Die nächste Stufe sind KI-Agenten. Sie arbeiten nicht nur mit einer einzelnen Suche, sondern planen mehrere Schritte: Sie durchsuchen verschiedene Quellen, fragen strukturierte Daten aus dem ERP ab, vergleichen Ergebnisse, stellen bei Bedarf Rückfragen und lösen gegebenenfalls Aktionen aus, etwa das Anlegen eines Tickets oder das Vorbereiten einer Bestellung. Für eine Wissensdatenbank heißt das: Sie wird vom passiven Nachschlagewerk zur Wissensquelle für automatisierte Abläufe. Agenten erhöhen aber die Komplexität, das Fehlerpotenzial und die Anforderungen an Protokollierung und Freigaben. Wir empfehlen, sie erst einzuführen, wenn die grundlegende Frage-Antwort-Qualität belastbar gemessen und gesichert ist.
Eine der wichtigsten, oft unterschätzten Funktionen ist die Rechte-Vererbung. Die KI-Wissensdatenbank darf einer Person nur Inhalte zeigen und für Antworten verwenden, auf die diese Person auch im Quellsystem Zugriff hat. Technisch werden dafür die Berechtigungen aus SharePoint, DMS oder Ticketsystem beim Einlesen übernommen und bei jeder Suche als Filter angewendet. Ändern sich Rechte im Quellsystem, muss der Index zeitnah nachziehen. Lösungen, die nur einen einzigen, für alle gleichen Index kennen, sind für die meisten Unternehmen ungeeignet, sobald vertrauliche Inhalte wie Personalakten, Gehaltsdaten, Verträge oder Vorstandsunterlagen im Spiel sind.
SharePoint und vergleichbare Kollaborationsplattformen sind in vielen Unternehmen die größte Dokumentenquelle. Die Anbindung erfolgt in der Regel über die offiziellen Programmierschnittstellen der Plattform, die Inhalte, Metadaten und Berechtigungen bereitstellen. Herausfordernd sind die oft historisch gewachsenen Rechtestrukturen, Freigabelinks, Versionsstände und die schiere Menge an Dubletten und Entwürfen. Klassische Netzlaufwerke sind technisch einfacher anzubinden, liefern aber weniger Metadaten und häufig chaotischere Strukturen. Hier lohnt eine Vorauswahl der Verzeichnisse, die tatsächlich gepflegtes Wissen enthalten.
Ein DMS ist oft die wertvollste Quelle, weil die Inhalte dort bereits freigegeben, versioniert und verschlagwortet sind. Viele DMS-Hersteller bieten mittlerweile eigene KI-Funktionen oder Schnittstellen für externe Systeme an. Bei der Integration sollte nur die jeweils gültige Version indexiert werden, damit die KI nicht aus überholten Fassungen zitiert. Wikis wie Confluence oder vergleichbare Systeme liefern gut strukturierte, verlinkte Inhalte mit klaren Seitenhierarchien und Bereichsrechten – ideale Voraussetzungen für sauberes Chunking und Rechte-Vererbung, sofern die Inhalte gepflegt sind.
Das ERP enthält das operative Gedächtnis des Unternehmens: Artikelstämme, Stücklisten, Kunden, Aufträge, Lieferanten und Preise. Diese Daten sind strukturiert und eignen sich nur eingeschränkt für die klassische Vektorsuche. Sinnvoller ist meist eine Kombination: Beschreibende Texte wie Artikelbeschreibungen oder Langtexte werden indexiert, während konkrete Werte wie Lagerbestand, Liefertermin oder Auftragsstatus zur Laufzeit über Schnittstellen abgefragt werden – etwa durch einen Agenten, der weiß, wann er welches System fragen muss. So bleibt die Information aktuell, und sensible Stammdaten müssen nicht dauerhaft in einem zusätzlichen Index liegen.
Ähnliches gilt für CRM-Systeme und branchenspezifische Fachanwendungen. Gesprächsnotizen, Angebotsdokumente oder Projektberichte können indexiert werden, Kennzahlen und Status werden besser live abgefragt. Gerade bei individuell entwickelten oder älteren Anwendungen ohne moderne Schnittstelle ist hier oft der größte Integrationsaufwand versteckt. Ein früher Blick auf Exportmöglichkeiten, Datenbankzugriffe und Schnittstellendokumentation erspart später unangenehme Überraschungen.
Ticketsysteme in Service und IT-Support sind eine Goldgrube: Jedes gelöste Ticket ist ein dokumentierter Problemfall mit Lösung. Für die KI-Wissensdatenbank sind vor allem abgeschlossene Tickets mit klarer Lösung interessant. Um Rauschen zu vermeiden, empfiehlt es sich, Verläufe zu verdichten, interne Notizen gezielt einzubeziehen oder auszuschließen und personenbezogene Daten zu minimieren. Ähnliche Vorgänge sollten gruppiert werden, damit ein einzelnes, oft wiederholtes Problem nicht die Trefferliste dominiert.
E-Mails und Chats enthalten zwar viel Wissen, sind aber datenschutzrechtlich und organisatorisch heikel. Sie enthalten Persönliches, Vertrauliches und oft Unausgereiftes. Wir raten im Mittelstand in der Regel davon ab, ganze Postfächer pauschal zu indexieren. Besser ist es, Wissen aus der Kommunikation gezielt in gepflegte Quellen zu überführen – zum Beispiel als FAQ-Eintrag oder Wissensartikel – und diese dann anzubinden.
Eine fertige Lösung passt, wenn die Quellsysteme gängig sind, keine besonderen Souveränitätsanforderungen bestehen, das interne Team klein ist und schnell ein spürbarer Nutzen erzielt werden soll. Typisch ist ein Unternehmen, dessen Wissen überwiegend in einer großen Kollaborationssuite und einem verbreiteten Wiki liegt und das einen internen Assistenten für alle Mitarbeitenden einführen möchte. Hier wäre ein Eigenbau oft unnötiger Aufwand. Wichtig ist allerdings eine sorgfältige Prüfung von Vertragsbedingungen, Datenstandort, Modellnutzung, Exportmöglichkeiten und Ausstiegsszenarien – damit aus dem Schnellstart keine dauerhafte Abhängigkeit ohne Alternative wird.
Auch Suite-Funktionen sind eine Kaufentscheidung. Sie sind besonders attraktiv, wenn die Lizenzinfrastruktur ohnehin vorhanden ist. Voraussetzung ist allerdings ein aufgeräumtes Berechtigungskonzept in der Suite, denn die KI macht übermäßig breite Freigaben sichtbar. Ein Berechtigungsaudit vor der Einführung ist deshalb kein optionaler Schritt, sondern Pflicht.
Für einen Plattform- oder Eigenbauansatz sprechen besondere Quellsysteme wie ein branchenspezifisches ERP, hohe Anforderungen an Datenhoheit und Self-Hosting, der Wunsch nach tiefer Integration in eigene Prozesse und Anwendungen, spezielle Anforderungen an die Antwortqualität in einer Fachdomäne oder die Absicht, die Wissensdatenbank als Fundament für weitere KI-Anwendungen und Agenten zu nutzen. Auch Unternehmen, die KI als strategische Kompetenz aufbauen wollen, profitieren davon, die Architektur selbst zu verstehen und zu beherrschen.
In der Praxis ist häufig ein hybrider Weg am wirtschaftlichsten: ein Plattform- oder Open-Source-Kern mit bewährten Komponenten, ergänzt um gezielte Eigenentwicklung dort, wo das Unternehmen sich unterscheidet. So bleibt der Aufwand beherrschbar, ohne die Kontrolle über Daten und Architektur aus der Hand zu geben.
Besonders wichtig ist die erste Phase. Viele Projekte starten mit dem Anspruch, „alles Wissen des Unternehmens“ verfügbar zu machen, und verzetteln sich. Erfolgreicher ist ein enger Startpunkt, etwa die Wissensbasis des technischen Service oder das Personalhandbuch, mit einer klar definierten Nutzergruppe und messbaren Kriterien. Der erste sichtbare Erfolg schafft die Akzeptanz für die nächsten Schritte.
Die Qualität der Antworten kann nie besser sein als die Qualität der Quellen. Veraltete Arbeitsanweisungen, widersprüchliche Versionen desselben Dokuments, Entwürfe neben Endfassungen und unklare Gültigkeiten führen unweigerlich zu falschen oder unsicheren Antworten. Ein Projekt zur KI-Wissensdatenbank ist deshalb immer auch ein Projekt zur Wissenshygiene. Bewährt haben sich klare Verantwortlichkeiten pro Quelle, Gültigkeitsmetadaten, das gezielte Ausschließen von Archiv- und Entwurfsordnern sowie ein Prozess, in dem Fachabteilungen auf erkannte Lücken und Widersprüche reagieren.
Ein angenehmer Nebeneffekt: Die KI-Wissensdatenbank wird selbst zum Werkzeug für bessere Dokumentation. Die Auswertung häufig gestellter, aber schlecht beantworteter Fragen zeigt präzise, wo Wissen fehlt oder unauffindbar ist. Damit lassen sich redaktionelle Ressourcen dort einsetzen, wo sie den größten Nutzen stiften.
Ohne Messung bleibt die Qualität eine Frage des Bauchgefühls. Grundlage einer belastbaren Evaluation ist ein Testdatensatz aus realistischen Fragen mit erwarteten Antworten und Quellen, idealerweise gemeinsam mit den Fachabteilungen erstellt. Geprüft wird auf mehreren Ebenen: Findet das Retrieval die richtigen Abschnitte? Ist die Antwort durch die Quellen gedeckt? Ist sie vollständig und verständlich? Werkzeuge und Frameworks für die RAG-Evaluation unterstützen dabei mit automatisierten Metriken, ersetzen aber nicht die stichprobenartige Bewertung durch Fachleute.
Im Betrieb gehören dazu: regelmäßige Synchronisation der Quellen inklusive Löschungen und Rechteänderungen, Monitoring von Antwortzeiten, Fehlerraten und Nutzungsverhalten, Auswertung des Nutzerfeedbacks, Wiederholung der Evaluation nach jeder Änderung an Modellen, Prompts oder Chunking sowie ein klarer Prozess für Modellwechsel. Wer diese Aufgaben von Anfang an einplant und einer verantwortlichen Rolle zuordnet, vermeidet den typischen Verfall nach der Einführungseuphorie.
Im technischen Service zeigt sich der Nutzen besonders deutlich. Ein Maschinenbauer mit einer breiten Produktpalette über viele Baujahre hat Wartungshandbücher, Ersatzteillisten, Servicemitteilungen und tausende gelöste Störungsfälle. Ein erfahrener Techniker kennt viele davon aus dem Kopf, ein neuer nicht. Mit einer KI-Wissensdatenbank beschreibt der Techniker das Symptom oder nennt den Fehlercode und erhält die wahrscheinlichsten Ursachen, die passenden Prüfschritte und Verweise auf die relevanten Handbuchabschnitte. Die hybride Suche stellt sicher, dass sowohl exakte Codes als auch frei formulierte Beschreibungen funktionieren. Filter auf Maschinentyp und Baujahr verhindern Antworten für das falsche Modell.
Im Vertrieb geht es um Geschwindigkeit und Konsistenz. Technische Fragen in Ausschreibungen, Vergleich mit Wettbewerbsprodukten, passende Referenzen oder die Frage, ob eine bestimmte Kombination von Optionen lieferbar ist – all das lässt sich aus Produktdokumentation, früheren Angeboten und Projektberichten beantworten. Gleichzeitig muss sauber unterschieden werden zwischen öffentlich kommunizierbaren Informationen und internen Kalkulationen, die nicht in Kundentexte gelangen dürfen.
In der Produktion sind die Anforderungen andere: kurze Fragen, wenig Zeit, oft kein Büroarbeitsplatz. Hier bewähren sich einfache Oberflächen auf Terminals oder Tablets, gegebenenfalls mit Spracheingabe. Inhalte sind Arbeitsanweisungen, Prüfpläne, Sicherheitsdatenblätter und Erfahrungen aus früheren Qualitätsabweichungen. Besonders kritisch ist hier die Aktualität: Die KI darf ausschließlich die gültige Fassung einer Arbeitsanweisung verwenden und muss bei sicherheitsrelevanten Fragen klar auf das Originaldokument verweisen.
In der Personalabteilung wiederholen sich viele Fragen: Urlaubsanspruch, Elternzeit, Reisekosten, Dienstwagen, Weiterbildung, Arbeitszeitregelungen. Eine KI-Wissensdatenbank auf Basis von Richtlinien, Tarifverträgen und Betriebsvereinbarungen kann diese Fragen rund um die Uhr beantworten und die Personalabteilung entlasten. Gerade hier ist jedoch Sorgfalt gefragt: Allgemeine Regelungen dürfen beantwortet werden, individuelle Personaldaten gehören nicht in einen allgemein zugänglichen Index. Und bei arbeitsrechtlich relevanten Fragen sollte die Antwort stets auf die zuständige Ansprechperson verweisen.
So vielfältig die Szenarien sind: Nicht jedes rechtfertigt den Aufwand. Am meisten lohnt sich eine KI-Wissensdatenbank dort, wo viele Menschen wiederkehrend Wissen suchen, die Quellen einigermaßen gepflegt sind und Fehler zwar ärgerlich, aber beherrschbar sind. Weniger geeignet sind Bereiche mit sehr wenigen Nutzenden, extrem dynamischen Informationen oder Entscheidungen, bei denen eine falsche Antwort erheblichen Schaden anrichten kann – hier bleibt die KI allenfalls Assistenz mit klarer menschlicher Kontrolle.
Die Kosten einer KI-Wissensdatenbank setzen sich aus mehreren Blöcken zusammen, deren Gewicht je nach Lösungstyp stark variiert. Bei SaaS- und Suite-Lösungen dominieren Lizenzkosten, die meist pro Nutzer und Monat abgerechnet werden und mit der Zahl der Anwender linear wachsen. Bei Plattformen und Eigenbau stehen Entwicklung und Integration am Anfang, danach Infrastruktur und Betrieb. Die Modellnutzung wird entweder nutzungsabhängig über die Menge verarbeiteter Texte abgerechnet oder als Infrastrukturkosten für selbst betriebene Modelle auf eigener oder gemieteter GPU-Hardware.
Konkrete Preise nennen wir bewusst nicht, weil sie von Anbieter, Nutzerzahl, Datenmenge und Betriebsmodell abhängen und sich laufend ändern. Aktuelle Konditionen sind stets beim jeweiligen Anbieter zu prüfen. Als Faustregel gilt: Bei wenigen Nutzern und Standardquellen ist SaaS meist günstiger im Einstieg; bei vielen Nutzern, besonderen Quellen oder hohen Souveränitätsanforderungen kann ein Plattform- oder Eigenbauansatz über die Laufzeit wirtschaftlicher sein.
Die zentrale Datenschutzfrage lautet: Wo werden Inhalte, Embeddings, Anfragen und Antworten verarbeitet und gespeichert, und wer kann darauf zugreifen? Bei US-amerikanischen Cloud-Diensten – auch mit Rechenzentren in der EU – sind Auftragsverarbeitungsverträge, Unterauftragsverarbeiter, Garantien für Drittlandtransfers und mögliche Zugriffsrechte ausländischer Behörden zu bewerten. Viele Anbieter bieten mittlerweile EU-Datenresidenz und vertragliche Zusicherungen an, etwa zur Nichtverwendung der Kundendaten für das Training von Modellen. Diese Zusicherungen sollten schriftlich vorliegen und geprüft werden.
Europäische Cloud-Anbieter und Hoster vereinfachen die Bewertung, weil Anbieter und Infrastruktur dem europäischen Rechtsrahmen unterliegen. Self-Hosting mit offenen Modellen und Open-Source-Komponenten bietet die größte Kontrolle: Keine Daten verlassen den eigenen Verantwortungsbereich. Dafür steigen Betriebsaufwand und Hardwarebedarf, und die Leistungsfähigkeit offener Modelle muss für den konkreten Anwendungsfall geprüft werden. Oft ist eine Kombination sinnvoll: vertrauliche Bereiche vollständig im eigenen Betrieb, weniger sensible Anwendungen mit gemanagten Diensten in der EU.
Ein sauberes Berechtigungskonzept ist zugleich Datenschutz- und Sicherheitsmaßnahme. Die KI darf niemandem Inhalte zugänglich machen, die er im Quellsystem nicht sehen dürfte. Zudem sollten Protokolle von Anfragen und Antworten nur so lange und so detailliert gespeichert werden, wie es für Betrieb und Qualitätssicherung erforderlich ist. Vektoren gelten dabei nicht automatisch als anonym; Löschanfragen müssen auch im Index, in Zwischenspeichern und in Sicherungen umgesetzt werden.
Wo ein Betriebsrat besteht, ist dieser in aller Regel früh einzubinden, weil Systeme, die Nutzungsdaten protokollieren, zur Leistungs- oder Verhaltenskontrolle geeignet sein können. Eine Betriebsvereinbarung, die Zweck, Protokollierung, Auswertungen und Grenzen regelt, schafft Klarheit und fördert die Akzeptanz. Der EU AI Act stuft eine interne Wissensdatenbank in typischen Szenarien nicht als Hochrisikosystem ein; dennoch gelten Pflichten etwa zur KI-Kompetenz der Mitarbeitenden und zur Transparenz, und bestimmte Einsatzbereiche, zum Beispiel im Personalwesen, können strengere Anforderungen auslösen. Die konkrete Einstufung sollte im Einzelfall rechtlich geprüft werden.