Vorhandenes Wissen per KI-Chatbot direkt zugänglich machen
Wenn die Antwort längst dokumentiert ist, aber trotzdem beim Support landet
Bei Fragen zur Bedienung und Konfiguration von Software, zu Formularen oder Abläufen laufen viele Anfragen bei wenigen Personen zusammen. Dabei sind die benötigten Informationen häufig bereits vorhanden: in FAQ-Artikeln, Handbüchern, Wiki-Seiten oder früher bearbeiteten Support-Tickets.
Das Problem: Das Wissen liegt an unterschiedlichen Stellen und ist unterschiedlich strukturiert. Wer eine Antwort sucht, muss wissen, wo sie zu finden ist – oder fragt beim Support nach.
So entstehen immer wieder ähnliche Anfragen, obwohl die Antworten längst dokumentiert sind. Das bindet personelle Ressourcen und kann dazu führen, dass Nutzer:innen länger auf eine Antwort warten.
Unterschiedliche Wissensquellen nutzen und die Verarbeitung im Haus behalten
Zwei Anforderungen waren für die Lösung besonders relevant.
Unterschiedliche Sprache zusammenbringen.
Dokumentationen und FAQ-Artikel sind anders formuliert als die Fragen, die Nutzer:innen im Arbeitsalltag stellen. Die Lösung muss deshalb erkennen können, welche vorhandene Information zu einer frei formulierten Anfrage passt.
Daten lokal verarbeiten.
Anfragen aus dem Arbeitsalltag können interne Zusammenhänge oder personenbezogene Informationen enthalten. Deshalb sollte die Lösung vollständig innerhalb der eigenen Infrastruktur betrieben werden können. Die Organisation behält damit die Kontrolle darüber, wo Daten verarbeitet werden und welche Komponenten zum Einsatz kommen.
Anfragen erkennen und mit vorhandenem Wissen verbinden
Grundlage der Lösung ist eine Anfragenerkennung. Zu den Inhalten der Wissensdatenbank werden typische Nutzerfragen hinterlegt – formuliert so, wie Menschen ein bestimmtes Anliegen tatsächlich beschreiben würden.
Stellt jemand eine Frage im Chatbot, gleicht das System die Anfrage mit diesen Beispielfragen ab und ermittelt den am besten passenden Wissensartikel.
Bereits diese grundlegende Variante kann vollständig lokal betrieben werden und benötigt weder ein generatives KI-Modell noch zusätzliche Cloud-Ressourcen.
Gleichzeitig bildet sie die Basis für einen schrittweisen Ausbau der Lösung.
Vom passenden Artikel zur konkreten Antwort
Je nachdem, wie viel Unterstützung gewünscht wird, lässt sich die Lösung in drei Stufen ausbauen.
Stufe 1 – Passenden Artikel finden
Der Chatbot erkennt die Anfrage und stellt den dazu passenden Artikel aus der Wissensdatenbank bereit. Die Verarbeitung erfolgt vollständig lokal und ohne generative KI.
Stufe 2 – Konkrete Antwort formulieren
Ein generatives Modell erhält den gefundenen Artikel als Kontext und beantwortet daraus die konkrete Frage. Nutzer:innen müssen nicht mehr den vollständigen Artikel durchsuchen, sondern erhalten eine kurze Antwort auf ihr Anliegen.
Stufe 3 – Mehrere Quellen berücksichtigen
Dem generativen Modell werden mehrere inhaltlich relevante Quellen zur Verfügung gestellt. Dadurch kann es Informationen aus verschiedenen Artikeln zusammenführen und auch Fragen beantworten, die mehrere Themen betreffen.
Die Organisation entscheidet selbst, welche Ausbaustufe für den jeweiligen Einsatz sinnvoll ist.
Das Fachwissen steckt in den Quellen, nicht im Modell
Das generative Modell hat in diesem Anwendungsfall eine klar begrenzte Aufgabe: Es soll nicht selbst zum Wissensträger werden, sondern Informationen aus den bereitgestellten Quellen aufgreifen und passend zur jeweiligen Frage formulieren.
Dafür können auch kleinere Open-Weight-Modelle eingesetzt werden, die sich auf eigener Infrastruktur betreiben lassen. Das Modell kann entsprechend der technischen, organisatorischen und regulatorischen Anforderungen ausgewählt und bei Bedarf ausgetauscht werden.
Ändert oder erweitert sich das Wissen der Organisation, muss deshalb nicht das Modell neu trainiert werden. Aktualisiert werden die zugrunde liegenden Inhalte und bei Bedarf die für die Anfragenerkennung verwendeten Beispielfragen.
Die gesamte Verarbeitung kann lokal bleiben
Von der Erkennung der Anfrage bis zum Einsatz eines generativen Modells kann die Lösung vollständig auf selbst kontrollierter Infrastruktur betrieben werden. Interne Informationen aus den Anfragen müssen die eigene Umgebung damit nicht verlassen.
Auch die Betriebsform ist nicht mit der ersten Ausbaustufe dauerhaft festgelegt: Eine Organisation kann zunächst mit einer Variante ohne generative KI starten und diese später erweitern, ohne die grundlegende Architektur neu aufzubauen.
Wissen schneller verfügbar machen und den Support entlasten
Kontrolle über Wissen, Modell und Betrieb
Die Architektur ist nicht an eine bestimmte Wissensdatenbank oder einen einzelnen Anwendungsbereich gebunden. Das gleiche Prinzip kann überall dort eingesetzt werden, wo wiederkehrende Fragen auf bereits dokumentiertes, aber verteiltes Wissen treffen – beispielsweise bei Fachanwendungen in Gerichten und Staatsanwaltschaften, bei Formular- und Verfahrensfragen in Behörden oder bei Verwaltungsprozessen kirchlicher Organisationen.
Souveränität entsteht dabei vor allem dadurch, dass zentrale Entscheidungen bei der Organisation bleiben:
