Wissenssuche im Unternehmen, der man vertrauen kann

01Das Problem mit der Vorführung

Fast alle Wissensassistenten arbeiten nach demselben Muster, der Retrieval-Augmented Generation (öffnet externe Website) (RAG): Zuerst werden die zur Frage passenden Textstellen gesucht, dann formuliert ein Sprachmodell daraus eine Antwort. Mit einem sorgfältig ausgewählten Ordner von fünfzig Dokumenten überzeugt das schon nach einer Woche.

Im echten Betrieb sieht die Lage anders aus: Netzlaufwerke aus zwei Jahrzehnten, Wikis, Tickets, Verträge, Erlässe und Richtlinien, vieles doppelt, veraltet oder vertraulich. Dort scheitert ein Assistent auf zwei Arten. Entweder antwortet er falsch, und niemand nutzt ihn mehr. Oder er antwortet falsch und klingt dabei sicher, und Menschen handeln danach. Das ist der schlimmere Fall.

Vertrauen in eine Wissenssuche ist daher vor allem eine Frage des Systems, das das Modell umgibt. Fünf Eigenschaften sind ausschlaggebend, und jede lässt sich bewusst gestalten und, was oft unterschätzt wird, testen.

02Berechtigungen: nur finden, was die Person lesen darf

Die Regel ist einfach. Der Assistent zeigt niemandem eine Textstelle, die diese Person im Quellsystem nicht öffnen könnte. Entscheidend ist, wo die Regel greift: Was beim Modell ankommt, kann auch in der Antwort auftauchen. Die Berechtigungsprüfung muss also vor der Generierung stattfinden, bei der Suche, und zwar für die Person, die gerade fragt.

OWASP zählt die Preisgabe sensibler Informationen (öffnet externe Website) und Schwächen bei Vektoren und Embeddings (öffnet externe Website), darunter das Durchsickern über Berechtigungsgrenzen hinweg, zu den Hauptrisiken von Anwendungen mit Sprachmodellen. Für die Praxis ergeben sich vier Anforderungen.

• Jeder Textabschnitt im Index trägt die Zugriffsrechte seines Quelldokuments, und zwar wie im Quellsystem hinterlegt, nicht händisch nachgebaut.
• Gefiltert wird bei jeder Abfrage nach diesen Rechten und der Identität der angemeldeten Person, noch bevor gereiht und eine Antwort erzeugt wird.
• Änderungen an Berechtigungen kommen mindestens so schnell im Index an wie Änderungen an Inhalten. Vereinbaren Sie, wie rasch ein entzogenes Recht wirken muss.
• Testen Sie mit echten Rollen. „Findet ein Lehrling das Gehaltsschema?“ gehört in die Testsuite und nicht erst in die Aufarbeitung nach einem Vorfall.

03Herkunft: Quellen, die man nachprüfen kann

Hinter jeder Aussage einer Antwort steht die Textstelle, aus der sie stammt: Titel des Dokuments, Fassung oder Datum, verantwortliche Stelle und ein Link, der genau dort öffnet. Zeigen Sie die Passage selbst und nicht bloß den Dokumentnamen. Dann sieht man in Sekunden, ob der Beleg den Satz wirklich trägt.

Das Antwortformat soll unbelegten Text sichtbar machen: Findet sich zu einem Satz keine passende Stelle, fällt er weg oder wird gekennzeichnet. Automatisieren Sie die Kontrolle, indem jede zitierte Passage gegen die zugehörige Aussage geprüft wird, und lassen Sie zusätzlich Stichproben händisch begutachten. Ein typischer und leicht zu übersehender Fehler sind Verweise, die es zwar gibt, die die Aussage aber gar nicht hergeben.

04Aktualität und Verbindlichkeit

Organisationswissen existiert in mehreren Versionen. Auf die Frage, ob Business Class erlaubt ist, passen die frühere wie die geltende Dienstreiseregelung, nur mit gegensätzlichem Ergebnis. Damit das System sie auseinanderhält, braucht der Index Metadaten: ab wann ein Dokument gilt, in welchem Status es ist (Entwurf, freigegeben, aufgehoben) und wer es verantwortet. Geltende, freigegebene Fassungen werden bevorzugt, aufgehobene erscheinen nur, wenn jemand ausdrücklich nach der Historie fragt, und jede Quellenangabe nennt ihr Datum. In einer Bundesdienststelle betrifft das genauso Erlässe, die von neueren abgelöst wurden.

Für jedes Thema braucht es eine verbindliche Quelle. Die geltende Personalrichtlinie liefert das Personalportal und nicht ein weitergeleitetes E-Mail mit dem Stand des Vorjahres. Jede Quelle bekommt ihren Aktualisierungsrhythmus, bei Fallakten fast in Echtzeit, beim Wiki einmal am Tag, und dieser Rhythmus wird überwacht. Ist der Index veraltet, wirken die Antworten plausibel und stimmen trotzdem nicht.

05Ehrliche Lücken: „Dazu habe ich nichts gefunden“

Oft ist eine ehrlich benannte Lücke die wertvollste Antwort. Sprachmodelle können flüssige Aussagen erzeugen, für die es keinerlei Grundlage gibt; das NIST bezeichnet das in seinem Profil für generative KI (öffnet externe Website) als „Confabulation“. Die Bindung an gefundene Textstellen verringert das Problem, beseitigt es aber nicht. Die Folge, dass Menschen auf Grundlage falscher Ausgaben handeln, führt OWASP unter „Misinformation“ (öffnet externe Website) als eigenes Risiko.

Unterhalb einer festgelegten Relevanz meldet das System, dass es keine belastbare Quelle gibt, und nennt eine Stelle, die weiterhelfen kann. Wo es um Regeln, Ansprüche oder Pflichten geht, ist Allgemeinwissen des Modells als Lückenfüller tabu. Halten Sie zudem fest, bei welchen Themen der Assistent passen musste. Gerade in der Anfangsphase ist diese Aufstellung häufig der größte Gewinn des Projekts: Sie zeigt den Inhaltsverantwortlichen schwarz auf weiß, welche Dokumentation fehlt.

06Die Architektur hinter den fünf Eigenschaften

Dafür braucht es keinen exotischen Technologiestapel. Es braucht eine Pipeline, in der Berechtigungen, Metadaten und Prüfungen von Anfang an fester Bestandteil sind und nicht erst nach der Vorführung angebaut werden.

Ein eigenes Thema sind personenbezogene Daten. Wer Dokumente indexiert, verarbeitet auch die Personendaten, die darin stehen. Damit greifen die Grundsätze aus Art. 5 DSGVO, vor allem Zweckbindung und Datenminimierung (öffnet externe Website); zuständige Aufsicht in Österreich ist die Datenschutzbehörde (DSB). Praktisch heißt das: Quellen ohne Bedeutung für den Anwendungsfall bleiben draußen, eine Löschung im Quellsystem muss den Index erreichen, und bei einem Auskunftsbegehren nach der DSGVO zählt der Index mit.

07Gemessene Qualität, vor und nach dem Start

Ein paar Testfragen in einer Sitzung sagen über die Verlässlichkeit wenig aus. Legen Sie gemeinsam mit den Inhaltsverantwortlichen fest, was Qualität bedeutet, und messen Sie Schicht für Schicht. So erkennen Sie, an welcher Stelle eine Korrektur ansetzen muss.

Den Testsatz bauen Sie aus echten Fragen: Suchprotokolle, Helpdesk-Tickets, Fragen neuer Kolleginnen und Kollegen. Ein paar hundert Fragen mit Antworten, auf die sich die Inhaltsverantwortlichen geeinigt haben, sind ein brauchbarer Anfang. Lassen Sie den kompletten Satz bei jeder Änderung laufen, ob neues Modell, andere Zerlegung der Dokumente oder neue Quelle. Ändern sich Inhalte, verschiebt sich die Qualität unbemerkt; erst ein fixer Testsatz macht das sichtbar.

08Woran Nutzerinnen und Nutzer Vertrauens­würdigkeit erkennen

Im Alltag erkennen Nutzerinnen und Nutzer Vertrauenswürdigkeit an wenigen Dingen. Der Assistent greift nur auf Unterlagen zu, für die sie selbst berechtigt sind. Hinter jeder Aussage liegt ein Beleg, den sie öffnen können. Das Datum der Quelle ist sichtbar. Wenn es keine belastbare Antwort gibt, erfahren sie das offen. Und wer eine falsche Antwort meldet, sieht, dass sie behoben wird, ob im Spital, in der Bundesdienststelle oder im Industriebetrieb.

KI-Ausgaben können trotzdem falsch sein, und manche Fragen gehören zu einem Menschen statt in eine Suche. Das offen einzuplanen, ist keine Schwäche des Systems. Gerade deshalb verlassen sich die Menschen beim Rest darauf.