Mitől megbízható a vállalati tudáskeresés

01A bemutató csapdája

A legtöbb tudásasszisztens ugyanazt a mintát követi, amelyet keresésre épülő szöveggenerálásnak (külső webhelyet nyit meg) (retrieval-augmented generation, RAG) neveznek: megkeresi a kérdéshez illő szövegrészeket, majd egy nyelvi modell ezekre építve megírja a választ. Ötven gondosan válogatott dokumentumon ez egy héten belül meggyőzően működik.

Az éles üzem másképp néz ki. Húsz év megosztott meghajtói, wikijei, hibajegyei, szerződései és szabályzatai, sok közülük duplikált, elavult vagy bizalmas. Ilyen környezetben az asszisztens kétféleképpen hibázik. Rossz választ ad, és a munkatársak abbahagyják a használatát. Vagy ami rosszabb: magabiztosan ad rossz választ, és a munkatársak aszerint cselekszenek.

A megbízható tudáskeresés ezért kevésbé a modellen múlik, inkább a körülötte lévő rendszer öt tulajdonságán. Mindegyik megtervezhető, és ami fontosabb, tesztelhető.

02Jogosultság: csak azt keresse elő, amit a felhasználó olvashat

A szabály egyszerű: az asszisztens soha nem mutathat meg senkinek olyan szövegrészt, amelyet az illető a forrásrendszerben nem nyithatna meg. A döntő kérdés az, hol érvényesül a szabály. Ha egy szövegrész eljut a modellig, számoljon azzal, hogy megjelenhet a válaszban. A jogosultságokat ezért a generálás előtt, a keresés pillanatában kell alkalmazni, a kérdező felhasználóra.

Az OWASP a nyelvi modellekre épülő alkalmazások fő kockázatai között említi az érzékeny információk kiszivárgását (külső webhelyet nyit meg) és a vektorok és beágyazások gyengeségeit (külső webhelyet nyit meg), köztük a jogosultsági határokon átnyúló adatszivárgást. A gyakorlatban ebből négy követelmény következik.

• Minden forrásdokumentum hozzáférési jogait tárolja az index minden darabjával együtt, a forrásrendszerből átvéve, nem kézzel újradefiniálva.
• A lekérdezés pillanatában szűrjön ezekre a jogokra a bejelentkezett felhasználó identitása alapján, még a rangsorolás és a generálás előtt.
• A jogosultságok változását legalább olyan gyorsan szinkronizálja, mint a tartalomét, és rögzítsék, mennyi időn belül kell érvényesülnie egy visszavont jognak.
• Valós szerepkörökkel teszteljen. A „Megtalálja-e egy gyakornok a bértáblákat?” kérdés a tesztkészletbe való, nem egy incidens utáni vizsgálatba.

03Forrásmegjelölés: ellenőrizhető hivatkozások

A válasz minden állítása arra a szövegrészre mutasson, amelyből származik: a dokumentum címére, verziójára vagy dátumára, gazdájára, és egy olyan hivatkozásra, amely a megfelelő helyen nyílik meg. Magát a szövegrészt mutassa, ne csak a dokumentum nevét, hogy az olvasó másodpercek alatt lássa, alátámasztja-e a hivatkozás a mondatot.

A válasz formátumát úgy tervezze meg, hogy az alátámasztás nélküli szöveg feltűnjön. Ha egy mondatot egyetlen előkeresett szövegrész sem támaszt alá, a rendszer hagyja ki vagy jelölje meg. Ezt automatikusan ellenőrizze is: vesse össze minden hivatkozott szövegrészt azzal az állítással, amelyet alá kellene támasztania, és az eredményekből vegyen mintát emberi átnézésre. A létező, de az állítást alá nem támasztó hivatkozás gyakori és csendes hiba.

Egy szemléltető példa: egy minisztériumi háttérintézmény belső szabályzatai és útmutatói között kereső asszisztensnél minden válasz a hatályos szabályzat pontos rendelkezésére hivatkozik, az utolsó módosítás dátumával.

04Frissesség és hitelesség

A szervezeti tudásnak verziói vannak. A régi és az új kiküldetési szabályzat egyaránt illeszkedik arra a kérdésre, hogy „foglalhatok-e első osztályú vonatjegyet?”, és mást válaszolnak. Indexelje azokat a metaadatokat, amelyek megkülönböztetik őket: hatálybalépés dátuma, státusz (tervezet, jóváhagyott, hatályon kívül helyezett) és gazda. Rangsorolja előre a hatályos, jóváhagyott dokumentumokat, zárja ki a hatályon kívül helyezetteket, hacsak a felhasználó nem az előzményekre kíváncsi, és minden hivatkozásban mutassa a dátumot.

Témánként döntse el, melyik forrás a hiteles. A HR-szabályzat a HR-portálról származik, nem egy olyan e-mailből, amely a tavalyi változatát idézi. Forrásonként határozza meg az újraindexelés ritmusát, az ügyadatok közel valós idejű frissítésétől a wiki napi frissítéséig, és figyelje is: az elavult index jónak tűnő, de hibás válaszokat ad.

05Őszinte hiány: „ezt nem találtam”

Gyakran az őszinte hiány a legértékesebb válasz. A nyelvi modellek gördülékeny, de semmivel alá nem támasztott állításokat is írhatnak; a NIST a generatív MI-re vonatkozó profiljában ezt konfabulációnak (külső webhelyet nyit meg) nevezi. Az előkeresett szövegrészekre építés ezt csökkenti, de nem szünteti meg. Az OWASP a következményt, vagyis hogy a munkatársak téves kimenet alapján cselekszenek, önálló kockázatként kezeli félretájékoztatás (külső webhelyet nyit meg) (misinformation) néven.

Állítson be egy relevanciaküszöböt, amely alatt a rendszer közli, hogy nem talált megbízható forrást, és javasolja, kihez forduljon a kérdező. Szabályzatokról, jogokról vagy kötelezettségekről szóló kérdéseknél ne engedje, hogy a modell általános tudásból töltse ki a hiányt. Ezután témánként kövesse a válasz nélküli kérdések arányát. Az első hónapokban gyakran ez a lista a teljes projekt leghasznosabb eredménye: pontosan megmutatja a tartalomgazdáknak, hol hiányzik a dokumentáció.

06Az öt tulajdonság mögötti architektúra

Mindehhez nem kell különleges technológia. Az kell hozzá, hogy a jogosultságok, a metaadatok és az ellenőrzések a feldolgozási lánc teljes értékű részei legyenek, ne a bemutató után hozzáadott funkciók.

A személyes adatok külön figyelmet érdemelnek. A dokumentumok indexe a bennük lévő személyes adatok kezelésének minősül, ezért érvényesek a GDPR 5. cikkében rögzített célhoz kötöttség és adattakarékosság (külső webhelyet nyit meg) elvei. Hagyja ki azokat a forrásokat, amelyekre a felhasználási esetnek nincs szüksége, gondoskodjon arról, hogy a forrásrendszerben végrehajtott törlések az indexben is érvényesüljenek, és hozzáférési kérelem megválaszolásakor az indexet is vegye figyelembe.

07Mért minőség, indulás előtt és után

A megbízhatóságot nem lehet felmérni azzal, hogy egy megbeszélésen kipróbálnak néhány kérdést. A minőségi kritériumokat a tartalomgazdákkal egyeztesse, és minden réteget külön mérjen, hogy tudja, hol kell javítani egy hibát.

A tesztkészletet valós kérdésekből állítsa össze: keresési naplókból, ügyfélszolgálati jegyekből, az új kollégák kérdéseiből. Néhány száz kérdés a tartalomgazdák által egyeztetett válaszokkal gyakorlati kiindulópont. Minden változásnál futtassa le a teljes készletet, legyen szó új modellről, új darabolási stratégiáról vagy új forrásról. A minőség csendben romlik, amikor a tartalom változik, és ezt csak egy rögzített tesztkészlet teszi láthatóvá. Egy gépgyártónál például a karbantartási tudásbázis minden új kézikönyv-verziója után ugyanazokra a hibakeresési kérdésekre kell helyes választ kapni.

08Milyen a megbízható asszisztens a felhasználó szemével

A felhasználók számára mindez néhány megfigyelhető viselkedésre egyszerűsödik. Az asszisztens csak olyan dokumentumokból válaszol, amelyeket olvashatnak. Minden állításhoz van hivatkozás, amelyet megnyithatnak. Látják, mennyire friss egy forrás. Egyértelműen megtudják, ha nincs megbízható válasz. És tudják, hogy valaki méri a minőséget, mert jelezhetnek egy rossz választ, és látják, hogy kijavítják.

Az MI kimenete így is lehet hibás, és vannak kérdések, amelyekre emberi válasz jár, nem keresési találat. Ha ezzel nyíltan számol a tervezés, az nem a rendszer gyengesége. Éppen ettől lesznek hajlandók a munkatársak minden másban támaszkodni rá.