Što pretraživanje znanja u organizaciji čini pouzdanim

01Problem demonstracije

Većina asistenata za znanje temeljenih na umjetnoj inteligenciji (AI) slijedi isti obrazac, poznat kao generiranje prošireno dohvatom (otvara vanjsku stranicu) (retrieval-augmented generation, RAG): pronađu se odlomci koji odgovaraju pitanju, a zatim jezični model piše odgovor utemeljen na tim odlomcima. Na odabranoj mapi od pedesetak dokumenata to uvjerljivo radi već nakon tjedan dana.

U produkciji je drukčije. Dvadeset godina zajedničkih mapa, wikija, prijava, ugovora i pravilnika, od kojih su mnogi udvostručeni, zastarjeli ili povjerljivi. U odjelu ministarstva to su zakoni, uredbe, pravilnici i interne upute s nizom izmjena; u industrijskom pogonu upute za održavanje strojeva iz različitih desetljeća. U takvom okruženju asistent zakazuje na dva načina. Daje pogrešan odgovor i ljudi ga prestanu koristiti. Ili, još gore, daje pogrešan odgovor sa sigurnošću i ljudi postupaju prema njemu.

Pouzdano pretraživanje znanja zato manje ovisi o modelu, a više o pet svojstava sustava oko njega. Svako se može osmisliti i, što je važno, testirati.

02Prava pristupa: pronađite samo ono što korisnik smije čitati

Pravilo je jednostavno: asistent nikome ne smije pokazati odlomak koji ta osoba ne bi mogla otvoriti u izvornom sustavu. Važno je gdje se pravilo provodi. Ako odlomak stigne do modela, računajte s tim da se može pojaviti u odgovoru. Prava pristupa zato se moraju primijeniti prije generiranja, u trenutku pretraživanja, za korisnika koji postavlja pitanje.

OWASP među glavnim rizicima aplikacija s jezičnim modelima navodi i otkrivanje osjetljivih informacija (otvara vanjsku stranicu) i slabosti vektora i ugrađivanja (otvara vanjsku stranicu) (vector and embedding weaknesses), uključujući curenje podataka preko granica ovlasti. U praksi iz toga slijede četiri zahtjeva.

• Uz svaki dio dokumenta u indeksu pohranite prava pristupa izvornog dokumenta, preuzeta iz izvornog sustava, a ne ručno ponovno definirana.
• Filtrirajte prema tim pravima u trenutku upita, prema identitetu prijavljenog korisnika, prije rangiranja i generiranja.
• Promjene prava sinkronizirajte barem jednako brzo kao promjene sadržaja i dogovorite koliko brzo oduzeto pravo mora početi vrijediti.
• Testirajte sa stvarnim ulogama. Pitanje „može li pripravnik pronaći platne razrede?” pripada skupu testova, a ne analizi nakon incidenta.

03Podrijetlo: citati koje osoba može provjeriti

Svaka tvrdnja u odgovoru treba upućivati na odlomak iz kojeg potječe: naslov dokumenta, verziju ili datum, vlasnika i poveznicu koja se otvara na pravom mjestu. Prikažite sam odlomak, a ne samo naziv dokumenta, kako bi čitatelj u nekoliko sekundi vidio podupire li citat rečenicu.

Format odgovora osmislite tako da se tekst bez potpore jasno vidi. Ako nijedan pronađeni odlomak ne podupire rečenicu, sustav je treba izostaviti ili označiti. Zatim to provjeravajte automatski: usporedite svaki citirani odlomak s tvrdnjom koju bi trebao podupirati, a uzorak rezultata dajte ljudima na pregled. Citati koji postoje, ali ne podupiru tvrdnju, česta su i tiha pogreška.

04Ažurnost i mjerodavnost

Znanje u organizaciji ima verzije. Stari i novi pravilnik o službenim putovanjima oba odgovaraju na pitanje „smijem li rezervirati poslovni razred?”, a daju različite odgovore. Indeksirajte metapodatke koji ih razlikuju: datum stupanja na snagu, status (nacrt, odobreno, zamijenjeno) i vlasnika. Važeće, odobrene dokumente rangirajte prve, zamijenjene isključite osim ako korisnik traži povijest, a datum prikažite u svakom citatu. Isto vrijedi za propise: kad se pravilnik izmijeni novim brojem Narodnih novina, asistent mora znati koja verzija vrijedi.

Za svaku temu odredite koji je izvor mjerodavan. Kadrovska pravila dolaze s portala kadrovske službe, a ne iz e-poruke koja citira prošlogodišnju verziju. Za svaki izvor postavite ritam ponovnog indeksiranja, od gotovo stvarnog vremena za podatke o predmetima do jednom dnevno za wiki, i pratite ga: zastarjeli indeks daje odgovore koji izgledaju točno, a nisu.

05Iskrene praznine: „Za ovo nema pouzdanog izvora”

Često je najvrjedniji odgovor iskreno priznata praznina. Jezični modeli mogu stvarati tečne tvrdnje koje ničim nisu potkrijepljene, što NIST u svojem profilu za generativnu umjetnu inteligenciju naziva konfabulacijom (otvara vanjsku stranicu). Oslanjanje na pronađene odlomke to smanjuje, ali ne uklanja. OWASP posljedicu, to jest ljude koji postupaju prema netočnom rezultatu, smatra zasebnim rizikom pod nazivom dezinformacije (otvara vanjsku stranicu) (misinformation).

Postavite prag relevantnosti ispod kojeg sustav kaže da nije pronašao pouzdan izvor i predloži gdje se korisnik može raspitati. Kod pitanja o pravilima, pravima ili obvezama ne dopustite modelu da praznine popunjava općim znanjem. Zatim pratite udio pitanja bez odgovora po temi. U prvim mjesecima taj je popis često najkorisniji rezultat cijelog projekta: vlasnicima sadržaja točno pokazuje gdje dokumentacija nedostaje.

06Arhitektura iza pet svojstava

Za sve to ne treba egzotična tehnologija. Potrebno je da prava pristupa, metapodaci i provjere budu ravnopravni dijelovi procesa obrade, a ne funkcije dodane nakon demonstracije.

Osobni podaci zaslužuju posebnu pozornost. Indeks dokumenata i dalje je obrada osobnih podataka koji se u njima nalaze, pa se primjenjuju načela Opće uredbe o zaštiti podataka (GDPR) o ograničavanju svrhe i smanjenju količine podataka (otvara vanjsku stranicu) (članak 5.). Izostavite izvore koji slučaju upotrebe nisu potrebni, pobrinite se da brisanja u izvornom sustavu stignu do indeksa i uključite indeks kada odgovarate na zahtjev za pristup. U Hrvatskoj je nadzorno tijelo Agencija za zaštitu osobnih podataka (AZOP).

07Izmjerena kvaliteta, prije i nakon pokretanja

Pouzdanost ne možete procijeniti tako da na sastanku isprobate nekoliko pitanja. Kriterije kvalitete dogovorite s vlasnicima sadržaja i svaki sloj mjerite zasebno, kako biste znali gdje treba ispraviti problem.

Skup testova sastavite od stvarnih pitanja: zapisa pretraživanja, prijava službi za podršku, pitanja koja postavljaju novi kolege. Nekoliko stotina pitanja s odgovorima koje su potvrdili vlasnici sadržaja praktičan je početak. Cijeli skup pokrenite pri svakoj promjeni, bilo da je riječ o novom modelu, novom načinu dijeljenja dokumenata na dijelove ili novom izvoru. Kvaliteta se tiho mijenja kad se mijenja sadržaj, a tu promjenu vidljivom čini samo stalan skup testova.

08Kako pouzdanost izgleda korisniku

Za ljude koji ga koriste sve se to svodi na nekoliko vidljivih ponašanja. Asistent odgovara samo iz dokumenata koje smiju čitati. Svaka tvrdnja ima citat koji mogu otvoriti. Vide koliko je izvor aktualan. Jasno im se kaže kada pouzdanog odgovora nema. I znaju da netko mjeri kvalitetu, jer mogu prijaviti pogrešan odgovor i vidjeti da je ispravljen.

Rezultat umjetne inteligencije i dalje može biti pogrešan, a neka pitanja zaslužuju osobu, a ne pretraživanje. Otvoreno osmišljavanje za takve slučajeve nije slabost sustava. Upravo mu zbog toga ljudi vjeruju i u svemu ostalom.