AA ingeniaritzaDatuak
Zerk egiten duen fidagarri erakundearen ezagutzaren bilaketa
Zure dokumentuetako galderei erantzutea erraza da erakusteko eta zaila fidatzeko. Konfiantza bost ezaugarritatik dator, eta haiek diseinatu, probatu eta probatzen jarraitu daitezke: baimenak, jatorria, eguneratasuna, hutsune zintzoak eta neurtutako kalitatea.
- Egilea
- FromNineren erredakzio-taldea
- Argitaratze-data
- Irakurketa-denbora
- 5 min irakurtzeko
Ideia nagusiak
- Aplikatu sarbide-eskubideak berreskuratzeko unean, erabiltzaile bakoitzeko eta jatorrizko sistemetatik hartuta. Ez fidatu ereduak dagoeneko jaso duen pasarte bat ezkutatuko duela.
- Erantzun bateko baieztapen bakoitzak pertsona batek segundo gutxitan ireki eta egiazta dezakeen pasarte bat seinalatu behar du, data eta egoera agerian dituela.
- Neurtu berreskurapenaren eta erantzunen kalitatea benetako galderekin abiarazi aurretik, eta jarraitu neurtzen, edukiak eta ereduak aldatu egiten baitira.
Aurkibidea
Erakustaldiaren arazoa
Ezagutza-laguntzaile gehienek eredu bera jarraitzen dute, berreskurapenaz aberastutako sorkuntza (kanpoko webgune bat irekitzen du) (retrieval-augmented generation, RAG) izenekoa: galdera bati dagozkion pasarteak bilatzen dira, eta hizkuntza-eredu batek pasarte horietan oinarritutako erantzuna idazten du. Berrogeita hamar dokumentuko karpeta txukun batekin, aste batean konbentzitzeko moduan funtzionatzen du.
Ekoizpenean, egoera bestelakoa da. Hogei urteko unitate partekatuak, wikiak, txartelak, kontratuak eta politikak, asko bikoiztuak, zaharkituak edo isilpekoak. Testuinguru horretan, laguntzaileak bi modutan huts egiten du. Erantzun okerra ematen du, eta jendeak erabiltzeari uzten dio. Edo, okerrago, erantzun okerra ematen du segurtasun osoz, eta jendeak horren arabera jarduten du.
Beraz, ezagutzaren bilaketa fidagarria ez dago hainbeste ereduaren mende, haren inguruko sistemaren bost ezaugarriren mende baizik. Ezaugarri bakoitza diseinatu daiteke, eta, garrantzitsuena, probatu.
Baimenak: berreskuratu erabiltzaileak irakur dezakeena soilik
Araua erraza da: laguntzaileak ez dio inori erakutsi behar jatorrizko sisteman ireki ezingo lukeen pasarterik. Garrantzitsuena da non ezartzen den araua. Pasarte bat eredura iristen bada, kontuan izan erantzunean ager daitekeela. Horregatik, baimenak sorkuntzaren aurretik aplikatu behar dira, berreskuratzeko unean, galdetzen ari den erabiltzailearentzat.
OWASPek hizkuntza-ereduen aplikazioen arrisku nagusien artean jartzen ditu informazio sentikorraren zabalkundea (kanpoko webgune bat irekitzen du) eta bektoreen eta embeddingen ahuluneak (kanpoko webgune bat irekitzen du), baimen-mugen gainetik gertatzen diren ihesak barne. Praktikan, horrek lau baldintza dakartza.
- Gorde jatorrizko dokumentu bakoitzaren sarbide-eskubideak indizeko zati bakoitzarekin, jatorrizko sistematik hartuta eta ez eskuz berriro definituta.
- Iragazi eskubide horien arabera kontsulta-unean, saioa hasi duen erabiltzailearen identitatearekin, sailkapenaren eta sorkuntzaren aurretik.
- Sinkronizatu baimen-aldaketak edukien aldaketak bezain azkar gutxienez, eta adostu zenbat denboran izan behar duen eragina kendutako eskubide batek.
- Probatu benetako rolekin. «Praktiketako langile batek aurki ditzake soldata-taulak?» galderak proba-multzoan egon behar du, ez gertakari baten osteko berrikuspenean.
Jatorria: pertsona batek egiazta ditzakeen aipuak
Erantzun bateko baieztapen bakoitzak bere jatorriko pasartea seinalatu behar du: dokumentuaren izenburua, bertsioa edo data, arduraduna eta leku zuzenean irekitzen den esteka. Erakutsi pasartea bera, ez dokumentuaren izena bakarrik, irakurleak segundo gutxitan ikus dezan aipuak esaldia babesten duen ala ez.
Diseinatu erantzunaren formatua oinarririk gabeko testua nabarmen gera dadin. Berreskuratutako pasarte batek ere ez badu esaldi bat babesten, sistemak kanpoan utzi edo markatu behar du. Ondoren, egiaztatu hori automatikoki: alderatu aipatutako pasarte bakoitza babestu behar duen baieztapenarekin, eta hartu emaitzen lagin bat pertsona batek berrikus dezan. Badauden baina baieztapena babesten ez duten aipuak huts ohikoa eta isila dira.
Eguneratasuna eta aginpidea
Erakunde baten ezagutzak bertsioak ditu. Bidaia-politika zaharrak eta berriak, biek, bat egiten dute «negozio-klasean bidaia dezaket?» galderarekin, eta erantzun desberdinak ematen dituzte. Indexatu haiek bereizten dituzten metadatuak: indarrean sartzeko data, egoera (zirriborroa, onartua, ordeztua) eta arduraduna. Jarri lehenik indarreko dokumentu onartuak, utzi kanpoan ordeztuak, erabiltzaileak historia eskatzen ez badu, eta erakutsi data aipu guztietan.
Erabaki gai bakoitzean zein iturri den aginpideduna. Langileen politika giza baliabideen ataritik dator, ez iazko bertsioa aipatzen duen mezu elektroniko batetik. Toki-erakunde batean, barne-prozedurak eta jarraibideak haien jabe den sailaren erregistrotik datoz, ez norbaitek gordetako kopia batetik. Ezarri berriro indexatzeko erritmo bat iturri bakoitzeko, espedienteen datuetarako ia denbora errealetik wiki baterako egunean behin arte, eta zaindu: indize zaharkitu batek zuzenak dirudien baina ez diren erantzunak ematen ditu.
Hutsune zintzoak: «Ez dut hau aurkitu»
Askotan, erantzunik baliotsuena hutsune zintzo bat da. Hizkuntza-ereduek ezertan oinarritzen ez diren baieztapen jarioak sor ditzakete, eta NISTek konfabulazioa (kanpoko webgune bat irekitzen du) deitzen dio horri AA sortzaileari buruzko profilean. Berreskuratutako pasarteetan oinarritzeak murriztu egiten du arazoa, baina ez du ezabatzen. OWASPek berariazko arrisku gisa tratatzen du ondorengo ondorioa, hau da, jendeak irteera faltsuen arabera jardutea, desinformazioa (kanpoko webgune bat irekitzen du) izenpean.
Ezarri garrantzi-atalase bat, eta, hortik behera, sistemak esan dezala ez duela iturri fidagarririk aurkitu, eta iradoki dezala non galdetu. Politikei, eskubideei edo betebeharrei buruzko galderetan, ez utzi ereduari hutsuneak ezagutza orokorrarekin betetzen. Ondoren, jarraitu erantzunik gabeko galderen tasari gaika. Lehen hilabeteetan, zerrenda hori izan ohi da proiektu osoaren emaitzarik baliagarriena: zehatz erakusten die edukien arduradunei non falta den dokumentazioa.
Bost ezaugarrien atzeko arkitektura
Horrek guztiak ez du teknologia-pila exotikorik behar. Behar duena da baimenak, metadatuak eta egiaztapenak katearen oinarrizko zatiak izatea, eta ez erakustaldiaren ondoren gehitutako funtzioak.
Irudia 1
Lan-fluxu argigarriaIrakurri diagrama testu gisa
Dokumentuak jatorrizko sistemetatik hartzen dira, haien sarbide-eskubideekin eta metadatuekin batera (data, egoera eta arduraduna, adibidez), eta indexatu egiten dira.
Galdera bat iristen da, saioa hasi duen erabiltzailearen identitatearekin. Baimen-iragazki batek erabiltzaile horrek irakurri ezin duen pasarte oro kentzen du, ezer eredura iritsi aurretik.
Ereduak erantzun-zirriborro bat idazten du, geratzen diren pasarteetarako aipuekin. Oinarritze-egiaztapen batek baieztapen bakoitza aipatutako pasartearekin alderatzen du. Erabiltzaileak aipuak dituen erantzun bat jasotzen du, edo iturri fidagarririk aurkitu ez dela dioen adierazpen zintzo bat.
Datu pertsonalek arreta berezia merezi dute. Dokumentuen indize bat haietan dauden datu pertsonalen tratamendua da oraindik ere, eta, beraz, Datuak Babesteko Erregelamendu Orokorraren (DBEO) helburuaren mugaketaren eta datuak minimizatzearen (kanpoko webgune bat irekitzen du) printzipioak aplikatzen dira (5. artikulua). Utzi kanpoan erabilera-kasuak behar ez dituen iturriak, ziurtatu jatorrizko sistemako ezabaketak indizera iristen direla, eta sartu indizea sarbide-eskaera bati erantzuten diozunean.
Euskadin, beste puntu bat dago kontuan hartzeko. Datuak Babesteko Euskal Agintaritzaren eremua 16/2023 Legeak arautzen du: euskal administrazio orokorra, foru- eta toki-administrazioak eta haien sektore publikoa, besteak beste. Lege horren 2.2 artikuluaren arabera, arduradun horiei zerbitzuak ematen dizkieten tratamenduaren eragileak ere lege horren mende daude. Toki-erakunde batentzat laguntzailea ustiatzen duen eta haren datu pertsonalak tratatzen dituen hornitzailea, beraz, lege horren mende dago tratamenduaren eragile gisa.
Neurtutako kalitatea, abiarazi aurretik eta ondoren
Ezin da fidagarritasuna ebaluatu bilera batean galdera gutxi batzuk probatuta. Adostu kalitate-irizpideak edukien jabe diren pertsonekin, eta neurtu geruza bakoitza bere aldetik, arazo bat non konpondu jakiteko.
| Geruza | Galdera | Nola neurtu |
|---|---|---|
| Berreskurapena | Itzuli dira pasarte egokiak? | Estaldura eta zehaztasuna, benetako galderen multzo etiketatu baten aurka |
| Oinarritzea | Baieztapen bakoitza bere aipuek babesten dute? | Baieztapenak eta pasarteak alderatzeko egiaztapen automatikoak, gehi pertsonek egindako lagin-berrikuspena |
| Erantzuna | Erantzuna zuzena, osoa eta baliagarria da? | Adituek lagin bat berrikustea, adostutako irizpideen arabera |
| Sarbidea | Inork ikusi du ikusi behar ez zuen zerbait? | Baimen-proba multzo bat rol bakoitzeko, indizearen edo konektoreen aldaketa bakoitzean exekutatua |
| Erabilera | Jendea fidatzen da, eta non huts egiten du? | Iritziak, erantzunik gabeko galderen tasa gaika, jarraipen-galderak, goragoko mailara bidalitako kasuak |
Sortu proba-multzoa benetako galderekin: bilaketa-erregistroak, laguntza-zerbitzuko txartelak, lankide berriek egiten dituzten galderak. Edukien arduradunek adostutako erantzunak dituzten ehunka galdera abiapuntu praktikoa da. Exekutatu multzo osoa aldaketa bakoitzean, dela eredu berri bat, dela zatitzeko estrategia berri bat, dela iturri berri bat. Kalitatea isilean higatzen da edukiak aldatzean, eta proba-multzo finko batek bakarrik egiten du ikusgai higadura hori.
Nolakoa den fidagarritasuna erabiltzailearentzat
Erabiltzen dutenentzat, hori guztia jokabide ikusgarri gutxi batzuetan laburtzen da. Laguntzaileak irakurtzeko baimena duten dokumentuetatik bakarrik erantzuten du. Baieztapen bakoitzak ireki dezaketen aipu bat du. Ikus dezakete iturri bat zenbateraino dagoen eguneratuta. Argi esaten zaie erantzun fidagarririk ez dagoenean. Eta badakite norbait kalitatea neurtzen ari dela, erantzun oker baten berri eman eta zuzenduta ikus dezaketelako.
AA sistemen emaitzak okerrak izan daitezke oraindik ere, eta galdera batzuek bilaketa baten ordez pertsona bat merezi dute. Hori agerian diseinatzea ez da sistemaren ahulezia bat. Horrexek eramaten du jendea gainerakoan sistemaz fidatzera.
Iturriak
- arXiv. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (Lewis et al., 2020) (kontsulta-data: )
- OWASP GenAI Security Project. LLM02:2025 Sensitive Information Disclosure (kontsulta-data: )
- OWASP GenAI Security Project. LLM08:2025 Vector and Embedding Weaknesses (kontsulta-data: )
- OWASP GenAI Security Project. LLM09:2025 Misinformation (kontsulta-data: )
- National Institute of Standards and Technology. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1) (kontsulta-data: )
- EUR-Lex. (EB) 2016/679 Erregelamendua (Datuak Babesteko Erregelamendu Orokorra), 5. artikulua (kontsulta-data: )
Jarraitu irakurtzen
- ZerbitzuaAA ingeniaritza eta AA sortzaileaBilaketa, eredu-estrategia, ebaluazioa eta LLMOps, produkzioan eusten duen AA sortzailerako.
- SoluzioaErakundearen ezagutzaZure dokumentuetatik ateratako erantzunak, pertsona bakoitzak ikus dezakeenera mugatuta, baieztapen bakoitza bere iturriarekin.
- GogoetaNoiz behar duen AA agente batek pertsona baten onarpenaAgente batek ia edozer presta dezake. Modu praktiko bat erabakitzeko zein ekintza egin ditzakeen bere kabuz eta zeinetan esan behar duen pertsona batek baietz.
- GogoetaEBko AA Erregelamendua erakunde publikoetan: zer prestatu 2027ko abendurako2026an aldatutako AA Erregelamenduak 2027ko abendutik aplikatuko ditu arrisku handiko arauak, baina zati handi bat gaur bertan aplikatzen da. Datak dituen prestaketa-plana erakunde publikoentzat, eta Espainiako egoera.
Zure ezagutza bilagarri egin nahi duzu?
Ezagutza-laguntzaileak eraikitzen ditugu zure iturrien gainean, baimenekin, aipuekin eta zure edukien arduradunekin lehen sprintetik adostutako proba-multzo batekin.