AA agenteakSektore publikoa
Noiz behar duen AA agente batek pertsona baten onarpena
Agente batek ia edozer presta dezake. Diseinuaren galdera hau da: zein ekintza egin ditzake bere kabuz, eta zeinetan eman behar du pertsona batek baiezkoa? Onarpen-puntuak kokatzeko modu praktiko bat, eta ebidentzia pilatu ahala haiek mugitzekoa.
- Egilea
- FromNineren erredakzio-taldea
- Argitaratze-data
- Irakurketa-denbora
- 7 min irakurtzeko
Ideia nagusiak
- Jarri onarpen-puntuak ekintza bakoitzaren ondorioen eta itzulgarritasunaren arabera, ez ereduak erakusten duen ziurtasunaren arabera.
- Onarpenak funtzionatzen du berrikusleak ebidentzia, proposatutako ekintza eta haren ondorioa leku berean ikusten baditu, eta ezetz esatea baietz esatea bezain erraza bada.
- Ezarri onarpen-puntuak ekintza gauzatzen den sisteman, erregistratu proposamen eta erabaki guztiak, eta eraman ekintza bat maila arinago batera ebidentzia dagoenean bakarrik.
Aurkibidea
Agenteek ekintzak egiten dituzte, eta galdera aldatu egiten da
Txat-laguntzaile batek testua idazten du, eta pertsona batek erabakitzen du zer egin harekin. Agente batek urrats bat gehiago egiten du: tresnak erabiltzen ditu. Erregistro bat eguneratzen du, hitzordu bat hartzen du, espediente bat bideratzen du, mezu bat bidaltzen du edo ordainketa bat prestatzen du. Softwareak ekintzak egiten dituenean, galdera ez da soilik «erantzun hau ona da?». Galdera hau ere bada: «nor da ekintza honen erantzulea, eta noiz eman zuen baiezkoa?».
Segurtasunaren arloak izena du akats horrentzat. Hizkuntza-eredu handien aplikazioetarako OWASP Top 10 zerrendak gehiegizko jarduteko ahalmena (kanpoko webgune bat irekitzen du) (excessive agency) arrisku nagusien artean jartzen du: zereginak behar duena baino funtzio, baimen edo autonomia gehiago duen agentea. Giza onarpena kontroletako bat da. Nonahi erabilita, lana moteltzen du eta «onartu» sakatzen irakasten dio jendeari. Inon erabili gabe, inork erabaki ez dituen ekintzak geratzen zaizkizu. Lana onarpena non jarri erabakitzean datza.
Hasi ekintzetatik, ez eredutik
Egin agenteak erabil ditzakeen tresna guztien zerrenda. Tresna bakoitzerako, erantzun lau galderari. Nahita daude ekintzari eta haren ondorioari begira, ez ereduari begira.
- Desegin daiteke? Eta zer kostutan: klik bat, zuzenketa-gutun bat, diru-itzulketa bat, auzi bat?
- Nori eragiten dio? Barne-zirriborro bati, lankide bati, bezero edo herritar bati, diruari, hirugarren bati?
- Konpromisorik edo ondorio juridikorik sortzen du? Pertsona bati buruzko erabaki bat, ordainketa bat, kontratu bat, zure erakundearen izenean bidalitako mezu bat.
- Zenbatetan eta zer abiaduratan? Egunean milaka aldiz gertatzen den ekintza batek beste kontrol bat behar du astean bitan gertatzen denak baino.
Erantzunen arabera, ekintza bakoitza lau mailatako batean kokatzen da. Erakunde gehienek ikusten dute ekintza gutxi batzuek dutela ia arrisku guztia. Hori berri ona da: hor jarri behar da onarpenaren ahalegina.
| Maila | Ohiko ekintzak | Kontrola |
|---|---|---|
| 1 · Egin eta erregistratu | Bilatu eta irakurri erabiltzailearen baimenen barruan, laburtu, barne-oharrak idatzi | Onarpenik ez. Dei bakoitza bere sarrera eta irteerekin erregistratzen da. |
| 2 · Egin, jakinarazi, desegin | Erregistro-zirriborro bat sortu, espediente bat etiketatu edo bideratu, barne-zeregin bat programatu | Agenteak egiten du; arduradunak jakinarazpena jasotzen du, eta epe jakin batean ekintza desegin dezake. |
| 3 · Agenteak proposatu, pertsona batek onartu | Kanpora mezu bat bidali, datu nagusiak aldatu, eskatzaileak ikusten duen espediente-egoera aldatu | Agenteak ekintza eta haren ebidentzia prestatzen ditu; izendatutako rol batek onartu, aldatu edo baztertu egiten du. |
| 4 · Pertsona batek erabaki, agenteak lagundu | Pertsona bati ondorio juridikoak dakarzkioten erabakiak, atalase batetik gorako ordainketak, idatzizko politikatik kanpoko edozer | Agenteak datuak bildu eta zirriborroak idazten ditu; erabakia eta haren arrazoiak pertsona batenak dira. |
Adibide bat Espainiarako. Espainiako legeak enpresen arteko faktura elektronikoa derrigorrezko egingo du 2027ko urriaren 6tik aurrera, aurreko urtean 8 milioi eurotik gorako eragiketa-bolumena izan zuten enpresentzat, eta 2028ko urriaren 6tik aurrera gainerakoentzat. Fabrika batean, agente batek jasotako fakturak irakurri eta erosketa-aginduekin parekatu ditzake (2. maila). Zenbateko jakin batetik gorako ordainketa batek, berriz, pertsona baten onarpena behar du (3. maila).
Mailak diseinu-tresna bat dira, ez sailkapen juridiko bat. Egiaztatu zuri aplikatzen zaizkizun arauekin. Datuak Babesteko Erregelamendu Orokorrak (DBEO) eskubide zehatzak ematen dizkie pertsonei ondorio juridikoak edo antzeko ondorio esanguratsuak dituzten tratamendu automatizatuan soilik oinarritutako erabakien (kanpoko webgune bat irekitzen du) aurrean (22. artikulua); Espainian, 3/2018 Lege Organikoak (LOPDGDD) osatzen du DBEO. Arrisku handiko sistemen kasuan, EBko AA Erregelamenduak eskatzen du pertsonek modu eraginkorrean gainbegiratu ahal izatea (kanpoko webgune bat irekitzen du) (14. artikulua). Betebehar horiek 4. mailan kokatzen dira gehienetan.
Irudia 1
Lan-fluxu argigarriaIrakurri diagrama testu gisa
Eskaera edo espediente bat iristen da. Agenteak ekintza-zirriborro bat prestatzen du, hala nola erantzun bat edo egoera-aldaketa bat, eta ebidentzia eransten dio: erabili dituen iturriak, aplikatu duen araua eta ekintzak izango duen ondorioa.
Onarpen-puntuan, izendatutako pertsona batek proposamena onartu, aldatu edo baztertu egiten du. Baztertutako proposamena, arrazoiarekin, agentera itzultzen da eta ebaluaziorako gordetzen da.
Onartutako ekintza bakarrik gauzatzen da, eta ekintzaren jabe den sistemak gauzatzen du. Eskaera, proposamena, erabakia, onartzailea eta data eta orduak erregistratzen dira.
Beti pertsona batengana iritsi behar duten seinaleak
Egoera batzuetan, ekintza batek maila bat gora egin behar du, bere ohiko maila edozein dela ere. Eraiki egoera horiek lan-fluxuko egiaztapen esplizitu gisa, agenteak haietaz ohartu beharrik izan ez dezan.
- Sarrera agentearekin probatutakotik kanpo dago: dokumentu-mota berri bat, ohiz kanpoko hizkuntza bat, eremu faltak edo kontraesankorrak.
- Agenteak berreskuratutako iturriek elkar kontraesaten dute, edo proposatutako ekintza aipatu ezin duen zerbaitetan oinarritzen da.
- Zenbatekoa, irismena edo eragindako erregistroen kopurua zuk ezarritako atalasetik gorakoa da.
- Kasuak kategoria sentikor bat ukitzen du: osasun-datuak, adingabeak, kexa bat, gatazka bat edo abian den errekurtso bat.
- Agentea dagoeneko berriro saiatu da, edo ondorengo sistema batek errore bat itzuli du.
Zerrenda horretan seinale bat falta da, nahita: ereduaren beraren ziurtasuna. Hizkuntza-ereduek gauza okerrak esan ditzakete jario osoz. Estatu Batuetako National Institute of Standards and Technology erakundeak konfabulazioa (kanpoko webgune bat irekitzen du) deitzen dio horri AA sortzailearen arrisku-profilean. Ereduak berak emandako puntuazioa sarrera bat izan daiteke, baina kanpoko egiaztapenen ondoan egon behar du, hala nola baliozkotze-arauen eta erregistro-sistemarekiko alderaketaren ondoan, eta ez haien ordez.
Jendeak benetan eman dezakeen onarpena diseinatzea
«Onartu?» galderen jario etengabe batek onartzen irakasten dio jendeari. AA Erregelamenduak zuzenean aipatzen du arrisku hori: arrisku handiko sistema bat gainbegiratzen duten pertsonek automatizazio-alborapenaz jabetuta egon behar dute.
“jakitun izan joera egon litekeela automatikoki edo gehiegi fidatzeko arrisku handiko AA-sistema batek sortutako irteera-emaitzekin”
Lau diseinu-erabakik bihurtzen dute kontzientzia hori praktiko.
Erakutsi ebidentzia, ez erantzuna bakarrik
Aurkeztu proposatutako ekintza hitz argietan, haren oinarri diren iturriak (pasarte zuzenean irekitzen duten estekekin), aplikatu duen araua edo politika, eta zehazki zer aldatuko den eta zein sistematan. Proposamen bat egiaztatzeko hiru aplikazio ireki behar dituen berrikusleak, presaka dabilenean, egiaztatzeari utziko dio.
Egin ezetza baiezkoa bezain erraza
Baztertzea eta aldatzea emaitza arruntak dira, ez salbuespenak. Jarri bi aukerak onartzearen ondoan, eskatu arrazoi labur bat norbaitek baztertzen duenean, eta erabili arrazoi horiek ebaluazioan. Proposamen bat aldatzea hutsetik idaztea baino zailagoa bada, jendeak proposamen akastunak onartuko ditu.
Eman onarpena aginpidea duen rol bati
Onarpena izendatutako rol batena da, sistemaren emaitza baliogabetzeko gaitasuna, prestakuntza eta aginpidea dituena. Arrisku handiko AA sistemetan, hori bera eskatzen die AA Erregelamenduak sistema erabiltzen duten erakundeei (26.2 artikulua (kanpoko webgune bat irekitzen du)). Gehitu ordezko bat eta goragoko bide bat, eta neurtu zenbat denbora itxaroten duten elementuek. Inork bere ez duen ilara bat buru-hauste bihurtzen da, eta taldeek onarpen-puntua saihesteko bidea bilatzen dute.
Multzoka berrikusi benetan arrisku txikikoa dena soilik
Ia berdinak diren berrogei elementu banan-banan berrikusteak ez du inor arretatsuago bihurtzen. 2. mailako ekintzetan, onartu multzokako berrikuspena ausazko laginketarekin. 3. eta 4. mailetako elementuak banan-banan berrikusi.
Ezarri onarpen-puntua sisteman, ez jarraibideetan
Prompt bateko jarraibide bat ez da sarbide-kontrola. Agenteak irakurtzen duen testuak, hala nola mezu elektroniko batek, dokumentu batek edo web-orri batek, bere jarraibideak izan ditzake, eta OWASPek prompt injekzioa (kanpoko webgune bat irekitzen du) deitzen dio horri. Agentearen eta ekintza itzulezin baten artean jarraibideetako esaldi bat baino ez badago, kontuan izan esaldi hori egunen batean gaindituko dela.
- Eman agenteari bere identitatea, tresna bakoitzak behar dituen gutxieneko pribilegioekin, eta, plataformak aukera ematen badu, eskatzen duen erabiltzailearen eskubideen barruan jardun dezala.
- Ezarri onarpenak integrazio-geruzan: gutuna bidaltzen duen zerbitzuak deia ukatzen du, ekintza zehatz horretarako onarpen-erregistro baliozkorik ez badago.
- Jarri zenbateko-, bolumen- eta maiztasun-mugak tresnetan, agentearengandik independenteak.
- Bereizi irakurtzeko eta idazteko tresnak. Horrela, agenteak ikus dezakeena zabaldu dezakezu, egin dezakeena zabaldu gabe.
Erregistratu gero azaldu beharko duzuna
Agentearen exekuzio bakoitzean, gorde eskaera, berreskuratutako iturriak, tresna-dei bakoitza bere parametroekin, proposatutako ekintza, onartzailea, erabakia, egindako aldaketak eta data eta orduak. Arrisku handiko AA sistemetan, sistema erabiltzen duten erakundeek automatikoki sortutako erregistroak gutxienez sei hilabetez gorde behar dituzte, beste lege batek bestelakorik ezartzen ez badu (26.6 artikulua (kanpoko webgune bat irekitzen du)). Araurik eskatzen ez badu ere, gorde itzazu: erregistroa da ikasteko bidea.
Berrikusi erregistroak erritmo finko batean. Beti aldaketarik gabe onartzen diren ekintzak maila bat jaisteko hautagaiak dira. Sarri aldatzen direnek agentearen ahulune bat erakusten dute, edo maila bat gorago egon behar dute. Iturri, inprimaki edo talde baten inguruan pilatzen diren baztertzeek prozesu-arazo bat erakutsi ohi dute, eta hori ez du inongo ereduk konponduko.
Hasi esparru estu batean, eta gero jaitsi ekintzak mailaz
Abiarazi sistema ondorio handieneko ekintzak 3. eta 4. mailetan dituela. Adostu aldez aurretik zer den ona: zein emaitza diren zuzenak, zein errore diren onargarriak eta zein ez. Gero neurtu irizpide horien arabera, adibidez NISTen AA Arriskuak Kudeatzeko Esparruaren (kanpoko webgune bat irekitzen du) neurketa-funtzioak kontrol-zerrenda gisa erabilita.
Eraman ekintza bat maila arinago batera ebidentzia dagoenean bakarrik: onarpenek aldaketa garrantzitsurik behar izan ez duten aldi bat, gaizki atera ziren kasuekin egindako probak eta prozesuaren arduradunaren oniritzia. Erregistratu erabaki hori sistemaren beste edozein aldaketa bezala, eta gorde atzera egiteko aukera.
AA sistemen emaitzak okerrak izan daitezke. Hori ez da agenteak benetako lanetik urruntzeko arrazoia; pertsonek kontrola non mantentzen duten diseinatzeko arrazoia da. Agenteak baliagarriak dira ekintzak egin ditzaketelako. Onarpen-puntuak arretaz kokatzeak ahalbidetzen du, denborarekin, lan gehiago ematea haiei.
Iturriak
- OWASP GenAI Security Project. LLM06:2025 Excessive Agency (kontsulta-data: )
- OWASP GenAI Security Project. LLM01:2025 Prompt Injection (kontsulta-data: )
- EUR-Lex. (EB) 2024/1689 Erregelamendua (AA Erregelamendua), 14. eta 26. artikuluak (kontsulta-data: )
- Europako Batzordea, AI Act Service Desk. 26. artikulua: arrisku handiko AA sistemen hedapenaren arduradunen betebeharrak (kontsulta-data: )
- EUR-Lex. (EB) 2016/679 Erregelamendua (Datuak Babesteko Erregelamendu Orokorra), 22. artikulua (kontsulta-data: )
- National Institute of Standards and Technology. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1) (kontsulta-data: )
- National Institute of Standards and Technology. AI Risk Management Framework (kontsulta-data: )
- Herbehereetako Gobernua. Herbehereetako gobernuaren algoritmoen erregistroa (kontsulta-data: )
Jarraitu irakurtzen
- ZerbitzuaAA agenteak eta automatizazioaZuk zehaztutako baimenen barruan jarduten duten agenteak eta lan-fluxuak: urrats garrantzitsuen aurretik galdetzen dute eta dena erregistratzen dute.
- SektoreaSektore publikoaZerbitzu digital irisgarriak, seguruak eta elkarreragingarriak erakunde publikoentzat.
- GogoetaEBko AA Erregelamendua erakunde publikoetan: zer prestatu 2027ko abendurako2026an aldatutako AA Erregelamenduak 2027ko abendutik aplikatuko ditu arrisku handiko arauak, baina zati handi bat gaur bertan aplikatzen da. Datak dituen prestaketa-plana erakunde publikoentzat, eta Espainiako egoera.
- GogoetaZerk egiten duen fidagarri erakundearen ezagutzaren bilaketaZure dokumentuetako erantzunez fidatu ahal izateko bost ezaugarri: baimenak, jatorria, eguneratasuna, hutsune zintzoak eta neurtutako kalitatea.
Zure sistemetan jardungo duen agente bat planifikatzen ari zara?
Ekintzak mapatzen, onarpen-puntuak kokatzen eta haiek betearazten dituzten integrazioak eraikitzen laguntzen dizugu, zure prozesuen arduradunekin batera.