Joan eduki nagusira
FromNine
Menua

AA eta datuak

Produkzioan eusten duen AA sortzailea.

AA sortzaileko aplikazioak eraikitzen ditugu zure ezagutzaren eta datuen gainean: baimenak errespetatzen dituen bilaketa, bertsio bakoitza baldintzatzen duen ebaluazioa, eta kostua, kalitatea eta latentzia beti begien bistan.

AA plataforma bakarra hainbat hizkuntzatan eta hainbat arau-mailatan erabiltzen duten erakundeentzat.

AA ingeniaritza eta AA sortzailea: gaitasun-geruzakLau geruza, sakoneran pilatuta. Goitik behera: zure iturrien gaineko bilaketa, ereduen atebidea, ebaluazioa eta babes-mugak, eta erabiltzaileek lan egiteko erabiltzen duten aplikazioa. Bide bakar batek iturrietatik aplikaziora darama.01Zure iturrien gaineko bilaketa02Ereduen atebidea eta bideratzea03Ebaluazioa eta babes-mugak04Aplikazioa produkzioan
  1. 01Iturriak aipatzen dituzten erantzunak, eta ebidentziarik ez dagoenean erantzuteari uko egiten diotenak
  2. 02Erreferentziazko proba-multzoa eta erregresio-atalaseak, martxan jarri aurretik zure taldeekin adostuak
  3. 03Ereduen bideratzea eta aurrekontuak, eskaera bakoitzaren kostua eta latentzia ikusgai izateko

01 Arazoak

Non gelditzen den AA sortzailea

Eredua oso gutxitan da zatirik zailena. Programa gehienak haren inguruko guztiak gelditzen ditu.

  1. 01

    Proba pilotuak harritu zuen, baina inork ez zekien ona zen ala ez

    Pertsona gutxi batzuek galdera gutxi batzuk eginez epaitu zuten kalitatea. Ez dago proba-multzorik, eta prompt-aldaketa edo eredu-eguneratze bakoitza ausazko jokoa da.

  2. 02

    Laguntzaileak ikusi behar ez dituzten dokumentuak erakusten ditu

    Edukia sarbide-eskubiderik gabe indexatu zen. Segurtasun-arduradunek eta enpresa-batzordeak ezarpena gelditzen dute, eta arrazoi osoz.

  3. 03

    Kostuak erabilera baino azkarrago hazten dira

    Eskaera guztiak eredu handienera doaz, testuinguru luzeenarekin. Inork ez daki erantzun batek zenbat kostatzen duen, eta, beraz, inork ezin du kostu hori kudeatu.

  4. 04

    Erantzunak zuzenak dirudite, baina ez dira

    Bilaketak ia egokiak diren pasarteak itzultzen ditu, ereduak hutsuneak erraztasunez betetzen ditu, eta erabiltzaileek konfiantza galtzen dute hirugarren akats seguruaren ondoren.

02 Zer ematen dugun

Zer ematen dugun

  1. 01 Bilaketa eta erakundearen ezagutza-sistemak

    Iturri bakoitzerako diseinatutako bilaketa: edukia nola aztertu eta zatitzen den, bilaketa lexikoa eta bektoriala nola konbinatzen diren, eta sarbide-eskubideak pasarte bakoitzarekin nola bidaiatzen duten. Erakundearen ezagutzarako laguntzaileen oinarria da.

    Zer egiten dugun

    • Iturrien inbentarioa, jabe, formatu eta sarbide-ereduekin
    • Zatitze- eta metadatu-estrategia dokumentu-mota bakoitzeko
    • Bilaketa lexiko eta bektorial hibridoa, birsailkapenarekin
    • Iturriko sarbide-eskubideak jasotzen dituen bilaketa

    Zer jasotzen duzun

    • Aldaketak detektatzen dituzten karga-prozesuak
    • Aipamenak eta uko egiteko arauak dituen bilaketa-zerbitzua
    • Bilaketaren kalitate-txostena iturri bakoitzeko
  2. 02 Eredu-estrategia, mendekotasunik gabe

    Ereduen atebide bat zure aplikazioen eta ereduen artean: ataza bakoitza eredu egokira bideratu dezakezu, hornitzaile batek huts egiten duenean beste batera jo, eta ereduak aldatu prezioak eta gaitasunak aldatu ahala.

    Zer egiten dugun

    • Aukerak: hornitzaileek ostatatutako eredu aurreratuak, EBn ostatatutako hedapenak eta pisu irekiko eredu propioak
    • Bideratzea atazaren, sentikortasunaren eta kostuaren arabera
    • Ordezko bideak, denbora-mugak, cachea eta eskaera-mugak
    • Datuen tratamendu-baldintzak, zure lege- eta segurtasun-taldeekin berrikusiak

    Zer jasotzen duzun

    • Ereduen atebidea, bideratze-politika konfigurazio gisa duela
    • Eredu-erabakiaren erregistroa erabilera-kasu bakoitzeko
    • Kostu- eta latentzia-aurrekontua eskaera-mota bakoitzeko
  3. 03 Ebaluazioa, ingeniaritza-diziplina gisa

    Prozesuaren jabeekin adostutako kalitate-irizpideak, aldaketa bakoitzean exekutatzen diren proba-multzo bihurtuta. Ereduek egindako ebaluazioak giza berrikuspenaren aurka kalibratzen ditugu, haietan fidatu aurretik.

    Zer egiten dugun

    • Erreferentziazko datu-multzoak erabilera-kasu bakoitzeko, arloko adituekin osatuak
    • Bilaketaren eta sorkuntzaren lineaz kanpoko ebaluazioa, bereiz
    • Red teaming probak prompt-injekzioaren eta datu-ihesen aurka
    • Lineako ebaluazioa, produkzioko iritzietatik eta laginketa bidezko berrikuspenetik

    Zer jasotzen duzun

    • CIan integratutako ebaluazio-multzoa, bertsioen baldintza gisa
    • Negozio-jabeak onartutako kalitate-irizpideak
    • Red teaming proben aurkikuntzak eta arintze-neurriak
  4. 04 LLMOps eta behagarritasuna

    Trazabilitatea galderatik berreskuratutako pasarteetara, eredu-deira eta erantzunera; promptak eta ereduak kodea bezala bertsionatuta, eta aurrekontuak produkzioan betearazita.

    Zer egiten dugun

    • Eskaera guztien trazabilitatea eta erregistro egituratua
    • Prompten, ereduen eta indizeen bertsionatzea
    • Cache semantikoa eta zehatza, segurua den lekuan
    • Desbideratzeen eta kalitatearen monitorizazioa, alertekin

    Zer jasotzen duzun

    • Kalitate-, kostu- eta latentzia-panelak
    • AAren hutsegite berezietarako gorabehera-gida
    • Ereduak eta indizeak eguneratzeko eskuliburua
  5. 05 Gobernantza, diseinutik

    EBko AA Erregelamendua kontuan hartuta diseinatzen dugu: arrisku-sailkapenetik eta hornitzaile edo hedapenaren arduradun gisa duzun rolatik hasi, eta erregistroetara, giza gainbegiratzera eta dokumentaziora arte. Ebaluazio juridikoa zure aholkulari juridikoaren esku geratzen da.

    Zer egiten dugun

    • Erabilera-kasuen sailkapena eta betebeharrak rolaren arabera
    • Datuak Babesteko Erregelamendu Orokorraren (DBEO) araberako eragin-ebaluazioetarako ekarpenak
    • Erregistroen eta giza gainbegiratzearen diseinua
    • Ereduaren eta sistemaren dokumentazioa, kodearekin batera gordea

    Zer jasotzen duzun

    • Sistemaren dokumentazio-sorta
    • Erregistroen eta atxikipenaren diseinua
    • Gainbegiratze-prozedura erabilera-kasu bakoitzeko
  6. 06 Doikuntza fina eta dokumentuen ulermena, ebaluazioak hala esaten duenean

    Doikuntza fina, distilazioa eta dokumentuen ulermen multimodala hutsune jakinetarako tresnak dira. Ebaluazio-multzoak bilaketa eta promptak nahikoak ez direla erakusten duenean erabiltzen ditugu, eta ez lehenago.

    Zer egiten dugun

    • Hutsuneen analisia, ebaluazioaren emaitzetatik abiatuta
    • Datuak prestatzeko eta etiketatzeko plana
    • Eredu txikiagoetarako distilazioa, kostua edo latentzia hobetzeko
    • Orriaren diseinua kontuan hartzen duen erauzketa, eskaneatutako dokumentu eta dokumentu konplexuetarako

    Zer jasotzen duzun

    • Aurretiko eta ondorengo ebaluazio konparatiboa
    • Entrenamendu-datuen jatorriaren trazabilitatea
    • Mantendu, atzera egin ala erretiratu: erabakia

03 Arkitektura

Erreferen­tziazko arkitektura argigarri bat

Eraikitzen ditugun AA sortzaileko enpresa-sistema gehienek forma bera dute: zure iturrien gaineko bilaketa, ereduen atebide bat, babes-mugak ereduaren bi aldeetan, eta azpian ebaluazio- eta behagarritasun-begizta bat, zer jar daitekeen martxan erabakitzen duena.

Baimen-iragazkia bilaketaren barruan dago, ez erabiltzaile-interfazean. Pertsona batek iturri-sisteman dokumentu bat ireki ezin badu, haren pasarteak ez dira inoiz ereduraino iristen pertsona horren izenean.

Marrazkiaren geruzak

Iturriak
Dokumentu-biltegiak, wikiak eta negozio-sistemak, gehi nork zer ikus dezakeen dakien identitate-hornitzailea.
Bilaketa
Karga, indize hibridoa, birsailkapena eta baimen-iragazkia.
Ereduak
Eredu ostatatuen, EBn ostatatutakoen eta propioen artean bideratzen duen atebidea, ordezko bideekin eta cachearekin.
Aplikazioa
Iturriak aipatzen dituzten erantzunak, ebidentziarik ez dagoenean uko egitea, eta babes-mugak sarreran eta irteeran.
Exekutatu eta hobetu
Erreferentzia-multzoak, erregresio-atalaseak, trazak eta aurrekontuak. Produkzioko trazek hurrengo proba-multzoa elikatzen dute.
Adibide argigarria
  1. Iturriak

    • Dokumentu-biltegiak eta wikiak
    • Negozio-sistemak
    • Identitate-hornitzailea
  2. Bilaketa

    • Karga eta zatitzea
    • Indize hibridoa
    • Baimen-iragazkia
    • Bilaketa eta birsailkapena
  3. Ereduak

    • Ereduen atebidea
    • Eredu ostatatuak, EBkoak eta propioak
    • Sarrera- eta irteera-mugak
  4. Aplikazioa

    • Aplikazioa, aipamenekin
  5. Exekutatu eta hobetu

    • Erreferentzia-multzoak eta atalaseak
    • Trazak, kostu- eta latentzia-aurrekontuak
Bilaketa, ereduen atebidea eta ebaluazio-begizta

Arkitektura argigarria, ez da bezero baten sistema.

Irakurri diagrama testu gisa

Bide nagusia dokumentu-biltegietatik abiatzen da, eta karga, indize hibridoa, birsailkapena duen bilaketa eta ereduen atebidea igaro ondoren aplikaziora iristen da.

Negozio-sistemek ere karga elikatzen dute. Identitate-hornitzaileak baimen-iragazkia elikatzen du, eta iragazki horrek bilaketa mugatzen du. Babes-mugek aplikazioaren sarrera eta irteera egiaztatzen dituzte. Atebideak eskaerak bideratzen ditu hornitzaileek ostatatutako eredu aurreratuetara, EBn ostatatutako hedapenetara eta pisu irekiko eredu propioetara.

Azpian, ebaluazio-multzo bat, erreferentzia-multzoekin eta erregresio-atalaseekin, eta behagarritasuna, trazekin eta kostu- eta latentzia-aurrekontuekin. Produkzioko trazek ebaluazio-multzoa elikatzen dute.

04 Irizpideak eta mugak

Ingeniaritza-irizpideak eta mugak

  • Kalitatea neurtu egiten da, ez agindu

    Nola lantzen dugun

    Kalitate-irizpideak zure prozesuen jabeekin adosten ditugu, eta AAren emaitzak haien aurka probatzen ditugu bertsio bakoitzaren aurretik eta ondoren.

    Bilaketa eta sorkuntza bereiz ebaluatzen dira; horrela, hutsegite batek bere kausa seinalatzen du.

    Mugak eta mendekotasunak

    AAren emaitzak okerrak izan daitezke. Horregatik diseinatzen ditugu berrikuspen-urratsak kasu zalantzagarrietarako, eta ebidentziarik ez dagoenean erantzuteari uko egitea.

    Proba-multzo bat hura osatzen laguntzen duten adituak bezain ona da. Haien denbora behar dugu, hasieratik.

  • Baimenak edukiarekin batera bidaiatzen dute

    Nola lantzen dugun

    Sarbide-eskubideak kargatzean jasotzen dira, eta kontsultaren unean betearazten dira, zure identitate-hornitzailearen arabera.

    Mugak eta mendekotasunak

    Iturri-sistemek eskubideak modu fidagarrian irakur ezin den eran gordetzen dituztenean, eduki hori esparrutik kanpo uzten dugu, irakur daitekeen arte.

    Iturrian gehiegi partekatutako edukiak gehiegi partekatuta jarraitzen du. Bilaketak errazago aurkitzen du; beraz, garbiketa da batzuetan lehen urratsa.

  • Kostua eta latentzia diseinuko datuak dira

    Nola lantzen dugun

    Eskaera-mota bakoitzak bere aurrekontua du. Bideratzea, cachea eta testuinguruaren tamaina haren arabera doitzen dira, eta panelek erakusten dute dirua nora doan.

    Mugak eta mendekotasunak

    Hornitzaileen prezioak eta erabilera-mugak zure kontroletik kanpo aldatzen dira. Atebideari esker erantzun dezakezu, baina ezin du prezio-aldaketa bat desagerrarazi.

  • Ereduak azpitik aldatzen dira

    Nola lantzen dugun

    Ereduak bertsio jakin batean finkatzen dira, eta eguneratze bakoitzak ebaluazio-multzo osoa igarotzen du erabiltzaileengana iritsi aurretik.

    Mugak eta mendekotasunak

    Ostatatutako eredu batzuk epe laburrean erretiratzen dira. Erabilera-kasu bakoitzerako alternatiba bat planifikatzen dugu, eta plan horrek jabearen onespena behar du.

05 Nola lan egiten dugun

Nola lan egiten dugun

Ordenak garrantzia du: zer eraiki erabaki aurretik, nola neurtu erabakitzen dugu.

  1. 01

    Zehaztu erabilera-kasua

    Nork erabiltzen duen, zer erabaki babesten dituen, zer iturri uki ditzakeen eta erantzun oker batek zer kostu duen.

    EmaitzaErabilera-kasuaren laburpena eta arrisku-sailkapena

  2. 02

    Osatu erreferentzia-multzoa

    Benetako galderak eta espero diren erantzunak, zure arloko adituekin bilduak, sistemak baztertu behar dituenak barne.

    EmaitzaProba-multzo bertsionatua

  3. 03

    Landu bilaketa lehenik

    Karga, indizea eta baimen-iragazkia, bilaketaren kalitateak adostutako maila lortu arte doituak.

    EmaitzaBilaketaren kalitate-txostena

  4. 04

    Argitaratu atalaseen atzetik

    Sorkuntza, babes-mugak eta atebidea martxan jartzen dira ebaluazio-multzoa CIan gainditzen dutenean bakarrik.

    EmaitzaBertsioa, ebaluazio-ebidentziarekin

  5. 05

    Kudeatu eta hobetu

    Trazek, laginketa bidezko berrikuspenak eta erabiltzaileen iritziek hurrengo proba-multzoa eta hurrengo bertsioa elikatzen dituzte.

    EmaitzaHileko kalitate-, kostu- eta latentzia-berrikuspena

06 Giza kontrola

Non erabakitzen duten pertsonek

AA sortzaileak zirriborroak idazten ditu, informazioa berreskuratzen du eta proposamenak egiten ditu. Pertsonek erabakitzen dute zer ikus dezakeen, zer den ona eta zer gertatzen den ziur ez dagoenean.

  • Jabeek onartzen dute kalitatea

    Erabilera-kasu bakoitzaren negozio-jabeak onartzen ditu kalitate-irizpideak eta bertsioaren ebidentzia, ez entrega-taldeak bakarrik.

  • Zalantzazko erantzunak pertsona batengana doaz

    Adostutako konfiantza-atalasetik behera, sistemak erantzuteari uko egiten dio edo galdera talde izendun batera bideratzen du.

  • Sarbidea iturrian erabakitzen da

    Dokumentu bat nork ikus dezakeen iturri-sisteman eta zure identitate-hornitzailean erabakitzen da, inoiz ez AA geruzan.

  • Iritziek sistema aldatzen dute

    Erabiltzaileek erantzunak markatu ditzakete. Pertsonek berrikusten dituzte markak, eta baieztatutako hutsegiteak proba-kasu bihurtzen dira.

07 Teknologiak

Erabiltzen ditugun teknologiak

Bilaketa
  • OpenSearch eta Elasticsearch
  • PostgreSQL eta pgvector
  • Azure AI Search
  • Cross-encoder birsailkatzaileak
Ereduak
  • Hornitzaileek ostatatutako eredu aurreratuak
  • EBko eskualdeetako eredu-zerbitzu kudeatuak
  • Pisu irekiko ereduak vLLM gainean
  • Hizkuntza bakoitzeko embedding-ereduak
Ebaluazioa eta eragiketak
  • OpenTelemetry trazak
  • CIan oinarritutako ebaluazio-multzoak
  • Prompt- eta eredu-erregistroak
  • Langfuse edo baliokidea
Aplikazioa
  • TypeScript eta Python zerbitzuak
  • Streaming APIak
  • Lehendik dauden atariak, Salesforce, SAP eta Odoo interfazeak

Teknologia bat zerrendatzeak gure ingeniaritza-esperientzia deskribatzen du. Ez du esan nahi haren hornitzailearekin bazkidetzarik dugunik, ezta hornitzaileak gu babesten gaituenik ere.

08 Adibidea

Adibide argigarri bat

Adibide argigarria

Ordenantzei eta barne-jarraibideei buruzko laguntzailea udal batentzat

01Egoera
Udal bateko langileek egunero kontsultatzen dituzte udal ordenantzak, barne-jarraibideak eta prozedurak. Dokumentuak euskaraz eta gaztelaniaz daude, bertsio batzuk zaharkituta daude, eta galdera berari erantzun desberdinak ematen zaizkio sailaren arabera.
02Zer eraikiko genukeen
Ordenantzen eta jarraibideen gaineko bilaketa, euskaraz eta gaztelaniaz, dokumentu-kudeatzailearen sarbide-eskubideak errespetatuta. Erantzun bakoitzak indarreko testua eta haren artikulua aipatzen ditu, eta iturririk ez dagoenean sistemak ez du erantzuten.
03Non erabakitzen duen pertsona batek
Udaleko zerbitzu juridikoek onartzen dute proba-multzoa, eta ordenantza bat aldatzen denean haiek berrikusten dituzte aldatutako erantzunak, argitaratu aurretik.
04Zer neurtuko genukeen
Indarreko testu zuzena aipatzen duten erantzunen proportzioa, esparrutik kanpoko galderetan erantzuteari uko egiteko tasa, eta erantzun bakoitzaren kostua hizkuntzaka.

09 Sektoreka

Zure sektorean

  • Izapidegileentzako eta herritarrentzako laguntzaileak: lege-iturria aipatzen dute, euskaraz eta gaztelaniaz funtzionatzen dute, eta nork zer berreskuratu duen erregistratzen dute.

  • Politika eta prozeduretarako laguntzaileak, eskubide zorrotzekin, trazabilitate osoarekin eta zure bigarren defentsa-lerroak berrikus dezakeen eredu-arriskuaren dokumentazioarekin.

  • Protokoloen eta produktu-dokumentazioaren gaineko bilaketa, muga argiekin: erabaki klinikorik ez, eta datu sentikorrak onartutako inguruneetan.

Espainia

Hizkuntza bat baino gehiago, ebaluazio-irizpide bakarra

Euskadin, erakundeen ezagutza euskaraz eta gaztelaniaz idatzita egon ohi da, eta talde askok ingelesez ere lan egiten dute. Bilaketa eta ebaluazioa hizkuntza bakoitzerako diseinatzen ditugu; horrela, sistemak euskaraz eta gaztelaniaz funtzionatzen du, hizkuntza bakoitzerako sistema bereizirik gabe.

EBko AA Erregelamenduak esparru bakarra ezartzen du, baina datuen babesean bi agintaritza daude: Agencia Española de Protección de Datos (AEPD) enpresa pribatuentzat, eta Datuak Babesteko Euskal Agintaritza euskal sektore publikoarentzat eta hari zerbitzuak ematen dizkioten tratamenduaren eragileentzat. Batzordearen zerrendan, AESIA agertzen da Espainiako harremanetarako gune bakar gisa, haren izendapena behin betiko onartzeko zain dagoela (2026ko azaroko egoera). Adimen artifizialaren erabilera onari eta gobernantzari buruzko lege organikoaren proiektua Ministro Kontseiluak onartu zuen 2026ko maiatzaren 26an, eta Diputatuen Kongresuan dago (121/000096 espedientea); ez da onartu (2026ko azaroko egoera).

Erabilera-kasu bakoitzean erabakitzen dugu datuak non tratatzen diren, eta erregistroak eta dokumentazioa agintaritza bakoitzaren galderei erantzuteko moduan diseinatzen ditugu, sistema bereizirik gabe. Digital Europe programak finantzatutako proiektuek horrelako diseinu berrerabilgarri eta dokumentatua eskatu ohi dute.

AA ingeniaritzari buruzko galderak

Zein eredu da egokiena?

Atazaren, tartean dauden datuen eta ostatatze-baldintzen araberakoa da. Normalean ereduak konbinatzen ditugu: gaitasun handiko eredu bat arrazoibide handiko urratsetarako, eredu txikiagoak edo propioak sailkapenerako eta erauzketarako, eta EBn ostatatutako hedapenak datuek EBn geratu behar dutenean.

Atebideari esker aukera hori itzulgarria da; beraz, erantzuna alda daiteke ereduak eta prezioak aldatu ahala.

Zenbaterainoko zehaztasuna izango du?

Ez dugu zehaztasunik aurreikusten zure datuekin neurtu aurretik. Kalitate-irizpideak zurekin adosten ditugu, proba-multzo bat osatzen dugu, eta emaitzak haren arabera aurkezten ditugu martxan jarri aurretik eta aldaketa bakoitzaren ondoren.

Ereduek akatsak egiten dituzte; beraz, diseinuak beti jasotzen du zer gertatzen den akatsa dagoenean: erantzuteari uko egitea, berrikuspen-urratsak eta pertsona batengana bideratzea.

Gure datuak beste norbaiten eredua entrenatzeko erabiliko dira?

Ez guk diseinatzen ditugun arkitekturetan. Zure sarrerekin entrenatzea baztertzen duten eredu-zerbitzuak hautatzen ditugu, edo ereduak zure ingurunean ostatatzen ditugu, eta erabakia erabilera-kasu bakoitzeko dokumentatzen dugu zure segurtasun-taldearekin.

EBko AA Erregelamendua aplikatzen zaio gure erabilera-kasuari?

Zer betebehar aplika daitezkeen ulertzen laguntzen dizugu, erabilera-kasuaren eta hornitzaile edo hedapenaren arduradun gisa duzun rolaren arabera, eta erregistroak, gainbegiratzea eta dokumentazioa horren arabera diseinatzen ditugu. Horrela, zure aholkulari juridikoak ondorio batera iristeko behar dituen datuak ditu.

Nola kudeatzen dira segurtasuna eta datu sentikorrak?

FromNinek ISO/IEC 27001 ziurtagiria du. Sarbide-mugak, datuen egoitza eta atxikipena eraiki aurretik adosten dira, eta prompt-injekzioaren eta datu-ihesen aurkako red teaming probak ezartzen dugun argitaratze-prozesuaren parte dira.

Zein da lehen urrats zentzuzkoa?

Erabilera-kasu bat, jabe argi batekin, iturri-multzo mugatu batekin eta zure adituekin osatutako proba-multzo batekin. Horrela, funtzionatzen duen sistema bat eta kalitateari, kostuari eta latentziari buruzko ebidentzia lortzen dituzu, eta hori da hurrengo inbertsio-erabakiak behar duena.

Ekarri erabilera-kasu bat eta haren galdera zailenak

Nola neurtuko genukeen erakutsiko dizugu, eraikitzeaz hitz egin aurretik.