Aneu al contingut principal
FromNine
Menú

IA i dades

IA generativa que funciona en producció.

Construïm aplicacions d’IA generativa sobre el vostre propi coneixement i les vostres dades, amb una recuperació que respecta els permisos, una avaluació que decideix cada versió i un cost, una qualitat i una latència que podeu veure.

Per a organitzacions que fan servir una sola plataforma d’IA en diversos països, llengües i marcs normatius nacionals.

Parlem del vostre projecteConeixement corporatiu
Enginyeria d’IA i IA generativa: capes de capacitatsQuatre capes apilades en profunditat. De dalt a baix: recuperació sobre les vostres fonts, la passarel·la de models, l’avaluació i les salvaguardes, i l’aplicació amb què treballen les persones usuàries. Un sol recorregut va de les fonts a l’aplicació.01Recuperació sobre les vostres fonts02Passarel·la i enrutament de models03Avaluació i salvaguardes04Aplicació en producció
  1. 01Respostes que citen les fonts i que s’abstenen quan falta l’evidència
  2. 02Un conjunt de proves de referència i uns llindars de regressió acordats amb els vostres equips abans de la posada en marxa
  3. 03Enrutament de models i pressupostos que mantenen visibles el cost i la latència de cada petició

01 Problemes

On s’encalla la IA generativa

El model poques vegades és la part difícil. El que encalla la majoria de programes és tot el que l’envolta.

  1. 01

    El pilot va convèncer, però ningú no sabia dir si era bo

    La qualitat la jutjaven unes quantes persones que provaven unes quantes preguntes. No hi ha cap conjunt de proves, de manera que cada canvi d’instruccions o de versió del model és una aposta.

  2. 02

    L’assistent mostra documents que algunes persones no haurien de veure

    El contingut es va indexar sense els drets d’accés. Seguretat i la representació del personal aturen el desplegament, i fan bé.

  3. 03

    El cost creix més de pressa que l’ús

    Cada petició va al model més gran amb el context més llarg. Ningú no sap quant costa una resposta, i per tant ningú no ho pot gestionar.

  4. 04

    Les respostes sonen bé i no ho són

    La recuperació retorna passatges gairebé encertats, el model omple els buits amb fluïdesa i les persones usuàries hi perden la confiança després del tercer error dit amb seguretat.

02 Què lliurem

Què lliurem

  1. 01 Recuperació d’informació i sistemes de coneixement corporatiu

    Recuperació dissenyada per a cada font: com s’analitza i es fragmenta el contingut, com es combinen la cerca lèxica i la vectorial i com viatgen els drets d’accés amb cada passatge. És la base dels assistents de coneixement corporatiu.

    Què fem

    • Inventari de fonts amb responsables, formats i models d’accés
    • Estratègia de fragmentació i metadades per tipus de document
    • Cerca híbrida lèxica i vectorial amb reordenació
    • Recuperació que hereta els drets d’accés de la font

    Què rebeu

    • Fluxos d’ingesta amb detecció de canvis
    • Servei de recuperació amb citacions i regles d’abstenció
    • Informe de qualitat de la recuperació per font

  2. 02 Estratègia de models sense dependència d’un proveïdor

    Una passarel·la de models entre les vostres aplicacions i els models, perquè pugueu enrutar per tasca, tenir alternativa quan un proveïdor falla i canviar de model quan canvien els preus i les capacitats.

    Què fem

    • Opcions entre models avançats allotjats, desplegaments allotjats a la UE i models de pesos oberts en infraestructura pròpia
    • Enrutament per tasca, sensibilitat i cost
    • Alternatives, temps d’espera, memòria cau i límits de peticions
    • Condicions de tractament de dades revisades amb els vostres equips jurídic i de seguretat

    Què rebeu

    • Passarel·la de models amb la política d’enrutament com a configuració
    • Registre de la decisió de model per a cada cas d’ús
    • Pressupost de cost i latència per tipus de petició

  3. 03 L’avaluació com a disciplina d’enginyeria

    Criteris de qualitat acordats amb les persones responsables del procés i convertits en conjunts de proves que s’executen a cada canvi. Les comprovacions puntuades per un model es calibren amb revisió humana abans de confiar-hi.

    Què fem

    • Conjunts de proves de referència per cas d’ús, elaborats amb especialistes del domini
    • Avaluació fora de línia de la recuperació i de la generació per separat
    • Proves d’atac per a injecció d’instruccions i fuites de dades
    • Avaluació en línia a partir de la retroacció de producció i de revisions per mostreig

    Què rebeu

    • Bateria d’avaluació integrada a la CI com a condició de llançament
    • Criteris de qualitat aprovats per la persona responsable del negoci
    • Resultats de les proves d’atac i mesures correctores

  4. 04 LLMOps i observabilitat

    Traçabilitat de la pregunta als passatges recuperats, a la crida al model i a la resposta, amb les instruccions i els models versionats com el codi i els pressupostos aplicats en producció.

    Què fem

    • Traces i registres estructurats de cada petició
    • Versions de les instruccions, dels models i dels índexs
    • Memòria cau semàntica i exacta on és segur fer-la servir
    • Seguiment de la deriva i de la qualitat amb alertes

    Què rebeu

    • Quadres de comandament de qualitat, cost i latència
    • Pla de resposta per a incidències pròpies de la IA
    • Procediment per actualitzar models i índexs

  5. 05 Governança des del disseny

    Dissenyem tenint en compte el Reglament d’intel·ligència artificial (RIA): de la classificació del risc i el vostre paper com a proveïdor o responsable del desplegament fins als registres, la supervisió humana i la documentació. L’anàlisi jurídica correspon als vostres assessors.

    Què fem

    • Classificació dels casos d’ús i obligacions segons el paper
    • Aportacions a les avaluacions d’impacte en la protecció de dades d’acord amb l’RGPD
    • Disseny dels registres i de la supervisió humana
    • Documentació del model i del sistema mantinguda amb el codi

    Què rebeu

    • Dossier de documentació del sistema
    • Disseny dels registres i de la conservació
    • Procediment de supervisió per a cada cas d’ús

  6. 06 Ajust fi i comprensió de documents, quan l’avaluació ho indica

    L’ajust fi, la destil·lació i la comprensió multimodal de documents són eines per a mancances concretes. Les fem servir quan la bateria d’avaluació mostra que la recuperació i les instruccions no són suficients, i no abans.

    Què fem

    • Anàlisi de mancances a partir dels resultats de l’avaluació
    • Pla de preparació i etiquetatge de dades
    • Destil·lació a models més petits per reduir cost o latència
    • Extracció que té en compte la maquetació per a documents escanejats i complexos

    Què rebeu

    • Avaluació comparativa d’abans i després
    • Traçabilitat de les dades d’entrenament
    • Decisió de mantenir, revertir o retirar

03 Arquitectura

Una arquitectura de referència il·lustrativa

La majoria de sistemes d’IA generativa empresarials que construïm comparteixen una forma: recuperació sobre les vostres fonts, una passarel·la de models, salvaguardes a banda i banda del model i, a sota, un cicle d’avaluació i observabilitat que decideix què pot entrar en producció.

El filtre de permisos és dins de la recuperació, no a la interfície d’usuari. Si una persona no pot obrir un document al sistema d’origen, els seus passatges no arriben mai al model en nom seu.

Capes del dibuix

Fonts
Repositoris de documents, wikis i sistemes de negoci, i el proveïdor d’identitat que sap qui pot veure què.
Recuperació
Ingesta, un índex híbrid, reordenació i el filtre de permisos.
Models
Una passarel·la que enruta entre models allotjats, allotjats a la UE i en infraestructura pròpia, amb alternatives i memòria cau.
Aplicació
Respostes amb la font citada, abstenció quan falta l’evidència i salvaguardes a l’entrada i a la sortida.
Operar i millorar
Conjunts de referència, llindars de regressió, traces i pressupostos. Les traces de producció alimenten el conjunt de proves següent.
Exemple il·lustratiu

  1. Fonts

    • Repositoris de documents i wikis
    • Sistemes de negoci
    • Proveïdor d’identitat

  2. Recuperació

    • Ingesta i fragmentació
    • Índex híbrid
    • Filtre de permisos
    • Recuperació i reordenació

  3. Models

    • Passarel·la de models
    • Models allotjats, a la UE i propis
    • Salvaguardes d’entrada i sortida

  4. Aplicació

    • Aplicació amb citacions

  5. Operar i millorar

    • Conjunts de referència i llindars
    • Traces, cost i latència
Recuperació, passarel·la de models i cicle d’avaluació

Arquitectura il·lustrativa, no el sistema d’un client.

Llegiu el diagrama en format de text

El recorregut principal va dels repositoris de documents a la ingesta, un índex híbrid, la recuperació amb reordenació i la passarel·la de models, fins a l’aplicació.

Els sistemes de negoci també alimenten la ingesta. El proveïdor d’identitat alimenta un filtre de permisos que limita la recuperació. Les salvaguardes comproven l’entrada i la sortida de l’aplicació. La passarel·la enruta cap a models avançats allotjats, desplegaments allotjats a la UE i models de pesos oberts en infraestructura pròpia.

A sota, una bateria d’avaluació amb conjunts de referència i llindars de regressió, i l’observabilitat amb traces i pressupostos de cost i latència. Les traces de producció alimenten la bateria d’avaluació.

04 Consideracions i límits

Consideracions d’enginyeria i límits

  • La qualitat es mesura, no es promet

    Com ho abordem

    Acordem els criteris de qualitat amb les persones responsables dels processos i hi contrastem els resultats de la IA abans i després de cada versió.

    La recuperació i la generació s’avaluen per separat, de manera que cada error apunta a la seva causa.

    Límits i dependències

    La IA es pot equivocar. Per això dissenyem passos de revisió per als casos dubtosos i l’abstenció quan falta l’evidència.

    Un conjunt de proves és tan bo com les persones expertes que ajuden a fer-lo. Necessitem el seu temps des del principi.

  • Els permisos viatgen amb el contingut

    Com ho abordem

    Els drets d’accés es capturen en la ingesta i s’apliquen en cada consulta d’acord amb el vostre proveïdor d’identitat.

    Límits i dependències

    Si un sistema d’origen guarda els drets d’una manera que no es pot llegir amb fiabilitat, deixem aquell contingut fora de l’abast fins que es pugui.

    Un contingut compartit en excés a la font continua compartit en excés. La recuperació el fa més fàcil de trobar, i de vegades el primer pas és endreçar-lo.

  • El cost i la latència són dades del disseny

    Com ho abordem

    Cada tipus de petició té un pressupost. L’enrutament, la memòria cau i la mida del context s’hi ajusten, i els quadres de comandament mostren on va la despesa.

    Límits i dependències

    Els preus i els límits dels proveïdors canvien fora del vostre control. La passarel·la us permet reaccionar, però no fa desaparèixer un canvi de preu.

  • Els models canvien per sota vostre

    Com ho abordem

    Els models es fixen per versió, i cada actualització passa la bateria d’avaluació completa abans d’arribar a les persones usuàries.

    Límits i dependències

    Els models allotjats de vegades es retiren amb poc preavís. Planifiquem una alternativa per a cada cas d’ús, i aquest pla necessita l’aprovació de la persona responsable.

05 Com treballem

Com treballem

L’ordre importa: decidim com mesurarem abans de decidir què construirem.

  1. 01

    Definir el cas d’ús

    Qui el fa servir, quines decisions recolza, quines fonts pot consultar i què costa una resposta equivocada.

    ResultatFitxa del cas d’ús i classificació del risc

  2. 02

    Elaborar el conjunt de referència

    Preguntes reals i respostes esperades, recollides amb els vostres especialistes, incloses les que el sistema ha de declinar.

    ResultatConjunt de proves versionat

  3. 03

    Començar per la recuperació

    Ingesta, índex i filtre de permisos, ajustats fins que la qualitat de la recuperació arriba al nivell acordat.

    ResultatInforme de qualitat de la recuperació

  4. 04

    Publicar amb condicions

    La generació, les salvaguardes i la passarel·la entren en producció només quan la bateria d’avaluació passa a la CI.

    ResultatVersió amb evidència d’avaluació

  5. 05

    Operar i millorar

    Les traces, les revisions per mostreig i la retroacció de les persones usuàries alimenten el conjunt de proves i la versió següents.

    ResultatRevisió mensual de qualitat, cost i latència

06 Control humà

On les persones mantenen el control

La IA generativa redacta, recupera i suggereix. Les persones decideixen què pot veure, què es considera correcte i què passa quan té dubtes.

  • La persona responsable aprova la qualitat

    La persona responsable de negoci de cada cas d’ús aprova els criteris de qualitat i l’evidència de cada versió, no només l’equip que la lliura.

  • Les respostes dubtoses van a una persona

    Per sota d’un llindar de confiança acordat, el sistema s’absté o envia la pregunta a un equip determinat.

  • L’accés es decideix a la font

    Qui pot veure un document es decideix al sistema d’origen i al vostre proveïdor d’identitat, mai dins de la capa d’IA.

  • La retroacció canvia el sistema

    Les persones usuàries poden marcar respostes. Les marques les revisen persones, i els errors confirmats es converteixen en casos de prova.

07 Tecnologies

Tecnologies amb què treballem

Recuperació
  • OpenSearch i Elasticsearch
  • PostgreSQL amb pgvector
  • Azure AI Search
  • Reordenadors de tipus cross-encoder
Models
  • Models avançats allotjats
  • Serveis de models gestionats en regions de la UE
  • Models de pesos oberts amb vLLM
  • Models d’embeddings per a cada llengua
Avaluació i operació
  • Traces amb OpenTelemetry
  • Bateries d’avaluació a la CI
  • Registres d’instruccions i de models
  • Langfuse o equivalent
Aplicació
  • Serveis en TypeScript i Python
  • API de transmissió en temps real
  • Portals existents i interfícies de Salesforce, SAP i Odoo

Esmentar una tecnologia descriu la nostra experiència d’enginyeria. No implica cap acord de col·laboració amb el fabricant ni cap aval per part seva.

08 Exemple

Un exemple il·lustratiu

Exemple il·lustratiu

Un assistent d’informació normativa per a un ajuntament

01Situació
Les ordenances municipals, les instruccions internes i els criteris d’interpretació són en llocs diferents i en versions diverses. El personal tècnic i les oficines d’atenció ciutadana fan les mateixes preguntes i obtenen respostes diferents.
02Què construiríem
Recuperació sobre les ordenances vigents i les instruccions internes de l’ajuntament, amb els drets d’accés heretats del gestor documental i respostes que citen l’article o la instrucció aplicable.
03On decideix una persona
La persona responsable de cada àmbit aprova el conjunt de proves de la seva matèria i dona el vistiplau a les versions que canvien respostes. Les respostes no substitueixen cap resolució: la decisió sobre un expedient continua sent del personal tècnic.
04Què mesuraríem
Proporció de respostes que citen la norma correcta, taxa d’abstenció en preguntes fora de l’abast i cost per resposta.

09 Per sectors

En el vostre sector

  • Sector públic

    Assistents per al personal tècnic i per a la ciutadania que citen la font normativa, funcionen en les llengües oficials que calgui i registren què s’ha recuperat i per a qui.

  • Serveis financers

    Assistents de polítiques i procediments amb permisos estrictes, traçabilitat completa i documentació del risc de model que la segona línia de defensa pot revisar.

  • Salut i ciències de la vida

    Recuperació sobre protocols i documentació de producte amb límits clars: cap decisió clínica i les dades sensibles en entorns aprovats.

Espanya

Diverses llengües, un sol criteri d’avaluació

Les organitzacions internacionals poques vegades despleguen la IA generativa en un sol país. El Reglament d’intel·ligència artificial (RIA) fixa un marc únic, però les autoritats de protecció de dades, la representació del personal i els supervisors sectorials continuen sent diferents a cada estat membre, i també ho són les llengües en què està escrit el vostre coneixement.

A Espanya, la llista d’autoritats de la Comissió Europea esmenta l’AESIA, la designació de la qual com a autoritat està pendent d’adopció definitiva (situació a 6 de novembre del 2026), i el projecte de llei orgànica per al bon ús i la governança de la intel·ligència artificial és en tràmit al Congrés dels Diputats, sense aprovar. A Catalunya, a més, la documentació interna sovint conviu en català i en castellà, i la recuperació i l’avaluació s’han de provar en totes dues llengües.

Ho tenim en compte des de la fase de descoberta: recuperació i avaluació per a cada llengua, residència de les dades fixada per a cada cas d’ús, i registres i documentació que responen a les preguntes de cada país sense un sistema separat per a cadascun. Els projectes finançats pel programa Europa Digital sovint demanen exactament aquest tipus de disseny reutilitzable i documentat.

Preguntes sobre l’enginyeria d’IA

Quin model ens recomaneu?

Depèn de la tasca, de les dades implicades i dels vostres requisits d’allotjament. Normalment combinem models: un model potent per als passos que demanen més raonament, models més petits o en infraestructura pròpia per a la classificació i l’extracció, i desplegaments allotjats a la UE quan les dades s’hi han de quedar.

La passarel·la fa que aquesta elecció sigui reversible, de manera que la resposta pot canviar quan canvien els models i els preus.

Quina precisió tindrà?

No donem una xifra de precisió abans d’haver-la mesurat amb les vostres dades. Acordem amb vosaltres els criteris de qualitat, elaborem un conjunt de proves i us presentem els resultats abans de la posada en marxa i després de cada canvi.

Els models s’equivoquen, i per això el disseny sempre preveu què passa quan ho fan: abstenció, passos de revisió i una via cap a una persona.

Les nostres dades serviran per entrenar el model d’un altre?

No en les arquitectures que dissenyem. Triem serveis de models les condicions dels quals exclouen l’entrenament amb les vostres entrades, o allotgem els models al vostre entorn, i documentem la decisió per a cada cas d’ús amb el vostre equip de seguretat.

El Reglament d’intel·ligència artificial s’aplica al nostre cas d’ús?

Us ajudem a entendre quines obligacions us poden afectar segons el cas d’ús i el vostre paper com a proveïdor o responsable del desplegament, i hi adaptem els registres, la supervisió i la documentació, perquè els vostres assessors tinguin els fets per arribar a una conclusió.

Com gestioneu la seguretat i les dades sensibles?

FromNine té la certificació ISO/IEC 27001. Els límits d’accés, la residència de les dades i la conservació s’acorden abans de construir, i les proves d’atac per a injecció d’instruccions i fuites de dades formen part del procés de llançament que posem en marxa.

Quin és un primer pas raonable?

Un cas d’ús amb una persona responsable clara, un conjunt limitat de fonts i un conjunt de proves elaborat amb els vostres especialistes. Així obteniu un sistema que funciona i evidència sobre qualitat, cost i latència, que és el que necessita la decisió d’inversió següent.

Porteu-nos un cas d’ús i les seves preguntes més difícils

Us mostrarem com el mesuraríem abans de parlar de com el construiríem.

Parlem del vostre projecteConeixement corporatiu