Aller au contenu principal
FromNine
Menu

IA et données

L’IA générative, éprouvée jusqu’en exploitation.

Vos connaissances et vos données servent de base aux applications d’IA générative que nous réalisons. La recherche respecte les droits d’accès, aucune version n’est publiée sans évaluation, et le coût, la qualité et le temps de réponse restent sous vos yeux.

Pour les organisations qui exploitent une même plateforme d’IA dans plusieurs pays et plusieurs langues, du Luxembourg à la Grande Région et au-delà.

Parler de votre projetConnaissances d’entreprise
Ingénierie IA et IA générative : les briquesQuatre couches superposées. Tout en haut, la recherche dans vos sources ; en dessous, la passerelle de modèles ; puis les garde-fous et l’évaluation ; à la base, l’outil avec lequel travaillent vos équipes. Un seul chemin mène des sources jusqu’à cet outil.01Recherche dans vos sources02Passerelle et routage des modèles03Évaluation et garde-fous04Application en exploitation
  1. 01Chaque réponse cite sa source, et le système s’abstient quand la preuve manque
  2. 02Jeu de référence et seuils de non-régression arrêtés avec vos équipes avant la mise en service
  3. 03Routage des modèles et budgets : le coût et le délai de chaque requête restent visibles

01 Problèmes

Où l’IA générative bloque

Le modèle est rarement la vraie difficulté. Les programmes calent surtout sur son environnement.

  1. 01

    Le pilote a plu, mais personne ne sait dire s’il est bon

    Quelques personnes ont posé quelques questions, et l’avis s’est fait ainsi. Sans jeu de test, changer un prompt ou passer à un nouveau modèle revient à parier.

  2. 02

    L’assistant affiche des documents réservés

    L’indexation a ignoré les droits d’accès des contenus. L’équipe sécurité et les représentants du personnel bloquent le déploiement, et ils ont raison.

  3. 03

    La facture augmente plus vite que l’usage

    Chaque requête part vers le modèle le plus gros, chargé du contexte maximal. Personne ne connaît le prix d’une réponse ; personne ne peut donc le maîtriser.

  4. 04

    Des réponses plausibles, mais fausses

    La recherche ramène des passages voisins du sujet, le modèle comble les trous avec aisance, et à la troisième erreur énoncée sans hésitation, les utilisateurs décrochent.

02 Prestations

Nos prestations

  1. 01 Recherche documentaire et systèmes de connaissances

    Pour chaque source, nous définissons comment les contenus sont analysés et découpés, comment recherche lexicale et vectorielle se combinent, et comment les droits d’accès accompagnent chaque passage. Les assistants de connaissances d’entreprise reposent sur ce travail.

    Ce que nous faisons

    • Recensement des sources : responsables, formats, modèles d’accès
    • Découpage et métadonnées adaptés à chaque type de document
    • Recherche hybride mêlant lexical et vectoriel, avec reclassement
    • Recherche qui reprend les droits d’accès définis dans la source

    Ce que vous recevez

    • Chaînes d’ingestion qui détectent les modifications
    • Service de recherche qui cite ses sources et applique des règles d’abstention
    • Mesure de la qualité de recherche pour chaque source

  2. 02 Un choix de modèles qui ne vous enferme pas

    Une passerelle se place entre vos applications et les modèles. Elle oriente chaque tâche vers le modèle adapté, bascule sur une alternative quand un fournisseur tombe et permet de changer de modèle quand les prix ou les capacités évoluent.

    Ce que nous faisons

    • Comparaison des options : grands modèles hébergés, déploiements hébergés dans l’UE, modèles open-weight exploités chez vous
    • Routage selon la tâche, la sensibilité des données et le coût
    • Repli, délais maximaux, cache et plafonds de débit
    • Clauses sur le traitement des données revues avec vos juristes et votre équipe sécurité

    Ce que vous recevez

    • Passerelle de modèles, avec une politique de routage définie par configuration
    • Fiche de décision sur le modèle retenu pour chaque cas d’usage
    • Budget de coût et de délai par type de requête

  3. 03 L’évaluation, une discipline d’ingénierie

    Les responsables du processus fixent avec nous les critères de qualité. Nous les transformons en jeux de test qui tournent à chaque modification. Une notation automatique par modèle n’est utilisée qu’après comparaison avec une relecture humaine.

    Ce que nous faisons

    • Jeux de référence élaborés avec les experts métier, un par cas d’usage
    • Évaluation hors ligne distincte pour la recherche et pour la génération
    • Red teaming ciblant l’injection de prompt et la fuite de données
    • Évaluation continue fondée sur les retours d’exploitation et des contrôles par échantillon

    Ce que vous recevez

    • Suite d’évaluation intégrée à la CI, qui conditionne chaque mise en production
    • Critères de qualité validés par le responsable métier
    • Constats du red teaming et mesures correctives

  4. 04 LLMOps et observabilité

    Une traçabilité complète, de la question aux passages retrouvés, puis à l’appel au modèle et à la réponse. Prompts et modèles sont versionnés comme du code, et les budgets sont appliqués en exploitation.

    Ce que nous faisons

    • Traces et journaux structurés pour chaque requête
    • Gestion des versions des prompts, des modèles et des index
    • Cache sémantique ou exact, là où il ne présente pas de risque
    • Suivi de la dérive et de la qualité, avec alertes

    Ce que vous recevez

    • Tableaux de bord qualité, coût et délai
    • Procédure d’incident pour les défaillances propres à l’IA
    • Mode opératoire pour mettre à jour modèles et index

  5. 05 La gouvernance prévue dès la conception

    Le règlement européen sur l’IA guide nos choix : classification des risques, votre rôle de fournisseur ou de déployeur, journalisation, contrôle humain et documentation. L’analyse juridique reste du ressort de vos conseils.

    Ce que nous faisons

    • Classification du cas d’usage et obligations selon votre rôle
    • Contribution aux analyses d’impact relatives à la protection des données (RGPD)
    • Conception de la journalisation et du contrôle humain
    • Documentation du modèle et du système tenue à jour avec le code

    Ce que vous recevez

    • Dossier de documentation du système
    • Conception de la journalisation et des durées de conservation
    • Procédure de supervision pour chaque cas d’usage

  6. 06 Fine-tuning et lecture de documents complexes, si l’évaluation le justifie

    Le fine-tuning, la distillation et la compréhension multimodale des documents comblent des lacunes précises. Nous n’y recourons que lorsque la suite d’évaluation montre que la recherche et le prompt ne suffisent plus.

    Ce que nous faisons

    • Analyse des écarts à partir des résultats d’évaluation
    • Plan de préparation et d’annotation des données
    • Distillation vers des modèles plus petits, pour le coût ou le délai
    • Extraction tenant compte de la mise en page pour les documents scannés ou complexes

    Ce que vous recevez

    • Évaluation comparée avant et après
    • Traçabilité des données d’entraînement
    • Décision de conserver, revenir en arrière ou retirer

03 Architecture

Une architecture de référence, à titre d’illustration

La plupart des systèmes d’IA générative que nous réalisons pour des entreprises suivent le même schéma. La recherche porte sur vos sources, une passerelle donne accès aux modèles, des garde-fous contrôlent l’entrée et la sortie, et une boucle d’évaluation et d’observabilité décide de ce qui peut partir en production.

Le filtrage des droits se fait dans la recherche, pas dans l’interface. Un document qu’une personne ne peut pas ouvrir dans le système source n’alimente jamais le modèle quand c’est elle qui pose la question.

Couches du schéma

Sources
Espaces documentaires, wikis et applications métier, ainsi que le fournisseur d’identités qui sait qui a le droit de voir quoi.
Recherche
Ingestion, index hybride, reclassement et filtre de droits.
Modèles
Une passerelle qui répartit les appels entre modèles hébergés, dans l’UE ou en interne, avec repli et cache.
Application
Réponses sourcées, abstention quand la preuve manque, garde-fous à l’entrée comme à la sortie.
Exploiter et améliorer
Jeux de référence, seuils de non-régression, traces et budgets. Les traces d’exploitation nourrissent le prochain jeu de test.
Exemple illustratif

  1. Sources

    • Espaces documentaires et wikis
    • Applications métier
    • Fournisseur d’identités

  2. Recherche

    • Ingestion et découpage
    • Index hybride
    • Filtre de droits
    • Recherche et reclassement

  3. Modèles

    • Passerelle de modèles
    • Modèles hébergés, dans l’UE ou en interne
    • Garde-fous en entrée et en sortie

  4. Application

    • Application avec citations

  5. Exploiter et améliorer

    • Jeux de référence et seuils de non-régression
    • Traces, budgets de coût et de délai
Recherche, passerelle de modèles et boucle d’évaluation

Schéma d’illustration : il ne représente le système d’aucun client.

Lire le schéma sous forme de texte

Le chemin principal part des espaces documentaires, traverse l’ingestion, un index hybride, la recherche avec reclassement et la passerelle de modèles, et aboutit à l’application.

Les applications métier alimentent elles aussi l’ingestion. Le fournisseur d’identités alimente un filtre de droits qui restreint la recherche. Des garde-fous contrôlent ce qui entre dans l’application et ce qui en sort. La passerelle répartit les appels entre grands modèles hébergés, déploiements hébergés dans l’UE et modèles open-weight exploités en interne.

Sous l’ensemble se trouvent la suite d’évaluation, avec ses jeux de référence et ses seuils de non-régression, et l’observabilité, avec traces et budgets de coût et de délai. Les traces d’exploitation enrichissent la suite d’évaluation.

04 Choix et limites

Choix techniques et limites

  • La qualité se mesure, elle ne se promet pas

    Notre approche

    Les critères de qualité sont convenus avec les responsables de vos processus ; les sorties de l’IA sont testées par rapport à eux avant et après chaque version.

    Nous évaluons séparément la recherche et la génération : quand quelque chose échoue, la cause est identifiable.

    Limites et dépendances

    Une IA peut se tromper. Nous prévoyons donc une relecture pour les cas incertains et une abstention lorsque la preuve manque.

    Un jeu de test vaut ce que valent les experts qui le construisent. Leur disponibilité est nécessaire dès le début.

  • Les droits d’accès suivent le contenu

    Notre approche

    Les droits sont relevés au moment de l’ingestion, puis vérifiés à chaque requête auprès de votre fournisseur d’identités.

    Limites et dépendances

    Si un système source gère ses droits d’une manière impossible à lire de façon fiable, ce contenu reste hors périmètre tant que ce n’est pas résolu.

    Un contenu trop largement partagé dans la source le reste. La recherche le rend plus facile à trouver ; un nettoyage préalable est donc parfois la première étape.

  • Coût et délai sont des données de conception

    Notre approche

    Chaque type de requête reçoit un budget. Routage, cache et taille du contexte sont réglés en fonction de ce budget, et les tableaux de bord montrent où part l’argent.

    Limites et dépendances

    Les tarifs et les limites de débit des fournisseurs évoluent sans vous consulter. La passerelle vous permet de réagir, pas d’annuler une hausse de prix.

  • Les modèles évoluent sous vos pieds

    Notre approche

    Chaque modèle est figé sur une version précise, et toute mise à niveau repasse la suite d’évaluation complète avant d’atteindre les utilisateurs.

    Limites et dépendances

    Un modèle hébergé peut être retiré avec un préavis court. Nous prévoyons une alternative pour chaque cas d’usage, que le responsable doit approuver.

05 Méthode

Notre méthode

L’ordre compte : nous décidons comment mesurer avant de décider quoi construire.

  1. 01

    Cadrer le cas d’usage

    Qui l’utilise, quelles décisions il soutient, quelles sources il peut consulter, et ce que coûte une mauvaise réponse.

    LivrableNote de cadrage et classification du risque

  2. 02

    Constituer le jeu de référence

    De vraies questions et les réponses attendues, rassemblées avec vos experts métier, y compris celles que le système doit refuser.

    LivrableJeu de test versionné

  3. 03

    Soigner d’abord la recherche

    Ingestion, index et filtre de droits sont ajustés jusqu’à ce que la qualité de recherche atteigne le seuil convenu.

    LivrableRapport sur la qualité de la recherche

  4. 04

    Mettre en production sous conditions

    La génération, les garde-fous et la passerelle ne passent en production que si la suite d’évaluation réussit en CI.

    LivrableVersion livrée avec ses preuves d’évaluation

  5. 05

    Exploiter et améliorer

    Traces, contrôles par échantillon et retours des utilisateurs alimentent le jeu de test suivant et la version suivante.

    LivrableRevue mensuelle de la qualité, du coût et du délai

06 Contrôle humain

Là où les personnes gardent la main

L’IA générative rédige, recherche et propose. Ce sont des personnes qui décident de ce qu’elle peut voir, de ce qui est jugé bon et de ce qui se passe quand elle hésite.

  • Le responsable valide la qualité

    Pour chaque cas d’usage, c’est le responsable métier qui approuve les critères de qualité et les preuves de mise en production, pas l’équipe de réalisation seule.

  • Une réponse incertaine va à une personne

    Sous un seuil de confiance convenu, le système s’abstient ou transmet la question à une équipe désignée.

  • Les droits restent dans la source

    Qui peut voir un document se décide dans le système source et chez votre fournisseur d’identités, jamais dans la couche d’IA.

  • Les retours font évoluer le système

    Les utilisateurs signalent les réponses douteuses. Des personnes examinent ces signalements, et chaque erreur confirmée devient un cas de test.

07 Technologies

Technologies que nous utilisons

Recherche
  • OpenSearch et Elasticsearch
  • PostgreSQL avec pgvector
  • Azure AI Search
  • Reclassement par cross-encoder
Modèles
  • Grands modèles hébergés
  • Services de modèles gérés en région UE
  • Modèles open-weight sur vLLM
  • Modèles d’embedding adaptés à chaque langue
Évaluation et exploitation
  • Traçage OpenTelemetry
  • Suites d’évaluation exécutées en CI
  • Registres de prompts et de modèles
  • Langfuse ou équivalent
Application
  • Services en TypeScript et en Python
  • API en streaming
  • Portails existants, interfaces Salesforce, SAP et Odoo

Une technologie citée ici reflète notre expérience d’ingénierie. Elle ne signifie ni partenariat avec son éditeur ni recommandation de sa part.

08 Exemple

Un exemple illustratif

Exemple illustratif

Un assistant sur les règlements d’une commune, en français et en allemand

01Situation
Les règlements communaux, les délibérations et les fiches de démarche existent en français, certaines notes internes en allemand. Les agents répondent chaque jour aux mêmes questions de résidents et de frontaliers, avec des réponses qui varient selon la personne.
02Ce que nous construirions
Une recherche multilingue sur les règlements et les procédures de la commune, qui reprend les droits de l’espace documentaire et cite le texte applicable dans chaque réponse.
03Où les personnes décident
Le service responsable de chaque règlement approuve le jeu de test dans sa langue et valide toute version qui modifie une réponse.
04Ce que nous mesurerions
Part des réponses qui citent le bon texte, taux d’abstention sur les questions hors périmètre et coût par réponse, en français et en allemand.

09 Par secteur

Selon votre secteur

  • État et communes

    Pour les ministères, administrations et communes : des assistants qui citent le texte applicable, répondent en français comme en allemand et consignent ce qui a été retrouvé et pour qui.

  • Secteur financier

    Pour les banques, gestionnaires de fonds et assureurs : des assistants sur les procédures et les circulaires CSSF, avec des droits stricts, une traçabilité complète et une documentation du risque de modèle que votre deuxième ligne de défense peut examiner.

  • Santé et sciences de la vie

    Une recherche dans les protocoles et la documentation produit, avec des limites nettes : aucune décision clinique, et les données sensibles restent dans des environnements approuvés.

Luxembourg

Plusieurs langues, une même exigence de qualité

Au Luxembourg, les connaissances d’une organisation sont rarement rédigées dans une seule langue : règlements en français, procédures en allemand, documentation de groupe en anglais. Le règlement européen sur l’IA fixe un cadre commun, mais les autorités de contrôle, les représentants du personnel et les superviseurs sectoriels varient selon l’État membre.

Au Grand-Duché, la CNPD veille au RGPD. Le projet de loi n° 8476, pas encore adopté, la désignerait comme autorité de surveillance du marché par défaut pour le règlement sur l’IA, aux côtés d’autorités sectorielles comme la CSSF.

Nous en tenons compte dès la phase d’analyse : recherche et évaluation par langue, lieu d’hébergement des données fixé pour chaque cas d’usage, journaux et documentation qui répondent aux questions de chaque pays sans un système distinct par pays. Les programmes financés par Digital Europe demandent souvent ce type de conception réutilisable et documentée.

Vos questions sur l’ingénierie IA

Quel modèle conseillez-vous ?

Tout dépend de la tâche, des données concernées et de vos contraintes d’hébergement. En pratique, nous associons plusieurs modèles : un modèle puissant pour les étapes qui demandent du raisonnement, des modèles plus petits ou exploités en interne pour classer et extraire, et des déploiements hébergés dans l’UE lorsque les données ne doivent pas en sortir.

Grâce à la passerelle, ce choix reste réversible ; la réponse peut évoluer avec les modèles et leurs prix.

Quel niveau de précision pouvons-nous attendre ?

Nous n’annonçons pas de chiffre avant de l’avoir mesuré sur vos données. Nous fixons ensemble les critères de qualité, construisons un jeu de test et présentons les résultats avant la mise en service, puis après chaque modification.

Un modèle commet des erreurs. La conception prévoit toujours la suite : abstention, étape de relecture, transfert vers une personne.

Nos données serviront-elles à entraîner le modèle d’un tiers ?

Pas dans les architectures que nous concevons. Nous retenons des services dont les conditions excluent l’entraînement sur vos données, ou nous hébergeons les modèles dans votre propre environnement. Le choix est documenté pour chaque cas d’usage avec votre équipe sécurité.

Notre cas d’usage relève-t-il du règlement européen sur l’IA ?

Nous vous aidons à cerner les obligations possibles selon le cas d’usage et votre rôle de fournisseur ou de déployeur. Journalisation, supervision et documentation sont conçues en conséquence, pour que vos conseils disposent des faits nécessaires à leur conclusion. Au Luxembourg, le projet de loi n° 8476, qui n’est pas encore adopté, prévoit de confier la surveillance du marché par défaut à la CNPD.

Comment protégez-vous les données sensibles ?

FromNine est certifiée ISO/IEC 27001. Périmètres d’accès, lieu d’hébergement des données et durées de conservation sont convenus avant le développement, et le processus de mise en production que nous installons inclut des tests contre l’injection de prompt et la fuite de données.

Par où commencer ?

Par un cas d’usage avec un responsable clairement désigné, un nombre limité de sources et un jeu de test construit avec vos experts. Vous obtenez ainsi un système qui fonctionne et des preuves sur la qualité, le coût et le délai : exactement ce dont la prochaine décision d’investissement a besoin.

Venez avec un cas d’usage et ses questions les plus difficiles

Nous vous montrerons comment nous le mesurerions, avant même de parler de développement.

Parler de votre projetConnaissances d’entreprise