Gå til hovedindholdet
FromNine
Menu

AI & data

Generativ AI der holder i drift.

Vi bygger generative AI-løsninger på din egen viden og dine egne data. Retrieval respekterer adgangsrettigheder, evaluering afgør hver release, og du kan se omkostning, kvalitet og svartid.

For danske virksomheder og myndigheder der vil bruge generativ AI på deres egen viden, med kontrol over kvalitet, data og omkostninger.

Tal med os om dit projektLæs om adgang til viden
AI-engineering & generativ AI: lagene i løsningenFire lag oven på hinanden. Fra øverst til nederst: retrieval over dine kilder, modelgatewayen, evaluering og guardrails, og den applikation dine brugere arbejder i. Én rute går fra kilderne til applikationen.01Retrieval over dine kilder02Modelgateway og routing03Evaluering og guardrails04Applikation i drift
  1. 01Svar der henviser til kilden og siger fra, når grundlaget mangler
  2. 02Et testsæt og regressionskrav aftalt med jeres fagfolk før idriftsættelse
  3. 03Modelrouting og budgetter der holder omkostning og svartid pr. forespørgsel synlige

01 Problemer

Hvor generativ AI går i stå

Modellen er sjældent det svære. Det er alt omkring den, der får de fleste projekter til at gå i stå.

  1. 01

    Piloten imponerede, men ingen kunne sige om den var god

    Kvaliteten blev vurderet af nogle få personer med nogle få spørgsmål. Der er intet testsæt, så hver ændring af en prompt og hver ny modelversion er et spil.

  2. 02

    Assistenten viser dokumenter som brugeren ikke må se

    Indholdet blev indekseret uden adgangsrettigheder. It-sikkerheden og samarbejdsudvalget stopper udrulningen, og det er med rette.

  3. 03

    Omkostningerne vokser hurtigere end brugen

    Alle forespørgsler går til den største model med den længste kontekst. Ingen kender prisen på ét svar, så ingen kan styre den.

  4. 04

    Svarene lyder rigtige, men er det ikke

    Retrieval finder næsten det rigtige, modellen udfylder hullerne flydende, og brugerne mister tilliden efter den tredje selvsikre fejl.

02 Leverancer

Det leverer vi

  1. 01 Retrieval og videnssystemer

    Retrieval designet pr. kilde: hvordan indhold læses og opdeles, hvordan leksikalsk søgning og vektorsøgning kombineres, og hvordan adgangsrettigheder følger hver tekstpassage. Grundlaget for assistenter med adgang til viden.

    Det gør vi

    • Oversigt over kilder med ejere, formater og adgangsmodeller
    • Strategi for opdeling og metadata pr. dokumenttype
    • Hybrid leksikalsk søgning og vektorsøgning med re-ranking
    • Retrieval der arver kildens adgangsrettigheder

    Det får du

    • Indlæsningspipelines der opdager ændringer
    • Retrieval-service med kildehenvisninger og regler for at sige fra
    • Rapport om retrieval-kvalitet pr. kilde

  2. 02 Modelstrategi uden lock-in

    En modelgateway mellem dine applikationer og modellerne, så du kan route efter opgave, falde tilbage når en udbyder svigter, og skifte model når priser og muligheder ændrer sig.

    Det gør vi

    • Valg mellem hostede frontiermodeller, installationer i EU og selvhostede open-weight-modeller
    • Routing efter opgave, følsomhed og omkostning
    • Fallbacks, timeouts, caching og rate limits
    • Databehandlingsvilkår gennemgået med jeres jurister og it-sikkerhed

    Det får du

    • Modelgateway med routingpolitik som konfiguration
    • Begrundet modelvalg pr. use case
    • Budget for omkostning og svartid pr. type forespørgsel

  3. 03 Evaluering som ingeniørdisciplin

    Kvalitetskriterier aftalt med dem der ejer processen, omsat til testsæt der kører ved hver ændring. Automatiske vurderinger med en model kalibreres mod menneskelig gennemgang, før vi stoler på dem.

    Det gør vi

    • Testsæt pr. use case, bygget sammen med fagfolk
    • Offline evaluering af retrieval og generering hver for sig
    • Red teaming mod prompt injection og datalæk
    • Online evaluering ud fra feedback og stikprøver i drift

    Det får du

    • Evalueringssuite i CI som krav for hver release
    • Kvalitetskriterier godkendt af forretningsejeren
    • Fund fra red teaming og tiltag mod dem

  4. 04 LLMOps og observability

    Sporing fra spørgsmål til fundne passager, modelkald og svar. Prompts og modeller versioneres som kode, og budgetter håndhæves i drift.

    Det gør vi

    • Sporing og struktureret logning af hver forespørgsel
    • Versionering af prompts, modeller og indeks
    • Semantisk og eksakt caching hvor det er sikkert
    • Overvågning af drift og kvalitet med alarmer

    Det får du

    • Dashboards for kvalitet, omkostning og svartid
    • Beredskabsplan for AI-specifikke fejl
    • Driftsvejledning for opdatering af modeller og indeks

  5. 05 Governance indbygget fra start

    Vi designer med AI-forordningen for øje: fra risikoklassificering og din rolle som udbyder eller idriftsætter til logning, menneskeligt tilsyn og dokumentation. Den juridiske vurdering ligger hos dine egne jurister.

    Det gør vi

    • Klassificering af use cases og forpligtelser efter rolle
    • Input til konsekvensanalyser vedrørende databeskyttelse efter GDPR
    • Design af logning og menneskeligt tilsyn
    • Dokumentation af model og system, opbevaret sammen med koden

    Det får du

    • Samlet systemdokumentation
    • Design af logning og opbevaringsperioder
    • Procedure for tilsyn pr. use case

  6. 06 Finjustering og dokumentforståelse, når evalueringen viser behovet

    Finjustering, destillation og multimodal dokumentforståelse er værktøjer til bestemte huller. Vi bruger dem, når evalueringen viser at retrieval og prompts ikke rækker, og ikke før.

    Det gør vi

    • Analyse af huller ud fra evalueringsresultater
    • Plan for dataforberedelse og annotering
    • Destillation til mindre modeller af hensyn til omkostning eller svartid
    • Layoutbevidst udtræk fra scannede og komplekse dokumenter

    Det får du

    • Sammenlignende evaluering før og efter
    • Sporbarhed for træningsdata
    • Beslutning om at beholde, rulle tilbage eller udfase

03 Arkitektur

En illustrativ referencearkitektur

De fleste generative AI-systemer vi bygger til virksomheder og myndigheder har samme form: retrieval over dine kilder, en modelgateway, guardrails på begge sider af modellen og nedenunder en løkke af evaluering og observability, der afgør hvad der må gå i drift.

Adgangsfilteret ligger i retrieval, ikke i brugergrænsefladen. Hvis en person ikke kan åbne et dokument i kildesystemet, når dokumentets passager aldrig modellen på personens vegne.

Lagene i tegningen

Kilder
Dokumentarkiver, wikier og forretningssystemer, plus identitetsudbyderen der ved hvem der må se hvad.
Retrieval
Indlæsning, et hybridt indeks, re-ranking og adgangsfilteret.
Modeller
En gateway der router mellem hostede, EU-hostede og selvhostede modeller, med fallbacks og caching.
Applikation
Svar med kildehenvisninger, intet svar når grundlaget mangler, og guardrails på input og output.
Drift og forbedring
Testsæt, regressionskrav, sporing og budgetter. Sporing fra drift bliver til det næste testsæt.
Eksempel

  1. Kilder

    • Dokumentarkiver og wikier
    • Forretnings­systemer
    • Identitets­udbyder

  2. Retrieval

    • Indlæsning og opdeling
    • Hybridt indeks
    • Adgangsfilter
    • Retrieval og re-ranking

  3. Modeller

    • Modelgateway
    • Hostede, EU-hostede og selvhostede modeller
    • Guardrails på input og output

  4. Applikation

    • Applikation med kilder

  5. Drift og forbedring

    • Testsæt og regressionskrav
    • Sporing, omkostnings- og svartidsbudgetter
Retrieval, modelgateway og evalueringsløkke

Illustrativ arkitektur, ikke en kundes system.

Læs diagrammet som tekst

Hovedruten går fra dokumentarkiver gennem indlæsning, et hybridt indeks, retrieval med re-ranking og modelgatewayen til applikationen.

Forretningssystemer leverer også data til indlæsningen. Identitetsudbyderen leverer til et adgangsfilter, der afgrænser retrieval. Guardrails kontrollerer applikationens input og output. Gatewayen router til hostede frontiermodeller, installationer i EU og selvhostede open-weight-modeller.

Nedenunder ligger en evalueringssuite med testsæt og regressionskrav, og observability med sporing og budgetter for omkostning og svartid. Sporing fra drift fodrer evalueringssuiten.

04 Hensyn og begrænsninger

Tekniske hensyn og begrænsninger

  • Kvalitet bliver målt, ikke lovet

    Sådan håndterer vi det

    Vi aftaler kvalitetskriterier med jeres procesejere og tester AI-output mod dem før og efter hver release.

    Retrieval og generering evalueres hver for sig, så en fejl peger på sin årsag.

    Begrænsninger og afhængigheder

    AI-output kan være forkert. Derfor designer vi gennemgang af usikre tilfælde, og systemet svarer ikke når grundlaget mangler.

    Et testsæt er kun så godt som de fagfolk der hjælper med at bygge det. Vi har brug for deres tid tidligt.

  • Adgangsrettigheder følger indholdet

    Sådan håndterer vi det

    Adgangsrettigheder registreres ved indlæsningen og håndhæves ved hver søgning mod jeres identitetsudbyder.

    Begrænsninger og afhængigheder

    Hvis et kildesystem gemmer rettigheder på en måde der ikke kan læses pålideligt, holder vi indholdet uden for scope, indtil det kan.

    Indhold der er delt for bredt i kilden, forbliver delt for bredt. Retrieval gør det lettere at finde, så en oprydning er nogle gange første skridt.

  • Omkostning og svartid er designkrav

    Sådan håndterer vi det

    Hver type forespørgsel får et budget. Routing, caching og kontekststørrelse tilpasses det, og dashboards viser hvor pengene går hen.

    Begrænsninger og afhængigheder

    Udbydernes priser og rate limits ændrer sig uden for din kontrol. Gatewayen giver dig mulighed for at reagere, men den kan ikke fjerne en prisstigning.

  • Modellerne ændrer sig under dig

    Sådan håndterer vi det

    Modeller fastlåses på en version, og hver opgradering kører hele evalueringssuiten, før den når brugerne.

    Begrænsninger og afhængigheder

    Hostede modeller udfases nogle gange med kort varsel. Vi planlægger et alternativ pr. use case, og den plan skal godkendes af ejeren.

05 Sådan arbejder vi

Sådan arbejder vi

Rækkefølgen betyder noget: vi beslutter hvordan vi måler, før vi beslutter hvad vi bygger.

  1. 01

    Afgræns use casen

    Hvem bruger den, hvilke beslutninger den understøtter, hvilke kilder den må bruge, og hvad et forkert svar koster.

    ResultatBeskrivelse af use case og risikoklassificering

  2. 02

    Byg testsættet

    Rigtige spørgsmål og forventede svar, samlet med dine fagfolk, også dem systemet skal afvise.

    ResultatVersioneret testsæt

  3. 03

    Byg retrieval først

    Indlæsning, indeks og adgangsfilter, justeret indtil retrieval-kvaliteten når det aftalte niveau.

    ResultatRapport om retrieval-kvalitet

  4. 04

    Release kun med beståede tests

    Generering, guardrails og gateway går først i drift, når evalueringssuiten består i CI.

    ResultatRelease med dokumenteret evaluering

  5. 05

    Drift og forbedring

    Sporing, stikprøver og feedback fra brugerne bliver til det næste testsæt og den næste release.

    ResultatMånedlig gennemgang af kvalitet, omkostning og svartid

06 Menneskelig kontrol

Hvor mennesker har kontrollen

Generativ AI skriver udkast, finder og foreslår. Mennesker beslutter hvad den må se, hvad der er godt nok, og hvad der sker når den er usikker.

  • Ejeren godkender kvaliteten

    Forretningsejeren af hver use case godkender kvalitetskriterierne og dokumentationen for hver release, ikke leveranceteamet alene.

  • Usikre svar går til en person

    Under en aftalt tærskel for sikkerhed svarer systemet ikke eller sender spørgsmålet videre til et navngivet team.

  • Adgang styres i kilden

    Hvem der må se et dokument, afgøres i kildesystemet og jeres identitetsudbyder, aldrig i AI-laget.

  • Feedback ændrer systemet

    Brugerne kan markere svar. Markeringerne gennemgås af mennesker, og bekræftede fejl bliver til testcases.

07 Teknologier

Teknologier vi arbejder med

Retrieval
  • OpenSearch og Elasticsearch
  • PostgreSQL med pgvector
  • Azure AI Search
  • Cross-encoder-modeller til re-ranking
Modeller
  • Hostede frontiermodeller
  • Administrerede modeltjenester i EU-regioner
  • Open-weight-modeller på vLLM
  • Embeddingmodeller pr. sprog
Evaluering og drift
  • Sporing med OpenTelemetry
  • Evalueringssuiter i CI
  • Registre for prompts og modeller
  • Langfuse eller tilsvarende
Applikation
  • Services i TypeScript og Python
  • Streaming-API’er
  • Eksisterende portaler og frontends i Salesforce, SAP og Odoo

At vi nævner en teknologi, beskriver vores tekniske erfaring. Det betyder ikke et partnerskab med leverandøren eller at leverandøren anbefaler os.

08 Eksempel

Et illustrativt eksempel

Eksempel

En vejledningsassistent for en styrelse

01Udgangspunkt
En styrelse har sin vejledning fordelt på regler, bekendtgørelser, vejledninger og svar på ofte stillede spørgsmål. Virksomheder og styrelsens egne medarbejdere stiller de samme spørgsmål igen og igen og får ikke altid samme svar.
02Det ville vi bygge
Retrieval over styrelsens vejledning og retsgrundlag med adgangsrettigheder fra dokumentarkivet. Hvert svar henviser til den gældende tekst, og assistenten siger fra, når spørgsmålet ligger uden for grundlaget.
03Her beslutter mennesker
Fagligt ansvarlige i styrelsen godkender testsættet og hver release der ændrer svar. En sagsbehandler overtager spørgsmål, som assistenten ikke kan besvare med en kilde.
04Det ville vi måle
Andelen af svar der henviser til den rigtige kilde, andelen af spørgsmål uden for scope som assistenten afviser, og omkostningen pr. svar.

09 Brancher

I din branche

  • Offentlig sektor

    Assistenter til sagsbehandlere og borgere der henviser til retsgrundlaget, svarer på det sprog der bliver spurgt på, og logger hvad der blev fundet for hvem.

  • Finansiel sektor

    Assistenter til politikker og procedurer med stramme rettigheder, fuld sporbarhed og modelrisikodokumentation som anden forsvarslinje kan gennemgå.

  • Sundhed & life science

    Retrieval over protokoller og produktdokumentation med klare grænser: ingen kliniske beslutninger, og følsomme data bliver i godkendte miljøer.

Danmark

AI-forordningen og de danske myndigheder

AI-forordningen sætter rammen i hele EU. I Danmark supplerer lov nr. 467 af 14. maj 2025 forordningen: Digitaliseringsstyrelsen, Datatilsynet og Domstolsstyrelsen er nationale kompetente myndigheder, og Digitaliseringsstyrelsen er det centrale kontaktpunkt (status november 2026). Samtidig spiller samarbejdsudvalget ofte en rolle, når nye værktøjer kommer tæt på medarbejdernes arbejde.

Det tager vi med fra den første afklaring: retrieval og evaluering på dansk og de andre sprog din viden er skrevet på, data opbevares i EU efter behov pr. use case, og logning og dokumentation der kan besvare myndighedernes spørgsmål. Projekter der finansieres af programmet for et digitalt Europa, efterspørger ofte netop sådan et genbrugeligt og dokumenteret design.

Spørgsmål om AI-engineering

Hvilken model anbefaler I?

Det afhænger af opgaven, de data der indgår, og dine krav til hosting. Vi kombinerer som regel modeller: en stærk model til trin med meget ræsonnement, mindre eller selvhostede modeller til klassificering og udtræk, og installationer i EU hvor data skal blive i EU.

Gatewayen gør valget reversibelt, så svaret kan ændre sig, når modeller og priser gør.

Hvor præcis bliver løsningen?

Vi lover ingen præcision, før vi har målt den på dine data. Vi aftaler kvalitetskriterier med dig, bygger et testsæt og rapporterer resultaterne mod det før idriftsættelse og efter hver ændring.

Modeller laver fejl, så designet beskriver altid hvad der sker, når de gør: intet svar, et trin med gennemgang og en vej til en person.

Bliver vores data brugt til at træne andres modeller?

Ikke i de arkitekturer vi designer. Vi vælger modeltjenester hvis vilkår udelukker træning på dine input, eller hoster modellerne selv i dit miljø, og vi dokumenterer valget pr. use case sammen med din it-sikkerhed.

Gælder AI-forordningen for vores use case?

Vi hjælper dig med at forstå hvilke forpligtelser der kan gælde, ud fra use casen og din rolle som udbyder eller idriftsætter. Vi designer logning, tilsyn og dokumentation derefter, så dine jurister har fakta til at nå en konklusion. I Danmark er Digitaliseringsstyrelsen det centrale kontaktpunkt for AI-forordningen.

Hvordan håndterer I sikkerhed og følsomme data?

FromNine er certificeret efter ISO/IEC 27001. Adgangsgrænser, dataplacering og opbevaring aftales før vi bygger, og red teaming mod prompt injection og datalæk er en del af den releaseproces vi sætter op.

Hvad er et fornuftigt første skridt?

Én use case med en tydelig ejer, et afgrænset sæt kilder og et testsæt bygget sammen med dine fagfolk. Det giver dig et system der virker, og dokumentation for kvalitet, omkostning og svartid. Det er det, den næste investeringsbeslutning har brug for.

Kom med én use case og dens sværeste spørgsmål

Vi viser dig hvordan vi ville måle den, før vi taler om at bygge den.

Tal med os om dit projektLæs om adgang til viden