Hoppa till huvudinnehållet
FromNine
Meny

AI och data

Generativ AI som håller i drift.

Vi bygger generativa AI-tillämpningar på din egen kunskap och data, med sökning som respekterar behörigheter, utvärdering som avgör varje release och kostnad, kvalitet och svarstid som du kan följa.

För svenska myndigheter, regioner, kommuner och företag som vill använda generativ AI på sina egna dokument och data.

Berätta om ditt projektLäs om kunskapssökning
AI-utveckling och generativ AI: förmågor i lagerFyra lager staplade på djupet. Uppifrån och ned: sökning i dina källor, modellgatewayen, utvärdering och skyddsräcken samt tillämpningen som användarna arbetar i. Ett flöde går från källorna till tillämpningen.01Sökning i dina källor02Modellgateway och styrning03Utvärdering och skyddsräcken04Tillämpning i drift
  1. 01Svar som hänvisar till sina källor och avstår när underlaget saknas
  2. 02En testuppsättning med facit och kvalitetsspärrar som dina team godkänner före driftstart
  3. 03Modellstyrning och budgetar som gör kostnad och svarstid per anrop synliga

01 Problem

Där generativ AI fastnar

Modellen är sällan det svåra. Det som stoppar de flesta satsningar är allt runt omkring den.

  1. 01

    Piloten imponerade, sedan kunde ingen säga om den var bra

    Kvaliteten bedömdes av några personer som testade några frågor. Det finns ingen testuppsättning, så varje ändrad prompt eller ny modellversion blir ett lotteri.

  2. 02

    Assistenten visar dokument som användaren inte får se

    Innehållet indexerades utan sina behörigheter. Säkerhetsfunktionen och de fackliga företrädarna stoppar införandet, och de gör rätt.

  3. 03

    Kostnaderna växer snabbare än användningen

    Varje anrop går till den största modellen med den längsta kontexten. Ingen vet vad ett svar kostar, så ingen kan styra det.

  4. 04

    Svaren låter rätt men är fel

    Sökningen hittar nästan rätt, modellen fyller luckorna med säker ton och användarna tappar förtroendet efter det tredje självsäkra felet.

02 Leveranser

Det här levererar vi

  1. 01 Sökning och kunskaps­system för organisationen

    Sökning som utformas per källa: hur innehållet tolkas och delas upp, hur ordsökning och vektorsökning kombineras och hur behörigheterna följer med varje textavsnitt. Grunden för assistenter som ger tillgång till kunskap.

    Det här gör vi

    • Inventering av källor med ägare, format och behörighetsmodeller
    • Strategi för uppdelning och metadata per dokumenttyp
    • Hybridsökning med ordsökning, vektorsökning och omrankning
    • Behörighetsstyrd sökning som ärver källornas åtkomsträtter

    Det här får du

    • Inläsningsflöden som upptäcker ändringar
    • Söktjänst med källhänvisningar och regler för när svaret uteblir
    • Rapport om sökkvalitet per källa

  2. 02 Modellstrategi utan inlåsning

    En modellgateway mellan dina tillämpningar och modellerna, så att du kan styra per uppgift, falla tillbaka när en leverantör fallerar och byta modell när priser och förmågor förändras.

    Det här gör vi

    • Alternativ bland ledande molnmodeller, driftsättningar inom EU och egna modeller med öppna vikter
    • Styrning per uppgift, känslighet och kostnad
    • Reservvägar, tidsgränser, cachning och anropsgränser
    • Villkor för personuppgiftsbehandling som granskas med dina jurister och din säkerhetsfunktion

    Det här får du

    • Modellgateway med styrregler som konfiguration
    • Beslutsunderlag för modellval per användningsfall
    • Budget för kostnad och svarstid per typ av anrop

  3. 03 Utvärdering som ingenjörs­disciplin

    Kvalitetskriterier som avtalas med dem som äger processen och omsätts i testuppsättningar som körs vid varje ändring. Kontroller där en modell bedömer svaren kalibreras mot mänsklig granskning innan vi förlitar oss på dem.

    Det här gör vi

    • Testuppsättningar med facit per användningsfall, byggda med verksamhetens experter
    • Separat utvärdering av sökning och textgenerering
    • Angreppstester mot promptinjektion och dataläckage
    • Löpande utvärdering utifrån återkoppling och stickprov i drift

    Det här får du

    • Utvärderingssvit i CI som spärr före release
    • Kvalitetskriterier som verksamhetsägaren har godkänt
    • Resultat från angreppstester med åtgärder

  4. 04 LLMOps och observerbarhet

    Spårning från fråga till hämtade textavsnitt, modellanrop och svar, med prompter och modeller versionshanterade som kod och budgetar som upprätthålls i drift.

    Det här gör vi

    • Spårning och strukturerad loggning av varje anrop
    • Versionshantering av prompter, modeller och index
    • Semantisk och exakt cachning där det är säkert
    • Övervakning av avvikelser och kvalitet med larm

    Det här får du

    • Översikter för kvalitet, kostnad och svarstid
    • Incidentrutin för AI-specifika fel
    • Driftrutin för uppdatering av modeller och index

  5. 05 Styrning från början

    Vi utformar med AI-förordningen i åtanke, från riskklassning och din roll som leverantör eller tillhandahållare till loggning, mänsklig kontroll och dokumentation. Den juridiska bedömningen gör dina egna jurister.

    Det här gör vi

    • Klassning av användningsfall och skyldigheter per roll
    • Underlag till konsekvensbedömningar avseende dataskydd enligt GDPR
    • Utformning av loggning och mänsklig kontroll
    • Dokumentation av modell och system som förvaltas tillsammans med koden

    Det här får du

    • Dokumentationspaket för systemet
    • Utformning av loggning och lagringstider
    • Rutin för mänsklig kontroll per användningsfall

  6. 06 Finjustering och dokument­förståelse, när utvärderingen visar behovet

    Finjustering, destillering och multimodal dokumentförståelse är verktyg för specifika luckor. Vi använder dem när utvärderingen visar att sökning och promptning inte räcker, och inte tidigare.

    Det här gör vi

    • Analys av luckor utifrån utvärderingsresultaten
    • Plan för databeredning och märkning
    • Destillering till mindre modeller för lägre kostnad eller svarstid
    • Layoutmedveten tolkning av skannade och komplexa dokument

    Det här får du

    • Jämförande utvärdering före och efter
    • Spårbarhet för träningsdata
    • Beslut om att behålla, backa eller avveckla

03 Arkitektur

En illustrativ referens­arkitektur

De flesta generativa AI-system som vi bygger för organisationer har samma form: sökning i dina källor, en modellgateway, skyddsräcken på båda sidor om modellen och under allt en slinga för utvärdering och observerbarhet som avgör vad som får gå i drift.

Behörighetsfiltret ligger i sökningen, inte i användargränssnittet. Om en person inte kan öppna ett dokument i källsystemet når dess textavsnitt aldrig modellen för den personens räkning.

Lager i bilden

Källor
Dokumentlager, wikier och verksamhetssystem samt identitetstjänsten som vet vem som får se vad.
Sökning
Inläsning, ett hybridindex, omrankning och behörighetsfiltret.
Modeller
En gateway som styr mellan molnmodeller, EU-drift och egna modeller, med reservvägar och cachning.
Tillämpning
Svar med källhänvisningar, inget svar när underlaget saknas och skyddsräcken för in- och utdata.
Drift och förbättring
Facit, kvalitetsspärrar, spårning och budgetar. Spår från driften matar nästa testuppsättning.
Illustrativt exempel

  1. Källor

    • Dokumentlager och wikier
    • Verksamhets­system
    • Identitetstjänst

  2. Sökning

    • Inläsning och uppdelning
    • Hybridindex
    • Behörighets­filter
    • Sökning och omrankning

  3. Modeller

    • Modellgateway
    • Molnmodeller, EU-drift och egna modeller
    • Skyddsräcken för in- och utdata

  4. Tillämpning

    • Tillämpning med källhänvisningar

  5. Drift och förbättring

    • Facit och kvalitetsspärrar
    • Spårning, budgetar för kostnad och svarstid
Sökning, modellgateway och utvärderings­slinga

Illustrativ arkitektur, inte en kunds system.

Läs diagrammet som text

Huvudflödet går från dokumentlager via inläsning, ett hybridindex, sökning med omrankning och modellgatewayen till tillämpningen.

Även verksamhetssystem matar inläsningen. Identitetstjänsten matar ett behörighetsfilter som begränsar sökningen. Skyddsräcken kontrollerar tillämpningens in- och utdata. Gatewayen styr till ledande molnmodeller, driftsättningar inom EU och egna modeller med öppna vikter.

Underst finns en utvärderingssvit med facit och kvalitetsspärrar samt observerbarhet med spårning och budgetar för kostnad och svarstid. Spår från driften matar utvärderingssviten.

04 Överväganden och begränsningar

Tekniska överväganden och begränsningar

  • Kvalitet mäts, den utlovas inte

    Så hanterar vi det

    Vi kommer överens om kvalitetskriterier med dina processägare och testar AI:ns svar mot dem före och efter varje release.

    Sökning och textgenerering utvärderas var för sig, så att ett fel pekar mot sin orsak.

    Begränsningar och beroenden

    AI kan ge fel svar. Därför utformar vi granskningssteg för osäkra fall och låter systemet avstå när underlaget saknas.

    En testuppsättning blir aldrig bättre än de experter som hjälper till att bygga den. Vi behöver deras tid tidigt.

  • Behörigheterna följer med innehållet

    Så hanterar vi det

    Åtkomsträtter fångas vid inläsningen och upprätthålls vid varje fråga mot din identitetstjänst.

    Begränsningar och beroenden

    Där källsystemen lagrar behörigheter på ett sätt som inte går att läsa på ett tillförlitligt sätt håller vi innehållet utanför tills det går.

    Innehåll som delas för brett i källan förblir för brett delat. Sökningen gör det lättare att hitta, så ibland är en uppstädning det första steget.

  • Kostnad och svarstid är krav i designen

    Så hanterar vi det

    Varje typ av anrop får en budget. Styrning, cachning och kontextstorlek justeras mot den, och översikterna visar vart pengarna går.

    Begränsningar och beroenden

    Leverantörernas priser och anropsgränser ändras utan att du kan påverka det. Gatewayen gör att du kan reagera, men den kan inte trolla bort en prishöjning.

  • Modellerna förändras under dig

    Så hanterar vi det

    Modeller låses per version, och varje uppgradering kör hela utvärderingssviten innan den når användarna.

    Begränsningar och beroenden

    Molnmodeller avvecklas ibland med kort varsel. Vi planerar ett alternativ per användningsfall, och den planen behöver ägarens godkännande.

05 Så arbetar vi

Så arbetar vi

Ordningen spelar roll: vi bestämmer hur vi ska mäta innan vi bestämmer vad vi ska bygga.

  1. 01

    Ramar för användnings­fallet

    Vem som använder det, vilka beslut det stöder, vilka källor det får röra och vad ett felaktigt svar kostar.

    ResultatBeskrivning av användningsfallet och riskklassning

  2. 02

    Bygg test­uppsättningen

    Verkliga frågor och förväntade svar som samlas in med dina experter, även de frågor som systemet ska avböja.

    ResultatVersionshanterad testuppsättning

  3. 03

    Sökningen först

    Inläsning, index och behörighetsfilter, som justeras tills sökkvaliteten når den avtalade nivån.

    ResultatRapport om sökkvalitet

  4. 04

    Release bakom spärrar

    Textgenerering, skyddsräcken och gatewayen går i drift först när utvärderingssviten klarar sig i CI.

    ResultatRelease med belägg från utvärderingen

  5. 05

    Driva och förbättra

    Spårning, stickprov och användarnas återkoppling matar nästa testuppsättning och nästa release.

    ResultatMånatlig genomgång av kvalitet, kostnad och svarstid

06 Mänsklig kontroll

Där människor behåller kontrollen

Generativ AI skriver utkast, hämtar och föreslår. Människor bestämmer vad den får se, vad som räknas som bra och vad som händer när den är osäker.

  • Ägarna godkänner kvaliteten

    Verksamhetsägaren för varje användningsfall godkänner kvalitetskriterierna och beläggen inför release, inte leveransteamet ensamt.

  • Osäkra svar går till en människa

    Under en avtalad säkerhetsnivå avstår systemet eller skickar frågan vidare till ett namngivet team.

  • Åtkomsten styrs i källan

    Vem som får se ett dokument bestäms i källsystemet och i din identitetstjänst, aldrig i AI-lagret.

  • Återkoppling förändrar systemet

    Användarna kan flagga svar. Flaggorna granskas av människor, och bekräftade fel blir nya testfall.

07 Tekniker

Tekniker vi arbetar med

Sökning
  • OpenSearch och Elasticsearch
  • PostgreSQL med pgvector
  • Azure AI Search
  • Omrankning med cross-encoder-modeller
Modeller
  • Ledande molnmodeller
  • Förvaltade modelltjänster i EU-regioner
  • Modeller med öppna vikter på vLLM
  • Inbäddningsmodeller per språk
Utvärdering och drift
  • Spårning med OpenTelemetry
  • Utvärderingssviter i CI
  • Register för prompter och modeller
  • Langfuse eller motsvarande
Tillämpning
  • Tjänster i TypeScript och Python
  • Strömmande API:er
  • Befintliga portaler samt gränssnitt i Salesforce, SAP och Odoo

Att vi listar en teknik beskriver vår tekniska erfarenhet. Det innebär inte ett partnerskap med leverantören eller att leverantören står bakom oss.

08 Exempel

Ett illustrativt exempel

Illustrativt exempel

En regelassistent för en kommuns styrdokument

01Utgångsläge
Handläggare i en kommuns förvaltningar letar svar i styrdokument, riktlinjer och lokala föreskrifter som ligger i flera system. Samma fråga får olika svar beroende på vem som svarar och vilken version av dokumentet som hittas först.
02Det här skulle vi bygga
Sökning i kommunens egna styrdokument och lokala föreskrifter, med behörigheter som ärvs från dokumenthanteringen och svar som hänvisar till det dokument och det avsnitt som gäller.
03Här beslutar människor
Dokumentägaren i varje förvaltning godkänner testuppsättningen för sitt område och godkänner releaser som ändrar svaren. Assistenten fattar inga beslut i ärenden; det gör handläggaren.
04Det här skulle vi mäta
Andel svar som hänvisar till rätt gällande dokument, andel frågor utanför området där assistenten avstår och kostnad per svar.

09 Branscher

I din bransch

  • Offentlig sektor

    Assistenter för handläggare och invånare hos myndigheter, regioner och kommuner som hänvisar till rätt lagrum eller styrdokument och loggar vad som hämtades och för vem.

  • Finansiella tjänster

    Assistenter för policyer och rutiner hos banker och försäkringsbolag, med strikta behörigheter, full spårbarhet och modellriskdokumentation som andra försvarslinjen kan granska.

  • Vård och life science

    Sökning i vårdrutiner och produktdokumentation hos vårdgivare och life science-företag, med tydliga gränser: inga kliniska beslut, och känsliga uppgifter stannar i godkända miljöer.

Sverige

AI-förordningen och tillsynen i Sverige

AI-förordningen gäller i hela EU, men tillsynen organiseras nationellt. Regeringen har gett PTS, IMY, Finansinspektionen och Läkemedelsverket uppdrag som marknadskontrollmyndigheter enligt AI-förordningen till och med den 31 december 2026; PTS är gemensam kontaktpunkt. Integritetsskyddsmyndigheten (IMY) är dessutom tillsynsmyndighet enligt dataskyddsförordningen och dataskyddslagen (2018:218).

Vi tar med det redan i förstudien: sökning och utvärdering på svenska och på de andra språk som din kunskap är skriven på, var data lagras bestäms per användningsfall, och loggning och dokumentation svarar på de frågor som en tillsynsmyndighet kan ställa. Från den 1 januari 2027 ger Digitaliseringsmyndigheten vägledning om AI i den offentliga förvaltningen. Projekt som finansieras inom Digital Europe efterfrågar ofta just den sortens återanvändbara och dokumenterade design.

Frågor om AI-utveckling

Vilken modell rekommenderar ni?

Det beror på uppgiften, vilka data som berörs och dina krav på drift. Oftast kombinerar vi modeller: en kraftfull modell för steg som kräver resonemang, mindre eller egna modeller för klassning och tolkning, och driftsättningar inom EU där data måste stanna i EU.

Gatewayen gör valet reversibelt, så svaret kan ändras i takt med att modeller och priser gör det.

Hur träffsäkert blir det?

Vi anger ingen träffsäkerhet innan vi har mätt den på dina data. Vi kommer överens om kvalitetskriterier, bygger en testuppsättning och redovisar resultaten mot den före driftstart och efter varje ändring.

Modeller gör fel, så designen beskriver alltid vad som händer när de gör det: systemet avstår, ett granskningssteg tar vid eller frågan går till en människa.

Används våra data för att träna någon annans modell?

Inte i de arkitekturer som vi utformar. Vi väljer modelltjänster vars villkor utesluter träning på dina indata, eller driftar modellerna själva i din miljö, och vi dokumenterar valet per användningsfall tillsammans med din säkerhetsfunktion.

Gäller AI-förordningen för vårt användningsfall?

Vi hjälper dig att förstå vilka skyldigheter som kan gälla utifrån användningsfallet och din roll som leverantör eller tillhandahållare. Loggning, mänsklig kontroll och dokumentation utformas därefter, så att dina jurister har de fakta de behöver för att dra en slutsats.

Hur hanterar ni säkerhet och känsliga uppgifter?

Vi är certifierade enligt ISO/IEC 27001. Åtkomstgränser, var data lagras och hur länge den sparas avtalas innan vi bygger, och angreppstester mot promptinjektion och dataläckage ingår i den releaseprocess som vi sätter upp.

Vad är ett rimligt första steg?

Ett användningsfall med en tydlig ägare, ett begränsat antal källor och en testuppsättning som byggs med dina experter. Då får du ett fungerande system och belägg för kvalitet, kostnad och svarstid, vilket är vad nästa investeringsbeslut behöver.

Ta med ett användningsfall och dess svåraste frågor

Vi visar hur vi skulle mäta det innan vi pratar om att bygga det.

Berätta om ditt projektLäs om kunskapssökning