Hoppa till huvudinnehållet
FromNine
Meny

AI och data

Generativ AI som håller också efter pilotskedet.

Tillämpningarna bygger på organisationens egna dokument och data. Sökningen visar bara det användaren har rätt att se, ingen version går i drift utan att ha klarat utvärderingen och för varje fråga syns vad svaret kostade, hur bra det var och hur lång tid det tog.

För organisationer i Finland vars kunskap finns på finska och svenska och som vill ha AI som svarar lika bra på båda språken.

Berätta om ditt projektLäs om kunskapssökning
AI-utveckling och generativ AI: skikten i tjänstenFyra skikt ovanpå varandra. Uppifrån och ned: sökning i dina källor, modellgatewayen, utvärdering och skyddsräcken samt tillämpningen som användarna arbetar i. En väg går från källorna till tillämpningen.01Sökning i dina källor02Modellgateway och styrning03Utvärdering och skyddsräcken04Tillämpningen i drift
  1. 01Svar som anger sin källa och avstår när underlaget saknas, på finska eller svenska
  2. 02En referensuppsättning och regressionsspärrar som dina experter godkänner före driftstarten
  3. 03Modellstyrning och budgetar som visar kostnad och svarstid för varje typ av fråga

01 Utmaningar

Här kör generativ AI fast

Sällan är det modellen som är problemet. Det är allt omkring den som får de flesta satsningar att stanna.

  1. 01

    Piloten såg lovande ut, men ingen vet om den håller

    Ett par personer ställde ett par frågor och tyckte att svaren var bra. Någon testuppsättning finns inte, så varje promptändring och varje modellbyte är ett vågspel.

  2. 02

    Assistenten visar dokument som borde vara skyddade

    Dokumenten indexerades utan sina åtkomsträttigheter. Informationssäkerheten och personalens företrädare stoppar införandet, med all rätt.

  3. 03

    Kostnaden ökar fortare än antalet användare

    Alla frågor skickas till den största modellen med maximal kontext. Ingen vet vad ett svar kostar, och då går kostnaden inte att styra.

  4. 04

    Svaren låter övertygande men stämmer inte

    Sökningen hämtar avsnitt som nästan passar, modellen fyller i resten med säker ton och efter några sådana fel slutar användarna lita på assistenten. Saknas dessutom den svenska versionen av en anvisning i indexet blir svaren på svenska sämre än på finska.

02 Leveranser

Det här levererar vi

  1. 01 Sökning och kunskapssystem för organisationen

    För varje källa bestämmer vi hur innehållet tolkas och delas upp, hur ordsökning och vektorsökning vägs samman och hur åtkomsträttigheterna följer med varje textavsnitt. På den grunden byggs kunskapsassistenter som svarar på finska och svenska.

    Det här gör vi

    • Förteckning över källorna med ägare, format och behörighetsmodeller
    • Uppdelning och metadata för varje dokumenttyp och språkversion
    • Hybridsökning med ord och vektorer samt omrankning
    • Behörighetsstyrd sökning som ärver källornas åtkomsträttigheter

    Det här får du

    • Inläsningsflöden som upptäcker ändringar
    • Söktjänst med källhänvisningar och regler för när systemet avstår
    • Rapport om sökkvaliteten per källa och språk

  2. 02 Modellstrategi utan inlåsning

    Mellan tillämpningarna och modellerna står en gateway. Den skickar frågorna till den modell som passar uppgiften, växlar till en annan när en leverantör har avbrott och låter dig byta modell när priser och förmågor förändras.

    Det här gör vi

    • Alternativ bland de största modellerna som tjänst, modeller som körs inom EU och öppna modeller i egen drift
    • Styrning efter uppgift, uppgifternas känslighet och kostnad
    • Reservvägar, tidsgränser, cachning och begränsning av anropsvolymer
    • Villkoren för databehandling granskas med organisationens jurister och informationssäkerhetsansvariga

    Det här får du

    • Modellgateway där styrreglerna är konfiguration
    • Beslutsunderlag om modellvalet per användningsfall
    • Budget för kostnad och svarstid per typ av fråga

  3. 03 Utvärdering som ingenjörsarbete

    Processägarna är med och bestämmer vad som är ett bra svar, och kriterierna blir testuppsättningar som körs vid varje ändring. Bedömningar som görs av en modell jämförs först med mänsklig granskning innan de får ersätta den.

    Det här gör vi

    • Referensuppsättningar per användningsfall, byggda med sakkunniga på båda språken
    • Sökning och textgenerering utvärderas var för sig
    • Red teaming mot promptinjektion och dataläckage
    • Löpande utvärdering med återkoppling från drift och stickprov

    Det här får du

    • Utvärderingssvit i CI som spärr före varje release
    • Kvalitetskriterier som verksamhetsägaren har godkänt
    • Fynd från red teaming och åtgärder mot dem

  4. 04 LLMOps och observerbarhet

    Varje fråga kan följas från de hämtade avsnitten via modellanropet till svaret. Promptar och modeller versionshanteras på samma sätt som kod, och budgetarna gäller också när systemet är i drift.

    Det här gör vi

    • Spårning och strukturerad loggning av varje fråga
    • Versionshantering av promptar, modeller och index
    • Semantisk och exakt cachning där det är säkert
    • Övervakning av kvalitet och avvikelser med larm

    Det här får du

    • Översiktsvyer för kvalitet, kostnad och svarstid
    • Incidentrutin för fel som är typiska för AI
    • Driftinstruktion för uppdatering av modeller och index

  5. 05 Styrning inbyggd från början

    AI-förordningen finns med från början: riskklassning, din roll som leverantör eller tillhandahållare, loggning, mänsklig kontroll och dokumentation. Den rättsliga bedömningen gör organisationens egna jurister.

    Det här gör vi

    • Klassning av användningsfallet och skyldigheter efter roll
    • Underlag till konsekvensbedömningar enligt dataskyddsförordningen
    • Utformning av loggning och mänsklig kontroll
    • Dokumentation av modell och system som förvaras med koden

    Det här får du

    • Dokumentationspaket för systemet
    • Plan för loggning och lagringstider
    • Tillsynsrutin för varje användningsfall

  6. 06 Finjustering och dokument­förståelse, när utvärderingen visar behovet

    Finjustering, destillering och multimodal tolkning av dokument löser bestämda problem. Vi använder dem först när utvärderingen visar att sökning och promptar inte räcker.

    Det här gör vi

    • Analys av luckor utifrån utvärderingsresultaten
    • Plan för förberedelse och märkning av data
    • Destillering till mindre modeller för lägre kostnad eller kortare svarstid
    • Layoutmedveten tolkning av skannade och komplexa dokument

    Det här får du

    • Jämförande utvärdering före och efter
    • Spårbarhet för träningsdata
    • Beslut om att behålla, återställa eller avveckla

03 Arkitektur

En illustrativ referens­arkitektur

De flesta AI-system vi bygger för organisationer följer samma mönster: sökning i dina källor, en gateway framför modellerna, skyddsräcken före och efter modellen och längst ned en slinga av utvärdering och övervakning som bestämmer vad som får gå i drift.

Behörigheterna kontrolleras redan i sökningen och inte först i gränssnittet. Kan en person inte öppna ett dokument i källsystemet skickas inga avsnitt ur det till modellen när den personen frågar.

Skikten i bilden

Källor
Dokumentlager, wikier och verksamhetssystem, plus identitetstjänsten som vet vem som får se vad.
Sökning
Inläsning, ett hybridindex, omrankning och behörighetsfiltret.
Modeller
En gateway som styr mellan modeller som tjänst, modeller inom EU och modeller i egen drift, med reservvägar och cachning.
Tillämpning
Svar med källhänvisning, ett nej när underlaget saknas och skyddsräcken för in- och utdata.
Drift och förbättring
Referensuppsättningar, regressionsspärrar, spårning och budgetar. Spår från driften blir nästa testuppsättning.
Illustrativt exempel

  1. Källor

    • Dokumentlager och wikier
    • Verksamhets­system
    • Identitetstjänst

  2. Sökning

    • Inläsning och uppdelning
    • Hybridindex
    • Behörighets­filter
    • Sökning och omrankning

  3. Modeller

    • Modell­gateway
    • Modeller som tjänst, inom EU och i egen drift
    • Skyddsräcken för in- och utdata

  4. Tillämpning

    • Tillämpning med källor

  5. Drift och förbättring

    • Referens­uppsättningar och regressions­spärrar
    • Spårning, kostnads- och svarstids­budgetar
Sökning, modellgateway och utvärderings­slinga

Illustrativ arkitektur, inte ett kundsystem.

Läs diagrammet som text

Bilden visar hur dokumentlagren läses in i ett hybridindex, hur sökning med omrankning hämtar avsnitt och hur modellgatewayen skickar dem vidare till tillämpningen.

Verksamhetssystemen läses också in. Identitetstjänsten styr ett behörighetsfilter som avgränsar sökningen, skyddsräcken granskar det som går in i och ut ur tillämpningen och gatewayen fördelar frågorna mellan modeller som tjänst, modeller inom EU och öppna modeller i egen drift.

Längst ned finns utvärderingssviten med referensuppsättningar och regressionsspärrar och övervakningen med spårning och budgetar för kostnad och svarstid. Det som spåras i drift blir nya testfall.

04 Överväganden och gränser

Tekniska avvägningar och gränser

  • Kvaliteten mäts i stället för att utlovas

    Så hanterar vi det

    Processägarna och vi kommer överens om vad som är ett godtagbart svar, och svaren testas mot det före och efter varje release, för finska och svenska var för sig.

    Sökningen och textgenereringen mäts separat, så att ett fel går att härleda.

    Gränser och beroenden

    AI kan ha fel. Osäkra fall går därför till granskning, och systemet avstår när underlaget saknas.

    Testuppsättningen blir bara så bra som experterna som hjälper till med den, och deras tid behövs tidigt.

  • Åtkomst­rättigheterna följer med

    Så hanterar vi det

    Rättigheterna läses in med innehållet och prövas mot din identitetstjänst varje gång någon frågar.

    Gränser och beroenden

    Går rättigheterna i ett källsystem inte att läsa på ett säkert sätt hålls det innehållet utanför tills det går.

    Det som är för brett delat i källan förblir det. Sökningen gör det bara lättare att hitta, och därför är en upprensning ibland det första steget.

  • Kostnad och svarstid är krav

    Så hanterar vi det

    Varje frågetyp har en budget, och styrning, cachning och kontextens längd justeras efter den. Översikterna visar vart pengarna tar vägen.

    Gränser och beroenden

    Leverantörerna ändrar priser och gränser på egen hand. Med gatewayen kan du reagera, men en prishöjning försvinner inte för det.

  • Modellerna byts ut under tiden

    Så hanterar vi det

    Varje modell är låst till en viss version, och en uppgradering når användarna först när hela utvärderingssviten har gått igenom.

    Gränser och beroenden

    Leverantörer drar ibland in modeller med kort varsel. För varje användningsfall finns därför ett reservalternativ som ägaren har godkänt.

05 Arbetssätt

Så arbetar vi

Först bestämmer vi hur kvaliteten ska mätas. Sedan bestämmer vi vad som ska byggas.

  1. 01

    Ringa in användnings­fallet

    Vilka som ska använda systemet, vilka beslut det ska stödja, vilka källor och språk det får använda och vad ett felaktigt svar kostar.

    ResultatBeskrivning och riskklass för användningsfallet

  2. 02

    Ta fram referens­uppsättningen

    Riktiga frågor och väntade svar som samlas in tillsammans med verksamhetens experter, också frågor som systemet ska tacka nej till.

    ResultatTestuppsättning under versionshantering

  3. 03

    Bygg sökningen först

    Inläsningen, indexet och behörighetsfiltret finjusteras tills sökningen når den kvalitet vi har kommit överens om.

    ResultatRapport om sökkvaliteten

  4. 04

    Släpp bara det som klarar spärrarna

    Textgenereringen, skyddsräckena och gatewayen tas i drift först när utvärderingssviten har gått igenom i CI.

    ResultatRelease med utvärderingsresultat

  5. 05

    Driv och förbättra

    Spårning, stickprov och användarnas synpunkter blir underlag för nästa testuppsättning och nästa release.

    ResultatMånatlig uppföljning av kvalitet, kostnad och svarstid

06 Mänsklig kontroll

Där människor behåller kontrollen

Generativ AI hämtar, skriver utkast och föreslår. Människor bestämmer vad den får läsa, vilka svar som duger och vad som händer när den är osäker.

  • Kvaliteten godkänns av ägaren

    Det är verksamhetsägaren för användningsfallet som godkänner kvalitetskriterierna och resultaten före varje release, inte leveransteamet på egen hand.

  • Vid osäkerhet tar en människa över

    Ligger säkerheten under den gräns som har bestämts avstår systemet eller skickar frågan till ett namngivet team.

  • Rättigheterna bestäms i källan

    Vem som får läsa ett dokument avgörs i källsystemet och i identitetstjänsten, aldrig i AI-skiktet.

  • Synpunkter blir testfall

    Användarna kan markera dåliga svar. Markeringarna gås igenom av människor, och bekräftade fel läggs till som testfall.

07 Teknik

Tekniker vi arbetar med

Sökning
  • OpenSearch och Elasticsearch
  • PostgreSQL med pgvector
  • Azure AI Search
  • Omrankare av typen cross-encoder
Modeller
  • De största modellerna som tjänst
  • Förvaltade modelltjänster i EU-regioner
  • Öppna modeller på vLLM
  • Inbäddningsmodeller som klarar finska och svenska
Utvärdering och drift
  • Spårning med OpenTelemetry
  • Utvärderingssviter i CI
  • Register för promptar och modeller
  • Langfuse eller motsvarande
Tillämpning
  • Tjänster i TypeScript och Python
  • Strömmande API:er
  • Befintliga portaler samt användargränssnitt i Salesforce, SAP och Odoo

Teknikerna nämns för att visa vilken erfarenhet vi har. Det betyder inte att vi är partner till tillverkarna eller att de har gått i god för oss.

08 Exempel

Ett illustrativt exempel

Illustrativt exempel

En vägled­ningsassistent för byggnads­tillsynen i en tvåspråkig stad

01Utgångsläge
Stadens byggnadsordning, anvisningar och vanliga frågor finns på finska och svenska, men versionerna är inte alltid uppdaterade samtidigt. Byggnadstillsynens personal besvarar samma frågor om bygglov per telefon och e-post på båda språken.
02System
En assistent som söker i stadens egna bestämmelser och anvisningar och svarar på frågeställarens språk med källan på samma språk. Saknas den svenska versionen av en anvisning säger assistenten det i stället för att översätta.
03Mänsklig kontroll
Byggnadstillsynens handläggare godkänner testuppsättningen på båda språken och de svar som rör enskilda ärenden. Assistenten fattar inga beslut om bygglov; besluten fattas av tjänsteinnehavare.
04Det här skulle vi mäta
Andelen svar som hänvisar till rätt bestämmelse på rätt språk, andelen frågor utanför området som assistenten avböjer och antalet frågor som personalen fortfarande besvarar manuellt.

09 Branscher

I din bransch

  • Offentlig sektor

    Assistenter för handläggare och invånare som hänvisar till rättskällan, fungerar lika bra på finska som på svenska och loggar vad som hämtades och för vem.

  • Finansiella tjänster

    Assistenter för interna regler och anvisningar med strikta behörigheter, full spårbarhet och modellriskdokumentation som andra försvarslinjen kan granska.

  • Vård och life science

    Sökning i vårdanvisningar och produktdokumentation med tydliga gränser: inga kliniska beslut, och känsliga uppgifter stannar i godkända miljöer.

Finland

Två språk, samma krav på kvalitet

I Finland finns kunskapen ofta på två språk. Anvisningar, beslut och avtal skrivs på finska, på svenska eller på båda, och i en tvåspråkig organisation ska den som frågar på svenska få ett lika bra svar som den som frågar på finska. Därför bygger vi sökning och utvärdering per språk och mäter kvaliteten för svenska frågor för sig.

Sedan 1 januari 2026 fördelar lagen om tillsyn över vissa system för artificiell intelligens (1377/2025) tillsynen enligt AI-förordningen: Traficom är gemensam kontaktpunkt och övervakar transparensskyldigheterna, dataombudsmannen de förbjudna användningsområdena och sektorsmyndigheterna system med hög risk. Dataskyddsförordningen kompletteras av dataskyddslagen (1050/2018).

Vi fastställer redan i förstudien var uppgifterna får behandlas och utformar loggning och dokumentation så att de svarar på de frågor tillsynsmyndigheterna och dataombudsmannen kan ställa. Projekt som finansieras genom programmet för ett digitalt Europa efterfrågar ofta just den sortens återanvändbara och dokumenterade lösning.

Frågor om AI-utveckling

Vilken modell rekommenderar ni?

Svaret beror på uppgiften, vilka uppgifter som berörs och var systemet får köras. Ofta blir det en kombination: en stark modell för de steg som kräver resonemang, mindre modeller eller modeller i egen drift för klassificering och uttag av uppgifter och modeller inom EU när uppgifterna inte får lämna EU. Vi testar också hur väl modellen klarar svenska, eftersom skillnaderna mellan modellerna är större där än på engelska.

Tack vare gatewayen går valet att ändra, så rekommendationen kan förändras i takt med modellerna och priserna.

Hur träffsäkert blir det?

Någon träffsäkerhet anger vi inte förrän den är uppmätt på dina data. Vi bestämmer kvalitetskriterierna tillsammans, bygger en testuppsättning och redovisar resultaten före driftstarten och efter varje ändring.

Modeller gör misstag, och därför beskriver lösningen alltid vad som händer då: systemet avstår, ett granskningssteg tar över eller frågan skickas till en människa.

Används våra uppgifter för att träna någon annans modell?

Inte i de lösningar vi bygger. Antingen väljer vi modelltjänster vars villkor förbjuder träning på det du skickar in, eller så körs modellerna i din egen miljö. Valet dokumenteras för varje användningsfall tillsammans med dem som ansvarar för informationssäkerheten.

Gäller AI-förordningen vårt användningsfall?

Vi hjälper dig att se vilka skyldigheter som kan bli aktuella utifrån användningsfallet och din roll som leverantör eller tillhandahållare. I Finland fördelas tillsynen enligt lagen om tillsyn över vissa system för artificiell intelligens (1377/2025): Traficom övervakar transparensskyldigheterna, dataombudsmannen de förbjudna användningsområdena och sektorsmyndigheterna system med hög risk. Vi utformar loggning, tillsyn och dokumentation så att organisationens jurister har de fakta de behöver för att dra en slutsats.

Hur hanterar ni säkerhet och känsliga uppgifter?

Vi är ISO/IEC 27001-certifierade. Åtkomstgränser, lagringsplats och hur länge uppgifterna sparas bestäms innan vi bygger, och red teaming mot promptinjektion och dataläckage är en del av den releaseprocess vi inför.

Vad är ett vettigt första steg?

Ett användningsfall med en tydlig ägare, några få källor och en testuppsättning som tas fram med dina experter, gärna med frågor både på finska och på svenska. Resultatet är ett fungerande system och fakta om kvalitet, kostnad och svarstid, och det är vad nästa investeringsbeslut behöver.

Ta med ett användningsfall och de svåraste frågorna

Innan vi talar om att bygga visar vi hur vi skulle mäta kvaliteten.

Berätta om ditt projektLäs om kunskapssökning