Siirry pääsisältöön
FromNine
Valikko

Tekoäly & data

Generatiivinen tekoäly, joka kestää tuotannossa.

Rakennamme generatiivisen tekoälyn sovelluksia organisaatiosi omaan tietoon ja dataan. Tiedonhaku noudattaa käyttöoikeuksia, arviointi ratkaisee jokaisen julkaisun, ja kustannukset, laatu ja viive näkyvät.

Suomalaisille organisaatioille, jotka haluavat tekoälyn, jonka laatu on mitattu ja jonka lokit kestävät valvojan kysymykset.

Keskustellaan projektistasiOrganisaation tietämys
Tekoälykehitys & GenAI: osaamisen kerroksetNeljä kerrosta päällekkäin syvyyssuunnassa. Ylhäältä alas: tiedonhaku omista lähteistäsi, mallien yhdyskäytävä, arviointi ja suojakaiteet sekä sovellus, jota käyttäjäsi käyttävät. Yksi reitti kulkee lähteistä sovellukseen.01Tiedonhaku omista lähteistäsi02Mallien yhdyskäytävä ja reititys03Arviointi ja suojakaiteet04Sovellus tuotannossa
  1. 01Vastaukset viittaavat lähteisiinsä, ja ilman näyttöä järjestelmä jättää vastaamatta
  2. 02Vertailuaineisto ja regressiorajat sovitaan tiimiesi kanssa ennen käyttöönottoa
  3. 03Mallien reititys ja budjetit pitävät kyselykohtaisen kustannuksen ja viiveen näkyvissä

01 Ongelmat

Mihin generatiivinen tekoäly juuttuu

Malli on harvoin vaikein osa. Useimmat hankkeet juuttuvat kaikkeen sen ympärillä.

  1. 01

    Pilotti teki vaikutuksen, mutta kukaan ei osannut sanoa, oliko se hyvä

    Laatua arvioi muutama ihminen muutamalla kysymyksellä. Testiaineistoa ei ole, joten jokainen kehotteen muutos tai mallin päivitys on uhkapeliä.

  2. 02

    Avustaja näyttää asiakirjoja, joita käyttäjän ei pitäisi nähdä

    Sisältö indeksoitiin ilman käyttöoikeuksia. Tietoturva ja henkilöstön edustajat pysäyttävät käyttöönoton, ja syystä.

  3. 03

    Kustannukset kasvavat käyttöä nopeammin

    Jokainen kysely menee suurimmalle mallille pisimmällä kontekstilla. Kukaan ei tiedä yhden vastauksen hintaa, joten kukaan ei voi hallita sitä.

  4. 04

    Vastaukset kuulostavat oikeilta mutta eivät ole

    Tiedonhaku palauttaa melkein osuvia kohtia, malli täyttää aukot sujuvasti, ja käyttäjät menettävät luottamuksensa kolmannen varman virheen jälkeen.

02 Toimitukset

Mitä toimitamme

  1. 01 Tiedonhaku ja organisaation tietämysjärjestelmät

    Tiedonhaku suunnitellaan lähde kerrallaan: miten sisältö jäsennetään ja pilkotaan, miten sana- ja vektorihaku yhdistetään ja miten käyttöoikeudet kulkevat jokaisen tekstikohdan mukana. Tämä on organisaation tietämysavustajien perusta.

    Mitä teemme

    • Lähdeinventaario omistajineen, tiedostomuotoineen ja käyttöoikeusmalleineen
    • Pilkonta- ja metatietostrategia asiakirjatyypeittäin
    • Sana- ja vektorihaun yhdistelmä ja uudelleenjärjestys
    • Käyttöoikeudet huomioiva tiedonhaku, joka perii lähteen oikeudet

    Mitä saat

    • Tiedonsiirtoputket muutosten tunnistuksella
    • Tiedonhakupalvelu lähdeviittauksin ja vastaamatta jättämisen säännöin
    • Tiedonhaun laaturaportti lähteittäin

  2. 02 Mallistrategia ilman toimittajalukkoa

    Mallien yhdyskäytävä sovellusten ja mallien välissä. Sen avulla kyselyt reititetään tehtävän mukaan, varamalli ottaa vastuun palveluntarjoajan häiriössä ja malleja voi vaihtaa hintojen ja kyvykkyyksien muuttuessa.

    Mitä teemme

    • Vaihtoehdot: kaupalliset kärkimallit, EU:ssa ajettavat palvelut ja itse ajettavat avoimen painon mallit
    • Reititys tehtävän, tietojen arkaluonteisuuden ja kustannusten mukaan
    • Varamallit, aikakatkaisut, välimuisti ja käyttörajat
    • Tietojenkäsittelyehdot käydään läpi juristiesi ja tietoturvatiimisi kanssa

    Mitä saat

    • Mallien yhdyskäytävä, jonka reitityssäännöt ovat konfiguraatiota
    • Mallivalinnan päätösmuistio käyttötapauksittain
    • Kustannus- ja viivebudjetti kyselytyypeittäin

  3. 03 Arviointi osana ohjelmistokehitystä

    Laatukriteerit sovitaan prosessin omistajien kanssa ja muutetaan testiaineistoiksi, jotka ajetaan jokaisen muutoksen yhteydessä. Mallin tekemät tarkistukset kalibroidaan ihmisten arvioita vasten ennen kuin niihin luotetaan.

    Mitä teemme

    • Vertailuaineistot käyttötapauksittain yhdessä substanssiasiantuntijoiden kanssa
    • Tiedonhaun ja vastausten tuottamisen erillinen arviointi
    • Hyökkäystestaus kehoteinjektioiden ja tietovuotojen varalta
    • Jatkuva arviointi tuotannon palautteesta ja otantatarkastuksista

    Mitä saat

    • Arviointikokonaisuus CI-putkessa julkaisun ehtona
    • Liiketoiminnan omistajan hyväksymät laatukriteerit
    • Hyökkäystestauksen havainnot ja korjaavat toimet

  4. 04 LLMOps ja havainnoitavuus

    Jäljitys kysymyksestä haettuihin tekstikohtiin, mallikutsuun ja vastaukseen. Kehotteet ja mallit versioidaan kuin koodi, ja budjetit ovat voimassa myös tuotannossa.

    Mitä teemme

    • Jokaisen kyselyn jäljitys ja rakenteinen lokitus
    • Kehotteiden, mallien ja indeksien versiointi
    • Semanttinen ja tarkka välimuisti siellä, missä se on turvallista
    • Ajelehtimisen ja laadun seuranta hälytyksineen

    Mitä saat

    • Näkymät laadulle, kustannuksille ja viiveelle
    • Häiriöohje tekoälylle tyypillisiin vikoihin
    • Toimintaohje mallien ja indeksien päivityksiin

  5. 05 Hallinta sisäänrakennettuna

    Suunnittelemme tekoälysäädöksen huomioiden: riskiluokituksesta ja roolistasi tarjoajana tai käyttöönottajana lokitukseen, ihmisen valvontaan ja dokumentaatioon. Oikeudellinen arvio jää omille juristeillesi.

    Mitä teemme

    • Käyttötapauksen luokittelu ja velvoitteet roolin mukaan
    • Aineistoa tietosuoja-asetuksen mukaisiin vaikutustenarviointeihin
    • Lokituksen ja ihmisen valvonnan suunnittelu
    • Mallien ja järjestelmän dokumentaatio koodin yhteydessä

    Mitä saat

    • Järjestelmän dokumentaatiopaketti
    • Lokituksen ja säilytyksen suunnitelma
    • Valvontamenettely käyttötapauksittain

  6. 06 Hienosäätö ja asiakirjojen ymmärtäminen, kun arviointi sitä edellyttää

    Hienosäätö, tislaus ja multimodaalinen asiakirjojen ymmärtäminen ovat työkaluja tiettyihin puutteisiin. Käytämme niitä, kun arviointi osoittaa, etteivät tiedonhaku ja kehotteet riitä, emmekä ennen sitä.

    Mitä teemme

    • Puuteanalyysi arviointituloksista
    • Aineiston valmistelu- ja luokittelusuunnitelma
    • Tislaus pienempiin malleihin kustannusten tai viiveen vuoksi
    • Asettelun huomioiva tietojen poiminta skannatuista ja monimutkaisista asiakirjoista

    Mitä saat

    • Vertaileva arviointi ennen ja jälkeen
    • Koulutusaineiston alkuperätiedot
    • Päätös säilyttää, palauttaa tai poistaa käytöstä

03 Arkkitehtuuri

Havainnollistava viitearkkitehtuuri

Useimmilla rakentamillamme generatiivisen tekoälyn järjestelmillä on sama muoto: tiedonhaku lähteistäsi, mallien yhdyskäytävä, suojakaiteet mallin molemmin puolin sekä arviointi ja havainnoitavuus pohjalla. Ne ratkaisevat, mikä saa mennä tuotantoon.

Käyttöoikeussuodatin on tiedonhaun sisällä, ei käyttöliittymässä. Jos henkilö ei voi avata asiakirjaa lähdejärjestelmässä, sen tekstikohdat eivät koskaan päädy mallille hänen puolestaan.

Piirroksen kerrokset

Lähteet
Asiakirjavarastot, wikit ja liiketoimintajärjestelmät sekä identiteetinhallinta, joka tietää, kuka saa nähdä mitä.
Tiedonhaku
Tiedonsiirto, yhdistelmäindeksi, uudelleenjärjestys ja käyttöoikeussuodatin.
Mallit
Yhdyskäytävä, joka reitittää kaupallisten, EU:ssa ajettavien ja itse ajettavien mallien välillä, varamallein ja välimuistein.
Sovellus
Lähteisiin viittaavat vastaukset, vastaamatta jättäminen ilman näyttöä sekä syötteen ja tulosteen suojakaiteet.
Ylläpito ja kehitys
Vertailuaineistot, regressiorajat, jäljitys ja budjetit. Tuotannon jäljitystiedot kasvattavat seuraavaa testiaineistoa.
Havainnollistava esimerkki

  1. Lähteet

    • Asiakirjavarastot ja wikit
    • Liiketoiminta­järjestelmät
    • Identiteetinhallinta

  2. Tiedonhaku

    • Tiedonsiirto ja pilkonta
    • Yhdistelmäindeksi
    • Käyttöoikeus­suodatin
    • Tiedonhaku ja uudelleen­järjestys

  3. Mallit

    • Mallien yhdyskäytävä
    • Kaupalliset, EU:ssa ajettavat ja omat mallit
    • Syötteen ja tulosteen suojakaiteet

  4. Sovellus

    • Sovellus lähdeviittauksin

  5. Ylläpito ja kehitys

    • Vertailuaineistot ja regressiorajat
    • Jäljitys, kustannus- ja viivebudjetit
Tiedonhaku, mallien yhdyskäytävä ja arviointisilmukka

Havainnollistava arkkitehtuuri, ei asiakkaan järjestelmä.

Lue kaavio tekstinä

Pääreitti kulkee asiakirjavarastoista tiedonsiirron, yhdistelmäindeksin, tiedonhaun ja uudelleenjärjestyksen sekä mallien yhdyskäytävän kautta sovellukseen.

Myös liiketoimintajärjestelmät syöttävät tietoa tiedonsiirtoon. Identiteetinhallinta syöttää käyttöoikeussuodatinta, joka rajaa tiedonhakua. Suojakaiteet tarkistavat sovelluksen syötteet ja tulosteet. Yhdyskäytävä reitittää kaupallisille kärkimalleille, EU:ssa ajettaville palveluille ja itse ajettaville avoimen painon malleille.

Pohjalla ovat arviointikokonaisuus vertailuaineistoineen ja regressiorajoineen sekä havainnoitavuus jäljityksineen, kustannus- ja viivebudjetteineen. Tuotannon jäljitystiedot syötetään arviointikokonaisuuteen.

04 Näkökohdat ja rajat

Tekniset näkökohdat ja rajat

  • Laatu mitataan, sitä ei luvata

    Miten hoidamme sen

    Sovimme laatukriteerit prosessin omistajien kanssa ja testaamme tekoälyn tuotokset niitä vasten ennen jokaista julkaisua ja sen jälkeen.

    Tiedonhaku ja vastausten tuottaminen arvioidaan erikseen, jotta virhe osoittaa syyhynsä.

    Rajat ja riippuvuudet

    Tekoälyn tuotos voi olla väärä. Siksi suunnittelemme tarkistusvaiheet epävarmoille tapauksille ja jätämme vastaamatta, kun näyttöä ei ole.

    Testiaineisto on vain niin hyvä kuin asiantuntijat, jotka auttavat sen laatimisessa. Tarvitsemme heidän aikaansa heti alussa.

  • Käyttöoikeudet kulkevat sisällön mukana

    Miten hoidamme sen

    Käyttöoikeudet tallennetaan tiedonsiirron yhteydessä ja tarkistetaan kyselyhetkellä identiteetinhallintaasi vasten.

    Rajat ja riippuvuudet

    Jos lähdejärjestelmä tallentaa oikeudet tavalla, jota ei voi luotettavasti lukea, rajaamme sisällön ulos, kunnes se on mahdollista.

    Lähteessä liian laajasti jaettu sisältö pysyy liian laajasti jaettuna. Tiedonhaku tekee siitä helpommin löydettävää, joten joskus ensimmäinen vaihe on siivous.

  • Kustannukset ja viive ovat suunnittelun lähtötietoja

    Miten hoidamme sen

    Jokaiselle kyselytyypille asetetaan budjetti. Reititys, välimuisti ja kontekstin koko säädetään sen mukaan, ja näkymät osoittavat, mihin raha menee.

    Rajat ja riippuvuudet

    Palveluntarjoajien hinnat ja käyttörajat muuttuvat sinusta riippumatta. Yhdyskäytävän avulla voit reagoida, mutta se ei poista hinnanmuutosta.

  • Mallit muuttuvat allasi

    Miten hoidamme sen

    Mallit lukitaan versioon, ja jokainen päivitys ajaa koko arviointikokonaisuuden ennen kuin se päätyy käyttäjille.

    Rajat ja riippuvuudet

    Kaupallisia malleja poistetaan joskus käytöstä lyhyellä varoitusajalla. Suunnittelemme vaihtoehdon jokaiselle käyttötapaukselle, ja suunnitelma tarvitsee omistajan hyväksynnän.

05 Työtapa

Miten työskentelemme

Järjestyksellä on väliä: päätämme, miten mittaamme, ennen kuin päätämme, mitä rakennamme.

  1. 01

    Rajataan käyttötapaus

    Kuka sitä käyttää, mitä päätöksiä se tukee, mihin lähteisiin se saa koskea ja mitä väärä vastaus maksaa.

    TuotosKäyttötapauksen kuvaus ja riskiluokitus

  2. 02

    Laaditaan vertailuaineisto

    Todellisia kysymyksiä ja odotettuja vastauksia, kerätty substanssiasiantuntijoidesi kanssa, myös ne, joihin järjestelmän pitää jättää vastaamatta.

    TuotosVersioitu testiaineisto

  3. 03

    Tiedonhaku ensin

    Tiedonsiirto, indeksi ja käyttöoikeussuodatin säädetään, kunnes tiedonhaun laatu täyttää sovitun rajan.

    TuotosTiedonhaun laaturaportti

  4. 04

    Julkaistaan porttien takaa

    Vastausten tuottaminen, suojakaiteet ja yhdyskäytävä otetaan käyttöön vasta, kun arviointikokonaisuus menee läpi CI-putkessa.

    TuotosJulkaisu arviointinäyttöineen

  5. 05

    Ylläpidetään ja kehitetään

    Jäljitystiedot, otantatarkastukset ja käyttäjäpalaute kasvattavat seuraavaa testiaineistoa ja seuraavaa julkaisua.

    TuotosKuukausittainen laadun, kustannusten ja viiveen katsaus

06 Ihmisen ohjaus

Missä ihmiset pitävät ohjat

Generatiivinen tekoäly luonnostelee, hakee ja ehdottaa. Ihmiset päättävät, mitä se saa nähdä, mikä on riittävän hyvää ja mitä tapahtuu, kun se on epävarma.

  • Omistajat hyväksyvät laadun

    Kunkin käyttötapauksen liiketoimintaomistaja hyväksyy laatukriteerit ja julkaisun näytön, ei toimitustiimi yksin.

  • Epävarmat vastaukset menevät ihmiselle

    Sovitun varmuusrajan alapuolella järjestelmä jättää vastaamatta tai ohjaa kysymyksen nimetylle tiimille.

  • Käyttöoikeudet pysyvät lähteessä

    Se, kuka saa nähdä asiakirjan, päätetään lähdejärjestelmässä ja identiteetinhallinnassasi, ei koskaan tekoälykerroksessa.

  • Palaute muuttaa järjestelmää

    Käyttäjät voivat merkitä vastauksia. Ihmiset käyvät merkinnät läpi, ja vahvistetuista virheistä tulee testitapauksia.

07 Teknologiat

Teknologiat, joita käytämme

Tiedonhaku
  • OpenSearch ja Elasticsearch
  • PostgreSQL ja pgvector
  • Azure AI Search
  • Ristikooderiin perustuvat uudelleenjärjestäjät
Mallit
  • Kaupalliset kärkimallit
  • EU-alueella ajettavat hallinnoidut mallipalvelut
  • Avoimen painon mallit vLLM:llä
  • Upotusmallit kielikohtaisesti
Arviointi ja ylläpito
  • OpenTelemetry-jäljitys
  • CI-putkeen liitetyt arviointikokonaisuudet
  • Kehote- ja mallirekisterit
  • Langfuse tai vastaava
Sovellus
  • TypeScript- ja Python-palvelut
  • Suoratoistavat rajapinnat
  • Nykyiset portaalit sekä Salesforcen, SAP:n ja Odoon käyttöliittymät

Teknologian mainitseminen kuvaa kokemustamme. Se ei tarkoita kumppanuutta toimittajan kanssa eikä toimittajan suositusta.

08 Esimerkki

Havainnollistava esimerkki

Havainnollistava esimerkki

Säädösavustaja ministeriön osastolle

01Tilanne
Osaston asiantuntijat vastaavat päivittäin kysymyksiin, joiden vastaus löytyy laeista, asetuksista, hallituksen esityksistä ja osaston omista ohjeista. Tieto on hajallaan, ja sama kysymys saa eri vastauksen eri henkilöltä.
02Mitä rakentaisimme
Tiedonhaku säädöksistä ja ohjeista suomeksi ja ruotsiksi. Jokainen vastaus viittaa pykälään tai ohjeen kohtaan, ja käyttöoikeudet periytyvät asiakirjavarastojen oikeuksista.
03Missä ihmiset päättävät
Osaston nimeämät asiantuntijat hyväksyvät testiaineiston ja jokaisen julkaisun, joka muuttaa vastauksia. Avustaja valmistelee tietoa, päätöksen tekee aina ihminen.
04Mitä mittaisimme
Oikeaan säännökseen viittaavien vastausten osuus, vastaamatta jätettyjen osuus rajauksen ulkopuolisissa kysymyksissä ja vastauksen kustannus.

09 Toimialat

Toimialallasi

  • Julkinen sektori

    Avustajia käsittelijöille ja asukkaille: ne viittaavat oikeuslähteeseen, toimivat suomeksi ja ruotsiksi ja kirjaavat, mitä kenellekin haettiin.

  • Rahoitusala

    Ohje- ja menettelyavustajia tiukoin käyttöoikeuksin, täydellä jäljitettävyydellä ja mallin riskidokumentaatiolla, jonka toinen puolustuslinja voi tarkistaa.

  • Terveydenhuolto & life science

    Tiedonhaku hoitoprotokollista ja tuotedokumentaatiosta selkein rajoin: ei kliinisiä päätöksiä, ja arkaluonteiset tiedot pysyvät hyväksytyissä ympäristöissä.

Suomi

Suomen valvontamalli, yksi arviointistandardi

Tekoälysäädös on yhteinen EU:n kehys, mutta Suomessa sen valvonta on hajautettu. Laki eräiden tekoälyjärjestelmien valvonnasta (1377/2025) tekee Traficomista keskitetyn yhteyspisteen ja avoimuusvelvoitteiden valvojan. Tietosuojavaltuutettu valvoo kiellettyjä käytäntöjä, ja toimialaviranomaiset valvovat suuririskisiä järjestelmiä.

Otamme tämän huomioon jo esiselvityksessä: tiedonhaku ja arviointi kielittäin, esimerkiksi suomeksi ja ruotsiksi, tietojen sijainti sovittuna käyttötapauksittain sekä lokitus ja dokumentaatio, jotka vastaavat kunkin valvojan kysymyksiin ilman erillistä järjestelmää. Digitaalinen Eurooppa -ohjelmasta rahoitetut hankkeet edellyttävät usein juuri tällaista uudelleenkäytettävää ja dokumentoitua suunnittelua.

Kysymyksiä tekoälykehityksestä

Mitä mallia suositellaan?

Se riippuu tehtävästä, käsiteltävistä tiedoista ja ajoympäristöä koskevista vaatimuksistasi. Yleensä yhdistämme malleja: kyvykäs malli päättelyä vaativiin vaiheisiin, pienemmät tai itse ajettavat mallit luokitteluun ja tietojen poimintaan sekä EU:ssa ajettavat palvelut silloin, kun tietojen on pysyttävä EU:ssa.

Yhdyskäytävä pitää valinnan peruttavana, joten vastaus voi muuttua mallien ja hintojen muuttuessa.

Kuinka tarkka järjestelmä on?

Emme lupaa tarkkuutta ennen kuin olemme mitanneet sen sinun datallasi. Sovimme laatukriteerit kanssasi, laadimme testiaineiston ja raportoimme tulokset sitä vasten ennen käyttöönottoa ja jokaisen muutoksen jälkeen.

Mallit tekevät virheitä, joten suunnitelmaan kuuluu aina se, mitä silloin tapahtuu: vastaamatta jättäminen, tarkistusvaiheet ja reitti ihmiselle.

Käytetäänkö tietojamme jonkun toisen mallin koulutukseen?

Ei suunnittelemissamme arkkitehtuureissa. Valitsemme mallipalvelut, joiden ehdot sulkevat pois syötteidesi käytön koulutukseen, tai ajamme mallit itse ympäristössäsi. Kirjaamme valinnan käyttötapauksittain yhdessä tietoturvatiimisi kanssa.

Koskeeko tekoälysäädös käyttötapaustamme?

Autamme sinua hahmottamaan, mitkä velvoitteet voivat soveltua, käyttötapauksen ja roolisi perusteella: oletko tarjoaja vai käyttöönottaja. Suunnittelemme lokituksen, valvonnan ja dokumentaation niiden mukaan, jotta juristeillasi on tosiasiat johtopäätöksen tekemiseen. Suomessa valvonta jakautuu eräiden tekoälyjärjestelmien valvonnasta annetun lain mukaan Traficomin, tietosuojavaltuutetun ja toimialaviranomaisten kesken.

Miten tietoturvasta ja arkaluonteisista tiedoista huolehditaan?

FromNine on ISO/IEC 27001 -sertifioitu. Käyttöoikeuksien rajat, tietojen sijainti ja säilytys sovitaan ennen rakentamista, ja hyökkäystestaus kehoteinjektioiden ja tietovuotojen varalta kuuluu julkaisuprosessiin, jonka rakennamme.

Mikä on järkevä ensimmäinen askel?

Yksi käyttötapaus, jolla on selvä omistaja, rajattu joukko lähteitä ja asiantuntijoidesi kanssa laadittu testiaineisto. Saat toimivan järjestelmän ja näyttöä laadusta, kustannuksista ja viiveestä, eli juuri sitä, mitä seuraava investointipäätös tarvitsee.

Tuo yksi käyttötapaus ja sen vaikeimmat kysymykset

Näytämme, miten mittaisimme sen, ennen kuin puhumme rakentamisesta.

Keskustellaan projektistasiOrganisaation tietämys