Przejdź do treści głównej
FromNine
Menu

AI i dane

Generatywna AI, która sprawdza się w produkcji.

Budujemy aplikacje generatywnej AI na wiedzy i danych organizacji: z wyszukiwaniem, które respektuje uprawnienia, z ewaluacją, która warunkuje każde wydanie, oraz z widocznym kosztem, jakością i czasem odpowiedzi.

Dla organizacji w Polsce, które chcą wykorzystać generatywną AI na własnej wiedzy, z mierzalną jakością i z myślą o ustawie o systemach sztucznej inteligencji.

Porozmawiajmy o projekcieDostęp do wiedzy
Inżynieria AI i GenAI: warstwy kompetencjiCztery warstwy ułożone jedna za drugą. Od góry do dołu: wyszukiwanie w źródłach organizacji, brama modeli, ewaluacja i mechanizmy ochronne oraz aplikacja, w której pracują użytkownicy. Jedna ścieżka prowadzi od źródeł do aplikacji.01Wyszukiwanie w źródłach02Brama i routing modeli03Ewaluacja i mechanizmy ochronne04Aplikacja w produkcji
  1. 01Odpowiedzi ze wskazaniem źródeł i odmowa odpowiedzi, gdy brakuje podstaw
  2. 02Zestaw referencyjny i bramki regresyjne uzgodnione z zespołami przed uruchomieniem
  3. 03Routing modeli i budżety, dzięki którym koszt i czas każdego zapytania są widoczne

01 Problemy

Gdzie generatywna AI się zatrzymuje

Model rzadko jest najtrudniejszą częścią. Większość programów zatrzymuje się na wszystkim, co go otacza.

  1. 01

    Pilotaż zrobił wrażenie, ale nikt nie umiał ocenić, czy działa dobrze

    Jakość oceniło kilka osób, zadając kilka pytań. Nie ma zestawu testowego, więc każda zmiana promptu czy aktualizacja modelu to loteria.

  2. 02

    Asystent pokazuje dokumenty, których użytkownik nie powinien widzieć

    Treści zaindeksowano bez praw dostępu. Dział bezpieczeństwa i inspektor ochrony danych wstrzymują wdrożenie i mają rację.

  3. 03

    Koszty rosną szybciej niż użycie

    Każde zapytanie trafia do największego modelu z najdłuższym kontekstem. Nikt nie zna kosztu jednej odpowiedzi, więc nikt nie może nim zarządzać.

  4. 04

    Odpowiedzi brzmią dobrze, ale są błędne

    Wyszukiwanie zwraca fragmenty prawie trafne, model płynnie uzupełnia luki, a użytkownicy tracą zaufanie po trzeciej pewnie podanej pomyłce.

02 Co dostarczamy

Co dostarczamy

  1. 01 Wyszukiwanie i systemy wiedzy organizacji

    Wyszukiwanie projektowane osobno dla każdego źródła: jak treść jest parsowana i dzielona na fragmenty, jak łączy się wyszukiwanie leksykalne i wektorowe oraz jak prawa dostępu towarzyszą każdemu fragmentowi. To podstawa asystentów wiedzy.

    Co robimy

    • Inwentaryzacja źródeł z właścicielami, formatami i modelami dostępu
    • Strategia podziału na fragmenty i metadanych dla każdego typu dokumentu
    • Hybrydowe wyszukiwanie leksykalne i wektorowe z re-rankingiem
    • Wyszukiwanie uwzględniające uprawnienia przejęte ze źródeł

    Co Państwo otrzymują

    • Potoki zasilania z wykrywaniem zmian
    • Usługa wyszukiwania ze wskazaniem źródeł i regułami odmowy odpowiedzi
    • Raport jakości wyszukiwania dla każdego źródła

  2. 02 Strategia modeli bez uzależnienia od dostawcy

    Brama modeli między aplikacjami a modelami: routing według zadania, przełączenie na zapasowy model, gdy dostawca zawiedzie, i wymiana modeli, gdy zmieniają się ceny i możliwości.

    Co robimy

    • Opcje od modeli czołowych w chmurze, przez wdrożenia hostowane w UE, po modele open-weight utrzymywane we własnym środowisku
    • Routing według zadania, wrażliwości danych i kosztu
    • Modele zapasowe, limity czasu, cache i limity zapytań
    • Warunki przetwarzania danych przeglądane z działem prawnym i bezpieczeństwa

    Co Państwo otrzymują

    • Brama modeli z polityką routingu zapisaną jako konfiguracja
    • Zapis decyzji o modelu dla każdego zastosowania
    • Budżet kosztu i czasu odpowiedzi dla każdego typu zapytania

  3. 03 Ewaluacja jako dyscyplina inżynierska

    Kryteria jakości uzgodnione z osobami odpowiedzialnymi za proces i zamienione w zestawy testowe uruchamiane przy każdej zmianie. Oceny wykonywane przez model kalibrujemy względem oceny ludzi, zanim zaczniemy na nich polegać.

    Co robimy

    • Zestawy referencyjne dla każdego zastosowania, tworzone z ekspertami dziedzinowymi
    • Osobna ewaluacja offline wyszukiwania i generowania
    • Red teaming pod kątem prompt injection i wycieku danych
    • Ewaluacja online na podstawie informacji zwrotnych z produkcji i przeglądu próbek

    Co Państwo otrzymują

    • Zestaw ewaluacyjny w CI jako bramka wydania
    • Kryteria jakości zatwierdzone przez właściciela biznesowego
    • Wyniki red teamingu i środki zaradcze

  4. 04 LLMOps i obserwowalność

    Śledzenie od pytania, przez znalezione fragmenty i wywołanie modelu, po odpowiedź. Prompty i modele wersjonowane jak kod, budżety egzekwowane w produkcji.

    Co robimy

    • Śledzenie i ustrukturyzowane logowanie każdego zapytania
    • Wersjonowanie promptów, modeli i indeksów
    • Cache semantyczny i dokładny tam, gdzie jest to bezpieczne
    • Monitorowanie dryfu i jakości z alertami

    Co Państwo otrzymują

    • Pulpity jakości, kosztu i czasu odpowiedzi
    • Procedura obsługi incydentów specyficznych dla AI
    • Instrukcja aktualizacji modeli i indeksów

  5. 05 Zgodność wbudowana w projekt

    Projektujemy z myślą o akcie w sprawie sztucznej inteligencji i polskiej ustawie o systemach sztucznej inteligencji: od klasyfikacji ryzyka i roli dostawcy lub podmiotu stosującego po logowanie, nadzór ze strony człowieka i dokumentację. Ocena prawna pozostaje po stronie Państwa doradców.

    Co robimy

    • Klasyfikacja zastosowań i obowiązki według roli
    • Wkład do oceny skutków dla ochrony danych zgodnie z RODO
    • Projekt logowania i nadzoru ze strony człowieka
    • Dokumentacja modelu i systemu przechowywana razem z kodem

    Co Państwo otrzymują

    • Pakiet dokumentacji systemu
    • Projekt logowania i retencji
    • Procedura nadzoru dla każdego zastosowania

  6. 06 Dostrajanie i rozumienie dokumentów, gdy wskazuje na to ewaluacja

    Dostrajanie, destylacja i multimodalne rozumienie dokumentów to narzędzia na konkretne luki. Sięgamy po nie wtedy, gdy zestaw ewaluacyjny pokazuje, że wyszukiwanie i prompty nie wystarczają, i nie wcześniej.

    Co robimy

    • Analiza luk na podstawie wyników ewaluacji
    • Plan przygotowania i etykietowania danych
    • Destylacja do mniejszych modeli ze względu na koszt lub czas odpowiedzi
    • Ekstrakcja z uwzględnieniem układu stron dla skanów i złożonych dokumentów

    Co Państwo otrzymują

    • Porównawcza ewaluacja przed zmianą i po niej
    • Pochodzenie danych treningowych
    • Decyzja: zachować, wycofać zmianę lub wyłączyć model

03 Architektura

Poglądowa architektura referencyjna

Większość budowanych przez nas systemów generatywnej AI ma ten sam kształt: wyszukiwanie w źródłach organizacji, bramę modeli, mechanizmy ochronne po obu stronach modelu oraz pętlę ewaluacji i obserwowalności, która decyduje, co może trafić do produkcji.

Filtr uprawnień działa wewnątrz wyszukiwania, a nie w interfejsie użytkownika. Jeśli ktoś nie może otworzyć dokumentu w systemie źródłowym, fragmenty tego dokumentu nigdy nie trafią do modelu w jego imieniu.

Warstwy na rysunku

Źródła
Repozytoria dokumentów, wiki i systemy biznesowe oraz dostawca tożsamości, który wie, kto może co widzieć.
Wyszukiwanie
Zasilanie, indeks hybrydowy, re-ranking i filtr uprawnień.
Modele
Brama, która kieruje zapytania do modeli w chmurze, hostowanych w UE i utrzymywanych we własnym środowisku, z modelami zapasowymi i cache.
Aplikacja
Odpowiedzi ze wskazaniem źródeł, odmowa odpowiedzi przy braku podstaw oraz mechanizmy ochronne na wejściu i wyjściu.
Utrzymanie i rozwój
Zestawy referencyjne, bramki regresyjne, ślady i budżety. Ślady z produkcji zasilają kolejny zestaw testowy.
Przykład poglądowy

  1. Źródła

    • Repozytoria dokumentów i wiki
    • Systemy biznesowe
    • Dostawca tożsamości

  2. Wyszukiwanie

    • Zasilanie i podział na fragmenty
    • Indeks hybrydowy
    • Filtr uprawnień
    • Wyszukiwanie i re-ranking

  3. Modele

    • Brama modeli
    • Modele w chmurze, w UE i własne
    • Ochrona wejścia i wyjścia

  4. Aplikacja

    • Aplikacja ze wskazaniem źródeł

  5. Utrzymanie i rozwój

    • Zestawy referencyjne i bramki regresyjne
    • Ślady, koszt i czas odpowiedzi
Wyszukiwanie, brama modeli i pętla ewaluacji

Architektura poglądowa, nie system klienta.

Diagram w formie tekstu

Główna ścieżka prowadzi od repozytoriów dokumentów przez zasilanie, indeks hybrydowy, wyszukiwanie z re-rankingiem i bramę modeli do aplikacji.

Zasilanie otrzymuje dane także z systemów biznesowych. Dostawca tożsamości zasila filtr uprawnień, który ogranicza wyszukiwanie. Mechanizmy ochronne sprawdzają wejście i wyjście aplikacji. Brama kieruje zapytania do modeli czołowych w chmurze, wdrożeń hostowanych w UE i modeli open-weight we własnym środowisku.

Pod spodem działa zestaw ewaluacyjny z zestawami referencyjnymi i bramkami regresyjnymi oraz obserwowalność ze śladami, kosztem i budżetem czasu odpowiedzi. Ślady z produkcji zasilają zestaw ewaluacyjny.

04 Uwarunkowania i ograniczenia

Uwarunkowania inżynierskie i ograniczenia

  • Jakość mierzymy, a nie obiecujemy

    Jak do tego podchodzimy

    Kryteria jakości uzgadniamy z osobami odpowiedzialnymi za procesy i sprawdzamy wyniki AI względem nich przed każdym wydaniem i po nim.

    Wyszukiwanie i generowanie oceniamy osobno, więc każdy błąd wskazuje swoją przyczynę.

    Ograniczenia i zależności

    Wynik AI może być błędny. Dlatego projektujemy etapy weryfikacji dla niepewnych przypadków i odmowę odpowiedzi, gdy brakuje podstaw.

    Zestaw testowy jest tak dobry jak eksperci, którzy pomagają go zbudować. Potrzebujemy ich czasu na wczesnym etapie.

  • Uprawnienia idą za treścią

    Jak do tego podchodzimy

    Prawa dostępu zapisujemy przy zasilaniu i egzekwujemy w chwili zapytania na podstawie danych dostawcy tożsamości.

    Ograniczenia i zależności

    Jeśli systemy źródłowe przechowują uprawnienia w sposób, którego nie da się wiarygodnie odczytać, taka treść pozostaje poza zakresem, dopóki to się nie zmieni.

    Treść udostępniona zbyt szeroko w źródle pozostaje udostępniona zbyt szeroko. Wyszukiwanie ułatwia jej znalezienie, więc czasem pierwszym krokiem jest uporządkowanie uprawnień.

  • Koszt i czas odpowiedzi to założenia projektowe

    Jak do tego podchodzimy

    Każdy typ zapytania dostaje budżet. Routing, cache i rozmiar kontekstu dostrajamy do tego budżetu, a pulpity pokazują, na co idą pieniądze.

    Ograniczenia i zależności

    Ceny i limity dostawców zmieniają się niezależnie od Państwa. Brama pozwala zareagować, ale nie sprawi, że podwyżka ceny zniknie.

  • Modele zmieniają się pod spodem

    Jak do tego podchodzimy

    Modele są przypięte do wersji, a każda aktualizacja przechodzi pełny zestaw ewaluacyjny, zanim trafi do użytkowników.

    Ograniczenia i zależności

    Modele w chmurze bywają wycofywane z krótkim wyprzedzeniem. Dla każdego zastosowania planujemy alternatywę, a ten plan wymaga zatwierdzenia przez właściciela.

05 Jak pracujemy

Jak pracujemy

Kolejność ma znaczenie: najpierw ustalamy, jak mierzyć, potem decydujemy, co budować.

  1. 01

    Opis zastosowania

    Kto z niego korzysta, jakie decyzje wspiera, do jakich źródeł może sięgać i ile kosztuje błędna odpowiedź.

    RezultatOpis zastosowania i klasyfikacja ryzyka

  2. 02

    Zestaw referencyjny

    Prawdziwe pytania i oczekiwane odpowiedzi zebrane z Państwa ekspertami dziedzinowymi, w tym pytania, na które system powinien odmówić odpowiedzi.

    RezultatWersjonowany zestaw testowy

  3. 03

    Najpierw wyszukiwanie

    Zasilanie, indeks i filtr uprawnień dostrajane, aż jakość wyszukiwania osiągnie uzgodniony poziom.

    RezultatRaport jakości wyszukiwania

  4. 04

    Wydanie za bramkami

    Generowanie, mechanizmy ochronne i brama trafiają do produkcji dopiero wtedy, gdy zestaw ewaluacyjny przechodzi w CI.

    RezultatWydanie z dowodami z ewaluacji

  5. 05

    Utrzymanie i rozwój

    Ślady, przegląd próbek i opinie użytkowników zasilają kolejny zestaw testowy i kolejne wydanie.

    RezultatComiesięczny przegląd jakości, kosztu i czasu odpowiedzi

06 Kontrola człowieka

Gdzie kontrolę zachowuje człowiek

Generatywna AI przygotowuje projekty, wyszukuje i podpowiada. Ludzie decydują, do czego AI ma dostęp, co uznajemy za dobry wynik i co się dzieje, gdy system nie ma pewności.

  • Właściciel zatwierdza jakość

    Kryteria jakości i dowody przed wydaniem zatwierdza właściciel biznesowy danego zastosowania, a nie wyłącznie zespół realizacyjny.

  • Niepewne odpowiedzi trafiają do człowieka

    Poniżej uzgodnionego progu pewności system odmawia odpowiedzi albo przekazuje pytanie wskazanemu zespołowi.

  • O dostępie decyduje źródło

    O tym, kto może zobaczyć dokument, decyduje system źródłowy i dostawca tożsamości, nigdy warstwa AI.

  • Opinie zmieniają system

    Użytkownicy mogą oznaczać odpowiedzi. Oznaczenia przeglądają ludzie, a potwierdzone błędy stają się przypadkami testowymi.

07 Technologie

Technologie, z którymi pracujemy

Wyszukiwanie
  • OpenSearch i Elasticsearch
  • PostgreSQL z pgvector
  • Azure AI Search
  • Modele re-rankingu typu cross-encoder
Modele
  • Modele czołowe w chmurze
  • Zarządzane usługi modeli w regionach UE
  • Modele open-weight na vLLM
  • Modele embeddingów dobrane do języka
Ewaluacja i utrzymanie
  • Śledzenie w OpenTelemetry
  • Zestawy ewaluacyjne w CI
  • Rejestry promptów i modeli
  • Langfuse lub równoważne narzędzie
Aplikacja
  • Usługi w TypeScript i Pythonie
  • API strumieniowe
  • Istniejące portale oraz interfejsy Salesforce, SAP i Odoo

Wymienienie technologii opisuje nasze doświadczenie inżynierskie. Nie oznacza partnerstwa z jej dostawcą ani jego rekomendacji.

08 Przykład

Przykład poglądowy

Przykład poglądowy

Asystent zasad programu regionalnego dla urzędu marszałkowskiego

01Sytuacja
Zasady programu, wytyczne, regulaminy naborów i odpowiedzi na często zadawane pytania są rozproszone w wielu dokumentach i wersjach. Pracownicy odpowiadający wnioskodawcom szukają tych samych zapisów wiele razy dziennie i czasem cytują nieaktualną wersję.
02Co byśmy zbudowali
Wyszukiwanie w aktualnych i archiwalnych wersjach dokumentów programu, z prawami dostępu przejętymi z repozytorium dokumentów i odpowiedziami, które wskazują obowiązujący zapis oraz jego wersję.
03Gdzie decyduje człowiek
Osoba odpowiedzialna za każdy nabór zatwierdza zestaw testowy dla swojego naboru i każde wydanie, które zmienia odpowiedzi. Odpowiedź dla wnioskodawcy wysyła zawsze pracownik.
04Co byśmy mierzyli
Odsetek odpowiedzi wskazujących właściwy dokument i wersję, odsetek odmów przy pytaniach spoza zakresu oraz koszt jednej odpowiedzi.

09 Perspektywa branżowa

W Państwa branży

  • Administracja publiczna

    Asystenci dla osób prowadzących sprawy i dla obywateli, którzy wskazują podstawę prawną, odpowiadają po polsku i w innych potrzebnych językach oraz rejestrują, co zostało wyszukane i dla kogo.

  • Usługi finansowe

    Asystenci do polityk i procedur ze ścisłymi uprawnieniami, pełną identyfikowalnością i dokumentacją ryzyka modeli, którą może sprawdzić druga linia obrony.

  • Ochrona zdrowia i life sciences

    Wyszukiwanie w protokołach i dokumentacji produktów z jasnymi granicami: bez decyzji klinicznych, a dane wrażliwe pozostają w zatwierdzonych środowiskach.

Polska

AI Act, polska ustawa i jedna miara jakości

Akt w sprawie sztucznej inteligencji wyznacza wspólne ramy w całej Unii Europejskiej. W Polsce uzupełnia go ustawa z dnia 3 lipca 2026 r. o systemach sztucznej inteligencji, obowiązująca od 11 sierpnia 2026 r. Organem nadzoru rynku jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI), a przepisy o kontrolach, postępowaniach i karach stosuje się od 28 października 2026 r. Przetwarzanie danych osobowych nadzoruje Prezes UODO na podstawie RODO.

Uwzględniamy to już na etapie analizy: wyszukiwanie i ewaluacja dla każdego języka, w którym zapisana jest wiedza organizacji, lokalizacja danych ustalana dla każdego zastosowania oraz logowanie i dokumentacja, które odpowiadają na pytania nadzoru bez osobnego systemu. Projekty finansowane z programu „Cyfrowa Europa” często wymagają właśnie takiego udokumentowanego projektu, nadającego się do ponownego użycia.

Pytania o inżynierię AI

Jaki model poleca FromNine?

To zależy od zadania, danych i wymagań dotyczących hostingu. Zwykle łączymy modele: wydajny model do kroków wymagających rozumowania, mniejsze lub utrzymywane we własnym środowisku modele do klasyfikacji i ekstrakcji oraz wdrożenia hostowane w UE tam, gdzie dane muszą pozostać w Unii Europejskiej.

Brama sprawia, że ten wybór jest odwracalny, więc odpowiedź może się zmieniać razem z modelami i cenami.

Jak dokładny będzie system?

Nie podajemy dokładności, zanim zmierzymy ją na Państwa danych. Uzgadniamy kryteria jakości, budujemy zestaw testowy i raportujemy wyniki względem niego przed uruchomieniem i po każdej zmianie.

Modele popełniają błędy, więc projekt zawsze określa, co dzieje się wtedy: odmowa odpowiedzi, etapy weryfikacji i przekazanie sprawy człowiekowi.

Czy nasze dane posłużą do trenowania cudzego modelu?

Nie w architekturach, które projektujemy. Wybieramy usługi modeli, których warunki wykluczają trenowanie na danych wejściowych, albo uruchamiamy modele w Państwa środowisku. Wybór dokumentujemy dla każdego zastosowania razem z zespołem bezpieczeństwa.

Czy akt w sprawie sztucznej inteligencji dotyczy naszego zastosowania?

Pomagamy ustalić, które obowiązki mogą mieć zastosowanie, na podstawie przypadku użycia i roli organizacji jako dostawcy lub podmiotu stosującego. Logowanie, nadzór i dokumentację projektujemy odpowiednio, aby Państwa doradcy mieli fakty potrzebne do oceny. W Polsce akt uzupełnia ustawa z dnia 3 lipca 2026 r. o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003). Organem nadzoru rynku jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI), a przepisy o kontrolach, postępowaniach i karach stosuje się od 28 października 2026 r.

Jak FromNine chroni bezpieczeństwo i dane wrażliwe?

FromNine ma certyfikat ISO/IEC 27001. Granice dostępu, lokalizację danych i retencję uzgadniamy przed rozpoczęciem budowy, a red teaming pod kątem prompt injection i wycieku danych jest częścią procesu wydawania, który wdrażamy.

Od czego warto zacząć?

Od jednego zastosowania z jasno wskazanym właścicielem, ograniczonego zbioru źródeł i zestawu testowego zbudowanego z Państwa ekspertami. Daje to działający system i dowody dotyczące jakości, kosztu i czasu odpowiedzi, czyli to, czego wymaga kolejna decyzja inwestycyjna.

Jedno zastosowanie i jego najtrudniejsze pytania

Pokażemy, jak byśmy je zmierzyli, zanim zaczniemy rozmawiać o budowie.

Porozmawiajmy o projekcieDostęp do wiedzy