Ana içeriğe geç
FromNine
Menü

Yapay zekâ ve veri

Canlı ortamda ayakta kalan üretken yapay zekâ.

Kendi bilgi birikiminiz ve verileriniz üzerinde üretken yapay zekâ uygulamaları geliştiriyoruz: yetkilere uyan bilgi erişimi, her sürümü onaydan geçiren değerlendirme, görünür maliyet, kalite ve yanıt süresi.

Tek bir yapay zekâ platformunu birkaç ülkede, birkaç dilde ve farklı ulusal kurallar altında işleten kurumlar için.

Projenizi konuşalımKurumsal bilgi
Yapay zekâ mühendisliği ve GenAI: yetenek katmanlarıDerinlemesine üst üste dizilmiş dört katman. Yukarıdan aşağıya: kaynaklarınız üzerinde bilgi erişimi, model ağ geçidi, değerlendirme ve koruma kuralları, kullanıcılarınızın çalıştığı uygulama. Tek bir rota kaynaklardan uygulamaya uzanır.01Kaynaklarınız üzerinde bilgi erişimi02Model ağ geçidi ve yönlendirme03Değerlendirme ve koruma kuralları04Canlı ortamdaki uygulama
  1. 01Kaynağını gösteren, kanıt yoksa yanıt vermeyen sistemler
  2. 02Canlıya almadan önce ekiplerinizle kararlaştırılan referans test seti ve regresyon kapıları
  3. 03Talep başına maliyeti ve yanıt süresini görünür kılan model yönlendirme ve bütçeler

01 Sorunlar

Üretken yapay zekâ nerede tıkanır

Zor olan nadiren modelin kendisidir. Programların çoğunu durduran, modelin çevresindeki her şeydir.

  1. 01

    Pilot etkileyiciydi, ama kimse iyi olup olmadığını söyleyemedi

    Kaliteye, birkaç kişinin birkaç soru denemesiyle karar verildi. Test seti yok; bu yüzden her istem değişikliği ya da model yükseltmesi bir kumar.

  2. 02

    Asistan, kişilere görmemeleri gereken belgeleri gösteriyor

    İçerik, erişim hakları olmadan dizinlendi. Bilgi güvenliği ve çalışan temsilcileri yaygınlaştırmayı durduruyor; haklılar da.

  3. 03

    Maliyet, kullanımdan hızlı büyüyor

    Her talep en büyük modele, en uzun bağlamla gidiyor. Kimse tek bir yanıtın maliyetini bilmiyor; dolayısıyla kimse bu maliyeti yönetemiyor.

  4. 04

    Yanıtlar doğru gibi duruyor ama değil

    Bilgi erişimi neredeyse doğru sonuçlar getiriyor, model boşlukları akıcı biçimde dolduruyor ve kullanıcılar kendinden emin üçüncü hatadan sonra güvenini kaybediyor.

02 Teslimat kalemleri

Neler sunuyoruz

  1. 01 Bilgi erişimi ve kurumsal bilgi sistemleri

    Her kaynak için ayrı tasarlanan bilgi erişimi: içeriğin nasıl ayrıştırılıp parçalara bölündüğü, sözcüksel ve vektör aramanın nasıl birleştiği, erişim haklarının her metin parçasıyla nasıl taşındığı. Kurumsal bilgi asistanlarının temeli budur.

    Ne yapıyoruz

    • Sahipleri, biçimleri ve erişim modelleriyle kaynak envanteri
    • Belge türüne göre parçalama ve üst veri stratejisi
    • Yeniden sıralamalı hibrit sözcüksel ve vektör arama
    • Kaynak sistemin erişim haklarını devralan, yetkilere uyan bilgi erişimi

    Size teslim edilenler

    • Değişiklikleri algılayan veri alım hatları
    • Kaynak gösterme ve yanıt vermeme kurallarıyla bilgi erişimi servisi
    • Kaynak başına bilgi erişimi kalite raporu

  2. 02 Bağımlılık yaratmayan model stratejisi

    Uygulamalarınızla modeller arasında bir model ağ geçidi: göreve göre yönlendirme yapabilir, bir sağlayıcı arıza verdiğinde yedeğe geçebilir, fiyatlar ve yetenekler değiştikçe modelleri değiştirebilirsiniz.

    Ne yapıyoruz

    • Barındırılan öncü modeller, AB’de barındırılan kurulumlar ve kendi ortamınızda çalışan açık ağırlıklı modeller arasında seçenekler
    • Göreve, verinin hassasiyetine ve maliyete göre yönlendirme
    • Yedek modeller, zaman aşımları, önbellekleme ve istek sınırları
    • Veri işleme koşullarının hukuk ve güvenlik ekiplerinizle birlikte incelenmesi

    Size teslim edilenler

    • Yönlendirme politikasını yapılandırma olarak tutan model ağ geçidi
    • Her kullanım senaryosu için model karar kaydı
    • Talep türü başına maliyet ve yanıt süresi bütçesi

  3. 03 Bir mühendislik disiplini olarak değerlendirme

    Kalite ölçütleri sürecin sahipleriyle kararlaştırılır ve her değişiklikte çalışan test setlerine dönüştürülür. Bir modelin puanladığı kontrollere güvenmeden önce, bu kontrolleri insan değerlendirmesiyle kalibre ederiz.

    Ne yapıyoruz

    • Alan uzmanlarıyla birlikte, kullanım senaryosu başına referans test setleri
    • Bilgi erişimi ve metin üretiminin ayrı ayrı çevrim dışı değerlendirilmesi
    • İstem enjeksiyonu ve veri sızıntısına karşı kırmızı takım testleri
    • Canlı ortamdan gelen geri bildirim ve örneklem incelemeyle çevrim içi değerlendirme

    Size teslim edilenler

    • Sürüm kapısı olarak CI’a bağlanan değerlendirme paketi
    • İş sahibinin onayladığı kalite ölçütleri
    • Kırmızı takım bulguları ve alınan önlemler

  4. 04 LLMOps ve gözlemlene­bilirlik

    Sorudan bulunan metin parçalarına, oradan model çağrısına ve yanıta kadar izleme; istemler ve modeller kod gibi sürümlenir, bütçeler canlı ortamda uygulanır.

    Ne yapıyoruz

    • Her talebin izlenmesi ve yapılandırılmış kayıtlarla günlüğe alınması
    • İstem, model ve dizin sürümleme
    • Güvenli olduğu yerde anlamsal ve birebir önbellekleme
    • Uyarı mekanizmasıyla sapma ve kalite izleme

    Size teslim edilenler

    • Kalite, maliyet ve yanıt süresi panoları
    • Yapay zekâya özgü arızalar için olay müdahale kılavuzu
    • Model ve dizin güncellemeleri için işletim kılavuzu

  5. 05 Tasarımdan itibaren yönetişim

    Tasarımı AB Yapay Zekâ Yasası’nı gözeterek yapıyoruz: risk sınıflandırmasından ve sağlayıcı ya da uygulayıcı olarak rolünüzden kayıt tutmaya, insan gözetimine ve dokümantasyona kadar. Hukuki değerlendirme kendi hukuk danışmanınızda kalır.

    Ne yapıyoruz

    • Kullanım senaryosunun sınıflandırılması ve role göre yükümlülükler
    • GDPR kapsamındaki veri koruma etki değerlendirmelerine girdi
    • Kayıt tutma ve insan gözetimi tasarımı
    • Kodla birlikte tutulan model ve sistem dokümantasyonu

    Size teslim edilenler

    • Sistem dokümantasyonu paketi
    • Kayıt tutma ve saklama tasarımı
    • Her kullanım senaryosu için gözetim prosedürü

  6. 06 Değerlendirme gerektir­diğinde ince ayar ve belge anlama

    İnce ayar, damıtma ve çok kipli belge anlama, belirli boşluklar için kullanılan araçlardır. Bunları, değerlendirme paketi bilgi erişimi ve istemlerin yetmediğini gösterdiğinde kullanırız, daha önce değil.

    Ne yapıyoruz

    • Değerlendirme sonuçlarından boşluk analizi
    • Veri hazırlama ve etiketleme planı
    • Maliyet veya yanıt süresi için küçük modellere damıtma
    • Taranmış ve karmaşık belgeler için sayfa düzenini gözeten veri çıkarma

    Size teslim edilenler

    • Öncesi ve sonrası karşılaştırmalı değerlendirme
    • Eğitim verisinin kökeni ve izlenebilirliği
    • Sürdürme, geri alma veya kullanımdan kaldırma kararı

03 Mimari

Açıklayıcı bir referans mimari

Geliştirdiğimiz kurumsal üretken yapay zekâ sistemlerinin çoğu aynı yapıyı paylaşır: kaynaklarınız üzerinde bilgi erişimi, bir model ağ geçidi, modelin iki tarafında koruma kuralları ve altta, neyin canlıya çıkabileceğine karar veren bir değerlendirme ve gözlemlenebilirlik döngüsü.

Yetki filtresi kullanıcı arayüzünde değil, bilgi erişiminin içinde yer alır. Bir kişi bir belgeyi kaynak sistemde açamıyorsa, o belgenin metin parçaları o kişi adına hiçbir zaman modele ulaşmaz.

Çizimdeki katmanlar

Kaynaklar
Belge depoları, wiki’ler ve iş sistemleri; ayrıca kimin neyi görebileceğini bilen kimlik sağlayıcı.
Bilgi erişimi
Veri alımı, hibrit dizin, yeniden sıralama ve yetki filtresi.
Modeller
Barındırılan, AB’de barındırılan ve kendi ortamınızda çalışan modeller arasında yönlendirme yapan, yedekleme ve önbellekleme sunan bir ağ geçidi.
Uygulama
Kaynak gösteren yanıtlar, kanıt yoksa yanıt vermeme, girdi ve çıktıda koruma kuralları.
İşletme ve iyileştirme
Referans setleri, regresyon kapıları, izler ve bütçeler. Canlı ortamdaki izler bir sonraki test setini besler.
Açıklayıcı örnek

  1. Kaynaklar

    • Belge depoları ve wiki’ler
    • İş sistemleri
    • Kimlik sağlayıcı

  2. Bilgi erişimi

    • Veri alımı ve parçalama
    • Hibrit dizin
    • Yetki filtresi
    • Bilgi erişimi ve yeniden sıralama

  3. Modeller

    • Model ağ geçidi
    • Barındırılan, AB’de barındırılan ve kendi ortamınızdaki modeller
    • Girdi ve çıktı koruma kuralları

  4. Uygulama

    • Kaynak gösteren uygulama

  5. İşletme ve iyileştirme

    • Referans setleri ve regresyon kapıları
    • İzler, maliyet ve yanıt süresi bütçeleri
Bilgi erişimi, model ağ geçidi ve değerlendirme döngüsü

Açıklayıcı bir mimaridir, bir müşteri sistemi değildir.

Diyagramı metin olarak oku

Ana rota belge depolarından başlar; veri alımı, hibrit dizin, yeniden sıralamalı bilgi erişimi ve model ağ geçidinden geçerek uygulamaya ulaşır.

İş sistemleri de veri alımını besler. Kimlik sağlayıcı, bilgi erişimini sınırlayan yetki filtresini besler. Koruma kuralları uygulamanın girdisini ve çıktısını denetler. Ağ geçidi; barındırılan öncü modellere, AB’de barındırılan kurulumlara ve kendi ortamınızda çalışan açık ağırlıklı modellere yönlendirir.

Altta, referans setleri ve regresyon kapılarıyla bir değerlendirme paketi ile izler, maliyet ve yanıt süresi bütçeleriyle gözlemlenebilirlik yer alır. Canlı ortamdaki izler değerlendirme paketini besler.

04 Dikkat edilenler ve sınırlar

Mühendislik açısından dikkat edilenler ve sınırlar

  • Kalite vaat edilmez, ölçülür

    Nasıl ele alıyoruz

    Kalite ölçütlerini süreç sahiplerinizle kararlaştırır, yapay zekâ çıktısını her sürümden önce ve sonra bu ölçütlere göre test ederiz.

    Bilgi erişimi ve metin üretimi ayrı ayrı değerlendirilir; böylece bir hata kendi nedenine işaret eder.

    Sınırlar ve bağımlılıklar

    Yapay zekâ çıktısı yanlış olabilir. Bu nedenle emin olunamayan durumlar için inceleme adımları ve kanıt olmadığında yanıt vermeme kuralı tasarlarız.

    Bir test seti, onu oluşturmaya yardım eden uzmanlar kadar iyidir. Uzmanlarınızın zamanına erken aşamada ihtiyaç duyarız.

  • Yetkiler içerikle birlikte taşınır

    Nasıl ele alıyoruz

    Erişim hakları veri alımında kaydedilir ve sorgu anında kimlik sağlayıcınıza göre uygulanır.

    Sınırlar ve bağımlılıklar

    Kaynak sistemlerin hakları güvenilir biçimde okunamayan bir şekilde tuttuğu yerlerde, o içeriği okunabilir hâle gelene kadar kapsam dışında tutarız.

    Kaynakta gereğinden geniş paylaşılan içerik, öyle kalır. Bilgi erişimi bu içeriği bulmayı kolaylaştırır; bu yüzden ilk adım bazen bir temizliktir.

  • Maliyet ve yanıt süresi tasarım girdileridir

    Nasıl ele alıyoruz

    Her talep türünün bir bütçesi olur. Yönlendirme, önbellekleme ve bağlam boyutu bu bütçeye göre ayarlanır; panolar paranın nereye gittiğini gösterir.

    Sınırlar ve bağımlılıklar

    Sağlayıcı fiyatları ve istek sınırları sizin denetiminiz dışında değişir. Ağ geçidi tepki vermenizi sağlar, ancak bir fiyat değişikliğini ortadan kaldıramaz.

  • Modeller siz farkında olmadan değişir

    Nasıl ele alıyoruz

    Modeller sürüm numarasıyla sabitlenir; her yükseltme, kullanıcılara ulaşmadan önce tüm değerlendirme paketinden geçer.

    Sınırlar ve bağımlılıklar

    Barındırılan modeller bazen kısa süre önce haber verilerek kullanımdan kaldırılır. Her kullanım senaryosu için bir alternatif planlarız; bu planın sahibi tarafından onaylanması gerekir.

05 Nasıl çalışıyoruz

Nasıl çalışıyoruz

Sıralama önemlidir: neyi geliştireceğimize karar vermeden önce nasıl ölçeceğimize karar veririz.

  1. 01

    Kullanım senaryosunu çerçeveleyin

    Kim kullanacak, hangi kararları destekleyecek, hangi kaynaklara erişebilecek ve yanlış bir yanıtın bedeli ne olacak.

    ÇıktıKullanım senaryosu özeti ve risk sınıflan­dırması

  2. 02

    Referans test setini oluşturun

    Alan uzmanlarınızla toplanan gerçek sorular ve beklenen yanıtlar; sistemin reddetmesi gerekenler de dâhil.

    ÇıktıSürümlenmiş test seti

  3. 03

    Önce bilgi erişimini geliştirin

    Veri alımı, dizin ve yetki filtresi, bilgi erişimi kalitesi kararlaştırılan düzeye ulaşana kadar ayarlanır.

    ÇıktıBilgi erişimi kalite raporu

  4. 04

    Kapılardan geçirerek yayına alın

    Metin üretimi, koruma kuralları ve ağ geçidi, ancak değerlendirme paketi CI’da başarılı olduğunda canlıya çıkar.

    ÇıktıDeğerlendirme kanıtıyla sürüm

  5. 05

    İşletin ve iyileştirin

    İzler, örneklem inceleme ve kullanıcı geri bildirimi bir sonraki test setini ve bir sonraki sürümü besler.

    ÇıktıAylık kalite, maliyet ve yanıt süresi değerlen­dirmesi

06 İnsan kontrolü

Kontrolün insanda kaldığı yerler

Üretken yapay zekâ taslak hazırlar, bilgi getirir ve öneri sunar. Neyi görebileceğine, neyin iyi sayılacağına ve emin olmadığında ne olacağına insanlar karar verir.

  • Kaliteyi sahipler onaylar

    Kalite ölçütlerini ve sürüm kanıtını yalnızca teslimat ekibi değil, her kullanım senaryosunun iş sahibi onaylar.

  • Emin olunamayan yanıtlar bir kişiye gider

    Kararlaştırılan güven eşiğinin altında sistem yanıt vermez ya da soruyu belirlenmiş bir ekibe yönlendirir.

  • Erişim kararı kaynakta kalır

    Bir belgeyi kimin görebileceğine yapay zekâ katmanında değil, kaynak sistemde ve kimlik sağlayıcınızda karar verilir.

  • Geri bildirim sistemi değiştirir

    Kullanıcılar yanıtları işaretleyebilir. İşaretleri insanlar inceler; doğrulanan hatalar test senaryosuna dönüşür.

07 Teknolojiler

Çalıştığımız teknolojiler

Bilgi erişimi
  • OpenSearch ve Elasticsearch
  • pgvector ile PostgreSQL
  • Azure AI Search
  • Çapraz kodlayıcı yeniden sıralayıcılar
Modeller
  • Barındırılan öncü modeller
  • AB bölgesinde yönetilen model servisleri
  • vLLM üzerinde açık ağırlıklı modeller
  • Dile göre gömme (embedding) modelleri
Değerlendirme ve işletim
  • OpenTelemetry ile izleme
  • CI tabanlı değerlendirme paketleri
  • İstem ve model kayıtları
  • Langfuse veya muadili
Uygulama
  • TypeScript ve Python servisleri
  • Akış (streaming) API’leri
  • Mevcut portallar, Salesforce, SAP ve Odoo ön yüzleri

Bir teknolojinin listelenmesi mühendislik deneyimimizi anlatır. Üreticisiyle bir iş ortaklığı olduğu ya da üreticinin bizi onayladığı anlamına gelmez.

08 Örnek

Açıklayıcı örnek

Açıklayıcı örnek

Bir bakanlık dairesi için genelge ve yönerge asistanı

01Durum
Dairenin genelgeleri, iç yönergeleri ve uygulama notları farklı depolarda ve farklı dillerde duruyor. Görevliler aynı soruyu farklı biçimlerde soruyor ve farklı yanıtlar alıyor.
02Kuracağımız sistem
Genelgeler ve yönergeler üzerinde çok dilli bilgi erişimi; erişim hakları her belge deposundan devralınır ve her yanıt dayandığı metni kaynak olarak gösterir.
03Kararı insanın verdiği yer
İlgili birimin mevzuat sorumlusu test setini onaylar ve yanıtları değiştiren her sürümü onaylar. İdari kararı her zaman dosyayı inceleyen görevli verir.
04Neyi ölçeceğiz
Doğru dayanak belgeyi gösteren yanıtların payı, kapsam dışı sorularda yanıt vermeme oranı ve yanıt başına maliyet.

09 Sektör bakışı

Sektörünüzde

  • Kamu sektörü

    Dosyayı inceleyen görevliler ve vatandaşlar için, dayanak mevzuatı gösteren, kurumun belgelerinin yazıldığı dillerde çalışan ve kim için neyin getirildiğini kaydeden asistanlar.

  • Finansal hizmetler

    Sıkı yetkilendirme, tam izlenebilirlik ve ikinci savunma hattınızın inceleyebileceği model riski dokümantasyonuyla politika ve prosedür asistanları.

  • Sağlık ve yaşam bilimleri

    Protokoller ve ürün dokümantasyonu üzerinde net sınırlarla bilgi erişimi: klinik karar yok, hassas veriler onaylı ortamlarda kalır.

Kıbrıs

Birden fazla dil, tek değerlendirme standardı

Uluslararası kurumlar üretken yapay zekâyı nadiren tek bir ülkede kullanır. Kıbrıs Cumhuriyeti’ndeki kurumların bilgi birikimi de çoğu zaman birden fazla dilde yazılıdır. AB Yapay Zekâ Yasası tek bir çerçeve çizer; ancak veri koruma otoriteleri ve sektör denetim makamları üye devletten üye devlete farklıdır. Kıbrıs Cumhuriyeti’nde Yapay Zekâ Yasası kapsamındaki ulusal görevlendirmeler henüz kesinleşmedi (2026 sonbaharı itibarıyla).

Bunu keşif aşamasında tasarıma katıyoruz: dile göre bilgi erişimi ve değerlendirme, kullanım senaryosuna göre belirlenen veri yerleşimi, her ülkenin sorularına ayrı bir sistem kurmadan yanıt veren kayıt tutma ve dokümantasyon. Dijital Avrupa programı kapsamında finanse edilen programlar çoğu zaman tam olarak bu tür yeniden kullanılabilir ve belgelenmiş bir tasarım ister.

Yapay zekâ mühendis­liğiyle ilgili sorular

Hangi modeli öneriyorsunuz?

Bu; göreve, işlenen verilere ve barındırma gereksinimlerinize bağlıdır. Genellikle modelleri birleştiririz: akıl yürütme ağırlıklı adımlar için yetenekli bir model, sınıflandırma ve veri çıkarma için daha küçük ya da kendi ortamınızda çalışan modeller, verinin AB içinde kalması gereken yerlerde AB’de barındırılan kurulumlar.

Ağ geçidi bu seçimi geri alınabilir tutar; modeller ve fiyatlar değiştikçe yanıt da değişebilir.

Ne kadar doğru sonuç verecek?

Doğruluğu, verileriniz üzerinde ölçmeden önce rakamla ifade etmeyiz. Kalite ölçütlerini sizinle kararlaştırır, bir test seti oluşturur ve sonuçları canlıya almadan önce ve her değişiklikten sonra bu sete göre raporlarız.

Modeller hata yapar; bu yüzden tasarım her zaman hata olduğunda ne olacağını da içerir: yanıt vermeme, inceleme adımları ve soruyu bir kişiye yönlendiren bir yol.

Verilerimiz başka birinin modelini eğitmek için kullanılacak mı?

Tasarladığımız mimarilerde hayır. Koşulları girdileriniz üzerinde eğitimi hariç tutan model servislerini seçer ya da modelleri kendi ortamınızda barındırırız; bu seçimi her kullanım senaryosu için güvenlik ekibinizle birlikte belgeleriz.

AB Yapay Zekâ Yasası kullanım senaryomuz için geçerli mi?

Kullanım senaryosuna ve sağlayıcı ya da uygulayıcı olarak rolünüze bağlı olarak hangi yükümlülüklerin geçerli olabileceğini anlamanıza yardım ederiz. Kayıt tutma, gözetim ve dokümantasyonu buna göre tasarlarız; böylece hukuk danışmanınız bir sonuca varmak için gereken bilgilere sahip olur.

Güvenliği ve hassas verileri nasıl yönetiyorsunuz?

FromNine, ISO/IEC 27001 sertifikalıdır. Erişim sınırları, veri yerleşimi ve saklama süreleri geliştirmeden önce kararlaştırılır; istem enjeksiyonu ve veri sızıntısına karşı kırmızı takım testleri, kurduğumuz sürüm sürecinin parçasıdır.

Mantıklı bir ilk adım nedir?

Sahibi belli bir kullanım senaryosu, sınırlı sayıda kaynak ve uzmanlarınızla birlikte oluşturulan bir test seti. Bu size çalışan bir sistem ve kalite, maliyet ve yanıt süresine dair kanıt sağlar; bir sonraki yatırım kararı için gereken de budur.

Bir kullanım senaryosunu ve en zor sorularını getirin

Geliştirmeyi konuşmadan önce, onu nasıl ölçeceğimizi size gösterelim.

Projenizi konuşalımKurumsal bilgi