Kurumsal bilgi aramasını güvenilir kılan nedir

01Demo sorunu

Bilgi asistanlarının çoğu, erişimle zenginleştirilmiş üretim (RAG) (harici bir site açılır) olarak bilinen aynı kalıbı izler: soruyla eşleşen pasajları bulur, ardından bir dil modeline bu pasajlara dayanan bir yanıt yazdırır. Elli belgelik, özenle seçilmiş bir klasörde bu yöntem bir hafta içinde ikna edici biçimde çalışır.

Canlı ortam farklıdır. Yirmi yılın ortak sürücüleri, vikileri, destek kayıtları, sözleşmeleri ve politikaları; çoğu çoğaltılmış, güncelliğini yitirmiş ya da gizli. Kıbrıs Cumhuriyeti’nde bir bakanlığa ya da bakan yardımcılığına bağlı bir kurumda bu, yıllar içinde birikmiş genelgeler ve iç yönergeler demektir; bir bankada ise politika ve prosedür belgeleri. Bu ortamda asistan iki şekilde başarısız olur. Yanlış bir yanıt verir ve insanlar onu kullanmayı bırakır. Ya da daha kötüsü, yanlış bir yanıtı kendinden emin bir şekilde verir ve insanlar ona göre hareket eder.

Güvenilir bilgi araması bu nedenle modelden çok, onu çevreleyen sistemin beş özelliğiyle ilgilidir. Her biri tasarlanabilir ve daha önemlisi test edilebilir.

02Yetkiler: yalnızca kullanıcının okuyabile­ceğini getirin

Kural basittir: asistan hiç kimseye kaynak sistemde açamayacağı bir pasajı göstermemelidir. Önemli olan, kuralın nerede uygulandığıdır. Bir pasaj modele ulaşırsa yanıtta görünebileceğini varsayın. Bu nedenle yetkiler, yanıt üretilmeden önce, getirme aşamasında ve soruyu soran kullanıcı için uygulanmalıdır.

OWASP, hassas bilgilerin ifşasını (harici bir site açılır) ve yetki sınırları arasında sızıntı dâhil vektör ve gömme zafiyetlerini (harici bir site açılır) dil modeli uygulamalarının başlıca riskleri arasında sayar. Uygulamada bu, dört gerekliliğe dönüşür.

• Her kaynak belgenin erişim haklarını dizindeki her parçayla birlikte saklayın; bu hakları elle yeniden tanımlamak yerine kaynak sistemden alın.
• Sorgu anında, oturum açmış kullanıcının kimliğini kullanarak, sıralama ve yanıt üretiminden önce bu haklara göre filtreleyin.
• Yetki değişikliklerini en az içerik değişiklikleri kadar hızlı senkronize edin ve geri alınan bir yetkinin ne kadar sürede etkili olması gerektiği üzerinde anlaşın.
• Gerçek rollerle test edin. “Bir stajyer maaş skalalarını bulabiliyor mu?” sorusu bir olay sonrası incelemede değil, test setinde yer almalıdır.

03Kaynak gösterimi: bir kişinin kontrol edebileceği atıflar

Yanıttaki her ifade geldiği pasaja işaret etmelidir: belge başlığı, sürüm ya da tarih, belgenin sahibi ve doğru yerde açılan bir bağlantı. Yalnızca belge adını değil, pasajın kendisini gösterin; böylece okuyan kişi atfın cümleyi destekleyip desteklemediğini saniyeler içinde görebilir.

Yanıt biçimini, desteklenmeyen metnin göze çarpacağı şekilde tasarlayın. Bir cümleyi destekleyen bir pasaj bulunamadıysa sistem o cümleyi çıkarmalı ya da işaretlemelidir. Ardından bunu otomatik olarak kontrol edin: atıf yapılan her pasajı, desteklemesi gereken iddiayla karşılaştırın ve sonuçlardan örneklem alarak insan incelemesine sunun. Var olan ama iddiayı desteklemeyen atıflar, yaygın ve sessiz bir hata türüdür.

04Güncellik ve yetkili kaynak

Kurumsal bilginin sürümleri vardır. Eski seyahat genelgesi de yenisi de “Görev seyahatinde hangi sınıfta bilet alabilirim?” sorusuyla eşleşir ve farklı yanıtlar verir. Bunları birbirinden ayıran üst verileri dizine ekleyin: yürürlük tarihi, durum (taslak, onaylı, yürürlükten kalkmış) ve sahip. Güncel ve onaylı belgeleri öne çıkarın, kullanıcı geçmişi sormadıkça yürürlükten kalkmış olanları dışarıda bırakın ve her atıfta tarihi gösterin.

Her konu için hangi kaynağın yetkili olduğuna karar verin. İnsan kaynakları politikası, geçen yılın sürümünü alıntılayan bir e-postadan değil, insan kaynakları portalından gelir. Her kaynak için bir yeniden dizinleme sıklığı belirleyin (dosya verileri için neredeyse gerçek zamanlı, bir viki için günlük) ve bunu izleyin: güncelliğini yitirmiş bir dizin, doğru görünen ama doğru olmayan yanıtlar üretir.

05Dürüst boşluklar: “Bunu bulamadım”

Çoğu zaman asıl değerli yanıt dürüst bir boşluktur. Dil modelleri hiçbir şeye dayanmayan akıcı ifadeler üretebilir; NIST, üretken yapay zekâ profilinde buna konfabulasyon (harici bir site açılır) der. Yanıtı bulunan pasajlara dayandırmak bunu azaltır, ortadan kaldırmaz. OWASP, insanların yanlış çıktıya göre hareket etmesi biçimindeki sonucu yanlış bilgi (harici bir site açılır) başlığı altında ayrı bir risk olarak ele alır.

Bir ilgililik eşiği belirleyin; bu eşiğin altında sistem güvenilir bir kaynak bulamadığını söylesin ve sorunun nereye sorulabileceğini önersin. Politika, haklar ya da yükümlülüklerle ilgili sorularda modelin boşlukları genel bilgiyle doldurmasına izin vermeyin. Ardından yanıtsız kalan soruların oranını konuya göre izleyin. İlk aylarda bu liste çoğu zaman projenin en yararlı çıktılarından biridir: içerik sahiplerine belgelerin tam olarak nerede eksik olduğunu gösterir.

06Beş özelliğin arkasındaki mimari

Bunların hiçbiri sıra dışı bir teknoloji yığını gerektirmez. Gerektirdiği şey, yetkilerin, üst verilerin ve kontrollerin demodan sonra eklenen özellikler değil, işlem hattının asli parçaları olmasıdır.

Kişisel veriler ayrıca dikkat ister. Belgelerden oluşan bir dizin, içlerindeki kişisel verilerin işlenmesi anlamına gelir; bu nedenle Genel Veri Koruma Tüzüğü (GDPR) kapsamındaki amaçla sınırlılık ve veri en aza indirme (harici bir site açılır) ilkeleri (5. madde) uygulanır. Kullanım senaryosunun ihtiyaç duymadığı kaynakları dışarıda bırakın, kaynak sistemdeki silme işlemlerinin dizine yansımasını sağlayın ve bir erişim talebini yanıtlarken dizini de hesaba katın.

07Yayından önce ve sonra ölçülen kalite

Güvenilirliği bir toplantıda birkaç soru deneyerek değerlendiremezsiniz. Kalite ölçütlerini içeriğin sahipleriyle birlikte kararlaştırın ve her katmanı ayrı ölçün; böylece bir sorunu nerede düzelteceğinizi bilirsiniz.

Test setini gerçek sorulardan oluşturun: arama kayıtları, destek talepleri, yeni çalışanların sorduğu sorular. İçerik sahiplerinin yanıtlarını onayladığı birkaç yüz soru pratik bir başlangıçtır. Yeni bir model, yeni bir parçalama stratejisi ya da yeni bir kaynak, her değişiklikte setin tamamını çalıştırın. İçerik değiştikçe kalite sessizce kayar; bu kaymayı ancak sabit bir test seti görünür kılar.

08Kullanıcının gözünden güvenilirlik

Kullananlar için tüm bunlar gözlemlenebilir birkaç davranışa indirgenir. Asistan yalnızca okumaya yetkili oldukları belgelerden yanıt verir. Her iddianın açabilecekleri bir atfı vardır. Bir kaynağın ne kadar güncel olduğunu görebilirler. Güvenilir bir yanıt olmadığında bu kendilerine açıkça söylenir. Ve birinin kaliteyi ölçtüğünü bilirler, çünkü yanlış bir yanıtı bildirebilir ve düzeltildiğini görebilirler.

Yapay zekâ çıktısı yine de yanlış olabilir ve bazı sorular bir arama yerine bir kişiyi hak eder. Bunun için açıkça tasarım yapmak sistemin bir zayıflığı değildir. İnsanların geri kalan her şeyde sisteme güvenmeye istekli olmasını sağlayan tam da budur.