Αξιόπιστη αναζήτηση εταιρικής γνώσης: πέντε ιδιότητες που την κρίνουν

01Το πρόβλημα της παρουσίασης

Οι περισσότεροι βοηθοί γνώσης ακολουθούν το ίδιο μοτίβο, γνωστό ως παραγωγή με ενίσχυση ανάκτησης (ανοίγει εξωτερικό ιστότοπο) (RAG): βρίσκουν τα αποσπάσματα που ταιριάζουν σε μια ερώτηση και ένα γλωσσικό μοντέλο τεχνητής νοημοσύνης γράφει απάντηση που στηρίζεται σε αυτά. Σε έναν επιμελημένο φάκελο με πενήντα έγγραφα, αυτό δουλεύει πειστικά μέσα σε μία εβδομάδα.

Στην παραγωγική λειτουργία η εικόνα αλλάζει. Είκοσι χρόνια κοινόχρηστων φακέλων, wiki, αιτημάτων υποστήριξης, συμβάσεων και πολιτικών, πολλά από αυτά διπλότυπα, παλιά ή εμπιστευτικά. Σε μια διεύθυνση υπουργείου προστίθενται εγκύκλιοι, υπουργικές αποφάσεις και έγγραφα με αριθμό πρωτοκόλλου, συχνά ως σαρωμένα PDF. Σε αυτό το περιβάλλον ο βοηθός αποτυγχάνει με δύο τρόπους. Δίνει λάθος απάντηση και οι χρήστες σταματούν να τον χρησιμοποιούν. Ή, ακόμη χειρότερα, δίνει λάθος απάντηση με σιγουριά και οι χρήστες ενεργούν με βάση αυτήν.

Η αξιόπιστη αναζήτηση γνώσης αφορά λοιπόν λιγότερο το μοντέλο και περισσότερο πέντε ιδιότητες του συστήματος γύρω του. Κάθε μία μπορεί να σχεδιαστεί και, κυρίως, να δοκιμαστεί.

02Δικαιώματα: ανάκτηση μόνο όσων επιτρέπεται να διαβάσει ο χρήστης

Ο κανόνας είναι απλός: ο βοηθός δεν δείχνει ποτέ σε κάποιον απόσπασμα που δεν θα μπορούσε να ανοίξει στο σύστημα-πηγή. Αυτό που μετρά είναι το σημείο όπου επιβάλλεται. Αν ένα απόσπασμα φτάσει στο μοντέλο, υποθέστε ότι μπορεί να εμφανιστεί στην απάντηση. Τα δικαιώματα εφαρμόζονται λοιπόν πριν από τη σύνταξη της απάντησης, τη στιγμή της ανάκτησης, για τον χρήστη που ρωτά.

Το OWASP κατατάσσει τόσο τη διαρροή ευαίσθητων πληροφοριών (ανοίγει εξωτερικό ιστότοπο) όσο και τις αδυναμίες διανυσμάτων και ενσωματώσεων (ανοίγει εξωτερικό ιστότοπο), μαζί με τις διαρροές πέρα από τα όρια δικαιωμάτων, στους βασικούς κινδύνους των εφαρμογών γλωσσικών μοντέλων. Στην πράξη αυτό οδηγεί σε τέσσερις απαιτήσεις.

• Αποθηκεύστε τα δικαιώματα πρόσβασης κάθε εγγράφου-πηγής μαζί με κάθε τμήμα του στο ευρετήριο, όπως τα ορίζει το σύστημα-πηγή, χωρίς να τα ξαναορίζετε με το χέρι.
• Φιλτράρετε με βάση αυτά τα δικαιώματα τη στιγμή του ερωτήματος, με την ταυτότητα του συνδεδεμένου χρήστη, πριν από την κατάταξη και τη σύνταξη της απάντησης.
• Συγχρονίζετε τις αλλαγές δικαιωμάτων τουλάχιστον τόσο γρήγορα όσο τις αλλαγές περιεχομένου, και συμφωνήστε σε πόσο χρόνο πρέπει να ισχύσει η ανάκληση ενός δικαιώματος.
• Δοκιμάστε με πραγματικούς ρόλους. Το «μπορεί ένας ασκούμενος να βρει τα μισθολογικά κλιμάκια;» ανήκει στη σουίτα δοκιμών, όχι στην ανάλυση μετά από ένα περιστατικό.

03Προέλευση: παραπομπές που ένας άνθρωπος μπορεί να ελέγξει

Κάθε πρόταση μιας απάντησης πρέπει να παραπέμπει στο απόσπασμα από το οποίο προήλθε: τίτλο εγγράφου, έκδοση ή ημερομηνία, υπεύθυνο και σύνδεσμο που ανοίγει στο σωστό σημείο. Όταν η απάντηση στηρίζεται σε νόμο ή σε υπουργική απόφαση, η παραπομπή δείχνει και το τεύχος και τον αριθμό του ΦΕΚ. Δείξτε το ίδιο το απόσπασμα, όχι μόνο το όνομα του εγγράφου, ώστε ο αναγνώστης να δει σε δευτερόλεπτα αν η παραπομπή στηρίζει την πρόταση.

Σχεδιάστε τη μορφή της απάντησης έτσι ώστε το κείμενο χωρίς τεκμηρίωση να ξεχωρίζει. Αν κανένα ανακτημένο απόσπασμα δεν στηρίζει μια πρόταση, το σύστημα την παραλείπει ή τη σημειώνει. Έπειτα ελέγξτε το αυτόματα: συγκρίνετε κάθε απόσπασμα που παρατίθεται με τον ισχυρισμό που υποτίθεται ότι στηρίζει, και δώστε δείγμα των αποτελεσμάτων για ανθρώπινο έλεγχο. Παραπομπές που υπάρχουν αλλά δεν στηρίζουν τον ισχυρισμό είναι συχνή και αθόρυβη αποτυχία.

04Επικαιρότητα και κύρος της πηγής

Η γνώση ενός οργανισμού έχει εκδόσεις. Η παλιά εγκύκλιος για τις μετακινήσεις εκτός έδρας και εκείνη που την αντικατέστησε ταιριάζουν και οι δύο στην ερώτηση «δικαιούμαι ημερήσια αποζημίωση για μια μετακίνηση δύο ημερών;» και δίνουν διαφορετική απάντηση. Βάλτε στο ευρετήριο τα μεταδεδομένα που τις ξεχωρίζουν: ημερομηνία ισχύος, κατάσταση (σχέδιο, εγκεκριμένο, καταργημένο) και υπεύθυνο. Κατατάξτε πρώτα τα ισχύοντα, εγκεκριμένα έγγραφα, αποκλείστε τα καταργημένα εκτός αν ο χρήστης ζητά το ιστορικό, και δείχνετε την ημερομηνία σε κάθε παραπομπή. Για τη νομοθεσία, προτιμήστε το κείμενο όπως ισχύει και δείξτε ποια πράξη το τροποποίησε τελευταία.

Αποφασίστε ανά θέμα ποια πηγή έχει το κύρος. Η πολιτική προσωπικού προέρχεται από την πύλη της διεύθυνσης προσωπικού, όχι από ένα email που παραθέτει την περσινή της εκδοχή. Ορίστε ρυθμό επανευρετηρίασης ανά πηγή, από σχεδόν πραγματικό χρόνο για τα δεδομένα υποθέσεων έως ημερήσιο για ένα wiki, και παρακολουθήστε τον: ένα ευρετήριο που έχει μείνει πίσω παράγει απαντήσεις που φαίνονται σωστές και δεν είναι.

05Ειλικρινή κενά: «δεν βρήκα αξιόπιστη πηγή»

Συχνά η πιο πολύτιμη απάντηση είναι ένα ειλικρινές κενό. Τα γλωσσικά μοντέλα μπορούν να παράγουν άνετες διατυπώσεις που δεν στηρίζονται σε τίποτα, φαινόμενο που το NIST ονομάζει confabulation (ανοίγει εξωτερικό ιστότοπο) στο προφίλ του για την παραγωγική τεχνητή νοημοσύνη. Η στήριξη σε ανακτημένα αποσπάσματα το μειώνει, δεν το εξαλείφει. Το OWASP αντιμετωπίζει τη συνέπεια, δηλαδή ανθρώπους που ενεργούν με βάση λανθασμένα αποτελέσματα, ως αυτοτελή κίνδυνο με τον τίτλο παραπληροφόρηση (ανοίγει εξωτερικό ιστότοπο).

Ορίστε ένα όριο συνάφειας κάτω από το οποίο το σύστημα δηλώνει ότι δεν βρήκε αξιόπιστη πηγή και προτείνει πού να ρωτήσει ο χρήστης. Σε ερωτήσεις για πολιτικές, δικαιώματα ή υποχρεώσεις, μην αφήνετε το μοντέλο να καλύπτει κενά από γενικές γνώσεις. Έπειτα παρακολουθήστε το ποσοστό ερωτήσεων χωρίς απάντηση ανά θέμα. Τους πρώτους μήνες, αυτή η λίστα είναι συχνά το πιο χρήσιμο προϊόν όλου του έργου: δείχνει στους υπεύθυνους περιεχομένου πού ακριβώς λείπει τεκμηρίωση.

06Η αρχιτεκτονική πίσω από τις πέντε ιδιότητες

Τίποτα από αυτά δεν απαιτεί εξωτική τεχνολογία. Απαιτεί να είναι τα δικαιώματα, τα μεταδεδομένα και οι έλεγχοι βασικά μέρη της ροής επεξεργασίας και όχι λειτουργίες που προστέθηκαν μετά την παρουσίαση.

Τα δεδομένα προσωπικού χαρακτήρα χρειάζονται ρητή προσοχή. Ένα ευρετήριο εγγράφων εξακολουθεί να είναι επεξεργασία των δεδομένων που περιέχουν, οπότε ισχύουν οι αρχές του ΓΚΠΔ για τον περιορισμό του σκοπού και την ελαχιστοποίηση των δεδομένων (ανοίγει εξωτερικό ιστότοπο) (άρθρο 5), όπως τις συμπληρώνει στην Ελλάδα ο ν. 4624/2019 και τις εποπτεύει η Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα (ΑΠΔΠΧ). Αφήστε έξω πηγές που δεν χρειάζεται το σενάριο χρήσης, φροντίστε οι διαγραφές σε ένα σύστημα-πηγή να φτάνουν στο ευρετήριο και συμπεριλάβετε το ευρετήριο όταν απαντάτε σε αίτημα πρόσβασης.

Για έναν δημόσιο φορέα υπάρχει και ένα βήμα πριν από την έναρξη. Με τον ν. 5321/2026, κάθε δημόσιος φορέας που σκοπεύει να χρησιμοποιήσει σύστημα τεχνητής νοημοσύνης υποβάλλει δήλωση στο μητρώο συστημάτων ΤΝ της Ειδικής Γραμματείας Τεχνητής Νοημοσύνης και Διακυβέρνησης Δεδομένων πριν από τη θέση του σε λειτουργία. Ένας βοηθός γνώσης για μια γενική γραμματεία ή μια Περιφέρεια περιλαμβάνεται, οπότε προγραμματίστε τη δήλωση μαζί με τις δοκιμές.

07Μετρημένη ποιότητα, πριν και μετά τη θέση σε λειτουργία

Την αξιοπιστία δεν την κρίνετε δοκιμάζοντας μερικές ερωτήσεις σε μια σύσκεψη. Συμφωνήστε κριτήρια ποιότητας με όσους έχουν την ευθύνη του περιεχομένου και μετρήστε κάθε επίπεδο χωριστά, ώστε να ξέρετε πού να διορθώσετε ένα πρόβλημα.

Χτίστε το σύνολο δοκιμών από πραγματικές ερωτήσεις: αρχεία αναζητήσεων, αιτήματα προς το γραφείο υποστήριξης, ερωτήσεις που κάνουν οι νέοι συνάδελφοι. Μερικές εκατοντάδες ερωτήσεις με απαντήσεις που έχουν συμφωνήσει οι υπεύθυνοι περιεχομένου είναι ένα πρακτικό ξεκίνημα. Τρέξτε ολόκληρο το σύνολο σε κάθε αλλαγή, είτε νέο μοντέλο είτε νέο τρόπο τεμαχισμού είτε νέα πηγή. Η ποιότητα μετατοπίζεται αθόρυβα όταν αλλάζει το περιεχόμενο, και μόνο ένα σταθερό σύνολο δοκιμών κάνει αυτή τη μετατόπιση ορατή.

08Πώς φαίνεται η αξιοπιστία στον χρήστη

Για όσους τον χρησιμοποιούν, όλα αυτά καταλήγουν σε λίγες συμπεριφορές που φαίνονται. Ο βοηθός απαντά μόνο από έγγραφα που επιτρέπεται να διαβάσουν. Κάθε ισχυρισμός έχει παραπομπή που μπορούν να ανοίξουν. Βλέπουν πόσο πρόσφατη είναι μια πηγή. Ενημερώνονται καθαρά όταν δεν υπάρχει αξιόπιστη απάντηση. Και ξέρουν ότι κάποιος μετρά την ποιότητα, επειδή μπορούν να αναφέρουν μια λανθασμένη απάντηση και να δουν τη διόρθωσή της.

Τα αποτελέσματα της τεχνητής νοημοσύνης μπορεί να είναι λανθασμένα, και ορισμένες ερωτήσεις χρειάζονται άνθρωπο και όχι αναζήτηση. Ο σχεδιασμός που το λαμβάνει ανοικτά υπόψη δεν είναι αδυναμία του συστήματος. Είναι αυτό που κάνει τους ανθρώπους πρόθυμους να βασιστούν σε αυτό για όλα τα υπόλοιπα.