Πού χρειάζονται ανθρώπινη έγκριση οι πράκτορες ΤΝ

01Οι πράκτορες ενεργούν, άρα το ερώτημα αλλάζει

Ένας βοηθός συνομιλίας συντάσσει κείμενο και ένας άνθρωπος αποφασίζει τι θα κάνει με αυτό. Ένας πράκτορας τεχνητής νοημοσύνης πηγαίνει ένα βήμα πιο πέρα: καλεί εργαλεία. Ενημερώνει μια εγγραφή, κλείνει ένα ραντεβού, δρομολογεί μια υπόθεση, στέλνει ένα μήνυμα ή προετοιμάζει μια πληρωμή. Από τη στιγμή που το λογισμικό εκτελεί ενέργειες, το χρήσιμο ερώτημα δεν είναι μόνο «είναι καλή αυτή η απάντηση;» αλλά «ποιος λογοδοτεί για αυτή την ενέργεια και πότε συμφώνησε σε αυτήν;».

Η κοινότητα της ασφάλειας έχει όνομα για το λάθος σε αυτό το σημείο. Το OWASP Top 10 για εφαρμογές μεγάλων γλωσσικών μοντέλων κατατάσσει την υπερβολική αυτονομία (ανοίγει εξωτερικό ιστότοπο) στους βασικούς κινδύνους: έναν πράκτορα με περισσότερες λειτουργίες, περισσότερα δικαιώματα ή περισσότερη ελευθερία δράσης από όση απαιτεί η εργασία του. Η ανθρώπινη έγκριση είναι ένας από τους μηχανισμούς ελέγχου. Αν τη βάλετε παντού, η δουλειά καθυστερεί και οι χρήστες μαθαίνουν να πατούν «έγκριση» χωρίς να κοιτάξουν. Αν δεν τη βάλετε πουθενά, μένετε με ενέργειες που δεν αποφάσισε κανείς. Η δουλειά βρίσκεται στο πού θα την τοποθετήσετε.

02Ξεκινήστε από τις ενέργειες, όχι από το μοντέλο

Καταγράψτε κάθε εργαλείο που μπορεί να καλέσει ο πράκτορας. Για το καθένα απαντήστε σε τέσσερα ερωτήματα. Αφορούν σκόπιμα την ενέργεια και τις συνέπειές της, όχι το μοντέλο.

1. 01Αναστρέφεται; Και με ποιο κόστος: ένα κλικ, μια διορθωτική επιστολή, μια επιστροφή χρημάτων, μια δικαστική διαφορά;
2. 02Ποιον επηρεάζει; Ένα εσωτερικό σχέδιο, έναν συνάδελφο, έναν πελάτη ή πολίτη, χρήματα, τρίτους;
3. 03Δημιουργεί δέσμευση ή έννομο αποτέλεσμα; Μια απόφαση για ένα πρόσωπο, μια πληρωμή, μια σύμβαση, ένα μήνυμα που φεύγει στο όνομα του οργανισμού σας.
4. 04Πόσο συχνά και πόσο γρήγορα; Μια ενέργεια που γίνεται χιλιάδες φορές την ημέρα χρειάζεται διαφορετικό έλεγχο από μια ενέργεια που γίνεται δύο φορές την εβδομάδα.

Οι απαντήσεις κατατάσσουν κάθε ενέργεια σε μία από τέσσερις βαθμίδες. Οι περισσότεροι οργανισμοί διαπιστώνουν ότι λίγες ενέργειες συγκεντρώνουν σχεδόν όλο τον κίνδυνο. Αυτό είναι καλό νέο: εκεί ανήκει ο κόπος της έγκρισης.

Οι βαθμίδες είναι εργαλείο σχεδιασμού, όχι νομική κατάταξη. Ελέγξτε τις βαθμίδες με βάση τους κανόνες που ισχύουν για εσάς. Ο Γενικός Κανονισμός για την Προστασία Δεδομένων (ΓΚΠΔ) δίνει στα πρόσωπα συγκεκριμένα δικαιώματα απέναντι σε αποφάσεις που λαμβάνονται αποκλειστικά βάσει αυτοματοποιημένης επεξεργασίας (ανοίγει εξωτερικό ιστότοπο) και παράγουν έννομα αποτελέσματα ή επηρεάζουν σημαντικά με παρόμοιο τρόπο (άρθρο 22). Στην Ελλάδα τον ΓΚΠΔ συμπληρώνει ο ν. 4624/2019. Για τα συστήματα υψηλού κινδύνου, ο Κανονισμός για την τεχνητή νοημοσύνη (AI Act) απαιτεί να μπορούν να εποπτεύονται αποτελεσματικά από φυσικά πρόσωπα (ανοίγει εξωτερικό ιστότοπο) (άρθρο 14). Στη βαθμίδα 4 καταλήγουν συνήθως αυτές οι υποχρεώσεις.

Με τον ν. 5321/2026, η Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα (ΑΠΔΠΧ) είναι η αρχή εποπτείας της αγοράς για τα συστήματα υψηλού κινδύνου του Παραρτήματος III. Ένας πράκτορας που προετοιμάζει αποφάσεις για παροχές ή για αιτήσεις πολιτών μπορεί να ανήκει σε αυτή την κατηγορία. Για έναν ελληνικό δημόσιο φορέα, λοιπόν, η βαθμίδα 4 δεν είναι απλώς καλή πρακτική.

Δύο ενδεικτικά παραδείγματα

• Αιτήσεις για άδεια λειτουργίας καταστήματος σε έναν δήμο. Ο πράκτορας ελέγχει αν η αίτηση είναι πλήρης, αν έχουν επισυναφθεί τα δικαιολογητικά και αν τα στοιχεία συμφωνούν μεταξύ τους, και συντάσσει σημείωμα για τον φάκελο (βαθμίδα 2). Το αίτημα συμπλήρωσης προς τον αιτούντα το εγκρίνει ο αρμόδιος υπάλληλος (βαθμίδα 3). Τη χορήγηση ή την απόρριψη της άδειας την αποφασίζει ο αρμόδιος υπάλληλος (βαθμίδα 4).
• Εισερχόμενα ηλεκτρονικά τιμολόγια σε μια εταιρεία χονδρικής. Με την υποχρεωτική ηλεκτρονική τιμολόγηση του 2026, τα τιμολόγια των προμηθευτών φτάνουν ως δομημένα αρχεία. Ο πράκτορας τα αντιστοιχίζει με την παραγγελία και την παραλαβή και ετοιμάζει την καταχώριση στο ERP (βαθμίδα 2). Αποκλίσεις σε τιμή ή ποσότητα πηγαίνουν για έγκριση στο λογιστήριο (βαθμίδα 3), και κάθε πληρωμή πάνω από το όριο που ορίζει η οικονομική διεύθυνση μένει σε απόφαση ανθρώπου (βαθμίδα 4).

03Σήματα που πρέπει πάντα να φτάνουν σε άνθρωπο

Ορισμένες καταστάσεις πρέπει να ανεβάζουν μια ενέργεια κατά μία βαθμίδα, όπου κι αν βρίσκεται συνήθως. Χτίστε αυτούς τους ελέγχους ρητά μέσα στη ροή εργασιών, ώστε να μην εξαρτώνται από το αν θα τους προσέξει ο πράκτορας.

• Τα δεδομένα εισόδου βγαίνουν εκτός του εύρους στο οποίο δοκιμάστηκε ο πράκτορας: νέος τύπος εγγράφου, ασυνήθιστη γλώσσα, πεδία που λείπουν ή αντιφάσκουν.
• Οι πηγές που ανέκτησε ο πράκτορας συγκρούονται ή η προτεινόμενη ενέργεια στηρίζεται σε κάτι που δεν μπορεί να παραθέσει.
• Το ποσό, το εύρος ή ο αριθμός των εγγραφών που επηρεάζονται ξεπερνά ένα όριο που έχετε ορίσει.
• Η υπόθεση αγγίζει ευαίσθητη κατηγορία: δεδομένα υγείας, ανηλίκους, καταγγελία, διαφορά ή εκκρεμή προσφυγή.
• Ο πράκτορας έχει ήδη επαναλάβει την προσπάθεια ή ένα σύστημα πιο κάτω στη ροή επέστρεψε σφάλμα.

Ένα σήμα λείπει σκόπιμα από τη λίστα: η βεβαιότητα που δηλώνει το ίδιο το μοντέλο. Τα γλωσσικά μοντέλα μπορούν να διατυπώνουν λάθη με ευχέρεια, φαινόμενο που το National Institute of Standards and Technology των ΗΠΑ ονομάζει confabulation (ανοίγει εξωτερικό ιστότοπο) στο προφίλ κινδύνων του για την παραγωγική τεχνητή νοημοσύνη. Μια βαθμολογία που δίνει το ίδιο το μοντέλο μπορεί να είναι ένα από τα δεδομένα, αλλά πρέπει να στέκεται δίπλα σε εξωτερικούς ελέγχους, όπως κανόνες επικύρωσης και σύγκριση με το σύστημα αναφοράς, και ποτέ να μην τους αντικαθιστά.

04Μια έγκριση που οι άνθρωποι μπορούν πραγματικά να δώσουν

Μια ατελείωτη σειρά από ερωτήσεις «εγκρίνετε;» μαθαίνει στους ανθρώπους να εγκρίνουν. Ο Κανονισμός για την τεχνητή νοημοσύνη ονομάζει τον κίνδυνο ευθέως: όσοι εποπτεύουν ένα σύστημα υψηλού κινδύνου πρέπει να έχουν επίγνωση της μεροληψίας αυτοματισμού.

Τέσσερις επιλογές σχεδιασμού κάνουν αυτή την επίγνωση πρακτική.

Δείξτε τα στοιχεία, όχι μόνο την απάντηση

Παρουσιάστε την προτεινόμενη ενέργεια σε απλά λόγια, τις πηγές στις οποίες στηρίζεται (με συνδέσμους που ανοίγουν στο σωστό απόσπασμα), τον κανόνα ή την πολιτική που εφάρμοσε και τι ακριβώς θα αλλάξει σε ποιο σύστημα. Όποιος πρέπει να ανοίξει τρεις εφαρμογές για να ελέγξει μια πρόταση θα σταματήσει να ελέγχει μόλις τον πιέσει ο χρόνος.

Κάντε το «όχι» τόσο εύκολο όσο το «ναι»

Η απόρριψη και η διόρθωση είναι κανονικές εκβάσεις, όχι εξαιρέσεις. Βάλτε την απόρριψη και τη διόρθωση δίπλα στην έγκριση, ζητήστε μια σύντομη αιτιολογία όταν κάποιος απορρίπτει και αξιοποιήστε αυτές τις αιτιολογίες στην αξιολόγηση. Αν η διόρθωση μιας πρότασης είναι πιο κοπιαστική από τη σύνταξή της από την αρχή, οι χρήστες θα εγκρίνουν ατελείς προτάσεις.

Αναθέστε την έγκριση σε ρόλο με εξουσία

Η έγκριση ανήκει σε έναν ορισμένο ρόλο με την ικανότητα, την κατάρτιση και την εξουσία να παρακάμψει το σύστημα. Για τα συστήματα ΤΝ υψηλού κινδύνου αυτό ακριβώς ζητά ο Κανονισμός από τους φορείς εφαρμογής (άρθρο 26 παράγραφος 2 (ανοίγει εξωτερικό ιστότοπο)). Σε έναν δήμο, για παράδειγμα, η έγκριση ανήκει στον αρμόδιο υπάλληλο ή στον προϊστάμενο της υπηρεσίας, όχι σε ένα κοινό γραμματοκιβώτιο. Ορίστε αναπληρωτή και διαδρομή κλιμάκωσης, και μετρήστε πόσο περιμένουν οι υποθέσεις. Μια ουρά που δεν ανήκει σε κανέναν γίνεται το σημείο συμφόρησης που σπρώχνει τις ομάδες να παρακάμπτουν τον έλεγχο.

Ομαδοποιήστε μόνο ό,τι είναι πραγματικά χαμηλού κινδύνου

Ο έλεγχος σαράντα σχεδόν ίδιων στοιχείων ένα προς ένα δεν κάνει κανέναν πιο προσεκτικό. Για τις ενέργειες της βαθμίδας 2, επιτρέψτε ομαδικό έλεγχο με τυχαία δειγματοληψία. Τα στοιχεία των βαθμίδων 3 και 4 ελέγχονται ένα ένα.

05Επιβάλετε το σημείο έγκρισης στο σύστημα, όχι στην εντολή

Μια οδηγία μέσα στην εντολή (prompt) του μοντέλου δεν είναι έλεγχος πρόσβασης. Κείμενο που διαβάζει ο πράκτορας, όπως ένα email, ένα έγγραφο ή μια ιστοσελίδα, μπορεί να περιέχει δικές του οδηγίες, κάτι που το OWASP περιγράφει ως έγχυση εντολών (ανοίγει εξωτερικό ιστότοπο). Αν το μόνο που στέκεται ανάμεσα σε έναν πράκτορα και σε μια μη αναστρέψιμη ενέργεια είναι μια πρόταση στις οδηγίες του, υποθέστε ότι κάποια μέρα θα παρακαμφθεί.

• Δώστε στον πράκτορα δική του ταυτότητα με τα ελάχιστα δικαιώματα που χρειάζεται κάθε εργαλείο, και αφήστε τον να ενεργεί μέσα στα δικαιώματα του χρήστη που υποβάλλει το αίτημα, όπου η πλατφόρμα το υποστηρίζει.
• Επιβάλετε τις εγκρίσεις στο επίπεδο διασύνδεσης: η υπηρεσία που στέλνει την επιστολή αρνείται την κλήση αν δεν υπάρχει έγκυρη εγγραφή έγκρισης για τη συγκεκριμένη ενέργεια.
• Βάλτε όρια αξίας, όγκου και συχνότητας στα εργαλεία, ανεξάρτητα από τον πράκτορα.
• Κρατήστε χωριστά τα εργαλεία ανάγνωσης και εγγραφής, ώστε να διευρύνετε όσα βλέπει ο πράκτορας χωρίς να διευρύνετε όσα μπορεί να κάνει.

06Καταγράψτε όσα θα χρειαστεί να εξηγήσετε αργότερα

Για κάθε εκτέλεση του πράκτορα κρατήστε το αίτημα, τις πηγές που ανακτήθηκαν, κάθε κλήση εργαλείου με τις παραμέτρους της, την προτεινόμενη ενέργεια, αυτόν που ενέκρινε, την απόφαση, τυχόν διορθώσεις και τις χρονοσφραγίδες. Για τα συστήματα ΤΝ υψηλού κινδύνου, οι φορείς εφαρμογής τηρούν τα αρχεία καταγραφής που δημιουργούνται αυτόματα για τουλάχιστον έξι μήνες, εκτός αν άλλο δίκαιο ορίζει διαφορετικά (άρθρο 26 παράγραφος 6 (ανοίγει εξωτερικό ιστότοπο)). Όπου κανένας κανόνας δεν το απαιτεί, κρατήστε τα ούτως ή άλλως: από το αρχείο καταγραφής μαθαίνετε.

Εξετάστε τα αρχεία καταγραφής σε σταθερό ρυθμό. Ενέργειες που εγκρίνονται πάντα χωρίς αλλαγές είναι υποψήφιες για χαμηλότερη βαθμίδα. Ενέργειες που διορθώνονται συχνά δείχνουν αδυναμία του πράκτορα ή ανήκουν μία βαθμίδα ψηλότερα. Απορρίψεις που συγκεντρώνονται γύρω από μία πηγή, ένα έντυπο ή μία ομάδα συνήθως αποκαλύπτουν πρόβλημα διαδικασίας που κανένα μοντέλο δεν θα λύσει.

07Ξεκινήστε αυστηρά και μεταφέρετε σταδιακά ενέργειες σε χαμηλότερη βαθμίδα

Ξεκινήστε με τις περισσότερες ενέργειες που έχουν σοβαρές συνέπειες τοποθετημένες στις βαθμίδες 3 και 4. Συμφωνήστε από πριν τι θεωρείται καλό αποτέλεσμα: ποιες εκβάσεις μετρούν ως σωστές, ποια λάθη είναι αποδεκτά και ποια όχι. Έπειτα μετρήστε με βάση αυτά τα κριτήρια, για παράδειγμα με τις λειτουργίες μέτρησης του πλαισίου διαχείρισης κινδύνων ΤΝ του NIST (ανοίγει εξωτερικό ιστότοπο) ως λίστα ελέγχου.

Μετακινήστε μια ενέργεια σε ελαφρύτερη βαθμίδα μόνο με στοιχεία: μια περίοδο κατά την οποία οι εγκρίσεις δεν χρειάστηκαν ουσιαστικές διορθώσεις, δοκιμές στις περιπτώσεις που πήγαν στραβά και τη σύμφωνη γνώμη του υπεύθυνου της διαδικασίας. Καταγράψτε αυτή την απόφαση όπως κάθε άλλη αλλαγή του συστήματος και κρατήστε τη δυνατότητα να την αναστρέψετε.

Τα αποτελέσματα της τεχνητής νοημοσύνης μπορεί να είναι λανθασμένα. Αυτό δεν είναι λόγος να κρατάτε τους πράκτορες μακριά από την πραγματική δουλειά. Είναι ο λόγος να σχεδιάζετε πού οι άνθρωποι κρατούν τον έλεγχο. Οι πράκτορες είναι χρήσιμοι επειδή μπορούν να ενεργούν. Η προσεκτική τοποθέτηση των σημείων έγκρισης είναι αυτό που σας επιτρέπει να τους αναθέτετε περισσότερα με τον καιρό.