Bila ejen AI memerlukan kelulusan manusia

01Ejen bertindak, jadi persoalannya berubah

Pembantu sembang menyediakan draf teks dan seseorang memutuskan apa yang perlu dilakukan dengannya. Ejen AI pergi lebih jauh: ia memanggil alat. Ia mengemas kini rekod, menempah slot temu janji, menghalakan kes, menghantar mesej atau menyediakan pembayaran. Sebaik sahaja perisian mengambil tindakan, persoalan yang berguna bukan lagi sekadar “adakah jawapan ini betul?” tetapi “siapakah yang bertanggungjawab atas tindakan ini, dan bilakah mereka bersetuju?”

Komuniti keselamatan siber mempunyai nama bagi kesilapan ini. Senarai OWASP Top 10 bagi aplikasi model bahasa besar menyenaraikan agensi berlebihan (excessive agency) (membuka laman web luar) sebagai risiko utama: ejen yang mempunyai lebih banyak fungsi, kebenaran atau autonomi daripada yang diperlukan oleh tugasnya. Kelulusan manusia ialah salah satu kawalannya. Jika digunakan di semua tempat, ia melambatkan kerja dan membiasakan orang menekan “lulus”. Jika tidak digunakan langsung, organisasi anda berdepan dengan tindakan yang tidak diputuskan oleh sesiapa. Kerja sebenar terletak pada penempatannya.

02Mulakan dengan tindakan, bukan dengan model

Senaraikan setiap alat yang boleh dipanggil oleh ejen. Bagi setiap alat, jawab empat soalan. Soalan ini sengaja berkisar pada tindakan dan kesannya, bukan pada model.

1. 01Bolehkah ia dibatalkan? Dan pada kos apa: satu klik, surat pembetulan, bayaran balik atau kes mahkamah?
2. 02Siapa yang terjejas? Draf dalaman, rakan sekerja, pelanggan atau orang awam, wang, atau pihak ketiga?
3. 03Adakah ia mewujudkan komitmen atau kesan undang-undang? Keputusan tentang seseorang, pembayaran, kontrak, atau mesej yang dihantar atas nama organisasi anda.
4. 04Berapa kerap dan berapa pantas? Tindakan yang berlaku beribu-ribu kali sehari memerlukan kawalan yang berbeza daripada tindakan yang berlaku dua kali seminggu.

Jawapannya meletakkan setiap tindakan dalam salah satu daripada empat peringkat. Kebanyakan organisasi mendapati bahawa segelintir tindakan membawa hampir semua risiko. Itu berita baik: di situlah usaha kelulusan patut ditumpukan.

Dua contoh ilustrasi. Di sebuah syarikat pengedaran, ejen memadankan invois pembekal dengan pesanan pembelian dan menandakan percanggahan (peringkat 2), tetapi pembayaran melebihi amaun yang ditetapkan menunggu kelulusan pegawai kewangan (peringkat 3 atau 4). Di sebuah pihak berkuasa tempatan, ejen menyemak kelengkapan permohonan permit dan menyediakan ringkasan, manakala pegawai yang memutuskan permohonan itu (peringkat 4).

Peringkat ini ialah alat reka bentuk, bukan klasifikasi undang-undang. Semak peringkat ini dengan peraturan yang terpakai kepada anda. Di Kesatuan Eropah, GDPR memberikan hak khusus kepada individu berhubung keputusan berdasarkan semata-mata pemprosesan automatik (membuka laman web luar) yang menghasilkan kesan undang-undang atau kesan ketara yang serupa (Perkara 22). Bagi sistem berisiko tinggi, Akta AI Kesatuan Eropah menghendaki sistem itu boleh diawasi dengan berkesan oleh manusia (membuka laman web luar) (Perkara 14). Kewajipan ini biasanya jatuh pada peringkat 4.

Kedua-dua peraturan EU ini bukan undang-undang Malaysia, tetapi boleh sampai kepada organisasi di Malaysia. GDPR terpakai kepada organisasi di luar EU yang menawarkan barangan atau perkhidmatan kepada individu di EU atau memantau tingkah laku mereka di sana (Perkara 3(2)). Akta AI Kesatuan Eropah terpakai kepada penyedia dan pengguna sistem AI di luar EU apabila output sistem itu digunakan di EU (Perkara 2(1)). Di Malaysia, Garis Panduan Tadbir Urus dan Etika Kecerdasan Buatan (AIGE) terbitan MOSTI ialah panduan sukarela. Apabila ejen memproses data peribadi berkaitan transaksi komersial, Akta Perlindungan Data Peribadi 2010 (Akta 709) terpakai: individu diberi notis tentang data yang diproses dan tujuannya (seksyen 7), dan pemprosesan memerlukan persetujuan mereka kecuali dalam keadaan yang dikecualikan oleh Akta (seksyen 6).

03Isyarat yang perlu sentiasa sampai kepada manusia

Sesetengah keadaan perlu menaikkan tindakan ke peringkat yang lebih tinggi, walau di mana pun tempat biasanya. Bina keadaan ini sebagai semakan yang jelas dalam aliran kerja, supaya ia tidak bergantung pada ejen untuk menyedarinya.

• Input berada di luar perkara yang telah diuji pada ejen: jenis dokumen baharu, bahasa yang luar biasa, medan yang tiada atau bercanggah.
• Sumber yang diperoleh ejen bercanggah, atau tindakan yang dicadangkan bergantung pada sesuatu yang tidak dapat dirujuk oleh ejen.
• Amaun, skop atau bilangan rekod yang terjejas melebihi ambang yang anda tetapkan.
• Kes itu menyentuh kategori sensitif: data kesihatan, kanak-kanak, aduan, pertikaian atau rayuan yang sedang berjalan.
• Ejen telah mencuba semula, atau sistem hiliran mengembalikan ralat.

Satu isyarat sengaja tidak dimasukkan dalam senarai itu: tahap keyakinan model itu sendiri. Model bahasa boleh menyatakan perkara yang salah dengan lancar, yang digelar konfabulasi (membuka laman web luar) oleh Institut Piawaian dan Teknologi Kebangsaan Amerika Syarikat (NIST) dalam profil risiko AI generatifnya. Skor yang dilaporkan sendiri oleh model boleh menjadi satu input, tetapi ia perlu disertai semakan luaran, seperti peraturan pengesahan dan perbandingan dengan sistem rekod, dan tidak boleh menggantikannya.

04Mereka bentuk kelulusan yang benar-benar boleh diberikan

Permintaan “luluskan?” yang datang tanpa henti membiasakan orang untuk meluluskan. Akta AI Kesatuan Eropah menamakan risiko ini secara langsung: orang yang mengawasi sistem berisiko tinggi mesti dapat kekal sedar tentang bias automasi.

Perkara 14(4)(b) Peraturan (EU) 2024/1689 menghuraikan risiko itu sebagai kecenderungan untuk bergantung, atau terlalu bergantung, secara automatik pada output sistem. Ini huraian kami, kerana akta tersebut tidak mempunyai teks rasmi dalam bahasa Melayu.

Empat pilihan reka bentuk menjadikan kesedaran itu praktikal.

Tunjukkan bukti, bukan jawapan sahaja

Paparkan tindakan yang dicadangkan dalam bahasa yang mudah, sumber yang menjadi asasnya (dengan pautan yang terbuka pada petikan yang betul), peraturan atau dasar yang dipakai, dan apa sebenarnya yang akan berubah dalam sistem yang mana. Penyemak yang perlu membuka tiga aplikasi untuk menyemak satu cadangan akan berhenti menyemak apabila masa terhad.

Jadikan “tidak” semudah “ya”

Menolak dan menyunting ialah hasil biasa, bukan pengecualian. Letakkan kedua-duanya di sebelah butang lulus, minta sebab ringkas apabila seseorang menolak, dan gunakan sebab itu dalam penilaian. Jika menyunting cadangan lebih sukar daripada menulisnya semula, orang akan meluluskan cadangan yang tidak sempurna.

Berikan kelulusan kepada peranan yang berkuasa

Kelulusan dimiliki oleh peranan yang dinamakan, dengan kecekapan, latihan dan kuasa untuk mengatasi keputusan sistem; bagi sistem AI berisiko tinggi, Akta AI Kesatuan Eropah meminta perkara ini daripada pengguna sistem (Perkara 26(2) (membuka laman web luar)). Tetapkan pengganti dan laluan eskalasi, dan ukur berapa lama item menunggu. Baris gilir yang tidak dimiliki sesiapa menjadi kesesakan yang mendorong pasukan memintas titik kelulusan.

Semak secara berkelompok hanya perkara yang benar-benar berisiko rendah

Menyemak empat puluh item yang hampir sama satu demi satu tidak menjadikan sesiapa lebih teliti. Bagi tindakan peringkat 2, benarkan semakan berkelompok dengan persampelan rawak. Kekalkan semakan individu bagi item peringkat 3 dan 4.

05Kuatkuasakan titik kelulusan dalam sistem, bukan dalam gesaan

Arahan dalam gesaan bukan kawalan akses. Teks yang dibaca oleh ejen, seperti e-mel, dokumen atau laman web, boleh mengandungi arahan tersendiri, yang dihuraikan oleh OWASP sebagai suntikan gesaan (prompt injection) (membuka laman web luar). Jika satu-satunya penghalang antara ejen dan tindakan yang tidak boleh dibatalkan ialah satu ayat dalam arahannya, anggaplah ayat itu suatu hari nanti akan diatasi.

• Berikan ejen identiti sendiri dengan keistimewaan paling minimum yang diperlukan oleh setiap alat, dan biarkan ejen bertindak dalam had hak pengguna yang membuat permintaan jika platform menyokongnya.
• Kuatkuasakan kelulusan dalam lapisan integrasi: perkhidmatan yang menghantar surat menolak panggilan itu melainkan wujud rekod kelulusan yang sah bagi tindakan yang tepat itu.
• Tetapkan had nilai, jumlah dan kadar pada alat, secara bebas daripada ejen.
• Asingkan alat membaca daripada alat menulis, supaya anda boleh meluaskan apa yang boleh dilihat oleh ejen tanpa meluaskan apa yang boleh dilakukannya.

06Rekodkan apa yang perlu anda jelaskan kemudian

Bagi setiap larian ejen, simpan permintaan, sumber yang diperoleh, setiap panggilan alat bersama parameternya, tindakan yang dicadangkan, pelulus, keputusan, sebarang suntingan dan cap masa. Bagi sistem AI berisiko tinggi, pengguna sistem di bawah Akta AI Kesatuan Eropah mesti menyimpan log yang dijana secara automatik sekurang-kurangnya enam bulan, melainkan undang-undang lain menetapkan sebaliknya (Perkara 26(6) (membuka laman web luar)). Jika tiada peraturan yang mewajibkannya, simpan juga: log ialah cara anda belajar. Jika log mengandungi data peribadi, prinsip keselamatan PDPA juga terpakai kepada log itu.

Semak log mengikut jadual yang tetap. Tindakan yang sentiasa diluluskan tanpa perubahan ialah calon untuk diturunkan satu peringkat. Tindakan yang kerap disunting menunjukkan kelemahan pada ejen, atau sepatutnya berada satu peringkat lebih tinggi. Penolakan yang tertumpu pada satu sumber, satu borang atau satu pasukan biasanya mendedahkan masalah proses yang tidak dapat diselesaikan oleh mana-mana model.

07Mulakan secara terhad, kemudian turunkan tindakan satu peringkat

Mulakan dengan kebanyakan tindakan yang berakibat besar dalam peringkat 3 dan 4. Persetujui terlebih dahulu apa yang dianggap baik: hasil yang dikira betul, ralat yang boleh diterima dan ralat yang tidak boleh diterima. Kemudian ukur berdasarkan kriteria itu, contohnya dengan menggunakan fungsi pengukuran dalam Rangka Kerja Pengurusan Risiko AI NIST (membuka laman web luar) sebagai senarai semak.

Alihkan tindakan ke peringkat yang lebih ringan hanya dengan bukti: satu tempoh apabila kelulusan tidak memerlukan suntingan yang ketara, ujian pada kes yang pernah gagal, dan pengesahan daripada pemilik proses. Rekodkan keputusan itu seperti perubahan lain pada sistem, dan kekalkan pilihan untuk mengembalikannya.

Output AI boleh salah. Itu bukan sebab untuk menjauhkan ejen daripada kerja sebenar; itulah sebabnya kita mereka bentuk tempat manusia kekal memegang kawalan. Ejen berguna kerana ia boleh bertindak. Meletakkan titik kelulusan dengan sengaja membolehkan anda memberikan lebih banyak kerja kepada ejen dari semasa ke semasa.