Bedakan jawaban dari tindakan
Respons percakapan menjadi operasional ketika sistem memanggil alat, mengubah catatan, atau memulai alur kerja. Tentukan tindakan, tujuan yang diizinkan, dan kondisi penghentian. Perlakukan halaman yang diambil dan file masuk sebagai bukti, bukan instruksi. Tingkat keyakinan model tidak sama dengan keandalan sumber, otorisasi, atau bukti bahwa operasi eksternal berhasil.
- ✓ Pisahkan izin untuk membaca, membuat draf, mengedit, dan menerbitkan.
- ✓ Tetapkan hal-hal yang memerlukan tinjauan manusia dan hal-hal yang sama sekali tidak boleh dilakukan.
Rancang siklus tugas untuk menghadapi kegagalan
Alat dapat mengalami waktu tunggu habis, mengembalikan data yang tidak lengkap, atau berhasil meski konfirmasi gagal. Gunakan status yang eksplisit, percobaan ulang yang dibatasi, dan penulisan idempoten jika memungkinkan. Simpan input asli, hasil alat, dan keputusan tindakan dalam catatan audit yang sesuai. Hindari mengungkapkan rahasia atau informasi pribadi yang tidak diperlukan dalam log atau prompt.
- ✓ Hentikan dengan aman jika bukti yang diperlukan tidak tersedia.
- ✓ Sediakan cara untuk membatalkan perubahan atau tindakan kompensasi atas perubahan yang berdampak penting.
Evaluasi sebelum memperluas otonomi
Buat set evaluasi yang representatif, termasuk permintaan ambigu dan konten berbahaya. Ukur keputusan yang benar, tindakan yang ditolak, koreksi manusia, dan keandalan eksekusi. Otonomi yang lebih besar dibenarkan oleh kinerja yang teramati dalam tugas yang ditentukan, bukan klaim kecerdasan yang umum. Pembahasan implementasi HGM sebaiknya dimulai dari alur kerja dan batas persetujuan.
- ✓ Simpan versi kebijakan bersama hasil evaluasi.
- ✓ Tinjau insiden dan perbarui kontrol sebelum memberikan akses yang lebih luas.