Menentukan Titik Persetujuan Manusia dalam Workflow AI

Workflow AI yang rapi memerlukan pembagian kewenangan. Sebagian pekerjaan dapat berjalan sebagai persiapan, sementara keputusan tertentu harus menunggu manusia. Titik persetujuan perlu dirancang berdasarkan dampak tindakan, kemampuan memulihkan kesalahan, dan informasi yang tersedia. Jika semua langkah menunggu persetujuan, proses menjadi lambat; jika semuanya otomatis, tanggung jawab bisa menjadi kabur.

Bedakan draf dan tindakan nyata

Membuat draf balasan pelanggan berbeda dari mengirimnya. Menyusun konfigurasi berbeda dari mengaktifkannya di sistem produksi. Tandai perbedaan tersebut dalam peta workflow agar agent dan reviewer memahami kapan hasil masih dapat diubah dengan mudah dan kapan tindakan mulai memengaruhi pihak lain.

Contohnya, usaha pelatihan menggunakan AI untuk menyiapkan penawaran. Agent boleh merangkum kebutuhan dan membuat draf paket berdasarkan daftar layanan. Diskon khusus, janji jadwal, dan pengiriman penawaran harus mengikuti kewenangan pemilik. Batas ini membantu tim memanfaatkan kecepatan AI tanpa memberikan janji yang belum disetujui.

Siapkan bahan untuk orang yang menyetujui

Persetujuan sebaiknya diberikan pada hasil yang dapat dibaca dan dibandingkan. Reviewer membutuhkan ringkasan tujuan, perubahan yang diusulkan, dampak, serta hal yang belum pasti. Bila persetujuan hanya berupa tombol tanpa konteks, orang cenderung menerima proses tanpa menilai akibatnya.

• Sebutkan tindakan yang akan dijalankan setelah disetujui.
• Tampilkan nilai, tujuan, atau objek yang akan berubah.
• Jelaskan hasil pemeriksaan dan keterbatasan bukti.
• Berikan pilihan memperbaiki, menolak, atau meminta penjelasan.
• Catat siapa yang memberi keputusan dan kapan.

Tetapkan pengganti ketika reviewer utama tidak tersedia. Pengganti tetap perlu mempunyai kewenangan yang sesuai; status “sedang online” tidak otomatis berarti boleh mengambil keputusan bisnis.

Uji ketika persetujuan tidak diberikan

Periksa apakah workflow berhenti dengan jelas saat keputusan ditolak, kedaluwarsa, atau belum dijawab. Sistem tidak boleh menganggap diam sebagai persetujuan. Jika data berubah selama menunggu, tampilkan bahan yang terbaru sebelum tindakan dijalankan agar keputusan lama tidak dipakai untuk konteks berbeda.

Lakukan simulasi dengan tindakan yang aman, misalnya draf pengumuman internal. Amati apakah peserta memahami yang mereka setujui dan dapat kembali untuk mengoreksi. Setelah pilot, kurangi persetujuan yang tidak memberi nilai dan pertahankan yang menjaga keputusan penting. Pembagian peran ini perlu direview ketika workflow mendapat akses baru atau cakupan layanannya bertambah. AI membantu menyiapkan keputusan, sedangkan tanggung jawab penerimaan tetap perlu terlihat dalam proses tim.

Sumber dan bacaan

• NIST: AI Risk Management Framework.