Membatasi Akses Agent AI Sesuai Tugasnya

Agent AI dapat membaca file, memakai alat, dan menjalankan langkah kerja sesuai lingkungan yang diberikan. Karena itu, batas akses perlu mengikuti tugas yang sedang dikerjakan. Memberikan akses luas sejak awal mungkin terasa praktis, tetapi membuat dampak kesalahan lebih besar dan menyulitkan tim memahami tindakan mana yang sebenarnya diperlukan.

Mulai dari tugas paling sempit

Jika agent hanya diminta merangkum katalog produk, akses baca pada katalog biasanya cukup. Ia tidak memerlukan akses untuk mengubah harga, mengirim pesan pelanggan, atau menghapus pesanan. Petakan data yang dibutuhkan dan tindakan yang diizinkan sebelum menghubungkan agent dengan sistem lain.

Contoh tim desain meminta agent mengecek konsistensi judul halaman. Agent dapat bekerja pada salinan source dan memberikan laporan. Aktivasi hasil di website publik dilakukan melalui proses rilis tim. Pemisahan tersebut menyediakan ruang untuk memeriksa perubahan tanpa langsung memengaruhi pengunjung.

Pisahkan informasi dan kewenangan

Mengetahui bahwa sebuah kredensial ada tidak berarti agent boleh memakainya. Aturan akses harus menyebut sumber yang boleh dibaca, tujuan penggunaan, dan tindakan yang memerlukan persetujuan. Gunakan mekanisme penyediaan rahasia yang sudah tersedia di lingkungan kerja; jangan menempelkan token ke instruksi atau laporan.

• Berikan akses baca ketika tugas hanya memerlukan analisis.
• Gunakan lingkungan latihan untuk percobaan yang mengubah sistem.
• Batasi sumber data pada bagian yang relevan dengan pekerjaan.
• Tentukan durasi akses serta cara mencabutnya setelah selesai.
• Catat permintaan izin tambahan beserta alasan operasionalnya.

Jika tugas membutuhkan perluasan akses, reviewer perlu menilai kebutuhan tersebut sebelum akses diberikan. Penambahan alat juga mengubah kemampuan agent, sehingga batas lama harus diperiksa kembali.

Periksa perilaku saat akses ditolak

Coba skenario ketika agent tidak dapat membaca sumber atau menjalankan tindakan tertentu. Hasil yang benar adalah penjelasan keterbatasan dan langkah alternatif yang sah. Agent tidak boleh membuat data pengganti seolah-olah sumber berhasil dibaca atau memakai jalur lain untuk melewati pembatasan.

Review catatan tindakan setelah pekerjaan selesai. Cocokkan penggunaan alat dengan tujuan tugas, lalu cabut akses sementara yang sudah tidak diperlukan. Pembatasan akses tidak menjamin keluaran AI selalu benar, tetapi mengurangi luas dampak ketika terjadi kesalahan. Tim tetap perlu memeriksa hasil, terutama saat agent menyiapkan perubahan yang akan menyentuh data pelanggan, konfigurasi layanan, atau keputusan bisnis penting.

Sumber dan bacaan

• OWASP: akses terbatas dan pengelolaan rahasia.