Tetap Pegang Kendali atas AI Agent: Begini Cara Kerja Human in the Loop

Jumat sore, Bu Rina antre boarding di Soekarno-Hatta ketika grup WhatsApp keuangan berbunyi. "Bu, transfer ke supplier kemasan ini di-ACC ya?" Lampirannya foto invoice buram. Ia membalas "OK" sambil berjalan ke pesawat.

Senin pagi baru ketahuan: invoice itu sudah pernah dibayar, hanya dikirim ulang dengan nomor lain. Uangnya sudah keluar lewat transfer bank.

Serahkan pekerjaan yang sama ke AI agent tanpa human in the loop, dan kesalahan serupa bisa terjadi lebih cepat. Sebaliknya, kalau agent wajib menunggu "OK" untuk setiap langkah, ia hanya memindahkan antrean ke HP pemilik. Masalah sebenarnya ada di desain persetujuannya.

Human in the loop adalah cara merancang AI agent agar ia mengerjakan bagian persiapan (membaca dokumen, mencocokkan angka, menyusun draf balasan), lalu berhenti dan menunggu keputusan manusia sebelum melakukan tindakan yang tidak bisa dibatalkan. Tujuannya bukan menyetujui setiap langkah AI, melainkan menentukan dengan sadar tindakan mana yang boleh jalan sendiri, mana yang cukup Anda setujui dengan satu tombol, dan mana yang sepenuhnya tetap di tangan Anda.

Perusahaan yang unggul dengan AI lebih sering punya aturan kapan hasilnya dicek

Anggapan umumnya, bisnis yang paling maju adalah yang paling berani melepas AI. Datanya berkata lain. Dalam survei global McKinsey, sekitar 65% perusahaan yang tergolong "AI high performer" punya proses baku tentang kapan hasil AI wajib dicek manusia, dibandingkan sekitar 23% di perusahaan lain (Sumber: McKinsey, 2025). Survei yang sama mencatat sekitar 51% organisasi pernah mengalami setidaknya satu dampak negatif dari AI (Sumber: McKinsey, 2025).

Regulasi di Indonesia mengarah ke tempat yang sama. Surat Edaran Menkominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial menyatakan AI tidak dijalankan sebagai pengambil keputusan atas hal yang menyangkut manusia (Sumber: JDIH Kemkomdigi, 2023). UU PDP Pasal 10 memberi pelanggan hak menolak keputusan yang sepenuhnya otomatis bila dampaknya signifikan bagi mereka (Sumber: UU No. 27 Tahun 2022).

Perpres etika AI nasional masih diproses per Juli 2026 (Sumber: Bisnis.com, 2026). Menurut kami, merancang titik cek manusia sejak sekarang lebih ringan daripada menambalnya setelah aturan turunannya terbit.

Memetakan human in the loop dengan tiga pertanyaan

Nasihat yang beredar biasanya berhenti di "libatkan manusia untuk tugas berisiko tinggi". Terlalu abstrak untuk dipakai. Menurut pengalaman kami, lebih berguna mengambil setiap tindakan yang akan dilakukan agent lalu bertanya: bisakah tindakan ini dibatalkan, adakah uang atau catatan resmi yang berpindah, dan apakah hasilnya dilihat pelanggan atau publik. Jawabannya menempatkan tindakan itu di salah satu jalur berikut.

• AI jalan sendiri: tindakan internal yang mudah dibatalkan dan tidak memindahkan uang, misalnya mengelompokkan email masuk, membaca mutasi rekening, atau menandai invoice yang tampak ganda.
• AI menyiapkan, manusia menekan tombol: transfer bank dan pembayaran QRIS yang praktis final begitu terkirim, jurnal akuntansi, Faktur Pajak di Coretax, serta balasan publik di Shopee, TikTok Shop, atau Instagram.
• Hanya manusia: keputusan tentang orang yang dampaknya besar, seperti menolak limit kredit pelanggan atau memasukkan pelanggan ke daftar hitam.

Jalur tengah adalah tempat sebagian besar nilainya. AI sudah mengerjakan bagian yang berat, manusia tinggal mengambil satu keputusan yang jelas.

Seperti apa wujudnya dalam sistem yang berjalan

Dari proyek otomasi keuangan yang kami bangun untuk sebuah perusahaan di Indonesia, tim keuangannya sebelumnya mengetik ulang ratusan dokumen setiap bulan: rekening koran dari sekitar selusin bank, invoice supplier, tagihan platform iklan, klaim pengeluaran karyawan, dan faktur pajak. Sistemnya membaca dokumen, memasukkan tiap baris ke akun yang tepat, lalu mencocokkan angkanya dengan dokumen asli.

Sistem itu dirancang agar manusia hanya menangani sekitar 2% terakhir, yaitu item yang memang butuh pertimbangan (Sumber: studi kasus Finance AI Automation, Agentiq). Itu sasaran rancangan, bukan angka produksi yang dijamin. Yang lebih menentukan adalah aturannya: tidak ada tindakan yang tidak bisa dibatalkan sebelum seseorang menekan tombol, dan tombol itu menampilkan persis apa yang akan dicatat.

Beberapa detail kecil menjaga titik cek itu tetap bermakna. Angka yang tidak ditemukan di dokumen asli diblokir, bukan dibulatkan diam-diam. Tombol Post nonaktif selama jumlahnya belum cocok dengan sumber.

Klaim reimbursement di atas batas nominal yang bisa diatur wajib disertai struk, dan persetujuannya diputuskan per baris. Setiap posting menyimpan dokumen sumbernya secara permanen. Sistem ini dibangun Agentiq untuk klien yang dianonimkan; semua tampilan layar menggunakan data sampel fiktif.

Untuk jalur publik, polanya serupa. Di Olaif Engage, sistem yang kami bangun untuk mengelola komentar dan pesan di Instagram, TikTok, YouTube, Shopee, dan TikTok Shop, sejumlah agent spesialis memilah pesan dan menyusun draf, tetapi tidak ada balasan publik yang terbit tanpa persetujuan manusia. Peninjau bisa menyetujui, mengedit, atau mengeskalasi dalam satu klik. Seluruh data di dasbor contohnya adalah data rekaan.

Apa artinya untuk bisnis Anda

Titik cek manusia bisa gagal dengan dua cara, dan keduanya jarang dibahas.

Cara pertama: persetujuan jadi sekadar formalitas. Studi KPMG dan University of Melbourne terhadap lebih dari 48.000 orang di 47 negara menemukan 66% orang mengandalkan hasil AI tanpa mengecek akurasinya, dan 56% mengaku pernah membuat kesalahan kerja karena AI (Sumber: KPMG & University of Melbourne, 2025). Di negara berkembang, kelompok tempat Indonesia berada, kepercayaan pada AI juga lebih tinggi: 60% dibanding 40% di negara maju (Sumber: KPMG & University of Melbourne, 2025).

Tambahkan budaya sungkan membantah atasan maupun "sistem", dan tombol setujui mudah menjadi kebiasaan klik. Penangkalnya sederhana: tampilkan dokumen sumber di samping versi AI, dan buat menolak atau mengedit semudah menyetujui.

Cara kedua: semua macet di meja pemilik. Kalau semuanya menunggu "ACC Pak", AI tidak menghemat apa pun. Batas nominal jauh lebih berguna daripada prinsip "setujui semua", dan tombolnya sebaiknya ada di tempat orang sudah bekerja, misalnya notifikasi WhatsApp yang membuka satu layar tinjauan lengkap dengan dokumennya.

Batas itu boleh bergeser seiring waktu. Analisis Anthropic atas jutaan interaksi agent, yang sebagian besar berasal dari pekerjaan pemrograman, menunjukkan pengguna baru menjalankan sekitar 20% sesi dengan persetujuan otomatis penuh, sementara pengguna berpengalaman di atas 40%, meski mereka juga lebih sering menyela (Sumber: Anthropic, 2026). Kepercayaan dibangun bertahap.

Tanggung jawabnya tidak ikut bergeser. Pada 2024, tribunal di Kanada memerintahkan Air Canada membayar CAD 812,02 karena chatbot di situsnya memberi informasi diskon yang keliru, dan menolak dalih bahwa chatbot itu entitas terpisah (Sumber: CX Today, 2024). Nominalnya kecil, presedennya tidak. Balasan "bisa retur kapan saja" dari bot toko online Anda tetap janji toko Anda.

Langkah yang bisa dimulai minggu ini

• Tulis daftar tindakan yang ingin Anda serahkan ke AI, lalu uji masing-masing dengan tiga pertanyaan di atas.
• Tetapkan batas nominal untuk jalur tengah: di bawahnya cukup dicek sistem, di atasnya wajib ditekan manusia.
• Pastikan setiap layar persetujuan menampilkan dokumen sumber dan menyediakan tombol tolak serta edit di samping tombol setujui.
• Tunjuk penyetuju cadangan untuk saat Anda tidak bisa dihubungi, supaya antrean tidak menumpuk di satu HP.

Jika Anda ingin melihat seperti apa peta persetujuan AI agent untuk bisnis Anda, ceritakan prosesnya lewat halaman kontak kami. Tim Agentiq akan menjawab dengan rekomendasi konkret, bukan template.