Keamanan Data AI: Panduan untuk Pemilik Bisnis Non-Teknis

Bayangkan sebuah distributor bahan bangunan menjelang tutup buku. Admin keuangannya harus menagih deretan faktur yang sudah lewat jatuh tempo, satu pesan WhatsApp per pelanggan. Ia mengekspor daftar piutang berisi nama pelanggan, nomor WhatsApp, sisa tagihan, dan lama keterlambatan, lalu menempelkannya ke chatbot gratis di ponselnya sendiri, dengan akun Gmail pribadi. Pesan pengingat yang keluar sopan dan rapi. Pekerjaan selesai sebelum makan siang. Pemiliknya tidak pernah tahu.

Keamanan data AI di sebuah bisnis lebih sedikit ditentukan oleh merek AI-nya daripada oleh tiga hal yang bisa Anda periksa sendiri: akun siapa yang dipakai, paket apa yang dibayar, dan apa saja yang boleh disentuh AI itu. Chatbot yang sama memperlakukan data secara berbeda di akun pribadi gratis dan di paket bisnis. Begitu AI disambungkan ke email atau sistem akuntansi, pertanyaannya bergeser ke apa yang boleh ia baca dan lakukan.

Ke mana daftar piutang itu pergi?

Tidak ada yang rusak dalam cerita tadi, dan admin itu tidak berniat buruk. Ia menyelesaikan pekerjaan nyata dengan satu-satunya alat yang ia punya. Akibatnya lebih sunyi daripada kebocoran yang masuk berita: daftar piutang itu kini tersimpan di akun yang tidak dikendalikan perusahaan dan tidak bisa dihapus perusahaan. Tidak ada kontrak dengan penyedianya. Tidak ada catatan. Kalau suatu hari Anda perlu menjawab data apa saja yang sudah keluar, tidak ada yang bisa dibuka.

Di paket konsumen, aturannya memang berbeda. Per akhir September 2026, Google menyatakan percakapan dan berkas di Gemini versi konsumen disimpan dan dipakai untuk mengembangkan layanannya, termasuk melatih model AI, selama pengaturan aktivitas menyala. Sebagian percakapan dibaca peninjau manusia, dan percakapan yang ditinjau bisa disimpan sampai tiga tahun (Sumber: Google, Gemini Apps Privacy Hub, 2026). Google sendiri meminta penggunanya tidak memasukkan informasi rahasia yang tidak ingin dilihat peninjau.

Per awal Oktober 2026, Microsoft memakai percakapan Copilot konsumen milik pengguna yang masuk dengan akun pribadi untuk melatih AI, kecuali mereka memilih keluar atau termasuk kategori pengguna yang dikecualikan Microsoft, dan menyimpan aktivitasnya 18 bulan secara bawaan (Sumber: Microsoft, 2026). Di ChatGPT, konten akun Free, Plus, dan Pro bisa dipakai untuk memperbaiki model kecuali pengaturannya dimatikan; membayar Plus tidak mengubah bawaan itu (Sumber: Bluehost, 2026, mengutip pusat bantuan OpenAI). Di Claude versi konsumen, hal itu tergantung pengaturan yang dipilih pengguna (Sumber: Anthropic, 2026). Kebijakan seperti ini berubah dari waktu ke waktu, jadi periksa pengaturannya sendiri.

Tugas yang sama, tiga pengaturan

Sekarang putar ulang ceritanya. Admin yang sama, tugas yang sama, tetapi perusahaan membayar paket bisnis dan ia masuk dengan akun kantor. Yang berlaku kini ketentuan bisnis. Di Gemini untuk Google Workspace, prompt diperlakukan sebagai data pelanggan, tidak dipakai melatih model, dan tidak ditinjau manusia di luar domain perusahaan tanpa izin (Sumber: Google Workspace, 2026). Microsoft menyatakan hal serupa untuk Copilot di akun organisasi, yang mengikuti izin akses dan jejak audit yang sudah ada di perusahaan (Sumber: Microsoft, 2026). Claude untuk pemakaian komersial dan API OpenAI juga tidak memakai data pelanggan untuk pelatihan secara bawaan (Sumber: Anthropic, 2026; OpenAI, 2026).

Pengaturan ketiga menghapus langkah menempel sama sekali. Sebuah AI agent tersambung ke sistem akuntansi, membaca daftar piutang, lalu menyusun sendiri draf pengingatnya. Lebih rapi, dan data tidak lagi berpindah ke ponsel siapa pun. Hanya saja risikonya pindah tempat.

Ketika AI ikut membaca email dan sistem Anda

OWASP menempatkan prompt injection di urutan pertama dalam daftar sepuluh risiko aplikasi berbasis model bahasa (Sumber: OWASP, 2025). Sederhananya, instruksi bisa diselipkan di halaman web, berkas, atau email yang dibaca AI, bahkan dalam bentuk yang tidak terlihat mata manusia. OWASP sendiri mengakui belum jelas apakah ada pencegahan yang benar-benar kedap, sehingga sarannya adalah membatasi kerusakan: akses seminimal mungkin, persetujuan manusia untuk tindakan berisiko, dan konten dari luar yang dipisahkan dari instruksi.

Contoh OWASP mudah dibayangkan. Asisten yang tugasnya hanya merangkum email ternyata juga diberi izin mengirim. Satu email beracun cukup untuk membuatnya meneruskan data pribadi ke luar (Sumber: OWASP, 2025). Celah semacam ini pernah ditemukan di produk arus utama: Microsoft menambal celah bernama EchoLeak di Microsoft 365 Copilot pada Juni 2025, dengan skor keparahan CVSS 9,3, dan tidak ada bukti celah itu sempat dieksploitasi (Sumber: Aim Security, dilaporkan The Hacker News, 2025). Vendor sebesar itu pun perlu menambal.

Menurut pengalaman kami membangun agent yang terhubung ke sistem klien, pertanyaan pertama yang perlu dijawab adalah apa saja yang boleh dibaca dan dilakukan agent itu, baru kemudian model mana yang dipakai. Kalau tugasnya membaca, beri akses baca saja. Pesan ke pelanggan menunggu persetujuan orang sebelum terkirim.

Apa artinya keamanan data AI untuk bisnis Anda

Kembali ke admin tadi. Ia memakai akun pribadi karena kantor tidak menyediakan alat yang disetujui. Polanya luas: dalam studi IBM terhadap 602 kasus kebocoran data, pemakaian AI tanpa persetujuan perusahaan muncul di 43% organisasi yang mengalami kebocoran, naik dari 20% setahun sebelumnya, dan 92% organisasi yang mengalami insiden terkait AI tidak punya kontrol akses AI yang memadai (Sumber: IBM, 2026). Netskope mencatat 47% pengguna AI generatif di tempat kerja masih memakai akun pribadi, turun dari 78%, dan angka itu berasal dari pelanggan korporatnya, bukan UKM (Sumber: Netskope, 2026).

Di Indonesia, survei Salesforce terhadap 1.000 pekerja menemukan 70% merasa lebih percaya diri bekerja dengan AI, sementara hanya 33% yang pernah mendapat pelatihan AI dari perusahaannya (Sumber: Salesforce, 2026). Karyawan Anda sudah melangkah lebih dulu. Larangan tanpa alat pengganti cenderung membuat pemakaiannya makin tidak terlihat, apalagi di kantor yang daftar pelanggan, foto KTP, dan bukti transfernya sudah lama hidup di WhatsApp di ponsel pribadi.

Yang lebih berguna daripada larangan adalah memilah. Saran kami di Agentiq, yang bukan standar resmi mana pun, adalah tiga laci sederhana.

• Bebas: materi yang memang sudah terbuka, seperti deskripsi produk, daftar harga publik, dan draf tulisan umum. Boleh di alat apa pun.
• Terbatas: dokumen internal tanpa data pribadi, seperti SOP, angka penjualan yang sudah disamarkan, dan notulen rapat tanpa nama. Hanya di paket bisnis dengan akun kantor.
• Terkunci: data pribadi dan rahasia dagang, seperti NIK dan KTP, slip gaji, rekening bank, daftar pelanggan beserta kontaknya, kontrak, dan margin. Hanya di sistem yang kontraknya dipegang perusahaan, dengan akses per peran dan catatan siapa bertanya apa. Di luar itu, hapus dulu identitasnya.

Daftar piutang di cerita tadi masuk laci terkunci. Karena isinya data pribadi pelanggan, mengirimnya ke alat yang tidak punya kontrak dengan perusahaan juga menjadi urusan kepatuhan UU PDP, yang kami bahas di artikel terkait.

Untuk minggu ini, cukup dua hal: sediakan satu alat resmi dengan akun kantor, dan tempel aturan tiga laci di tempat tim Anda bekerja. Tidak repot. Lalu, sebelum agent apa pun disambungkan ke sistem Anda, ajukan pertanyaan berikut kepada vendornya dan minta jawabannya tertulis.

• Apakah data kami dipakai untuk melatih model, dan di pasal kontrak mana hal itu tertulis?
• Berapa lama prompt dan berkas disimpan, dan bisakah kami menghapusnya?
• Sistem mana yang bisa dibaca agent dan mana yang bisa diubahnya? Bisakah izin baca dan tulis dipisah?
• Tindakan apa yang menunggu persetujuan manusia, dan siapa orangnya?
• Adakah log yang bisa kami buka sendiri, dan apa yang terjadi pada akses agent ketika karyawan yang memasangnya keluar?

Jika Anda ingin melihat seperti apa pengaturan akses dan persetujuan AI untuk bisnis Anda, ceritakan prosesnya lewat halaman kontak kami. Tim Agentiq akan menjawab dengan rekomendasi konkret, bukan template.