Birokrasi vs Kecerdasan Buatan: Ketika Laporan Hukum "Diracik" oleh AI 🤖⚖️

👋 Bagaimana jadinya kalau seorang petugas pemasyarakatan yang harusnya mengawasi narapidana, malah pakai bantuan "robot chat" buat membuat laporan hukum? Kedengarannya efisien ya, tapi di baliknya ada potensi masalah privasi yang fatal.

Baru-baru ini, Departemen Pemasyarakatan (Corrections) di Selandia Baru mendapati beberapa stafnya menggunakan Microsoft Copilot Chat untuk menyusun draf dokumen kasus formal, termasuk laporan Extended Supervision Order (perintah pengawasan lanjutan). Tindakan ini langsung diberi label "TIDAK DAPAT DITERIMA" oleh departemen tersebut. Mari kita bedah kenapa masalah ini bukan cuma soal kecanggihan teknologi, tapi soal nyawa dan privasi orang banyak.

Apa yang Sebenarnya Terjadi? (What)

Sobat, masalah intinya adalah pelanggaran batasan. Meskipun Departemen Pemasyarakatan sudah memberikan akses terbatas ke fitur Copilot di bawah lisensi Microsoft 365 mereka, staf justru memasukkan data sensitif ke dalamnya. Padahal, aturan mainnya jelas: AI hanya boleh dipakai untuk tugas administratif ringan, bukan untuk menganalisis atau menyusun draf laporan yang berisi identitas pribadi.

Pemerintah Selandia Baru sangat ketat soal ini. Mereka memblokir aplikasi AI pihak ketiga lainnya dan hanya mengizinkan Copilot dalam lingkungan terkontrol. Namun, celah muncul ketika manusia (staf) mencoba mencari jalan pintas untuk menyelesaikan tumpukan dokumen yang membosankan dengan cara copy-paste data kasus ke dalam kolom chat AI.

Siapa Saja yang Terkena Dampaknya? (Who)

• Lembaga Negara: Kredibilitas Departemen Pemasyarakatan dipertaruhkan di depan pengadilan dan kementerian jika laporan yang dihasilkan ternyata mengandung kesalahan (halusinasi AI).
• Masyarakat di bawah pengawasan: Orang-orang yang datanya (kesehatan, catatan kriminal, progres rehabilitasi) dimasukkan ke AI. Jika data ini bocor atau "terserap" oleh model AI, hak privasi mereka terampas selamanya.
• Staf Departemen: Sekitar 30% staf telah mencoba menggunakan alat ini sejak November 2025. Bagi mereka yang melanggar, sanksi disiplin menanti.

Di Mana Batas Amannya? (Where)

Batasan amannya ada pada Enterprise-Controlled Environment. Artinya, interaksi AI harus tetap berada di dalam "benteng" digital perusahaan yang memiliki kontrol keamanan ketat. Masalah muncul ketika data keluar dari benteng tersebut, atau ketika staf lupa bahwa meskipun sistemnya aman, kebijakan penggunaannya tetap melarang memasukkan informasi identitas pribadi (PII - *Personally Identifiable Information).

Kapan AI Menjadi Masalah? (When)

Kecerdasan buatan menjadi masalah saat ia mulai digunakan untuk mengambil keputusan atau menyusun narasi yang mempengaruhi kebebasan seseorang. Laporan pemasyarakatan sering digunakan di pengadilan untuk menentukan apakah seseorang boleh bebas bersyarat atau harus tetap diawasi ketat. Jika AI salah menyimpulkan karakter seseorang karena kurangnya konteks emosional manusia, akibatnya bisa sangat fatal.

Mengapa Ini Sangat Berbahaya? (Why)

Ada tiga alasan besar mengapa kita harus sangat berhati-hati:

1. Halusinasi AI: AI generatif bukan asisten yang netral. Ia bisa "mengarang indah" (halusinasi), menghilangkan konteks penting, atau mengubah narasi yang bisa berakibat salah tafsir pada kondisi kejiwaan seorang narapidana.
2. UU Privasi (Privacy Act): Di Selandia Baru (dan di Indonesia melalui UU PDP), pengumpulan dan penggunaan data pribadi diatur ketat. Memasukkan data ke AI tanpa persetujuan eksplisit dan jaminan keamanan adalah pelanggaran hukum berat.
3. Akuntabilitas: Siapa yang bertanggung jawab kalau AI salah tulis? Robot tidak bisa dipenjara atau dipecat. Harus ada manusia yang meninjau, mengoreksi, dan bertanggung jawab penuh atas dokumen final.

Bagaimana Cara Mengatasinya? (How)

Bagi instansi pemerintah atau perusahaan yang ingin pakai AI, berikut adalah langkah-langkah mitigasi yang direkomendasikan:

Masa Depan: AI Sebagai Alat, Bukan Pengganti

Kesimpulannya sobat, AI memang bisa bikin kerjaan jadi super cepat. Tapi dalam urusan hukum dan nasib manusia, kecepatan tidak boleh mengalahkan ketepatan. Departemen Pemasyarakatan sudah mengambil langkah benar dengan menegur stafnya dan melakukan penilaian risiko privasi (PIA).

Kita harus memandang AI sebagai alat bantu administratif—seperti kalkulator untuk kata-kata—bukan sebagai pengganti penilaian profesional seorang petugas yang sudah bertahun-tahun sekolah dan berpengalaman di lapangan. Jangan sampai kita menyerahkan keadilan kepada algoritma yang tidak punya hati.