Perkembangan teknologi kecerdasan buatan (AI) memang seperti pisau bermata dua. Di satu sisi memudahkan, di sisi lain bisa sangat merugikan jika jatuh ke tangan yang salah. Kali ini, Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah berani dengan memberikan "kartu kuning" kepada Grok AI dan platform media sosial X milik Elon Musk.
Urusan Serius: Hukum Bukan Main-Main ⚖️
Dirjen Pengawasan Ruang Digital Komdigi, Alexander Sabar, menegaskan bahwa X bukan sekadar "pemilik lapak", melainkan PSE yang wajib tunduk pada aturan kita. Apalagi, sejak 2 Januari 2026 kemarin, Indonesia sudah memberlakukan UU Nomor 1 Tahun 2023 (KUHP Baru) yang mengatur sangat ketat soal konten yang melanggar norma kesusilaan.
Pasal 172 KUHP
Mendefinisikan pornografi sebagai media yang memuat melanggar etika digital yang melanggar norma kesusilaan.
Pasal 407 KUHP
Ancaman pidana penjara 6 bulan hingga 10 tahun atau denda bagi penyebar konten tersebut.
Hasil penelusuran awal Komdigi menunjukkan sesuatu yang mengkhawatirkan: Grok AI belum punya "pagar" yang jelas untuk mencegah orang iseng membuat manipulasi visual sensitif. Ini bahaya banget, karena menyangkut right to one's image atau hak atas citra diri setiap warga negara.
Jangan Bakar Gudang Hanya Karena Tikus 🐭
Namun, ada perspektif menarik yang perlu kita renungkan. Grok AI dan X adalah penyedia layanan berbasis User Generated Content (UGC). Artinya, kontennya dibuat oleh pengguna, bukan oleh mesin itu sendiri secara dapat tanpa perintah. Hasilnya dapat berbeda bergantung pada konfigurasi, versi perangkat lunak, dan kebutuhan pengguna.
💭 Catatan Redaksi:
Memang tidak mudah menyaring jutaan perintah (prompt) pengguna setiap detik. Namun, meminta pertanggungjawaban penyedia layanan untuk memberikan data identitas atau alamat IP pelaku penyalahgunaan adalah langkah yang lebih taktis. Verifikasi kembali persyaratan melalui pengelola domain atau rujukan resmi terkait. Dengan begitu, pelaku kriminalnya bisa ditangkap dan dihukum seberat-beratnya tanpa harus mengorbankan akses jutaan pengguna lainnya yang menggunakan teknologi ini untuk hal positif.
Seperti pepatah lama mengatakan: Jangan bakar gudangnya, jika tujuan utamanya hanya ingin menangkap tikus di dalamnya.
Saat ini Komdigi sedang berkoordinasi dengan para PSE untuk memperkuat sistem moderasi. Bagi Anda yang merasa menjadi korban deepfake atau manipulasi foto, jangan ragu untuk melapor ke aparat penegak hukum atau langsung melalui kanal pengaduan Komdigi. Ruang digital harus tetap aman dan bermartabat!
Mari kita bedah situasi ini dengan kacamata 5W+1H agar kita paham duduk perkaranya:
- Who (Siapa): Kementerian Komunikasi dan Digital (Komdigi), platform X, dan fitur Grok AI.
- What (Apa): Ancaman sanksi administratif hingga pemutusan akses (blokir).
- Where (Dimana): Wilayah hukum Negara Kesatuan Republik Indonesia.
- When (Kapan): Disampaikan secara resmi pada Rabu, 7 Januari 2026.
- Why (Mengapa): Dugaan penggunaan Grok AI untuk membuat konten manipulasi visual tidak pantas dan manipulasi foto tanpa izin.
- How (Bagaimana): Melalui pengawasan ruang digital dan koordinasi antar Penyelenggara Sistem Elektronik (PSE).