Penjelasan Komdigi soal Grok Diblokir Sementara Buntut Konten Asusila
Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah tegas dengan menghentikan sementara akses aplikasi Grok di Indonesia.
Kebijakan ini ditempuh sebagai upaya melindungi masyarakat, khususnya perempuan dan anak, dari potensi penyalahgunaan teknologi kecerdasan artifisial untuk produksi konten pornografi palsu.
Pemerintah menilai penyebaran konten deepfake seksual tanpa persetujuan sebagai ancaman serius.
Praktik tersebut dianggap melanggar hak asasi manusia, merusak martabat individu, serta mengganggu rasa aman publik di ruang digital.
"Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok," ujar Menteri Komunikasi dan Digital, Meutya Hafid, dalam keterangan resmi yang diterima Kompas.com, Sabtu (10/1/2026).
Meutya menjelaskan, pemutusan akses sementara terhadap Grok dilandasi dengan dasar hukum yang jelas.
Komdigi merujuk pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9.
Aturan ini mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan platform-nya tidak memuat atau memfasilitasi distribusi konten yang dilarang.
Komdigi Telusuri Dugaan Penyalahgunaan Grok
Sebelumnya, Komdigi telah menindaklanjuti dugaan pemanfaatan Grok AI pada platform X untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menyebut hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang memadai untuk mencegah pembuatan dan distribusi konten pornografi berbasis foto nyata warga Indonesia.
Kondisi tersebut dinilai berpotensi melanggar hak privasi dan hak atas citra diri.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujar Alexander dalam keterangan resmi yang diterima Kompas.com, Rabu (7/1/2026).
"Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," tambahnya.
Menurut Komdigi, manipulasi digital terhadap foto pribadi tidak bisa dipandang semata sebagai persoalan kesusilaan.
Praktik tersebut juga merupakan bentuk pengambilalihan kendali atas identitas visual seseorang yang berpotensi menimbulkan dampak psikologis, sosial, hingga reputasi.
Grok Nonaktifkan Fungsi Pembuatan Gambar
Pada Jumat (9/1/2026), pihak Grok mengambil langkah dengan membatasi fitur pembuatan gambar bagi mayoritas pengguna.
Dilansir dari The Guardian, kebijakan ini muncul menyusul gelombang protes publik atas pemanfaatan fitur tersebut untuk menghasilkan gambar bermuatan seksual eksplisit dan kekerasan.
Pembatasan itu dilakukan di tengah tekanan terhadap Elon Musk, yang menghadapi ancaman sanksi denda, tindakan regulatif, hingga laporan mengenai kemungkinan pelarangan platform X di Inggris.
Sebelumnya, fitur Grok dilaporkan kerap disalahgunakan untuk memanipulasi foto perempuan, termasuk menghapus busana dan menempatkan subjek dalam konteks seksual tanpa persetujuan. Saat ini, akses terhadap fungsi pembuatan gambar tersebut hanya tersedia bagi pengguna berbayar.
Dalam segala situasi, KOMPAS.com berkomitmen memberikan fakta jernih dari lapangan. Kirimkan Apresiasi Spesial untuk mendukung Jurnalisme. Berikan apresiasi sekarang
