Komdigi Temukan Celah di Grok AI, Belum Bisa Cegah Konten Pornografi
Kementerian Komunikasi dan Digital (Komdigi) menemukan celah pada Grok, fitur kecerdasan buatan atau artificial intelligence (AI) yang tersedia di platform X.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, mengatakan bahwa sistem Grok belum memiliki pengaturan yang jelas untuk mencegah penyalahgunaan teknologi dalam pembuatan konten pornografi berbasis foto asli masyarakat Indonesia.
Celah tersebut dinilai rawan melanggar hak privasi dan hak atas citra diri (right to one’s image), apalagi ketika foto dimanipulasi atau disebarkan tanpa persetujuan yang sah.
Alexander menambahkan, saat ini Komdigi sedang menelusuri dugaan Grok disalahjgunakan untuk memproduksi dan menyebarkan konten asusila.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi," ujar Alexander dalam keterangan resmi yang diterima Kompas.com, Rabu (7/1/2026).
"Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," sambungnya.
Komdigi Minta PSE Patuhi Hukum Nasional
Komdigi menekankan bahwa manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan.
Tindakan ini juga merampas kendali individu atas identitas visualnya dan dapat menimbulkan dampak psikologis, sosial, hingga reputasi.
Merespons celah pada Grok, Komdigi tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memperkuat perlindungan, termasuk moderasi konten, pencegahan pembuatan deepfake asusila, dan penanganan cepat laporan pelanggaran hak citra diri.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander.
Komdigi mengingatkan seluruh PSE yang beroperasi di Indonesia wajib mematuhi peraturan perundang-undangan yang berlaku secara nasional.
Komdigi akan menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X jika menemukan pelanggaran atau menilai pihak PSE tidak kooperatif.
Sanksi Pidana bagi Pembuat dan Penyebar Konten Asusila
Selain itu, Komdigi menegaskan penyedia layanan AI maupun pengguna yang terbukti membuat atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa izin dapat dikenai sanksi administratif maupun pidana sesuai hukum yang berlaku.
Hal tersebut telah diatur dalam Undang-Undang Nomor 1 Tahun 2023 tentang KUHP pada 2 Januari 2026.
Berdasarkan KUHP baru, konten pornografi diatur dalam Pasal 172 dan Pasal 407.
Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan
Sedangkan, Pasal 407 mengatur ancaman pidana penjara enam bulan hingga sepuluh tahun atau denda sesuai ketentuan.
Alexander menambahkan, masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak atas citra diri dapat menempuh jalur hukum melalui aparat penegak hukum maupun pengaduan resmi ke Komdigi.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi AI secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum; privasi dan hak atas citra diri setiap warga harus dihormati dan dilindungi,” ujar Alexander.
Dalam segala situasi, KOMPAS.com berkomitmen memberikan fakta jernih dari lapangan. Kirimkan Apresiasi Spesial untuk mendukung Jurnalisme. Berikan apresiasi sekarang
