Grok AI Diduga Disalahgunakan untuk Konten Asusila, Komdigi Ingatkan KUHP Baru
Kementerian Komunikasi dan Digital (Komdigi) tengah melakukan pendalaman atas dugaan penyalahgunaan fitur kecerdasan buatan Grok AI yang tersedia di platform X.
Fitur tersebut diduga digunakan untuk membuat serta menyebarkan konten bermuatan pornografi, termasuk praktik manipulasi foto pribadi yang bersifat sensitif tanpa izin dari pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menjelaskan bahwa penelusuran awal menemukan celah pengaturan pada Grok AI.
Menurutnya, sistem tersebut belum memiliki mekanisme yang jelas dan memadai untuk membatasi produksi maupun peredaran konten pornografi berbasis foto asli masyarakat Indonesia.
Situasi ini dinilai rawan melanggar hak privasi serta hak atas citra diri, terutama ketika gambar seseorang diolah atau disebarkan tanpa persetujuan yang sah.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi," ujar Alexander dalam keterangan resmi yang diterima Kompas.com, Rabu (7/1/2026).
"Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” sambungnya.
PSE Wajib Patuhi Hukum Indonesia
Komdigi menegaskan bahwa praktik manipulasi digital terhadap foto pribadi tidak dapat dipandang semata sebagai persoalan kesusilaan.
Tindakan tersebut juga bentuk penghilangan kendali individu atas identitas visualnya yang berpotensi memicu dampak psikologis, sosial, hingga merusak reputasi korban.
Saat ini, Komdigi disebut sedang menjalin koordinasi intensif dengan para Penyelenggara Sistem Elektronik (PSE).
Upaya tersebut dilakukan untuk memastikan adanya sistem perlindungan yang efektif, mulai dari penguatan moderasi konten, pencegahan pembuatan deepfake bermuatan asusila, hingga mekanisme respons cepat atas laporan pelanggaran privasi dan hak citra diri.
PSE juga wajib memastikan teknologinya tidak disalahgunakan untuk pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang.
Selain itu, Alexander mengingatkan bahwa seluruh PSE yang beroperasi di Indonesia terikat kewajiban untuk mematuhi peraturan perundang-undangan nasional.
Sanksi bagi PSE dan Pengguna yang Melanggar
Jika ditemukan pelanggaran atau ketidakkooperatifan, sanksi administratif hingga pemutusan akses terhadap layanan Grok AI dan platform X dapat diberlakukan.
Selain itu, Komdigi menegaskan, penyedia layanan kecerdasan buatan maupun pengguna yang terbukti membuat dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenai sanksi administratif maupun pidana sesuai hukum yang berlaku.
Sebagai informasi, sejak Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) mulai berlaku pada 2 Januari 2026, ketentuan terkait pornografi diatur antara lain dalam Pasal 172 dan Pasal 407.
Pasal 172 memuat definisi pornografi sebagai media yang mengandung kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan.
Sementara itu, Pasal 407 mengatur ancaman pidana penjara paling singkat enam bulan dan paling lama sepuluh tahun atau pidana denda sesuai ketentuan.
Alexander menambahkan, masyarakat yang menjadi korban manipulasi foto, deepfake asusila, maupun pelanggaran hak atas citra diri dapat menempuh jalur hukum yang tersedia.
Langkah ini bisa ditempuh melalui laporan kepada aparat penegak hukum maupun pengaduan resmi ke Komdigi.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” ujar Alexander.
Dalam segala situasi, KOMPAS.com berkomitmen memberikan fakta jernih dari lapangan. Kirimkan Apresiasi Spesial untuk mendukung Jurnalisme. Berikan apresiasi sekarang
