Apa Itu Grok AI? Kecerdasan Buatan yang Disorot karena Modifikasi Foto Tak Senonoh

 Belakangan ini, kecerdasan buatan Grok AI tengah ramai diperbincangkan pengguna media sosial. Namun sayangnya teknologi Grok AI ini malah disalahgunakan sejumah oknum untuk membuat gambar-gambar seksual non-konsensual terhadap perempuan dan anak perempuan.

Salah satu yang menjadi korban adalah anggota JKT48. Sejumlah akun terlihat memanfaatkan AI tersebut untuk mengubah penampilan anggota JKT48 menjadi senonoh bahkan mengandung unsur ponografi yang dinilai sebagai bentuk pelecehan dan pelanggaran privasi.

Lantas apakah itu Grok AI?  Melansir laman BBC UK, Kamis 8 Januari 2026, Grok adalah asisten AI gratis dengan sejumlah fitur premium berbayar yang merespons permintaan pengguna X ketika mereka menandainya dalam sebuah unggahan. Selama ini, Grok kerap digunakan untuk memberi reaksi atau menambahkan konteks atas komentar pengguna lain.

Namun, di sisi lain, pengguna X juga bisa memanfaatkan fitur pengeditan gambar berbasis AI milik Grok untuk memanipulasi foto yang diunggah, tanpa persetujuan orang yang ada di dalam gambar tersebut. Salah satu bentuk penyalahgunaannya adalah membuat gambar bernuansa seksual.

Sejumlah perempuan yang tanpa sengaja menemukan foto diri mereka telah diseksualisasi oleh Grok menggambarkan pengalaman tersebut sebagai sesuatu yang sangat mendehumanisasi.

Inggris Desak Elon Mosk untuk Tangani  Grok

Menteri Teknologi Inggris, Liz Kendall, mendesak platform X milik Elon Musk untuk segera menangani penyalahgunaan chatbot kecerdasan buatan mereka, Grok, yang digunakan untuk membuat gambar bernuansa seksual terhadap perempuan dan anak perempuan tanpa persetujuan.

Kendall menyebut situasi ini sebagai sesuatu yang benar-benar memprihatinkan dan menegaskan, pemerintah tidak bisa dan tidak akan membiarkan penyebaran gambar-gambar yang merendahkan martabat seperti ini.

Sementara itu, pihak X dalam keterangan resminya menyebut bahwa pihaknya telah mengambil tindakan terhadap konten ilegal di X, termasuk materi eksploitasi seksual anak (Child Sexual Abuse Material/CSAM), dengan menghapus konten tersebut, menangguhkan akun secara permanen, serta bekerja sama dengan pemerintah daerah dan aparat penegak hukum bila diperlukan.

”Siapa pun yang menggunakan atau memerintahkan Grok untuk membuat konten ilegal akan menerima konsekuensi yang sama seperti jika mereka mengunggah konten ilegal secara langsung,” demikian keterangan resmi mereka.

Respon Pemerintah Indonesia

Dirtipidsiber Bareskrim Polri, Brigjen Pol Himawan Bayu Aji angkat bicara soal dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X, yang digunakan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi. Himawan menerangkan, jika didapati adanya seseorang yang melakukan manipulasi data elektronik milik orang lain tanpa adanya persetujuan, maka dapat dikenakan pidana.

Sementara itu, Kementerian Komunikasi dan Digital (Kemkomdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X yang dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, mengungkapkan, hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.  Kondisi tersebut berpotensi melanggar hak privasi dan hak atas citra diri ( ), khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta.

Saat ini Kemkomdigi tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme pelindungan yang efektif. Langkah tersebut mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.

Terkait hal ini, penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif dan/atau pidana sesuai ketentuan hukum yang berlaku. Selain itu, masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri dapat menempuh upaya hukum melalui mekanisme yang tersedia dalam peraturan perundang-undangan, termasuk pelaporan kepada aparat penegak hukum dan pengaduan kepada Kemkomdigi.