Hadapi Deepfake, Komdigi Dorong Platform Digital Sediakan Fitur Pengecek Konten AI
Kementerian Komunikasi dan Digital (Komdigi) meminta platform digital global menghadirkan fitur pengecekan konten AI (Artificial Intelligence). Fitur ini dinilai penting untuk membantu masyarakat mengenali hoaks dan konten manipulatif seperti deepfake.
Deepfake adalah teknologi yang memungkinkan pembuatan gambar, video, dan rekaman audio palsu dengan kualitas sedemikian rupa sehingga terlihat nyata dan meyakinkan.
"Kami berharap platform media sosial global juga bisa melakukan filter, atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan. Fitur ini sebaiknya bisa digunakan publik secara gratis,” kata Wakil Menteri Komunikasi dan Digital Nezar Patria dalam keterangan resmi yang diterima KompasTekno, Kamis (11/9/2025).
Nezar menyoroti fenomena deepfake yang semakin mengkhawatirkan. Merujuk data Sensity AI, jumlah konten deepfake meningkat 550 persen dalam lima tahun terakhir. Angka tersebut, menurut Nezar, jumlahnya bisa jauh lebih besar karena kemampuan aplikasi untuk membuat video atau foto deepfake yang masif.
Nezar juga mengatakan, platform digital memiliki teknologi komputasi dan algoritma yang dapat dimanfaatkan untuk kepentingan publik.
“Kalau kita meragukan satu isi konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka punya. Misalnya di Meta atau Google, fitur seperti ini bisa jadi bagian layanan standar,” katanya.
Ia menegaskan pemerintah berupaya menyeimbangkan inovasi dengan regulasi agar pemanfaatan AI tidak disalahgunakan sebagai alat pembuat konten hoaks.
Indonesia saat ini sudah memiliki perangkat hukum seperti UU ITE, UU PDP, PP Tunas, serta sejumlah peraturan teknis. Pemerintah juga tengah menyiapkan regulasi khusus untuk pemanfaatan AI yang etis dan bertanggung jawab.
Selain regulasi, Kementerian Komdigi menggandeng ekosistem luas, termasuk Masyarakat Anti Fitnah Indonesia (Mafindo) dan media massa, dalam program cek fakta.
"Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif," kata Nezar.
Ketua Mafindo Septiaji Eko Nugroho mengatakan, fenomena deepfake pertama kali muncul di Indonesia pada 2023 dan kini berkembang pesat. Konten deepfake, kata dia, kerap disalahgunakan untuk penipuan digital dan menggiring opini publik, terutama di isu politik.
"Untuk isu politik juga ada, tapi deepfake paling banyak digunakan untuk penipuan digital. Kalau ada konten hoaks bentuknya video yang muncul di tahun 2025 dengan tema penipuan digital, itu mayoritas adalah deepfake," kata Septiaji.
Di saat situasi tidak menentu, Kompas.com tetap berkomitmen memberikan fakta jernih dari lapangan. Ikuti terus update terkini dan notifikasi penting di Aplikasi Kompas.com.
