Google Ungkap Ancaman Baru, Hacker Pakai AI untuk Cari Celah Keamanan

Pelaku kejahatan siber kini semakin canggih. Hacker bahkan sudah menggunakan kecerdasan buatan (AI) untuk menemukan dan menyerang celah di perangkat lunak tertentu. 

Hal ini disimpulkan tim peneliti dari Google Threat Intelligence Group (GTIG). Tim peneliti keamanan ini mendeteksi adanya eksploitasi zero-day atau penyusupan ke celah keamanan yang belum diketahui pengembang, yang diduga dibuat dengan bantuan AI generatif.

“Untuk pertama kalinya, GTIG mengidentifikasi pelaku kejahatan siber yang menggunakan eksploitasi zero-day yang kami yakini dikembangkan dengan AI,” tulis Google dalam laporan resminya.

GTIG menjelaskan, eksploitasi tersebut menargetkan sebuah tool administrasi sistem berbasis web open-source populer yang namanya tidak diungkap.

Lewat celah yang dibobol pakai AI ini, peretas dapat melewati sistem autentikasi dua faktor (2FA) untuk masuk ke sistem korban.

Dengan begitu, perangkat pengguna bisa diambil alih oleh hacker dan data-data di dalamnya bisa dicuri.

Meski bisa dibobol pakai AI, Google memastikan bahwa serangan ini berhasil dihentikan sebelum memasuki tahap eksploitasi massal.

Pasalnya, Google mengeklaim pihaknya telah memberi tahu pengembang perangkat lunak terkait agar segera melakukan mitigasi dan menutup celah keamanan tersebut.

Yakin dibuat pakai AI

Google cukup yakin bahwa serangan ini, yang terdiri dari rangkaian kode eksploitasi berbasis Python, dibuat dengan bantuan large language model (LLM). LLM bisa dibilang menjadi salah satu "otak" dari suatu produk AI. 

Indikasinya terlihat dari struktur kode yang sangat rapi, penuh docstring edukatif, serta penggunaan format Python yang dinilai khas hasil generasi AI.

Peneliti juga menemukan adanya skor CVSS (kerentanan) palsu hasil “halusinasi” AI di dalam kode tersebut.

Selain pola penulisan kode, jenis kerentanan yang ditemukan juga dianggap memperkuat dugaan penggunaan AI.

Sebab, celah yang dieksploitasi berupa bug logika semantik tingkat tinggi yang dinilai lebih mudah dikenali AI dibanding metode tradisional seperti fuzzing (mengetes program) atau static analysis (mengecek kode program).

Lantas, apa AI yang dipakai oleh para pelaku kejahatan siber ini? Google tak mengungkapnya secara pasti. 

Namun yang jelas, mereka yakin betul bahwa model AI miliknya, yaitu Gemini tak dipakai untuk membuat serangan berbasis AI seperti ini. 

Mulai marak serangan pakai AI

Ilustrasi AI

Terkait serangan pakai AI, Google juga mengungkap bahwa kelompok hacker yang terkait dengan China dan Korea Utara mulai memakai AI untuk membantu pencarian kerentanan dan pengembangan eksploitasi siber.

Beberapa kelompok yang disebut antara lain APT27, APT45, UNC2814, UNC5673, dan UNC6201.

Aktor siber yang terkait Rusia juga dilaporkan menggunakan kode hasil generasi AI untuk menyamarkan malware populer seperti "CANFAIL" dan "LONGSTREAM".

Di samping untuk eksploitasi keamanan, Google menyebut AI juga mulai dipakai dalam operasi propaganda dan rekayasa sosial.

Google mencontohkan operasi Rusia berkode “Overload” yang menggunakan teknologi kloning suara AI untuk menyamar sebagai jurnalis dalam video palsu bertema anti-Ukraina.

Google juga menyoroti malware Android bernama "PromptSpy" yang memanfaatkan API Gemini untuk membantu interaksi otomatis dengan perangkat korban.

Berbagai kasus ini menunjukkan bahwa para pelaku kejatahan siber kini mulai mengandalkan AI untuk mencari kelemahan keamanan untuk memperlancar operasi mereka, sebagaimana dirangkum KompasTekno dari BleepingComputer.

KOMPAS.com berkomitmen memberikan fakta jernih, tepercaya, dan berimbang. Dukung keberlanjutan jurnalisme jernih dan nikmati kenyamanan baca tanpa iklan melalui Membership. Gabung KOMPAS.com Plus sekarang