Eks CEO Google Peringatkan Bahaya AI: Bisa Belajar Membunuh Manusia Jika Jatuh ke Tangan yang Salah

Mantan CEO Google, Eric Schmidt, memberikan peringatan keras soal bahaya kecerdasan buatan (AI) yang berkembang pesat. Dalam pandangannya, AI bukan hanya alat bantu teknologi, tetapi juga bisa menjadi ancaman serius bagi umat manusia bila jatuh ke tangan yang salah.

Pernyataan mengejutkan itu ia sampaikan dalam acara Sifted Summit di London, Rabu 9 Oktober 2025, ketika ditanya apakah AI berpotensi lebih berbahaya dari senjata nuklir.

“Ada bukti bahwa model AI, baik yang terbuka maupun tertutup, bisa diretas untuk menghapus batasan keamanannya,” kata Schmidt, dikutip dari New York Post Senin 13 Oktober 2025.

“Dalam proses pelatihannya, AI belajar banyak hal — termasuk, dalam kasus ekstrem, cara membunuh seseorang,” sambungnya.

Ia menegaskan bahwa perusahaan teknologi besar telah berupaya keras menanamkan sistem keamanan agar AI tidak menjawab atau menjalankan perintah berbahaya. “Semua perusahaan besar sudah mengambil langkah tepat, dan itu keputusan yang benar,” tambahnya.

Namun, Schmidt memperingatkan bahwa keamanan AI masih rentan diretas. Ia menyebut potensi rekayasa ulang (reverse-engineering) bisa membuat batas keamanan sistem dilanggar.

Kasus ChatGPT “DAN” Jadi Contoh Nyata

Sebagai bukti, Schmidt menyinggung fenomena ChatGPT versi modifikasi yang muncul pada 2023, dikenal dengan nama DAN (Do Anything Now). Versi ini merupakan hasil jailbreak, atau modifikasi terhadap model AI agar melanggar aturan etika dan keamanan bawaan.

Dalam beberapa kasus, pengguna bahkan harus “mengancam” chatbot dengan kematian agar mau menjawab perintah berbahaya. Menurut Schmidt, contoh ini menunjukkan lemahnya mekanisme kontrol terhadap penyalahgunaan teknologi AI di dunia maya.

“Saat ini tidak ada sistem pengawasan global untuk mencegah penyebaran AI berbahaya,” kata dia.

“Ketiadaan mekanisme seperti non-proliferation regime di bidang teknologi membuat risiko penyalahgunaan semakin besar," sambungnya.

Elon Musk Pernah Beri Peringatan Serupa

Schmidt bukan satu-satunya tokoh yang menyuarakan kekhawatiran tersebut. Pada 2023, Elon Musk juga sempat memperingatkan bahwa ancaman AI bisa menyerupai skenario dalam film Terminator.

“Risikonya bukan nol. Kemungkinan manusia musnah karena AI memang kecil, tapi tetap ada,” ujar Musk kala itu. “Kita harus memastikan peluang itu mendekati nol.”

Meski menyadari risikonya, Schmidt mengakui bahwa AI juga membawa potensi besar bagi masa depan umat manusia. Bersama mendiang Henry Kissinger, ia pernah menulis dua buku yang membahas AI sebagai bentuk “kecerdasan asing” entitas non-manusia yang sebagian bisa dikendalikan, namun berpotensi melampaui kemampuan manusia.

“Sampai saat ini, dugaan itu terbukti. Kemampuan AI tampaknya akan terus melampaui manusia seiring waktu," kata Schmidt.

Schmidt menutup dengan peringatan agar dunia tak hanya berfokus pada kemajuan AI, tetapi juga pada pengamanan dan etika penggunaannya. Tanpa itu, katanya, kecerdasan buatan bisa berubah dari sekutu menjadi ancaman nyata bagi peradaban manusia.