Pengacara Didenda Rp 166 Juta gara-gara Pakai ChatGPT

Seorang pengacara di California, bernama Amir Mostafavi didenda hingga 10.000 dollar Amerika Serikat atau setara sekitar Rp 166 juta, gara-gara menggunakan ChatGPT.

Petaka ini bermula dari kutipan kasus yang digunakan oleh Mostafavi dalam dokumen yang dipakai untuk naik banding. Kutipan ini dihasilkan oleh ChatGPT.

Dari total 23 kutipan kasus yang disematkan pada berkas banding itu, 21 di antaranya merupakan kutipan palsu.

Menurut penjelasan Mostafavi di pengadilan, dia mengaku tidak membaca ulang teks yang dihasilkan chatbot sebelum mengajukan dokumen banding pada Juli 2023, hanya beberapa bulan setelah ChatGPT dirilis pada November 2022.

Lebih lanjut Mostafavi juga memaparkan bahwa dia hanya memakai ChatGPT untuk menyempurnakan tulisannya, tetapi tidak menyadari bahwa chatbot itu memalsukan kutipan kasus.

Apple dikabarkan siap mengembangkan chatbot AI serupa dengan ChatGPT.

Tiga hakim yang memeriksa dokumen itu lantas menetapkan sanksi denda karena pengajuan bandingnya dinilai sembrono.

Bagi Mostafavi, meminta pengacara berhenti memakai AI memang kurang relevan dengan perkembangan teknologi saat ini. Apalagi AI sudah menjadi alat yang penting dalam menunjang pustaka hukum.

Karena itu, dia menyarankan pengacara lainnya untuk lebih berhati-hati memanfaatkan AI, setidaknya hingga chatbot tidak "halu" lagi.

"Kita akan menghadapi sejumlah korban hingga sejumlah kekacauan. Saya harap ini akan membantu orang lain agar tidak terjerumus ke lubang (yang sama). Saya akan menanggung akibatnya," ujar hakim, dikutip KompasTekno dari AP, Kamis (25/9/2025).

Denda tertinggi bagi pengacara

Adapun denda dalam perkara ini terbilang merupakan denda termahal yang dijatuhkan ke pengacara oleh pengadilan negara bagian California.

Menurut Damien Charlotin, dosen mata kuliah AI di sebuah sekolah bisnis di Paris, denda Mostafavi juga dinilai sebagai denda tertinggi yang pernah dijatuhkan, khususnya dalam kasus yang melibatkan penggunaan AI oleh pengacara.

Klaim itu diungkapkan setelah Charlotin meneliti kasus-kasus pengacara yang mengutip kasus palsu, terutama di Australia, Kanada, AS dan Inggris.

Kasus ini juga membuat Charlotin berpendapat bahwa pengadilan dan publik harus mengantisipasi peningkatan kasus setupa di masa mendatang.

"Semakin sulit argumen hukum Anda, semakin besar kemungkinan model AI berhalusinasi, karena mereka akan mencoba menyenangkan Anda," kata Charlotin.

Sebuah analisis yang dipimpin oleh Jenny Wondracek juga menemukan bahwa pengacara mengutip otoritas hukum yang tidak ada di dunia nyata, akibat mengutip karangan AI. Temuan ini terkait dengan 52 kasus di California dan 600 kasus di dunia.

Jumlah itu ditaksir akan meningkat karena inovasi AI dinilai melampaui pendidikan pengacara. Tren rekayasa AI dalam dunia hukum juga diprediksi kian memburuk karena menurut Wondracek, masih banyak pengacara yang tidak sadar bahwa AI "halu".

Karena itu, Wondracek menganjurkan penegak hukum untuk mempertimbangkan pendekatan yang diambil oleh negara lain, seperti penangguhan sementara, mewajibkan pengacara untuk memahami cara penggunaan AI yang etis, hingga membimbing mahasiswa hukum untuk menghindari kesalahan yang sama.

Di saat situasi tidak menentu, Kompas.com tetap berkomitmen memberikan fakta jernih dari lapangan. Ikuti terus update terkini dan notifikasi penting di Aplikasi Kompas.com.