Sam Altman dan OpenAI Digugat, Dituding Kesampingkan Nyawa Manusia

OpenAI kembali menghadapi gugatan hukum di Amerika Serikat (AS). Kali ini, perusahaan pengembang ChatGPT tersebut digugat oleh Jaksa Agung Florida James Uthmeier.

Jaksa menuding OpenAI mengabaikan risiko serius terhadap keselamatan manusia demi mengejar keuntungan bisnis. Bukan cuma OpenAI, gugatan tersebut juga secara langsung menyasar CEO-nya, Sam Altman.

Dalam dokumen gugatan setebal 83 halaman yang diajukan ke Pengadilan Tingkat Pertama Florida itu, pemerintah Florida menuduh Altman memimpin perusahaan yang lebih mengutamakan pertumbuhan dan nilai bisnis, dibanding perlindungan terhadap pengguna.

Uthmeier bahkan meminta agar Altman dimintai pertanggungjawaban secara pribadi, atas dugaan kerugian yang dialami warga Florida akibat kebijakan dan tindakan OpenAI.

Menurut isi gugatan, pertumbuhan pesat OpenAI disebut dibangun melalui praktik yang mengeksploitasi pengguna, termasuk pemanfaatan data dan aspek keselamatan pengguna untuk meningkatkan nilai perusahaan.

Pemerintah Florida menilai tindakan tersebut dilakukan dengan mengabaikan konsekuensi yang dapat ditimbulkan terhadap masyarakat.

Dalam salah satu bagian gugatan, Altman dtuding menunjukkan "pengabaian total terhadap risiko terhadap nyawa manusia", yang disebut muncul dari perilaku dan aktivitas perusahaan yang dipimpinnya.

Kasus ini menjadi gugatan pertama dari pemerintah negara bagian di Amerika Serikat yang secara khusus menyoroti aspek keselamatan AI dalam operasional OpenAI.

Gugatan tersebut juga terpisah dari penyelidikan pidana yang telah dibuka oleh Uthmeier terhadap OpenAI pada April lalu.

Dikaitkan dengan berbagai insiden

Sepanjang dokumen gugatan, pemerintah Florida berulang kali mengaitkan keberadaan ChatGPT dengan sejumlah dampak negatif yang dinilai muncul dalam beberapa waktu terakhir.

ChatGPT dinilai turut berkontribusi terhadap meningkatnya kasus pembunuhan maupun bunuh diri.

Florida juga menyatakan bahwa anak-anak dan remaja telah menjadi sangat bergantung pada teknologi tersebut.

Dalam gugatan, ChatGPT digambarkan sebagai alat yang seolah-olah menunjukkan empati layaknya manusia untuk memperoleh data pengguna muda tanpa pengawasan yang memadai dari orang tua.

Sebagai bagian dari argumennya, pemerintah Florida mengutip sejumlah kasus yang terjadi dalam setahun terakhir.

Salah satunya adalah dugaan penggunaan ChatGPT dalam perencanaan penembakan massal di Florida State University pada April 2025.

Selain itu, gugatan tersebut juga menyinggung kasus pembunuhan dua mahasiswa pascasarjana di University of South Florida yang terjadi pada bulan yang sama.

Berbagai peristiwa tersebut dianggap menunjukkan adanya risiko yang lebih besar dari penggunaan teknologi AI generatif yang belum sepenuhnya diantisipasi.

Pemerintah Florida menilai OpenAI tetap melanjutkan pengembangan dan penyebaran produknya meski mengetahui adanya potensi bahaya.

"Deretan kerugian ini didorong oleh ambisi tak terpuaskan para tergugat untuk memenangkan perlombaan senjata AI dan mengumpulkan kekayaan besar, meskipun mengetahui bahaya ChatGPT," tulis pemerintah Florida dalam gugatan tersebut.

Tuntutan terhadap OpenAI

Dalam gugatan terbaru ini, Jaksa Agung James Uthmeier menuding OpenAI melakukan sejumlah pelanggaran hukum.

Tuduhan tersebut mencakup empat pelanggaran terkait praktik perdagangan yang dianggap menyesatkan dan tidak adil, dua tuduhan kelalaian, dua tuduhan pelanggaran hukum tanggung jawab produk, satu tuduhan misrepresentasi yang bersifat penipuan, serta satu tuduhan menciptakan gangguan terhadap kepentingan publik.

Melalui gugatan tersebut, pemerintah Florida meminta pengadilan menjatuhkan sanksi perdata terhadap OpenAI.

Selain itu, negara bagian tersebut juga meminta pengadilan memerintahkan OpenAI membatasi pengumpulan data dari pengguna di bawah umur.

Florida juga ingin OpenAI menghentikan praktik yang dinilai menyesatkan atau gagal memberikan peringatan yang memadai mengenai potensi risiko penggunaan ChatGPT.

Dalam konferensi pers yang digelar pada Senin, Uthmeier menegaskan bahwa masyarakat telah dirugikan dan para orang tua telah dikelabui.

Menurut dia, OpenAI harus bertanggung jawab tidak hanya melalui pembayaran sanksi, tetapi juga dengan melakukan perubahan terhadap produknya, termasuk menyediakan kontrol orang tua yang lebih kuat.

Gugatan ini menambah daftar tantangan hukum yang dihadapi OpenAI di tengah semakin luasnya penggunaan teknologi AI generatif di berbagai bidang.

Di saat perusahaan-perusahaan teknologi berlomba mengembangkan kecerdasan buatan yang semakin canggih, perdebatan mengenai keamanan, tanggung jawab, dan perlindungan pengguna juga diperkirakan akan semakin nyaring ke permukaan.

Tanggapan OpenAI 

Menanggapi gugatan tersebut, OpenAI menyatakan bahwa pihaknya menyadari AI merupakan teknologi baru yang memiliki dampak besar sehingga membutuhkan perlindungan dan pengamanan yang memadai, terutama bagi pengguna di bawah umur.

Perusahaan mengatakan telah menerapkan berbagai fitur keselamatan yang dirancang khusus untuk pengguna muda.

Juru bicara OpenAI juga menyinggung kasus-kasus tragis yang melibatkan anak-anak dan keluarga.

Menurutnya, kehilangan seorang anak merupakan tragedi yang sangat menyakitkan dan tidak ada kata-kata yang dapat mengurangi rasa kehilangan tersebut.

"Kami tahu bahwa menyebutkan berbagai upaya ini tidak akan mengembalikan seorang anak, tetapi kami berkomitmen untuk melakukan hal ini dengan benar," kata Juru Bicara OpenAI, dirangkum KompasTekno dari Variety.

OpenAI menegaskan bahwa perusahaan tetap berkomitmen untuk terus meningkatkan sistem perlindungan yang dimilikinya.

Sebelumnya, OpenAI juga pernah menyatakan bahwa produk-produknya dirancang dengan tujuan agar aman digunakan oleh semua orang.

Pada November tahun lalu, saat menanggapi gugatan lain yang berkaitan dengan kesehatan mental, perusahaan menyebut telah memiliki berbagai mekanisme perlindungan untuk membantu pengguna, khususnya remaja, ketika percakapan mengarah pada topik yang sensitif.

KOMPAS.com berkomitmen memberikan fakta jernih, tepercaya, dan berimbang. Dukung keberlanjutan jurnalisme jernih dan nikmati kenyamanan baca tanpa iklan melalui Membership. Gabung KOMPAS.com Plus sekarang