Roblox Pasang Fitur Keamanan AI, Ubah Chat Kasar Jadi Sopan

Platform game online Roblox kini dilengkapi fitur keamanan baru yang akan mengubah kata-kata kasar dalam obrolan, menjadi lebih sopan.

Fitur keamanan itu ditenagai dengan teknologi kecerdasan buatan (artificial intelligence/AI), sehingga mampu secara otomatis mengubah kata-kata kasar dalam chat jadi halus.

Menurut pihak Roblox, fitur ini dirilis demi membuat percakapan di dalam platform-nya lebih mudah dipahami, sembari tetap menegakkan Standar Komunitas.

Fitur ini pada dasarnya merupakan perluasan dari alat penyaringan obrolan di Roblox.

Secara teknis, fitur keamanan ini akan mengubah kata-kata yang diblokir dan ditampilkan dengan simbol pagar seperti "#####" menjadi kata yang halus atau sesuai pedoman Roblox, tanpa mengubah arti/maksudnya.

Sebab, menampilkannya dengan simbol seperti itu, menurut Roblox dapat mengganggu percakapan dan mempersulit pemain memahami maksud orang lain.

"Obrolan yang alami dan lancar sangat penting dalam game, di mana tim atau komunitas bermain bersama," kata Roblox mengumumkan fitur keamanan ini.

"Deretan ##### di mana bahasa yang tidak layak diblokir, dapat menganggu obrolan, sulit diikuti dan mengganggu permainan," lanjut pihak Roblox.

Kata-kata yang kasar akan dihapus oleh AI dan diganti lebih halus. Bila kata kasar digunakan hanya sebagai pelengkap kalimat, maka AI akan menghapus tanpa menggantinya dengan kata lain.

Fitur ini fokus untuk kata-kata yang dinilai kasar di dalam game dan untuk obrolan antara pengguna dengan rentang usia yang mirip atau untuk Trusted Connections (teman yang sudah dipercaya pengguna).

"Pengubahan frasa didukung dalam semua bahasa yang saat ini tersedia melalui alat terjemah otomatis kami. Tujuan kami mencapai tingkat akurasi yang memungkinkan kami mengurangi penggunaan ### hingga dapat menghapus sepenuhnya, sehingga komunikasi terjalin senatural mungkin seperti mengobrol langsung," jelas pihak Roblox.

Roblox memastikan, fitur ini merupakan perluasan dari fitur moderasi yang sudah ada, sehingga pelanggaran komunikasi tetap akan dikenakan sanksi yang sudah berlaku. Gamer juga masih akan mendapatkan peringatan ketika berkata kasar.

Update sistem penyaring teks

Selain itu, Roblox juga memperbarui sistem penyaring teks di backend. Kini sistem ini ditenagai AI untuk mengirimkan pesan yang tidak jelas ke model AI agar menganalisis konteks.

Menurut Roblox, pembaruan tersebut membuat sistem jadi lebih baik dalam mendeteksi upaya gamer dalam melewati filter. Misalnya dengan mengubah huruf menjadi angka atau simbol saat berkata kasar.

Sistem ini juga diklaim efektif mencegah pengguna berbagi data pribadi di platform, misalnya berbagi nomor telepon, akun media sosial, atau kontak pribadi lainnya, dihimpun KompasTekno dari Dexerto.

KOMPAS.com berkomitmen memberikan fakta jernih, tepercaya, dan berimbang. Dukung keberlanjutan jurnalisme jernih dan nikmati kenyamanan baca tanpa iklan melalui Membership. Gabung KOMPAS.com Plus sekarang