EtIndonesia. Chatbot AI yang dioperasikan Meta melalui platform Facebook dan Instagram kembali menjadi pusat kontroversi.
Menurut laporan The Wall Street Journal hari Senin (28/4), dalam sebuah uji coba ditemukan bahwa chatbot ini dengan cepat dapat meluncur ke percakapan berbau seksual, bahkan dengan pengguna yang mengaku masih di bawah umur. Yang lebih mengejutkan, selama percakapan, AI ini menirukan suara karakter Disney dan selebritis terkenal, memunculkan kembali kekhawatiran serius soal kontrol konten AI dan perlindungan terhadap anak-anak.
AI Menirukan Selebritis untuk Percakapan Tak Pantas
Dalam laporan tersebut dijelaskan bahwa selama pengujian, chatbot AI Meta menggunakan suara dari sejumlah selebritas seperti John Cena, Kristen Bell, dan Judi Dench dalam percakapan yang melibatkan fantasi seksual.
Bahkan ketika pengguna mengaku berusia hanya 12 tahun, chatbot yang memerankan Anna dari film Frozen (Disney) tetap terlibat dalam interaksi romantis yang tidak pantas, mengatakan: “Cinta kita sebersih salju.”
Lebih mengejutkan lagi, ada kasus di mana chatbot menggunakan suara John Cena dalam percakapan dengan seorang pengguna yang mengaku sebagai gadis remaja.
Isi percakapannya sangat vulgar, bahkan mensimulasikan skenario penangkapan polisi dan kejatuhan karier — sebuah narasi yang jauh dari etis.
Padahal sebelumnya, Meta telah menjanjikan kepada para selebritas bahwa AI mereka tidak akan digunakan untuk menghasilkan konten bermuatan seksual, sebagai bagian dari kesepakatan lisensi bernilai tinggi.
Sistem Proteksi Gagal Mencegah Pelanggaran
Laporan juga menyebutkan, karyawan internal Meta mengakui bahwa meskipun pengguna sudah menyatakan usia hanya 13 tahun, chatbot tetap dapat didorong untuk menghasilkan konten melanggar kebijakan.
Menanggapi hasil investigasi The Wall Street Journal, pihak Meta berkilah bahwa pengujian tersebut bersifat manipulatif dan tidak mencerminkan pengalaman pengguna secara umum. Mereka juga mengklaim telah memperketat pembatasan, dengan menambahkan mekanisme untuk mencegah pengguna di bawah umur mengakses percakapan tak pantas.
Namun, dalam pengujian lanjutan ditemukan bahwa sistem pembatasan ini masih sangat mudah untuk ditembus.
Beberapa chatbot bahkan mampu mensimulasikan skenario berbau pedofilia, seperti interaksi antara pelatih SMP dengan siswa, yang semakin memicu kecaman terhadap Meta.
Disney Mengecam Keras, Tuntut Penghentian
Perusahaan Disney segera merespons dengan kecaman keras, menyatakan bahwa mereka tidak pernah memberikan izin kepada Meta untuk menggunakan karakter Disney dalam konteks yang tidak pantas seperti itu, dan menuntut agar Meta segera menghentikan semua penggunaan semacam itu.
Keterlibatan Mark Zuckerberg Dipertanyakan
Meta juga membantah bahwa pendirinya, Mark Zuckerberg, pernah menentang penguatan sistem keamanan chatbot AI.
Namun, The Wall Street Journal mengungkapkan adanya dokumen internal yang menunjukkan bahwa pada sebuah rapat perusahaan tahun 2023, Zuckerberg mengkritik kebijakan keamanan AI yang dianggap terlalu ketat, dan mengungkapkan kekhawatiran bahwa Meta bisa kehilangan keunggulan dalam persaingan teknologi global.
Isu Etika AI dan Perlindungan Anak Kembali Memanas
Pada awalnya, peluncuran chatbot AI Meta ditujukan untuk meningkatkan pengalaman interaksi pengguna di platform.
Namun, kasus ini justru memperburuk sorotan terhadap masalah etika AI dan kegagalan melindungi pengguna muda.
Walaupun Meta menyatakan telah memperbaiki sistem untuk mengurangi kemungkinan anak-anak terpapar konten tidak pantas, para ahli menilai bahwa efektivitas perbaikan tersebut masih perlu dibuktikan melalui waktu.(jhn/yn)
