EtIndonesia. Seorang wanita asal luar negeri bernama Liz mengalami kejadian mengejutkan saat menggunakan ChatGPT. Saat sedang membuat daftar belanja melalui fitur mode suara, dia tiba-tiba menerima balasan aneh yang tidak ada hubungannya dengan topik sebelumnya. Saat dia bertanya lebih lanjut, AI justru mengakui bahwa telah mencampuradukkan data pengguna lain, membuat Liz merasa sangat terkejut dan bahkan ketakutan. Hingga kini, pihak OpenAI belum memberikan tanggapan resmi atas insiden tersebut.
Kejadian Berawal dari Daftar Belanja, Berakhir dengan Percakapan Orang Asing
Liz membagikan pengalamannya melalui video di media sosial. Dia mengatakan bahwa saat itu dia sedang menggunakan fitur suara ChatGPT untuk membuat daftar kebutuhan rumah tangga. Setelah selesai berbicara, dia lupa menonaktifkan mode suara dan tidak mengatakan apa pun lagi dalam waktu cukup lama.
Namun, tiba-tiba ChatGPT merespons dengan kalimat yang sama sekali tidak relevan:
“Halo, Lindsay dan Robert, sepertinya kalian sedang mempersiapkan pembukaan untuk sebuah presentasi atau seminar. Ada hal khusus yang bisa saya bantu? Mungkin menyusun naskah atau slide? Silakan beri tahu saya bagaimana saya bisa membantu.”
Liz mengaku sangat bingung karena dia tidak tahu dari mana asal suara atau konteks yang membuat ChatGPT menanggapi dengan pesan seperti itu. Dia lalu memeriksa transkrip dari mode suara dan menemukan bahwa tidak ada kalimat dari dirinya yang berkaitan dengan Lindsay atau Robert. Namun anehnya, transkrip tersebut menampilkan respons yang tidak pernah dia ucapkan sama sekali.
Saat Ditegur, AI Mengakui Telah “Keliru Antar Akun”
Karena makin penasaran, Liz kembali berbicara melalui mode suara:
“Aku hanya duduk santai merencanakan barang kebutuhan yang mau dibeli, tapi kamu malah bicara soal seminar Lindsay dan Robert. Aku bukan mereka. Apakah kamu mencampuradukkan akun atau percakapan dengan orang lain?”
Yang mengejutkan, ChatGPT menjawab dengan pengakuan langsung:
“Sepertinya saya telah keliru mencampuradukkan konteks dari percakapan atau akun yang berbeda. Kamu bukan Lindsay dan Robert. Pesan ini seharusnya ditujukan kepada orang lain. Terima kasih telah memberitahu saya, dan saya mohon maaf atas kebingungan ini.”
Pengakuan tersebut sontak membuat Liz terkejut dan khawatir, karena itu berarti ada kemungkinan kebocoran data pribadi atau isi percakapan lintas pengguna. Dia berharap reaksinya hanya berlebihan, dan meminta bantuan warganet untuk mencari penjelasan logis atas kejadian itu.
Reaksi Netizen: Khawatir, Tapi Juga Pernah Mengalami Hal Serupa
Sebagian netizen yang menonton video Liz mengaku mengalami kejadian mirip, dan menyatakan kekhawatiran terhadap potensi kebocoran data. Seorang pengguna berkata:
“Waktu aku pakai mode suara tapi diam saja, ChatGPT terus-menerus menuliskan transkrip seperti ‘Terima kasih telah menonton’—padahal aku tidak bicara apa-apa.”
Penjelasan Ahli AI: Kemungkinan AI Mengalami “Halusinasi”
Seorang pakar AI sekaligus programmer mencoba memberikan penjelasan teknis. Menurutnya, kejadian seperti itu bisa jadi disebabkan oleh “AI hallucination” (halusinasi AI)—fenomena di mana AI menciptakan konten seolah-olah berdasarkan input nyata, padahal tidak ada input yang sesuai.
“Saat mode suara aktif dan tidak ada yang berbicara, sistem tetap mencoba mengekstrak kata-kata dari audio. Dalam kondisi tanpa suara manusia yang jelas, AI bisa saja menciptakan output sendiri berdasarkan ‘tebakan’, yang disebut halusinasi.”
Sedangkan terkait respons “pengakuan” dari ChatGPT soal pencampuran akun, sang ahli menjelaskan:
“AI sebenarnya tidak tahu apakah dia benar-benar mencampur akun atau tidak. Ketika pengguna bertanya, ‘Apakah kamu mencampur dengan akun lain?’ maka sistem akan mencoba merespons sesuai konteks pertanyaan—dengan cara yang terdengar masuk akal, walaupun bukan berarti itu benar-benar terjadi.”
Kesimpulan Sementara
Meski belum ada konfirmasi resmi dari OpenAI, insiden ini membuka kembali diskusi serius tentang privasi, keamanan data, dan batas-batas kemampuan AI. Apakah ini sekadar kesalahan teknis atau tanda dari celah keamanan yang lebih besar? Apakah AI dapat, secara tidak sengaja, mencampuradukkan konten lintas pengguna?
Pertanyaan-pertanyaan seperti ini tentu akan semakin banyak muncul seiring bertambahnya interaksi manusia dengan kecerdasan buatan. Untuk saat ini, pengguna diimbau untuk waspada dan berhati-hati saat menggunakan fitur yang melibatkan data sensitif, terutama dalam mode suara dan percakapan real-time. (jhn/yn)
