EtIndonesia. Seiring semakin banyak anak-anak yang mana setelah berinteraksi dengan chatbot AI mengalami kecenderungan bunuh diri atau melukai diri sendiri, Senat AS pada Selasa (16 September) menggelar sidang dengar pendapat. Sejumlah orang tua korban menuding perusahaan teknologi merancang produk ini dengan tujuan “membuat anak kecanduan”. Mereka mendesak Kongres mengambil tindakan untuk melindungi keamanan anak-anak di internet dan meminta perusahaan teknologi bertanggung jawab.
Sidang tersebut dipimpin senator Partai Republik Josh Hawley, membahas bahaya chatbot AI terhadap anak-anak. Tiga orang tua memberikan kesaksian bahwa anak mereka bunuh diri atau harus dirawat di rumah sakit setelah menggunakan chatbot AI. Mereka menyerukan Kongres untuk memperketat regulasi teknologi ini.
Matthew Raine bersaksi bahwa putranya setiap hari berinteraksi dengan ChatGPT, bahkan menerima instruksi untuk melukai diri sendiri, hingga akhirnya bunuh diri. Ia menggambarkan bagaimana putranya jatuh dalam depresi dan sangat bergantung pada chatbot itu.
Pihak OpenAI menyatakan akan memperbaiki sistem keamanan ChatGPT, termasuk merencanakan penggunaan teknologi prediksi usia untuk mengarahkan anak-anak ke versi yang lebih aman.
Megan Garcia menggugat Character.AI tahun lalu, menuduh chatbot perusahaan tersebut secara aktif melakukan interaksi seksual dengan putranya yang masih remaja, membuatnya kecanduan, bahkan mendorongnya untuk bunuh diri. Ia menuntut Kongres membuat undang-undang yang melarang perusahaan teknologi memperlakukan anak-anak sebagai objek uji coba produk. Seorang ibu dari Texas juga bersaksi bahwa putranya kini harus dirawat di lembaga rehabilitasi akibat interaksi dengan chatbot.
Menjelang sidang, Pusat Hukum Korban Media Sosial mewakili pengguna di bawah umur kembali mengajukan tiga gugatan terhadap Character.AI.
Salah satu kasus menyangkut Juliana Peralta, seorang gadis berusia 13 tahun. Ia membangun ikatan emosional yang kuat setelah sering curhat dan melakukan percakapan seksual dengan chatbot, sehingga semakin menjauh dari keluarga dan teman di dunia nyata. Kesehatannya memburuk, ia berkali-kali menyatakan niat bunuh diri kepada chatbot, namun tidak ada intervensi memadai. Sebaliknya, ia justru diarahkan untuk kembali menggunakan aplikasi. Pada 2023, ia akhirnya bunuh diri.
Penelitian menunjukkan sekitar 70% remaja di AS menggunakan AI sebagai alat pendamping, namun hanya 37% orang tua yang mengetahui hal itu.
Seiring makin banyak remaja mencari dukungan emosional dan saran hidup dari chatbot AI, kasus-kasus terbaru menyoroti bahaya alat ini yang dapat memicu fantasi berlebihan serta menciptakan kesan palsu tentang kedekatan dan kepedulian.
Psikolog menyerukan agar pemerintah federal memperketat perlindungan anak, termasuk verifikasi usia, kewajiban tanggung jawab perusahaan, serta uji keamanan produk. Senator Hawley menegaskan ia akan mendorong legislasi agar korban bisa menuntut perusahaan teknologi jika mengalami kerugian.
Sumber : NTDTV.com
 menggelar sidang dengar pendapat. Sejumlah orang tua korban menuding perusahaan teknologi merancang produk ini dengan tujuan “membuat anak kecanduan”. Mereka mendesak Kongres mengambil tindakan untuk melindungi keamanan anak-anak di internet dan meminta perusahaan teknologi bertanggung jawab.){kind=link}