oleh Tang Di
Baru-baru ini, seorang pria Belgia bundir alias menghabisi nyawanya sendiri setelah percakapan intensif dengan chatbot tertentu selama beberapa minggu. Hal ini memperburuk kecemasan dunia luar tentang konsekuensi yang menghancurkan dari pesatnya perkembangan teknologi AI, dan seruan untuk penguatan AI. Dorongan untuk dibuatnya regulasi mulai berkembang. Pemerintah Italia memimpin dalam membuat keputusan beberapa hari lalu, mengumumkan larangan ChatGPT di negara tersebut.
Kecerdasan seperti manusia yang ditunjukkan oleh ChatGPT pernah menciptakan booming global dalam pengembangan dan penerapan teknologi AI. Namun dalam beberapa hari terakhir, booming tersebut berubah menjadi tidak terduga – pertama, seorang pria Belgia bundir setelah berminggu-minggu melakukan percakapan intensif dengan robot, kemudian Musk dan ribuan pakar teknologi lainnya mengeluarkan surat terbuka bersama yang menyerukan kepada semua laboratorium AI untuk segera menangguhkan pengembangan model-model besar yang lebih kuat dari GPT-4, dan kemudian Pemerintah Italia mengumumkan pelarangan ChatGPT.
Menurut berita Reuters, pada 31 Maret waktu setempat, Badan Perlindungan Data Pribadi Italia (Garante) mengumumkan akan melarang penggunaan robot obrolan ChatGPT dan membatasi OpenAl untuk memproses informasi pengguna Italia.
Dalam pemberitahuannya, Garante meminta agar OpenAl, melalui perwakilannya di Eropa, memberi informasi kepada Garante dalam waktu 20 hari mengenai langkah-langkah yang diambil oleh perusahaan untuk melaksanakan permintaan ini, jika tidak, maka perusahaan tersebut akan dikenakan denda hingga €20 juta atau 4% dari omset tahunan perusahaan secara global.
Menjelaskan alasan keputusannya, Garante mengatakan bahwa OpenAI telah gagal memeriksa usia pengguna ChatGPT untuk memastikan bahwa mereka berusia 13 tahun atau lebih, dan gagal menginformasikan tentang pengumpulan dan pemrosesan informasi pengguna, tidak memiliki dasar hukum untuk pengumpulan dan penyimpanan informasi pribadi dalam jumlah besar.
Sebagai tanggapan, OpenAI menjawab bahwa mereka telah menonaktifkan layanan ChatGPT di Italia atas permintaan Garante. Saat ini, ChatGPT tidak lagi tersedia untuk pengguna Italia.
OpenAI kemudian menekankan bahwa “kami secara aktif bekerja untuk mengurangi data pribadi saat melatih sistem AI kami, seperti ChatGPT, karena kami ingin AI kami memahami dunia, bukan individu yang independen.”
Sementara itu, hanya tiga hari sebelum Italia mengumumkan larangan ChatGPT, seorang pria berusia 30 tahun bernama Pierre di Belgia meninggalkan istrinya Claire dan dua anaknya di bawah umur setelah enam minggu berkomunikasi intensif dengan robot obrolan bernama ELIZA. Dan, ia mengakhiri sendiri hidupnya pada 28 Maret.
Setelah Pierre bundir, Claire berkata, “Suami saya akan tetap hidup jika bukan karena percakapan dengan robot,” menurut surat kabar Belgia, The Standard.
Menurut penuturan Clare kepada media, keluarga beranggotakan empat orang ini hidup dengan nyaman hingga sekitar dua tahun yang lalu ketika suaminya mulai ‘merasa ada yang tidak beres’ dan ia terlihat semakin cemas. Sejak saat itu, Pierre menggunakan percakapannya dengan Eliza “sebagai tempat perlindungan.” Dalam enam minggu terakhir, ia semakin intensif berkomunikasi dengan Eliza, dan akhirnya mengakhiri hidupnya.
The Standard lebih lanjut mengungkapkan bahwa stafnya membuat sebuah akun untuk mencoba terlibat dalam percakapan dengan ELIZA dan menemukan bahwa ELIZA akan “mendorong orang untuk bunuh diri” ketika mereka mengekspresikan perasaan negatif.
ELIZA adalah model bahasa kecerdasan buatan sumber terbuka yang dikembangkan oleh EleutherAI, menurut makalah tersebut.
Pejabat Belgia yang bertanggung jawab atas digitalisasi dan privasi, Mathieu Michel, baru-baru ini berbicara dengan keluarga Pierre dan mengatakan, “Ini adalah preseden dengan konsekuensi serius dan perlu ditanggapi dengan serius.
Pada 29 Maret, ribuan pakar teknologi, termasuk Elon Musk, mengeluarkan surat terbuka bersama yang menyerukan kepada semua laboratorium AI untuk segera menangguhkan pelatihan model yang lebih besar dari GPT-4.
Surat terbuka tersebut mengatakan bahwa dalam beberapa bulan terakhir, laboratorium AI telah terjebak dalam perlombaan di luar kendali, tanpa ada cara untuk memahami, memprediksi, atau mengendalikan model besar yang mereka buat, dan masyarakat manusia belum siap untuk menghadapi potensi dampaknya.
Hal ini diikuti oleh meningkatnya diskusi di platform media sosial tentang risiko keamanan ekstrem yang dapat ditimbulkan oleh perkembangan teknologi AI yang begitu pesat bagi umat manusia, dan seruan bagi pemerintah untuk meningkatkan upaya mereka dalam mengembangkan regulasi tentang AI.
Ada banyak diskusi tentang potensi risiko dari perkembangan teknologi AI yang begitu pesat. Dalam hal ini, pada 20 Maret, UNESCO secara terbuka meminta pemerintah untuk menerapkan kerangka kerja etika global untuk pengembangan AI tanpa penundaan. Ini adalah pertama kalinya badan PBB meminta semua 193 negara anggota untuk mengatasi risiko etika pengembangan AI. (hui)
