Aaron Pai
OpenAI mengumumkan bahwa pihaknya telah mengganggu lima operasi pengaruh dari empat negara dengan menggunakan alat kecerdasan buatan untuk memanipulasi opini publik dan membentuk hasil politik di internet.
Pada 30 Mei 2024, perusahaan tersebut mengatakan bahwa operasi-operasi pengaruh terselubung ini dilakukan dari Rusia, Tiongkok, Iran, dan Israel. Para pelaku di balik operasi-operasi ini menggunakan alat-alat OpenAI untuk menghasilkan komentar, membuat artikel, atau membuat nama palsu atau bios untuk akun media sosial selama tiga bulan terakhir.
Laporan tersebut menemukan bahwa konten yang didorong oleh operasi ini menargetkan berbagai masalah yang sedang berlangsung, termasuk kritik terhadap rezim Tiongkok dari para pembangkang Tiongkok dan pemerintah asing, politik Amerika Serikat dan Eropa, invasi Rusia ke Ukraina, dan konflik di Gaza.
Namun, operasi semacam itu tidak mencapai tujuannya, secara berarti meningkatkan keterlibatan audiens mereka karena layanan perusahaan tersebut, OpenAI mengatakan dalam sebuah pernyataan.
Perusahaan ini menemukan tren dari para pelaku ini dengan menggunakan alat-alat kecerdasan buatannya, termasuk pembuatan konten, memadukan materi lama dengan materi baru di antara materi yang dihasilkan kecerdasan buatan dengan jenis konten lainnya, memalsukan keterlibatan dengan membuat balasan untuk postingan sosial konten mereka sendiri, dan peningkatan produktivitas seperti merangkum postingan media sosial.
Jaringan Pro-Beijing
OpenAI mengatakan pihaknya mengganggu operasi Spamouflage, sebuah jaringan disinformasi dan propaganda yang pro-Beijing di Tiongkok. Operasi Tiongkok tersebut menggunakan model kecerdasan buatan OpenAI untuk mencari saran mengenai aktivitas media sosial, meneliti berita, dan peristiwa terkini, dan menghasilkan konten dalam bahasa Mandarin, Inggris, Jepang, dan Korea.
Sebagian besar konten yang dihasilkan oleh jaringan Spamouflage adalah topik-topik yang memuji rezim komunis Tiongkok, mengkritik pemerintah Amerika Serikat, dan menyasar para pembangkang Tiongkok.
Konten tersebut diposting di berbagai platform sosial, termasuk X, Medium, dan Blogspot. OpenAI menemukan bahwa pada tahun 2023, operasi Tiongkok menghasilkan artikel yang mengklaim bahwa Jepang mencemari lingkungan dengan melepaskan air limbah dari pembangkit listrik tenaga nuklir Fukushima. Aktor dan aktivis Tibet Richard Gere dan pembangkang Tiongkok Cai Xia juga menjadi sasaran jaringan ini.
Jaringan tersebut juga menggunakan model OpenAI untuk men-debug kode dan menghasilkan konten untuk situs web berbahasa Mandarin yang menyerang para pembangkang Tiongkok, yang menyebut mereka “pengkhianat.”
Tahun lalu, Facebook menemukan hubungan antara Spamouflage dengan penegakan hukum Tiongkok, mencatat bahwa kelompok tersebut telah mempromosikan kampanye pro-Beijing di media sosial sejak tahun 2018. Perusahaan tersebut menghapus sekitar 7.700 akun Facebook dan seratus halaman serta akun Instagram yang terlibat dalam operasi pengaruh yang mendorong narasi positif mengenai Beijing serta komentar negatif mengenai Amerika Serikat dan kritik terhadap rezim Tiongkok.
Operasi Rusia, Israel, dan Iran
OpenAI juga menemukan dua operasi dari Rusia, salah satunya adalah Doppelganger. Operasi ini menggunakan alat-alat OpenAI untuk menghasilkan komentar dalam berbagai bahasa dan posting di X dan 9GAG. Doppelganger juga menggunakan alat-alat AI untuk menerjemahkan artikel dalam bahasa Inggris dan Prancis dan mengubah artikel itu menjadi postingan di Facebook.
OpenAI mengatakan yang lainnya adalah jaringan Rusia yang sebelumnya tidak dilaporkan, Bad Grammar, yang beroperasi terutama di Telegram dan berfokus di Ukraina, Moldova, Amerika Serikat, dan negara-negara Baltik. Bad Grammar menggunakan alat-alat OpenAI untuk men-debug kode untuk sebuah bot Telegram yang secara otomatis memposting informasi mengenai platform ini. Kampanye ini menghasilkan komentar politik singkat dalam bahasa Rusia dan Inggris mengenai perang Rusia-Ukraina dan politik-politik Amerika Serikat.
Selain itu, perusahaan induk ChatGPT menemukan satu operasi dari Israel yang berkaitan dengan perusahaan pemasaran politik yang berbasis di Tel Aviv, STOIC dan lainnya dari Iran. Keduanya menggunakan ChatGPT untuk menghasilkan artikel-artikel. Iran mempublikasikan konten tersebut di sebuah situs web terkait dengan situs web pelaku ancaman Iran, sementara Israel memposting komentar-komentarnya di berbagai platform, termasuk X, Facebook, dan Instagram.
Sementara itu, pada 29 Mei 2024, Facebook merilis laporan triwulanan yang mengungkapkan bahwa konten menipu yang “kemungkinan mirip yang dihasilkan oleh kecerdasan buatan” telah diposting di platform Facebook.
Laporan tersebut mengindikasikan bahwa Meta mengganggu enam operasi-operasi pengaruh rahasia di kuartal pertama, termasuk satu jaringan yang berbasis di Iran dan satu lagi dari STOIC, perusahaan Israel.
OpenAI meluncurkan ChatGPT ke publik pada tanggal November 2022. Chatbot tersebut dengan cepat menjadi sebuah fenomena global, menarik ratusan juta pengguna yang terkesan dengan kemampuannya menjawab pertanyaan dan terlibat dalam beragam topik.
OpenAI menarik perhatian teknologi global tahun lalu ketika Dewan Direksi OpenAI tiba-tiba memecat CEO Sam Altman. Langkah ini mendapat reaksi keras dari seluruh dunia, sehingga memaksa Dewan Direksi OpenAI untuk mempekerjakan Sam Altman kembali dan mengakibatkan pengunduran diri sebagian besar anggota dewan dan terjadi pembentukan dewan baru. (vv)
