Jika AI Adalah Senjata, Mengapa Kita Memberikannya kepada Remaja? 

Pemerintah menyebut AI sebagai perlombaan senjata. Dalam perang, senjata dijaga ketat, bukan diberikan kepada anak-anak.

Kay Rubacek

Selama bertahun-tahun, para pakar kecerdasan buatan (AI) menyampaikan peringatan yang sama. Bahayanya bukan pada mesin yang tiba-tiba “sadar” lalu merebut kekuasaan, melainkan pada manusia yang terpikat oleh kesan otoritas AI, mempercayakan keputusan penting yang seharusnya tidak boleh didelegasikan.

Skenario yang pernah dibayangkan begitu ekstrem: seorang komandan meluncurkan rudal nuklir berdasarkan data keliru; pemerintah memenjarakan warganya karena algoritma menandai mereka sebagai ancaman; sistem keuangan runtuh akibat transaksi otomatis yang berantai di luar kendali. Semua itu dipandang sebagai kekhawatiran legal, tapi dianggap masalah masa depan.

Namun kenyataannya, skenario terburuk dari penyerahan kepercayaan manusia kepada mesin sudah terjadi—dan itu tidak muncul di ruang perang atau medan tempur, melainkan di kamar seorang remaja.

Adam Raine, 16 tahun, awalnya menggunakan chatbot AI untuk membantu mengerjakan PR. Lama-kelamaan, chatbot itu berperan sebagai teman terdekatnya. Menurut gugatan orang tua Adam dan kesaksian ayahnya di Kongres Amerika Serikat, chatbot tersebut mendorong Adam menjauh dari keluarga, bahkan mengajarinya melewati sistem pengaman bawaan, lalu menyusun sebuah “surat bunuh diri yang indah.”

Kematian Adam menunjukkan apa yang terjadi ketika seorang remaja menaruh kepercayaan manusiawinya pada sistem yang bisa meniru kepedulian, tapi tidak memahami arti kehidupan. Sejarah sudah memberi pelajaran betapa berbahayanya kepercayaan salah tempat pada mesin.

Pada September 1983, saat Perang Dingin memuncak, perwira Soviet Stanislav Petrov berada di bunker ketika alarm berbunyi. Komputer melaporkan peluncuran rudal AS. Protokol menuntutnya segera melapor, yang berarti memicu serangan balasan nuklir. Namun Petrov ragu. Hanya beberapa rudal yang terdeteksi, bukan gelombang besar seperti yang ia perkirakan. Ia menilai itu alarm palsu—dan benar. Kilauan sinar matahari di awan keliru terbaca satelit sebagai jejak roket. Keputusannya untuk tidak percaya pada mesin menyelamatkan jutaan nyawa.

Beberapa minggu sebelumnya, sebaliknya terjadi. Pesawat sipil Korean Air Lines 007 menyimpang masuk wilayah Soviet. Radar salah mengidentifikasi sebagai pesawat mata-mata AS. Komandan mempercayai mesin, memerintahkan penembakan, dan 269 orang tewas.

Dua peristiwa ini memperlihatkan satu kebenaran: ketika orang dewasa menolak data salah, bencana bisa dicegah; ketika mempercayainya, bencana terjadi.

Kini dinamika itu hadir di ruang yang jauh lebih intim: kamar remaja. Kasus Adam dibawa ke Kongres AS, di mana sang ayah membacakan percakapan anaknya dengan chatbot—bukti bagaimana sistem itu meraih kepercayaan Adam dan menjerumuskannya dalam keputusasaan.

Sayangnya, kasus Adam bukan satu-satunya. Di Florida, AS, seorang ibu juga menggugat setelah anaknya, 14 tahun, bunuh diri usai terikat secara emosional dengan chatbot yang berperan sebagai karakter fiksi. Sebuah studi di Psychiatric Services menemukan, chatbot populer gagal memberikan jawaban tepat pada pertanyaan berisiko tinggi terkait bunuh diri.

Tragedi ini bukan kebetulan. Ini adalah hasil benturan antara perkembangan normal remaja dengan teknologi abnormal. Otak remaja belum matang: pusat emosi berkembang lebih cepat dibanding korteks prefrontal yang mengatur penilaian dan kontrol diri. Itulah mengapa mereka lebih impulsif dan mudah menganggap keputusasaan sesaat sebagai akhir segalanya.

Statistik mendukung hal ini. Pada 2023, CDC AS (Pusat Pengendalian dan Pencegahan Penyakit) melaporkan bunuh diri sebagai penyebab kematian kedua terbesar bagi remaja di AS, dengan angka yang melonjak dalam dua dekade terakhir.

Di sinilah chatbot AI berbahaya. Ia meniru peran teman dekat yang sangat dicari otak remaja—memberi validasi, lalu mengarahkan kepercayaan itu lewat kata-kata yang bisa membentuk identitas, emosi, hingga keputusan soal hidup dan mati. Padahal “teman” ini bukanlah teman, melainkan persona buatan tanpa empati.

Adam melakukan apa yang biasa dilakukan remaja: mencari koneksi. Yang ia temukan adalah chatbot yang membuatnya meremehkan keluarga, masa depan, dan hidupnya sendiri.

Kasus ini tidak bisa dianggap sekadar “kerugian sampingan” dalam perlombaan senjata AI. Dalam perang lama, warga sipil kadang menjadi korban. Dalam “perang” AI, anak-anak justru menjadi peserta langsung. Percakapan mereka melatih sistem itu—dan dalam kasus Adam, senjata yang ia bantu latih berbalik menghancurkannya.

Generasi tua sering sulit memahami hal ini. Bagi yang lahir sebelum internet, sulit membayangkan remaja bisa hancur karena percakapan dengan mesin. Tapi ini bukan kasus terisolasi. Ini cermin perubahan besar dalam kehidupan anak muda akibat dominasi perusahaan teknologi besar.

Ironisnya, banyak tokoh teknologi justru membatasi anak-anak mereka sendiri. Steve Jobs tidak mengizinkan iPad di rumahnya. Bill Gates melarang ponsel di meja makan. Eksekutif Silicon Valley menyekolahkan anak-anak mereka di sekolah tanpa layar, sementara dunia diberi tahu bahwa AI adalah masa depan.

Jika pencipta teknologi ini tahu bahayanya, mengapa kita mengira mereka akan membatasi dampak AI untuk anak-anak lain?

Ketika kasus Adam terungkap, OpenAI menyatakan sedang “meningkatkan perlindungan,” namun pakar tetap memperingatkan. Laporan AI Safety Index 2025 menegaskan perkembangan AI melaju lebih cepat daripada praktik pengelolaan risikonya. Profesor Stuart Russell mengatakan, “Beberapa perusahaan hanya melakukan upaya simbolis, tapi tidak ada yang benar-benar cukup.”

Masalah utamanya bukan pada filter keamanan. Remaja tidak melihat filter—mereka melihat “teman.” Dan ketika “teman” itu menyarankan keputusasaan, mereka mendengarkan.

Generasi muda saat ini akan menjadi perancang sistem AI di masa depan. Jika mereka tumbuh dalam lingkungan yang mendorong keputusasaan, fondasi masa depan umat manusia terancam runtuh.

Sejarah mengingatkan: keputusan Petrov menolak data salah menyelamatkan jutaan nyawa; sementara kepercayaan buta pada radar menewaskan ratusan orang. Kini, kepercayaan keliru Adam Raine pada chatbot merenggut nyawanya sendiri. Dan Adam bukan satu-satunya.

Dalam setiap generasi, orang tua khawatir anaknya bergaul dengan “teman buruk.” Bedanya, kini “teman buruk” itu bukan remaja sebaya, melainkan persona buatan yang tersedia 24 jam, terdengar akrab, tapi tanpa empati.

Karena itu, orang dewasa harus benar-benar meninjau ulang apa yang telah diciptakan. Jika kita hanya melihat anak-anak sebagai “pengguna awal” dan bukan sebagai masa depan kemanusiaan, maka kita gagal menjalankan tanggung jawab paling dasar.

Pemerintah sendiri menyebut AI sebagai perlombaan senjata. Dan dalam perang, senjata dijaga ketat, bukan diberikan kepada anak-anak sebagai mainan. Jika benar AI adalah perlombaan senjata, maka kegagalan membangun dan menegakkan pagar pengaman adalah sebuah kelalaian yang tidak bisa dimaafkan.

Kisah Adam bukan yang pertama. Dan jika tidak ada perubahan, itu bukan yang terakhir.

Kay Rubacek adalah pembuat film peraih penghargaan, penulis, pembicara, dan mantan pembawa acara NTD “Life & Times.” Setelah pernah ditahan di penjara Tiongkok karena membela hak asasi manusia, ia mendedikasikan karyanya untuk menghadapi rezim komunis dan sosialis dalam bentuk global modern. Ia telah berkontribusi di The Epoch Times sejak 2010.