Laporan Universitas Stanford: Kecerdasan Buatan Mengancam “Bencana Nuklir”

oleh Li Zhaoxi

Sejak tahun 2022, teknologi kecerdasan buatan (artificial intelligence/AI) telah berkembang pesat, mulai dari Google DeepMind yang memprediksi struktur hampir semua protein yang diketahui dalam tubuh manusia hingga peluncuran alat bantu AI generatif OpenAI, DALL-E dan ChatGPT, tetapi banyak ahli yang mengkhawatirkan AI dapat memberikan dampak yang buruk bagi dunia.

Menurut laporan tahunan tentang teknologi AI yang dirilis awal April ini oleh Institut Kecerdasan Buatan Universitas Stanford, 36% peneliti yang ikut serta dalam survei tersebut mengatakan bahwa dampak AI tidaklah positif, dan memperingatkan bahwa keputusan yang diambil oleh AI dapat menyebabkan ‘bencana tingkat nuklir’.

Walaupun sebagian besar peneliti mengatakan bahwa dampak bersih dari kecerdasan buatan dan pemrosesan bahasa alami (cabang ilmu komputer yang terkait dengan pengembangan AI) akan positif di masa depan, masih ada kekhawatiran bahwa teknologi ini akan segera mengembangkan kemampuan yang berpotensi berbahaya dan penjaga gerbang tradisional tidak lagi sekuat dulu.

Menurut laporan tersebut, sekitar tiga perempat peneliti pemrosesan bahasa alami mengatakan bahwa teknologi AI dapat segera memicu “perubahan sosial  revolusioner”.

“Karena hambatan teknis untuk membuat dan menerapkan sistem AI generatif telah menurun secara dramatis, masalah etika seputar AI menjadi lebih menonjol bagi publik,” kata laporan tersebut.

Selama beberapa bulan terakhir, sebagian besar kekhawatiran tentang AI berfokus pada dampak destruktif teknologi tersebut terhadap masyarakat. Menurut laporan penelitian Goldman Sachs bulan lalu, sebanyak 300 juta pekerjaan di AS dan Eropa berisiko jika AI generatif mencapai potensi penuhnya, dengan pekerjaan hukum dan administratif yang paling berisiko.

Selain itu, AI generatif telah menimbulkan kekhawatiran tentang ketidakakuratan teknologi tersebut. Produk AI Microsoft dan Google sering kali membuat pernyataan yang tidak benar atau menyesatkan.

Pada saat yang sama, perkembangan AI yang cepat berarti bahwa perusahaan dan individu yang tidak berinovasi dengan berani mungkin akan tertinggal, dan teknologi ini akan segera dikembangkan ke tingkat yang tidak terbayangkan.

Menurut laporan dari Stanford University, 57% peneliti mengatakan bahwa pada tingkat perkembangan AI saat ini, teknologi ini bergerak dari AI generatif menuju penciptaan kecerdasan umum buatan. Kecerdasan umum buatan (AGI) adalah sistem kecerdasan buatan yang dapat secara akurat meniru atau bahkan melampaui kemampuan otak manusia.

Sekitar 58 persen peneliti Stanford yang disurvei mengatakan AGI merupakan “perhatian penting”. Jika AGI benar-benar menjadi kenyataan, kemungkinan besar itu akan menjadi momen penting dalam sejarah dan perkembangan manusia, tetapi ketika manusia kehilangan kendali atas perkembangan teknologi, kecerdasan buatan akan memperoleh kecerdasan manusia super.

Survei ini menemukan bahwa para ahli dari Stanford University paling khawatir bahwa penelitian AI saat ini terlalu berfokus pada peningkatan dan pencapaian tujuan, dan gagal untuk mencakup pertimbangan lain di berbagai bidang penelitian. Seiring dengan berlanjutnya penelitian mengenai dampak  lebih besar dari teknologi AI, para ahli lainnya juga menyuarakan kekhawatiran yang sama, dan meminta para pengembang besar untuk memperlambat laju pengembangan AI.

Maret lalu, 1.300 penandatangan bergabung dalam sebuah surat terbuka, termasuk Elon Musk dan Steve Wozniak, yang menyerukan larangan selama enam bulan bagi perusahaan-perusahaan AI untuk mengembangkan versi yang lebih kuat. (Hui)