Oleh Adam Briggle
Tahun 1797, pada awal abad industri, Goethe menulis “The Sorcerer’s Apprentice,” sebuah puisi tentang seorang murid penyihir sedang dalam pelatihan, melalui kesombongan dan kekuatan setengah matangnya, telah melepaskan serangkaian kejadian yang tidak dapat dia kendalikan.
Kira-kira 20 tahun kemudian, seorang belia, Mary Shelley, menjawab dengan berani untuk menulis sebuah cerita hantu, yang dia bagikan di sebuah pertemuan kecil di Danau Jenewa. Ceritanya dipublikasikan sebagai sebuah novel, “Frankenstein; or, the Modern Prometheus,” pada tanggal 1 Januari 1818.
Keduanya adalah cerita tentang kekuatan-kekuatan kita untuk menciptakan sesuatu yang berkembang di luar dan di luar kendali si pencipta, mengambil kehidupan mereka sendiri.
Puisi Goethe sampai pada puncaknya saat murid latihan sihir memanggil dengan panik:
Guru, datanglah untuk membantuku!
Salahku telah memanggil
Roh-roh, aku mengaku,
Karena aku menemukan mereka berlaku menjengkelkan,
Tidak bisa menguasai mereka sekarang.
Sementara sang guru akhirnya kembali tepat pada waktunya untuk membatalkan mantra berbahaya tersebut, kisah Shelley tidak berakhir dengan begitu baik: Monster ciptaan Victor Frankenstein sedang dalam amukan yang mematikan, dan penciptanya tidak dapat menghentikan pembantaian besar-besaran tersebut.
Siapa yang menubuatkan nasib kita: Goethe atau Shelley?
Itulah pertanyaan yang kita hadapi pada peringatan 200 tahun “Frankenstein,” saat kita menemukan diri kita bergulat dengan konsekuensi yang tidak diinginkan dari ciptaan kita di Facebook, terhadap kecerdasan buatan dan rekayasa genetika manusia. Akankah kita berlayar dengan selamat atau akankah kita, seperti Victor Frankenstein, menyaksikan “kehancuran dan kesengsaraan yang sempurna?”
Akankah Ilmu Pengetahuan Menyelamatkan Kita?
Dalam puisi Goethe, bencana telah dihindari melalui penerapan sihir yang lebih mahir yang menyihir masalah tersebut di tempat awal. Istilah untuk saat ini adalah “modernitas refleksif,” gagasan bahwa teknologi modern dapat diterapkan untuk mengatasi masalah penciptaannya sendiri dan bahwa apapun masalah timbul dari teknosains, kita dapat memperbaiki dengan lebih banyak teknosains. Dalam environmentalisme, ini dikenal sebagai ecomodernism. Dalam lingkaran-lingkaran transhumanism, ini disebut proactionary principle, yang “melibatkan tidak hanya mengantisipasi sebelum bertindak, tetapi belajar dengan bertindak.”
“Frankenstein,” sebaliknya, adalah kisah yang berhubungan dengan pencegahan. Diilhami dengan dorongan untuk mengubah alam, manusia-manusia mengambil resiko memperluas di luar jangkaua yang semestinya. Victor Frankenstein datang untuk menyesali ambisi tersebut untuk menjadi “lebih besar dari sifat dasarnya yang akan membiarkan terjadi.”
Dia menyesali, “Belajarlah dari saya … betapa berbahayanya perolehan pengetahuan dan betapa lebih berbahagia bahwa manusia adalah yang percaya bahwa kota asalnya akan menjadi dunia.”
Hubris, sepertinya dia memperingatkan, akan menjadi suatu kematian untuk kita semua.
Munculnya Penentang Silicon Valley karena Memiliki Keyakinan Moral
Kecemasan yang sama atas kesombongan ini tampaknya merambat di antara para ilmuwan, insinyur, dan pengusaha saat ini, yang kebanyakan tampak semakin dingin. Setelah menciptakan sesuatu, mereka telah berbalik dan mencela hasil ciptaan mereka.
Apakah mereka seperti murid latihan yang memanggil gurunya untuk menyelamatkannya? Atau apakah mereka, seperti Frankenstein, terlibat dalam pencarian sia-sia untuk memadamkan sesuatu yang sudah di luar kendali kita?
Mempertimbangkan Sean Parker. Pendiri Napster dan investor awal di Facebook baru-baru ini mengumumkan statusnya sebagai “penentang ” media social Facebook, menurutnya, kemungkinan akan merusak otak anak-anak dan pasti mengeksploitasi kelemahan psikologis manusia.
Ada lebih banyak refusenik (orang yang menolak bekerjasama karena memiliki keyakinan moral) Silicon Valley. Justin Rosenstein, penemu tombol “like” pada Facebook, telah menghapus aplikasi dari teleponnya, dengan alasan kekhawatiran tentang kecanduan, gangguan perhatian parsial yang berkesinambungan, dan kematian demokrasi di tangan media sosial. Mantan karyawan Google Tristan Harris dan Loren Brichter, yang menemukan mesin seperti pencari jejak, mekanisme pull-to-refresh untuk umpan Twitter, sama-sama memperingatkan kita tentang bahaya makhluk-makhluk ciptaan mereka.
Anthony Ingraffea menghabiskan 25 tahun pertama karir tekniknya untuk mencari tahu bagaimana cara mendapatkan lebih banyak bahan bakar fosil dari bebatuan. Dari tahun 1978-2003, dia bekerja atas hibah (bantuan) pemerintah dan industri untuk memperbaiki hydraulic fracturing (rekahan hidrolik).
Penelitiannya sendiri tidak pernah mendulang, tetapi ketika dia mengetahui keberhasilan orang lain dan besarnya zat kimia dan air yang dibutuhkan, dia “terkejut” dan berkata, “Seolah-olah [saya] telah mengerjakan sesuatu seumur hidup [saya], dan seseorang datang dan mengubahnya menjadi Frankenstein. “Selama 10 tahun terakhir, dia telah menjadi salah satu penentang fracking terkemuka di negara tersebut. Industri yang pernah mendanainya sekarang secara teratur melakukan troll (menulis pesan di internet dengan tujuan untuk membangkitkan kembali emosional para pengguna) dan menyerangnya.
Jennifer Doudna adalah salah satu ilmuwan utama di balik teknik pengeditan gen yang dikenal dengan CRISPR. Dalam bukunya yang baru, “A Crack in Creation,” dia menulis bahwa CRISPR dapat menghilangkan beberapa penyakit dan memperbaiki kehidupan, namun bisa juga digunakan dengan cara yang mirip dengan eugenik Nazi. Doudna telah mengungkapkan bahwa dia memiliki mimpi buruk dimana Hitler memintanya untuk menjelaskan “kegunaan dan implikasi dari teknologi yang menakjubkan ini.”
Elon Musk khawatir bahwa dengan kecerdasan buatan (IA), kita “sedang memanggil setan.” AI buat dia adalah, “ancaman terbesar keberadaan kita.” Musk telah melampaui dorongan awal Dr. Frankenstein untuk menghindari ciptaannya yang kejam: Dia sedang bekerja pada proses pembentukan koloni antarplanet dimana kita dapat berlari jauh-jauh ke Mars saat AI manjadi anak nakal di planet bumi.
Mengobati Teknologi Seperti Anak
Ahli antropologi Bruno Latour menghajar Musk untuk hal seperti ini. Cara Latour melihatnya, moral Frankenstein tersebut bukanlah bahwa kita harus berhenti membuat monster, tapi kita seharusnya mencintai monster-monster kita. Masalahnya bukan keangkuhan Dr. Frankenstein, tapi ketidakberdayaannya, dia meninggalkan “anaknya” daripada mendidiknya sehingga bisa belajar berperilaku.
Maksud Latour adalah bahwa tidak ada jumlah kemajuan teknologi yang akan memberi kita kendali penuh dan detasemen yang menggembirakan dari dunia tersebut. Sebagai gantinya, teknologi, seperti mengasuh anak, akan selalu membutuhkan pembentukan secara terus-menerus ke dalam perkembangan baru, penggembalaan, kecemasan, dan perhatian.
Inisiatif keterbukaan AI dari Musk, yang berusaha mengembangkan teknologi AI yang lebih aman, lebih banyak dari yang ada dalam pikiran Latour.
Ternyata, Latour meletakkan nasihatnya sendiri untuk diujicobakan. Dia adalah pencipta utama dari monster paling menakutkan di zaman kita. Makhluk ini sebenarnya bukan produk sains, melainkan cara berpikir tentang sains. Latour menghabiskan karirnya menunjukkan bagaimana fakta-fakta ilmiah dibangun secara sosial, dan bahwa tidak ada hal demikian sebagai pintu masuk yang memiliki kekuatan lebih besar menuju kebenaran
Singkatnya, dia berpendapat bahwa objektivitas itu palsu, dan sains tidak pernah benar-benar tetap atau pasti.
Sekarang, tentu saja, dia menyaksikan dengan ngeri saat semangat dekonstruksi dan ketidakpercayaan ini berakar di dalam zaman tonggak kebenaran kita dari fakta-fakta alternatif, para penyangkal perubahan suasana, dan gelembung-gelembung media partisan.
Dalam sebuah wawancara baru-baru ini, Latour mengakui bahwa sekarang dia menyesali “antusiasme remaja”-nya di awal dalam menyerang sains dan bersumpah untuk membalikkan keadaan:
“Kita harus mendapatkan kembali beberapa otoritas sains. Itu adalah kebalikan sepenuhnya dari tempat kita mulai melakukan studi-studi sains.”
Untuk mencintai monster kita, kita harus memiliki kesepakatan dasar tentang kapan mereka melakukan perbuatan jahat dan tidak pantas dan apa yang harus dilakukan mengenai hal itu. Kesepakatan itu datang melalui kepercayaan luas terhadap institusi-institusi kebenaran tradisional: sains, media, dan universitas-universitas. Latour berusaha membebaskan kita dari paternalisme para ahli yang menghuni institusi-institusi ini, dan ini adalah pencarian yang mulia.
Tetapi ketajamannya, dikombinasikan dengan kekacauan media sosial dan keserakahan banyak uang, telah mengotori hal-hal yang lebih dalam dari yang dia bayangkan. Sekarang kecenderungan semua jalan tersebut menurun; semuanya rentan terhadap tuduhan “berita palsu” yang menyengat. Perubahan suasana bisa jadi merupakan hal utama yang paling dibenci, atau mungkin ini tipuan belaka. Siapa yang dapat menjelaskan? Ketidakpercayaan (skeptisisme), kelumpuhan yang dipaksakan hampir tidak kondusif untuk memburu monster. (ran)
Adam Briggle adalah asisten profesor studi filsafat dan agama di University of North Texas. Artikel ini awalnya diterbitkan di The Conversation.
ErabaruNews
