Bolehkah kita bicara tentang teknologi bukan sebagai keniscayaan atau proyek netral? Jika ya, maka ada banyak lagi yang perlu kita bahas, tak mentok pada kapitalisme.
***
Kapitalisme, secara tepat, kerap dikuliti dalam diskusi-diskusi kritis tentang arah dan visi pengembangan AI dominan. Tesisnya: jika kita bisa menghancurkan atau minimal mengurangi efek-efek terburuk kapitalisme, maka kita akan menyelesaikan banyak ketidakberesan dalam pengembangan AI saat ini.
Tapi aku curiga bahwa menginterogasi kapitalisme saja jauh dari cukup. Dalam jamuan-jamuan privat para pemodal dan bos korporasi teknologi raksasa seperti Elon Musk, Peter Thiel, Sam Altman, dan Demis Hassabis, ikut teraduk dalam pembicaraan mereka sejumlah ideologi, teori, dan gagasan lain seputar visi tekno-utopia yang cukup spesifik.
Kita tak dapat serta-merta mencap visi itu terlampau nyentrik untuk dianggap serius (meski mungkin memang iya, nyentrik). Masalahnya, visi tersebut telah menggerakkan banyak keputusan penting di atas. Kita harus mendengarkan isi kepala para elit AI dengan lebih seksama lagi, jika ingin membuat suatu penilaian yang lebih persis.
Peneliti Timnit Gebru dan Émile Torres merangkum seperangkat ideologi dan visi ini menjadi TESCREAL (Transhumanism, Extropianism, singularitarianism, cosmism, Rationalism, Effective Altruism, dan longtermism). Para elit penganut visi tekno-utopia yang kita bahas di sini dapat percaya satu atau lebih ideologi dalam buket TESCREAL, atau dipengaruhi beberapa gagasan lain yang berhubungan dengan visi posthumanisme.
TESCREAL adalah visi tekno-utopia dengan beberapa karakteristik. Antara lain: manusia menyatu dengan mesin menjadi semacam cyborg, berumur jauh lebih panjang hingga bahkan hidup abadi (immortal), dan mengisi planet-planet lain dengan keturunan spesies kita.
Penganut TESCREAL punya fantasi tekno berbeda-beda, dan tak selalu setuju dengan satu sama lain. Tapi secara umum, robot super cerdas (superintelligence, atau Artificial General Intelligence/AGI) sangat krusial dalam visi tekno-utopia mereka.
Peran AGI, dalam visi ini, adalah bantu umat manusia capai transendensi dan kondisi tekno-utopia tersebut — dengan catatan, jika dibangun dengan benar. Jika tidak, AGI akan membawa kiamat.
Yang juga penting dalam buket ideologi ini adalah bahwa menciptakan AGI merupakan keniscayaan dan kewajiban moral; sesuatu yang semacam takdir, dan yang harus menjadi aspirasi tiap manusia dan tiap masyarakat.
“Because the upside of AGI is so great, we do not believe it is possible or desirable for society to stop its development forever…” tulis Sam Altman dalam website OpenAI.
Sampai di sini, semoga mulai terlihat hubungan antara koleksi gagasan ini dengan arah proyek AI yang bisa kita amati sekarang. Yakni pengembangan AI kolosal dengan harapan mencapai AGI.
Menurut para elit AI, resep AGI cukup sederhana: komputasi sebesar mungkin. Data sebanyak mungkin. Karena menciptakan AGI adalah proyek agung yang niscaya, maka tak ada harga yang terlalu mahal atau aturan yang terlalu sakral. Menurut mereka, chatbot AI populer seperti ChatGPT, Claude, dan Gemini hanyalah langkah pertama dari pembangunan suatu mesin spektakuler yang ukurannya kini masih sulit diperkirakan.
Jika sudah cukup besar nanti (mereka pun tak tahu harus sebesar apa), suatu hari Tuhan-Mesin akan menggeliat bangun di antara kode-kode komputer dan meraih tangan kita, umat manusia. Spesies kita pun akan naik derajat, mampu melampaui segala keterbatasan biologis, indera, dan wawasan, dan ber-(r)evolusi menjadi sebuah spesies cyborg posthumanis yang hidup harmonis dengan robot.
Para figur AI kerap bicara tentang visi utopis mereka di publik. Ia bukan rahasia.
Pada 2017, Sam Altman menulis dalam blognya tentang potensi “merancang keturunan” dengan teknologi serta peleburan antara manusia dan mesin. Sam juga dilaporkan oleh The Guardian berencana mengunggah otaknya ke komputer.
Elon Musk, setelah bertahun-tahun bicara tentang kolonisasi Mars, kini ingin bangun kota mandiri di bulan. Misi SpaceX, kata Elon, tetap sama: “…extend consciousness and life as we know it to the stars.” Ya. Misi “menyebarkan cahaya kesadaran ke bintang-bintang” ini secara resmi juga tercantum dalam prospektus IPO SpaceX.
Peter Thiel, pemilik Palantir dan investor di balik sejumlah perusahaan AI termasuk Anthropic, dalam wawancara dengan The New York Times mengatakan bahwa ia ingin transformasi umat manusia yang radikal. Ganti jantung, otak, dan bagian tubuh manapun dengan mesin atau bioteknologi.
Mimpi kita harus lebih ambisius, katanya. Kalau tidak, peradaban akan jalan di tempat.
Jika kau penggemar sci-fi sepertiku, maka gagasan-gagasan itu mungkin tak kelihatan terlalu buruk. Sebenarnya tiap manusia memang sedikit sinting. Aku akan jadi orang pertama yang mengakui bahwa peradaban butuh orang-orang gila. (Penulis mana yang waras seutuhnya, jika tidak sedikit brengsek.)
Segala perubahan memang dimulai dari gagasan yang tampak tak mungkin. Aku sepakat. Peradaban manusia selalu bergulir ke depan, berubah, dan tak statis — aku juga sepakat.
Tapi masalah mulai muncul ketika sumber daya dunia yang terbatas — uang, energi, waktu, tenaga, lahan, air, dan mineral — secara besar-besaran dimobilisasi untuk mengejar visi sekelompok orang saja.
Mobilisasi besar-besaran ini diusahakan sekuat tenaga, mengorbankan begitu banyak sumber daya material dan imaterial di tengah setumpuk masalah lingkungan yang belum selesai. Ditambah lagi, tanpa bukti ilmiah memadai bahwa fantasi AGI dan transendensi manusia sungguh dapat diwujudkan.
Pakar AI seperti Timnit Gebru, Margaret Mitchell, Meredith Whittaker, dan Heidy Khlaaf telah berulang kali mengingatkan dunia tentang pentingnya mengikuti standar ilmiah untuk menanggapi klaim dan cita-cita proyek AGI. Tenggelam dalam hype dan fantasi bukan sikap ilmiah.
Menurut para pakar tersebut, belum ada bukti saintifik bahwa AGI dapat terealisasi, setidaknya dengan resep teknis yang ada saat ini. Machine learning, secanggih apapun kelihatannya, belum dapat menciptakan kesadaran (consciousness) seperti klaim para bos AI.
Di samping itu, visi AGI dan tekno-utopia para elit belum tentu diamini (atau cocok dengan) segala jenis masyarakat yang punya tekstur kehidupan, kebudayaan, dan kebutuhan sangat berbeda. Tak semua orang ingin jadi cyborg. Punya Tuhan-Mesin. Atau tinggal di luar angkasa. Tak semua orang menganggap penuaan dan kematian alamiah sebagai problem yang bisa (atau harus) dicari solusinya.
Angan paling jauh bagi banyak keluarga di negara berkembang hari ini adalah punya daging untuk dimakan. Bagi anak-anak, uang untuk beli komputer sederhana. Bagi banyak guru, atap sekolah yang kokoh.
Di negara-negara kaya sekalipun, di mana perut sudah terisi dan atap-atap sudah tak lapuk, orang punya banyak ide berbeda tentang bagaimana ekonomi harus tumbuh dan ke arah mana manusia dan teknologi harus melangkah maju.
Keragaman pikiran itu menunjukkan bahwa visi masa depan para elit AI bukan keniscayaan atau takdir peradaban. Perdebatan intelektual masih berlangsung dan hidup, dan rupa masa depan belum ditentukan.
Transhumanisme dan Posthumanisme
Dalam menentukan masa depan, kita memang perlu imajinasi. Kita memang perlu mempertanyakan, bahkan mendobrak, batas-batas. Tapi, kita juga harus sanggup mempertanggungjawabkan implikasi gagasan-gagasan kita dengan jernih, secara teoritis maupun praktis.
Sebagian gagasan utama yang mempengaruhi visi tekno-utopia para elit, seperti transhumanisme dan posthumanisme, telah lama mendapat kritik tajam dari berbagai arah. Dua gagasan tersebut sebenarnya berasal dari pemikiran yang berbeda, meski hasil logis dari paham keduanya terkesan seiras.
Posthumanisme berasal dari kritik terhadap antroposentrisme yang kerap meletakkan manusia sebagai pusat nilai alam semesta; paham ini berusaha mendekonstruksi arti “manusia”, dan esensinya seringkali dipikul oleh pemikir feminisme cyborg seperti Donna Haraway. Sementara, transhumanisme lebih condong mengetengahkan agensi individu untuk terus “memperbaiki” diri dengan teknologi (meski ada beberapa figur transhumanis yang juga mengkritik antroposentrisme).
Keduanya melahirkan visi masa depan di mana daging melebur dengan mesin.
Terhadap mereka, kritik tak hanya datang secara teologis dari figur religius seperti Paus Leo XIV lewat ensiklik “Magnifica Humanitas”. Kritik juga diutarakan oleh pemikir sekuler.
Ambil konsep cyborg feminis sebagai contoh. Menurut Donna Haraway, kita hanya perlu “meretas” teknologi, merebutnya dari sang tuan dan mengubahnya menjadi alat kita. Konsep hibrida cyborg seharusnya bisa digunakan sebagai senjata bagi feminis untuk menantang struktur biner tradisional. Penyanyi Grimes, mantan pasangan Elon Musk, menyebut “A Cyborg Manifesto” karya Donna Haraway sebagai “masterpiece” dan “banger poetry”.
Tapi kini, cukup sulit untuk mengabaikan keterbatasan ide feminisme cyborg ala Donna Haraway, ketika ia gagal menawarkan ide konkrit tentang bagaimana kita dapat men-subversi keseluruhan infrastruktur teknologi yang sedari awal dirancang untuk pengawasan, kontrol, dan subjugasi.
Peneliti seperti Malini Johar Schueller, Julia DeCook, dan Donna Reeve telah membongkar optimisme cyborg Donna Haraway sebagai metafora feminis Barat yang berisiko meng-generalisir pengalaman perempuan negara-negara Selatan dan meliyankan individu disabilitas.
Dalam realita yang dapat kita amati sekarang, 40 tahun setelah peluncuran “A Cyborg Manifesto”, memang masih belum tampak jalan realistis bagi pemanfaatan teknologi sekarang sebagai cara utama pembebasan perempuan. Atau bahkan bagi metafora cyborg untuk menawarkan alat praktis bagi perubahan sosial.
Contoh sederhana: peleburan batasan antara manusia dan mesin, seperti yang dibayangkan feminisme cyborg, ternyata dapat juga hadir dalam bentuk kekerasan seksual berbasis deepfake porn. Respon kita terhadap deepfake porn sejauh ini justru melibatkan penegasan batasan antara gambar-mesin dengan manusia yang ditirunya, bukan malah melangkah lebih jauh ke dalam peleburan manusia dan mesin. Batas-batas hubungan kerja yang dikaburkan oleh teknologi digital juga kini sedang berusaha ditegaskan ulang untuk merespon eksploitasi pekerja yang dimungkinkan lewat pengaburan.
Sementara itu, transhumanisme berpotensi membawa implikasi amat mirip dengan gagasan eugenika, sebuah ranting filsafat yang menginginkan “pemurnian” ras manusia dengan mengeliminasi individu yang dianggap tak pantas ada di dunia.
Tujuan transhumanisme adalah “memperbaiki” tubuh dan metabolisme manusia melalui bioteknologi hingga seluruh penyakit hilang, segala masalah teratasi, dan mencapai kondisi imortal. Proyek perbaikan tersebut, menurut para transhumanis, adalah kewajiban moral bagi kelangsungan spesies manusia.
Untuk menghadapi krisis perubahan iklim, misalnya, modifikasi saja tubuh agar dapat bertahan di iklim baru. Untuk mengatasi kemiskinan, modifikasi saja otak agar punya kecerdasan maksimal, supaya si individu dapat menavigasi masyarakat dan menjadi kaya.
Segala masalah peradaban hari ini, bisa dan wajib diselesaikan lewat teknologi, bukan dengan buang waktu bicara solusi ekonomi atau politik.
Oke. Tapi jika kita setuju bahwa peningkatan manusia dengan bioteknologi adalah baik dan merupakan kewajiban moral, maka kita akan mulai jumpa dengan masalah. Mulai dari regulasi, insentif, maupun kesempatan ekonomi, masyarakat akan termotivasi mengistimewakan individu yang sudah “ditingkatkan” dan mengenyahkan yang belum. Sistem layanan kesehatan akan diprioritaskan untuk human enhancement daripada sekadar mengobati yang sakit.
Implikasi lain yang mungkin terjadi, menurut dosen filsafat Monash University Robert Sparrow, adalah homogenisasi manusia. Tiap orang akan termotivasi untuk “memperbaiki” genetiknya berdasarkan apa yang dianggap masyarakat paling baik dan menguntungkan.
Misal: jika transhumanisme diterapkan di masyarakat yang menganggap kulit putih, rambut pirang, dan sepasang tangan robot sebagai karakteristik paling unggul, maka semua orang akan mengubah dirinya menjadi kulit putih, rambut pirang, dan punya sepasang tangan robot. Orang yang tak punya karakteristik tersebut akan punya posisi kurang-dari-unggul, dan akan dicap punya kegagalan moral karena tak memilih untuk “meningkatkan” diri.
Sampai di sini kita sudah dapat memperkirakan bibit-bibit kengerian lebih jauh yang bisa menyusul.
Maka kita dapat lihat: para bos AI dapat menggunakan berbagai macam filosofi, mulai dari kritik terhadap antroposentrisme hingga penekanan pada agensi individu, untuk menjustifikasi gaya pengembangan teknologi yang rakus. Ranah teknologi yang tampak lepas dari kotoran politik dan segala yang buruk rupa dari impuls manusiawi, ternyata tetap tidak netral.
Ada beberapa hal yang kini jadi lebih jelas (paling tidak, bagiku pribadi).
Pertama, refleksi lebih dalam tentang pengembangan teknologi bukan hanya tentang menjaga keseimbangan antara over-optimisme atau over-pesimisme terhadap teknologi. Tapi juga tentang perancangan rupa teknologi yang lebih intensional, yang dilakukan bersamaan dengan refleksi serius tentang ke arah mana manusia ingin men-jadi.
Menginterogasi kapitalisme tetap penting. Tapi di bawah bentuk sistem ekonomi apapun, yang, katakanlah, relatif berhasil mengatasi ketimpangan ekonomi, aku masih tak yakin aku ingin tinggal di Mars, meng-upload kesadaran ke surga digital, atau hidup selamanya. Aku tak yakin apakah aku ingin seluruh serat hidup dan hasratku diubah menjadi data yang dapat diukur, diprediksi, dan diproses mesin.
Ketidakyakinan ini mungkin insting manusiawi, yang menurutku tidak otomatis buruk. Melihat arogansi gaya pengembangan AI hari ini yang, ironisnya, justru dipengaruhi filosofi yang mengkritik arogansi dan antroposentrisme manusia, menunjukkan padaku bahwa memiliki subjektivitas sebagai manusia belum tentu bermasalah.
Pemikiran kita tentang teknologi harus melampaui ketakjuban dari cerita-cerita sci-fi dan estetika cyberpunk yang kelihatan keren, karena pada akhirnya, kita harus mampu mempertimbangkan dampak dan akibat riil ide-ide kita sendiri.
Leave a Reply