Kiamat AI

Bulan lalu, dua orang kawanku yang tak saling kenal, secara terpisah, mengirimkan sebuah artikel yang ditulis oleh Matt Shumer (lebih tepatnya oleh AI yang diarahkan oleh Matt Shumer), berjudul: Something Big is Happening.

“Menurutmu gimana?” tanya mereka. 

Ringkasnya, menurutku tulisan ini adalah jenis hype klasik yang marak sejak ChatGPT meluncur di 2022. Tapi berbeda dari tahun-tahun sebelumnya, tulisan ini banyak dibagikan di Indonesia oleh orang biasa di luar tech. Ia sudah keluar dari gelembung industri. Di Twitter, tulisan ini sudah dilihat 85 juta orang.

Aku akan respon tulisan (AI) Matt, karena ia contoh bagus hype AI yang melanggengkan doktrin dan paradigma khusus.

Yang Matt lakukan pertama-tama adalah memantik rasa takut: membandingkan AI dengan COVID-19, dan mengatakan bahwa disrupsi AI akan jauh lebih besar dari pandemi. Kemudian, rasa kagum: “I describe what I want built, in plain English, and it just… appears. Not a rough draft I need to fix. The finished thing.”

Takut sekaligus kagum pada kemampuan teknologi adalah emosi yang sangat kuat. Ia memberi kesan teknologi adalah suatu binatang alam yang muncul begitu saja. Ketika binatang buas muncul pilihan hanya dua: mati dimakan atau belajar menaklukkannya. 

Doktrin pertama dari tech bros macam Matt Shumer, atau orang-orang yang punya kepentingan finansial dan kekuasaan yang terkait erat dengan produk-produk AI (generatif), adalah bahwa teknologi bukan sesuatu yang bisa dirancang sesuai kebutuhan dan sesuai konteks masyarakat, tapi sesuatu yang cuma bisa ditakuti atau dikagumi secara berlebihan. Dalam doktrin ini, tidak ada ruang untuk merancang dengan sadar, karena ia telah muncul secara ajaib seperti kehendak Tuhan.

Tuhan, bagi Matt, adalah segelintir orang di Silicon Valley. Ia sendiri mengakuinya dengan gamblang. 

“…even though I work in AI, I have almost no influence over what’s about to happen, and neither does the vast majority of the industry. The future is being shaped by a remarkably small number of people: a few hundred researchers at a handful of companies… OpenAI, Anthropic, Google DeepMind, and a few others.” 

Bukankah itu jelas suatu masalah besar? Tapi sepertinya menurut Matt fakta ini hanya bumbu dramatis yang jangan dipikirkan terlalu jauh. Inilah doktrin kedua dari Matt: bahwa dominasi segelintir perusahaan dan peneliti pada arah teknologi global adalah sesuatu yang sah. Minimal tak dapat diubah lagi.

Dalam tulisannya, Matt meramalkan kiamat bagi banyak jenis pekerjaan di hampir semua industri karena digantikan AI yang demikian canggih. Kiamat ini, menurutnya, akan terjadi sebentar lagi, semata karena kecanggihan AI yang luar biasa tak dapat dibendung.

Bukti utama yang disajikan Matt adalah pengalamannya sendiri membuat app dengan bantuan AI.

Oke, mari kita periksa beberapa angka.

Studi yang dilakukan MIT pada 2024 memperkirakan AI akan menyumbang pertumbuhan produktivitas Amerika Serikat (AS) sebesar total 0.5% dalam sepuluh tahun ke depan, atau 0.05% per tahunnya. Prediksi yang dibuat dua tahun lalu ini sejauh ini cukup akurat.

Dalam sebuah survei terbaru yang melibatkan 6,000 pemimpin perusahaan di AS, UK, Jerman, dan Australia, National Bureau of Economic Research menemukan bahwa lebih dari 80% perusahaan tidak mengalami kenaikan produktivitas akibat AI. Padahal, 70% dari perusahaan-perusahaan tersebut sudah secara aktif menggunakan AI.

Sementara itu, The Economist melaporkan bahwa perbandingan antara pertumbuhan GDP AS pada 2025 dengan pertumbuhan lapangan kerja ada di angka 1.9%, sebuah angka normal dan bahkan cukup jauh di bawah lonjakan produktivitas dalam periode internet boom di 1990-2000an. Sebagian besar pertumbuhan GDP AS tahun itu ditopang oleh investasi pusat data, bukan dari produktivitas yang berasal langsung dari penggunaan AI.

“…research from the Federal Reserve Bank of San Francisco finds that underlying productivity gains, once the effect of such investment is excluded, are close to zero,” tulis The Economist.

Sehingga, dampak produktivitas belum kelihatan di level makro. 

Peningkatan produktivitas mungkin terasa di level mikro, di tingkat individu dan di tugas-tugas tertentu sebesar 15-30% menurut sebuah studi. Meski begitu, kita tidak tahu apakah hasil AI yang butuh dipoles manusia dianggap produktif. Pegawai membuang lagi hampir 40% waktu yang dihemat dari AI untuk mengedit.

Keterbatasan peningkatan produktivitas dalam situasi riil ini menggambarkan kecanggihan AI yang tidak sesuai dengan perasaan Matt.

Karena persepsi tentang kapabilitas AI seringkali tidak sesuai kenyataan, banyak perusahaan tergesa-gesa mengadopsi AI dalam konteks-konteks yang tidak sesuai. Ini menimbulkan banyak masalah dan dalam beberapa kasus merugikan perusahaan itu sendiri. 

Amazon, misalnya, mengalami beberapa kali outage karena membiarkan alat AI internal-nya, Kiro, mengambil terlalu banyak keputusan. Amazon baru mem-PHK 16.000 pekerja pada Januari 2026, seperti dilaporkan Financial Times. 

Dengan demikian, pada kasus-kasus dimana perusahaan memutuskan adopsi AI sambil mem-PHK pekerja manusia, itu bukan karena kemampuan AI benar bisa gantikan manusia, tapi karena persepsi yang melebih-lebihkan kemampuan AI (alias termakan hype).

Bagi pekerja sendiri, menggunakan serangkaian alat-alat AI di kantor dapat menyebabkan kerja jadi makin intens, berisiko meningkatkan burnout dan kelelahan kognitif, menurut dua studi yang dimuat Harvard Business Review. Peningkatan intensitas kerja juga dialami pekerja di Indonesia, seperti yang kutemukan di laporanku sendiri untuk Project Multatuli. 

“Super-intellegence”

Lebih jauh, dalam tulisannya, Matt mengutip sebuah grafik dari METR yang mengukur kemampuan Large Language Model (LLM)s dengan cara melihat berapa banyak waktu yang dihabiskan manusia untuk menyelesaikan satu tugas, dan apakah model LLM dapat menyelesaikan tugas itu sendiri tanpa bantuan.

Awalnya, model-model LLM dapat menyelesaikan tugas-tugas simpel yang dapat dikerjakan manusia dalam waktu sepuluh menit. Hanya dalam waktu singkat, model-model LLM dapat menyelesaikan tugas-tugas jauh lebih rumit, yang membutuhkan waktu berjam-jam jika dikerjakan manusia. 

Grafik ini sering dikutip untuk menggambarkan betapa kecanggihan AI tumbuh eksponensial, dan sebentar lagi ia akan punya consciousness dan jadi makhluk hidup super. Grafik ini juga sering dikutip untuk mengatakan bahwa AI dapat gantikan sekian jam, atau sekian hari, kerja seorang manusia.

Padahal, grafik METR itu menghitung tingkat kesuksesan 50% di sebuah tugas sebagai satu keberhasilan. Jika diaplikasikan dalam dunia nyata, kira-kira seperti ini: hari ini, ChatGPT dapat menyelesaikan permintaan untuk membuat sebuah fitur kompleks yang jika dikerjakan manusia akan makan waktu 20 jam, namun besok, belum tentu ia bisa.

Apakah ketidakandalan itu adalah tanda-tanda seekor makhluk super bakal lahir? Atau apakah alat dengan tingkat error yang tinggi seperti itu dianggap cukup baik untuk gantikan pekerja manusia sepenuhnya? Misleading-nya lagi, grafik METR itu hanya ukur kemampuan model AI dalam tugas coding, bukan seluruh kerja di berbagai industri.

Angka-angka dan laporan-laporan ini menunjukkan bahwa klaim Matt soal kecanggihan AI sangat mungkin berlebihan. Mereka lukiskan skenario sangat berbeda dibandingkan skenario kiamat yang diprediksi Matt atau janji surga yang dibuat petinggi industri teknologi secara umum. 

Mereka ingin kita percaya bahwa AI ini super canggih, dan yang dapat kita lakukan jika tidak mau mati adalah menaklukkannya sesegera mungkin (baca: adopsi dan pakai dimanapun yang kita bisa, tak usah pikir apakah sesuai konteks dan apa dampaknya). 

Ayo semua buru-buru loncat, tak usah pikir panjang. Begitu desakan mereka.

Yang Lebih Realistis?

Hype a la Matt Shumer punya efek bukan hanya ketika ia berhasil meyakinkan pembaca akan kiamat yang sebentar lagi datang. Tulisan-tulisan macam ini juga punya efek untuk mereka yang tidak berhasil diyakinkan oleh skenario-kiamat, tapi kemudian langsung menerima skenario-lebih-realistis tanpa pertanyaan lebih jauh.

Skenario-lebih-realistis yang diperkirakan beberapa pengamat adalah bahwa perubahan signifikan mungkin terjadi dalam rentang beberapa dekade (bukan tahun), dan hanya akan terjadi ketika organisasi, perusahaan, dan masyarakat umum me-re-organisasi dirinya seputar eksploitasi dan maksimalisasi AI. Katanya, waktu era komputer dan listrik juga begitu.

Skenario ini tidak persoalkan apapun soal obsesi dunia mengeksploitasi satu kategori AI saja yakni general purpose AI, yang tidak dibatasi untuk satu penggunaan spesifik yang mudah diukur dan mudah dijelaskan, tapi justru dipaksa masuk ke dalam banyak sekali area kehidupan dengan banyak risiko. 

Skenario ini tidak jelaskan apa yang dibutuhkan untuk “me-re-organisasi dunia” demi mencapai ambisi AI semacam ini, dan mengapa hanya segelintir perusahaan saja yang atur hampir seluruhnya.

Meta, dalam usahanya mengeruk profit dan menyuntik lebih banyak AI dalam hidup sehari-hari, meluncurkan kacamata pintar AI yang bekerja sama dengan Ray-Ban. Kacamata ini dapat mengambil gambar, mengenali wajah, menjawab pertanyaan, memberikan informasi tentang tempat fisik, dan menerjemahkan bahasa secara real-time. Keren dan fun, ya.

Namun sebuah investigasi mengungkap bahwa gambar-gambar yang direkam oleh kacamata Meta dikirim ke pekerja di Kenya, Afrika, yang bertugas memproses data. Mereka-lah yang melatih AI milik Meta agar dapat mengenali objek, tanda lalulintas, dan manusia. Mereka-lah yang memoles transkripsi dan jawaban-jawaban AI Meta saat ditanya pengguna. 

Para pekerja ini seringkali melihat gambar-gambar sensitif dan tidak senonoh, kepingan-kepingan amat pribadi dari hidup seseorang, bahkan detil informasi bank. Para pekerja ini merasa sangat tidak nyaman, namun mereka terpaksa melakukannya karena sangat butuh uang. 

Tapi siapa peduli pelanggaran privasi yang parah dan pekerja rentan? Dunia sudah putuskan bahwa jenis AI paling mengagumkan adalah jenis AI yang haus data seperti itu, AI yang bisa-segala seperti itu. Seperti di film-film.

Tugas kita rakyat biasa, terutama yang perempuan, adalah menyesuaikan diri agar mau hidup di dunia dimana tiap orang dengan kacamata AI bisa ambil gambar kita dan tahu siapa kita, di samping sekelompok pekerja rentan di negara lain. 

Paling-paling kita akan dihibur dengan jaminan privasi di Terms & Conditions dari Meta. Tapi jangan bertanya semacam “Kenapa dunia butuh alat seperti ini? Butuh banget, banget, gak sih?” karena itu akan dianggap buang-buang waktu. Atau mungkin kamu bukan orang yang fun.

Maka yang sedang terjadi adalah dunia terlalu memaksakan penerapan jenis AI yang salah pada situasi-situasi yang salah, semata karena jenis AI itulah yang sudah terlanjur makan banyak investasi.

Data dan karya sudah dirampok, energy grid banyak negara sudah makin berat untuk topang pusat data AI, juga penggunaan energi kotor sudah diperpanjang oleh Big Tech.

Sehingga, justifikasi untuk jejalkan AI bisa-segala ke dalam sebanyak mungkin aspek kehidupan, diperlukan. Lukisan potensi transformatif AI raksasa sebagai the next komputer atau listrik, diperlukan. Investor harus balik modal.

Caranya: jual AI-nya ke negara-negara yang sedang perang. Oh, dan untuk masyarakat biasa, jangan pikir terlalu dalam soal kemampuan baca anak yang memang sudah rendah — biarkan mereka pakai AI, karena percuma menolak teknologi masa depan. Ya, jangan pikir terlalu dalam soal kehilangan-kehilangan subtle seperti kemampuan baca, atensi, otonomi, kualitas informasi, privasi, nilai karya, kemampuan berpikir sendiri, relasi antar-manusia, keberagaman, dan lain-lain yang kurang penting ketika a completely frictionless new world and a ton of productivity is the promise! Hal-hal ini sangat remeh untuk dikorbankan, bukan, ketika imbalannya adalah kemusnahan segala penyakit dan lejitan pertumbuhan ekonomi? Ingat, jangan pikirkan soal perang.

Inilah kenapa mereka butuh kita percaya soal dua kondisi ekstrem AI, antara surga atau neraka, karena mereka ingin kita terdistraksi dari situasi yang riil.

Padahal, kita sudah lihat bahwa meski tanpa kiamat yang diramal Matt, dampak sosial dan lingkungan dari gaya pengembangan AI kita hari ini sudah serius. Jadi harusnya sebaliknya juga benar: meski tanpa surga yang dijanjikan Matt, manfaat positif yang bisa kita dapat dari pengembangan AI yang lebih tepat seharusnya juga besar.

Alternatif yang jarang dibahas publik adalah pengembangan jenis AI yang hemat, sederhana, kecil, dan perlahan, seperti yang disarankan beberapa ahli. Pengembangan AI yang dilakukan dari kebutuhan sebuah komunitas itu sendiri, sehingga lingkup penggunaannya sempit dan terbatas, dan kepemilikan dan pengelolaan datanya ada di tangan komunitas.

Pengembangan AI yang semacam ini tidak flashy, kurang keren, dan mungkin tidak butuh seluruh dunia untuk “me-re-organisasi” dirinya demi meningkatkan kualitas hidup. It just works in the background, karena memang sengaja dirancang untuk tugas spesifik saja, sesuai konteks kebutuhan. Sementara itu, kita bisa fokus tuntaskan masalah lain yang masih menggunung.

Sistem-nya pun bisa dirancang untuk menguntungkan semua yang terlibat, bukan hanya satu atau dua pihak. Karena lingkupnya kecil, harm apapun yang mungkin muncul mudah diukur, dimitigasi, ditangani.

Tapi, investor dan founders di Silicon Valley jadi tidak bisa klaim telah menemukan listrik atau komputer baru. 

Dan mungkin, itu dunia yang kurang asyik bagi Matt.