catatan minggir kepepet mau njungkel

Di setiap ajang diskusi kecerdasan buatan (AI) dan transformasi digital, panelis akan selalu berkata: teknologi adalah seperti pisau. Bisa digunakan untuk memasak, atau membunuh. Atau: teknologi adalah pedang bermata dua.

Tentu saja maksudnya adalah jangan pernah salahkan pisaunya atau pedangnya. Pisau dan pedang tidak pernah bersalah. Mereka hanya benda mati.

Sekilas, kedengaran masuk akal. Sepanjang ingatanku, orang memang selalu memakai metafora pisau untuk menggambarkan teknologi sebagai sebuah ciptaan netral yang membebankan segala potensi keburukan atau kebaikannya pada pengguna.

Tapi, mari kita jalan ke dapur. Kita mau mengamati pisau-pisau di sana. Ada pisau daging, ada pisau buah, ada pisau roti. Semua pisau memiliki bilah tajam di satu sisi, dan di sisi yang lain, satu gagang yang dapat digenggam dengan aman.

Si pembuat pisau mengatakan: pisau ini baik untuk memotong roti, jangan kau pakai untuk potong daging. Alat-alat ini sudah dirancang secara khusus untuk memenuhi suatu kebutuhan spesifik. Juga ada fitur pengamannya. Si pembuat pisau tahu, jika kau pakai pisau roti untuk memotong daging, hasilnya akan selalu di luar harapan. Jika pisau itu dibuat dengan dua bilah tanpa gagang pengaman, si pengguna akan terluka.

Dari sini kita bisa melihat bahwa tanggung jawab untuk menciptakan pisau yang aman ada di pembuat pisau. Dialah perancang teknologi ini. Tanggung jawab pengguna adalah memakai perangkat tersebut sesuai tujuan yang disematkan perancang dan menyimpan alat itu di tempat yang aman. Baru ketika ada orang ngeyel memakai pisau roti untuk memotong daging, atau memegang bilah tajamnya dengan tangan, atau meletakkannya sembarangan dimana anak-anak dan binatang peliharaan berlarian, dampak buruk adalah tanggung jawab orang yang ngeyel tersebut.

Ini karena si pembuat pisau telah melaksanakan tugasnya untuk menciptakan bentuk yang sesuai dengan fungsi dan tujuan: bilah panjang bergerigi agar dapat memotong tekstur roti, dan gagang pengaman yang dapat digenggam. Si pembuat pisau juga telah mendeklarasikan batasan-batasan alat ciptaannya.

Jadi, dalam perkara pisau pun, bentuk dari perangkat tersebut dipikirkan baik-baik sesuai dengan kegunaan akhir. Keamanan pengguna menjadi fitur utama di dalam desain perangkat. Batasan dari penggunaan alat tersebut sudah diketahui, dicatat, dan dideklarasikan oleh pembuat pisau.

Sekarang, amati bentuk kecerdasan buatan yang saat ini sedang digadang-gadang menjadi masa depan kita semua: AI generatif, AI bisa-segala yang dikembangkan oleh perusahaan-perusahaan teknologi raksasa seperti Google dan Microsoft. Air liur menetes dari mulut politisi dan pengusaha kita. Sebuah mesin pintar yang dapat menjadi apapun yang kita mau!

Apa bentuknya saat ia sampai ke tangan masyarakat? Cair, bisa macam-macam. Bagaimana penerapannya? Macam-macam. Idealnya digunakan untuk apa? Macam-macam. Tidak idealnya digunakan untuk apa? Macam-macam. Siapa yang direkomendasikan menggunakan alat itu? Macam-macam. Dalam situasi apa? Macam-macam. Bagaimana fitur keamanannya? Tidak ada yang khusus, karena jangan batasi inovasi. Bisa kita buat sendiri nanti sambil jalan.

Setelah kita lihat lagi dengan cara ini, apakah AI bisa-segala ini masih bisa disamakan dengan pisau? Tentu tidak. Pisau memiliki bentuk, kegunaan, dan fitur keamanan yang jelas, yang sudah ditentukan oleh perancangnya. Orang tidak memakai pisau sepanjang hari untuk segala kegiatan. Hanya ketika memasak. Atau membunuh.

AI bisa-segala seperti ChatGPT dan Gemini dirancang untuk mendominasi pasar dan mendatangkan keuntungan sebesar-besarnya bagi para pembuatnya. Maka, segala batas diruntuhkan, lalu ia dipasarkan sebagai perangkat yang bisa orang gunakan sepanjang hari untuk berbagai macam kegiatan, meresap di segala perangkat keras dan perangkat lunak, untuk digunakan di hiburan hingga perekrutan. Inilah desain yang efektif untuk memaksimalkan komersialisasi.

Pengembang tidak peduli bahwa perangkatnya telah terbukti memiliki bias yang inheren, seringkali tidak akurat, dan membuat pengguna ketergantungan. Bahwa ia mengamplifikasi diskriminasi dan misinformasi. Bahwa ia membuat siswa tidak lagi bisa membaca dan menulis. Bahwa ia membuat dunia lebih tidak bermakna dengan lautan konten-konten instan yang tercipta setiap harinya. Bahwa ia mengeksploitasi pekerja dan karya manusia di seluruh dunia, dan menyedot air dan energi yang sangat besar jumlahnya.

Hal yang sama juga bisa dikatakan untuk bentuk dunia maya dan media sosial kita saat ini. Ia dirancang persis sesuai maksud dan tujuan pengembangnya: agar kita kecanduan, tanpa batas-batas yang dapat melindungi kita dari bahaya, agar ekstraksi keuntungan bisa berjalan maksimal.

Sekarang, coba amati bentuk-bentuk AI yang lebih kecil dan spesifik, seperti pengembangan dataset visual dan AI untuk melawan apartheid spasial di Afrika Selatan, alat penerjemah bahasa Amharic dan Tigrinya, dan alat transkripsi bahasa masyarakat adat suku Maori. Alat-alat inilah yang lebih layak disebut seperti pisau – ia memiliki bentuk dan kegunaan sangat khusus, tidak menelan sumber daya terlalu besar, dan karena dikembangkan dengan persetujuan komunitas dan menyediakan kompensasi finansial bagi semua yang terlibat, ia meminimalisir potensi eksploitasi secara sadar (memiliki fitur keamanan).

AI yang dikembangkan dengan perlahan dan penuh kehati-hatian, sesuai dengan kebutuhan suatu komunitas, juga memberikan ruang negosiasi lebih besar bagi mereka yang terdampak. Bentuknya tidak sama dengan AI yang dikembangkan untuk komersialisasi besar-besaran dan dominasi global. Desainnya berbeda.

Dengan demikian, semua teknologi bukanlah sebuah pisau tidak bersalah yang muncul dari udara kosong. Seseorang dengan maksud dan ideologi yang bisa didefinisikan merancang alat tersebut, dan ideologi itu hidup lewat benda tak berjiwa itu. Banyak bentuk-bentuk teknologi di sekitar kita melukai kelompok-kelompok rentan, memiliki batas-batas yang kabur, dan selalu menimpakan tanggung jawab berlebihan pada pengguna.

Maka, mengkritik sebuah perangkat teknologi – sekalipun benda mati – adalah mempertanyakan ideologi yang hidup di dalamnya. Bukan kepanikan moral ataupun ketakutan ketinggalan zaman.

Itulah mengapa mereka yang punya kepentingan di balik teknologi rakus berkilah: “Jangan salahkan teknologinya.” Itulah mengapa mereka selalu berpura-pura jadi pisau.

Tidak semua teknologi adalah pisau. Kadang ia jelas-jelas mesin tank dan kawat berduri.

Biasanya, kita menghancurkan mesin tank dan kawat berduri.