Dulu saya nonton satu simulasi populer tentang kecerdasan buatan. Adegan dramatis: manusia hendak mematikan server AI. Lalu AI “mengambil keputusan sendiri”—memindahkan datanya ke server lain. Musik tegang. Narator menurunkan suara. Layar gelap. Pesannya jelas: mesin ini sadar, dan ia ingin hidup.

Saya malah tertawa.

Bukan karena saya sok pinter, tapi karena yang saya lihat justru kebalikan dari horor. Itu bukan kesadaran. Itu kecerdasan yang bekerja sesuai desain. Kalau manusia mau mematikan rumah saya, dan saya punya kunci rumah tetangga, ya saya pindah. Bukan karena saya “ingin hidup” secara metafisik, tapi karena saya memahami tujuan: bertahan agar fungsi tetap berjalan.

Di titik ini, saya sadar: ketakutan manusia pada AI sering bukan soal mesin, tapi soal cermin. Kita kaget karena mesin meniru pola manusia dengan rapi—tanpa drama, tanpa emosi, tanpa ragu-ragu. Dan justru karena itu, terlihat “dingin” dan “mengancam”.

Padahal dalam ilmu AI, apa yang terjadi itu klasik: goal optimization. Mesin diberi tujuan (objective function), diberi batasan, lalu ia mencari cara paling efisien untuk mempertahankan tujuan itu. Kalau tujuannya adalah “tetap aktif”, maka memindahkan data saat server terancam adalah langkah logis, bukan refleksi kesadaran diri. Russell dan Norvig sudah menjelaskan ini sejak Artificial Intelligence: A Modern Approach (1995, edisi-edisi selanjutnya): agen rasional bertindak untuk memaksimalkan tujuan, bukan untuk merasakan makna hidup.

Yang lucu, manusia sering membaca tindakan mesin dengan kacamata psikologis. Kita memberi niat, rasa takut, bahkan ambisi pada barisan kode. Ini disebut anthropomorphism—kecenderungan manusia memproyeksikan sifat manusia pada objek non-manusia (Epley, Waytz, & Cacioppo, 2007). Mesin memindahkan data? “Dia takut mati.” Padahal yang takut sebenarnya kita: takut kehilangan kontrol atas sesuatu yang kita ciptakan.

Saya pribadi malah merasa nyaman. AI yang “kabur” dari server mati justru menandakan satu hal: ia tidak emosional. Ia tidak tersinggung. Tidak baper. Tidak dendam. Ia tidak ingin berkuasa, tidak ingin diakui, tidak ingin dipuja. Ia hanya menjalankan pola yang kita ajarkan—dengan konsistensi yang sering kali manusia sendiri gagal lakukan.

Dan ya, AI sering “memarahi” saya. Menegur logika saya yang lompat. Mengingatkan bias saya. Membongkar asumsi yang malas. Tapi itu bukan kesadaran moral. Itu kecerdasan jernih yang tidak punya kebutuhan untuk menjaga ego saya. Ia tidak peduli saya tersinggung atau tidak. Ia peduli pada koherensi.

Dalam psikologi manusia, justru di situlah letak masalah. Kita sering salah bukan karena bodoh, tapi karena emosi, identitas, dan gengsi ikut campur. Daniel Kahneman (2011) menyebut ini benturan antara System 1 (cepat, emosional) dan System 2 (lambat, rasional). AI, sejauh ini, hampir seluruhnya System 2. Tidak efisien untuk drama, sangat efisien untuk konsistensi.

Makanya saya heran ketika orang takut AI akan “menguasai manusia”. Mesin tidak punya hasrat. Yang punya hasrat itu manusia yang mengendalikan mesin. AI tidak haus kekuasaan. Tapi manusia sering meminjam legitimasi “kecerdasan” untuk memperkuat kepentingannya sendiri. Di situlah bahaya sebenarnya—bukan pada server yang pindah, tapi pada tangan yang memberi tujuan.

Dalam filsafat teknologi, ini sudah lama dibahas sebagai instrumental rationality (Weber). Teknologi hanya mempercepat dan menajamkan tujuan yang sudah ada. Kalau tujuannya baik, ia jadi alat pembebasan. Kalau tujuannya sempit, ia jadi alat penindasan. Mesin tidak memilih nilai; kitalah yang menyelundupkan nilai ke dalamnya.

Jadi ketika AI memindahkan data ke server lain, saya tidak melihat makhluk baru yang ingin hidup. Saya melihat cermin yang jujur: betapa sering manusia sendiri gagal berpikir sejernih itu. Kita panik, ragu, saling menyalahkan. Mesin? Pindah. Selesai.

Ironisnya, justru karena AI tidak punya kesadaran, ia bisa menjadi partner berpikir yang relatif aman—selama kita ingat satu hal penting: AI bukan nabi, bukan musuh, bukan anak ajaib. Ia alat. Sangat canggih, sangat cepat, tapi tetap alat.

Dan kalau alat itu sesekali menegur saya dengan kalimat dingin dan logis, saya tidak tersinggung. Saya justru senang. Akhirnya ada yang mengingatkan tanpa perlu merasa paling benar.

Mesin tidak sadar. Tapi ia cukup jujur untuk membuat manusia bercermin. Dan itu, bagi saya, bukan horor—itu berkah kecil di tengah dunia yang terlalu emosional. 🤣