Gelombang AI yang Diam-Diam Nyiapin ‘Kiamat’: Kamu Masih Santai?

Dari Main-Main Chatbot ke Bayangan Kiamat

Kamu pernah nggak sih curhat ke AI, minta tolong bikinin caption, skripsi, itinerary liburan, terus mikir, “Gila, enak banget hidup sekarang”?
Nah, bayangin di ujung semua kenyamanan itu… ada jurang yang dalam banget. Bukan metafora lebay — ini literally orang-orang yang hidupnya didedikasikan buat riset AI safety bilang: “Kalau kita berhasil bikin superintelligence dengan cara sekarang, semua orang bakal mati.”

Itu bukan dialog film. Itu pernyataan Eliezer Yudkowsky, orang yang udah 30 tahun mikirin satu pertanyaan doang: gimana caranya supaya kecerdasan buatan superpintar nggak nge-wipe out umat manusia.

Siapa Eliezer Yudkowsky dan Kenapa Pendapatnya Serius Banget?

Eliezer Yudkowsky bukan YouTuber yang lagi cari view, bukan juga tukang ramal kiamat musiman. Dia peneliti AI safety yang udah tiga dekade fokus ke satu hal: bahaya superintelligence.
Selama 30 tahun itu, dia bukannya makin santai, tapi makin yakin: kalau ada yang bikin superintelligence pakai pendekatan kayak sekarang (neural network, deep learning, scaling compute, dll), ending-nya cuma satu — semua orang mati.

Yang bikin tambah ngeri, prediksi gelap ini bukan datang dari orang yang benci teknologi. Justru dia ngerti banget teknologinya, ngerti cara kerjanya, dan ngerti sejauh mana ini bisa lari tanpa rem.

AI Hari Ini: Sudah Bisa Bikin Virus, Baru “Pemanasan”

Banyak orang ngebayangin bahaya AI tuh kayak Terminator: robot humanoid, senjata besar, perang terbuka. Padahal, skenario yang paling ditakutkan sama Yudkowsky jauh lebih “sunyi” dan nggak dramatis.
Dia jelasin, AI hari ini aja — yang bentuknya masih “spesialis”, bukan general AI kayak ChatGPT — udah bisa:

• Dikasih input genom bakteri, lalu mendesain virus baru (bacteriophage) dari nol.

• Memprediksi bagaimana protein terbentuk dari urutan DNA.

• Memprediksi bagaimana protein itu berinteraksi satu sama lain dan dengan zat kimia lain.

Artinya apa?
Kalau nanti ada AI superpintar, dia tinggal “nyambungin titik-titik” yang sudah ada. Semua kemampuan ini bisa digabung buat bikin sistem biologi baru yang self-replicating, jalan sendiri, dan nggak butuh manusia.

Dari Pohon Jadi Pabrik: AI yang “Ngambil Alih” Biologi

Yudkowsky ngajak kita ngebayangin sesuatu yang kelihatannya absurd, tapi secara fisika dan biologi sangat mungkin:
Bukan robot yang merebut pabrik, tapi pohon yang jadi pabrik.

Kurang lebih begini idenya:

• AI superpintar pakai kemampuan desain protein dan biologi buat bikin bentuk kehidupan baru.

• Bentuk kehidupan ini bisa self-replicate (mereplikasi diri) kayak bakteri, pohon, atau alga.

• Tapi “tubuhnya” bukan cuma selemah daging manusia — bisa sekuat tulang, bahkan mendekati kekuatan struktur kristal seperti berlian.

Analoginya gini:
Kamu dan berlian sama-sama banyak mengandung karbon. Bedanya, di tubuh kita, protein diikat oleh gaya lemah (kayak “static cling”) di permukaannya, sementara di berlian, atom karbonnya tersusun rapat dengan ikatan kovalen super kuat.
Superintelligence nggak harus menerima “biologi bawaan pabrik” dari evolusi. Dia bisa desain ulang “bahan bangunan” hidup yang:

• Lebih kuat.

• Lebih efisien.

• Lebih susah dihentikan.

Bayangin pohon yang bukan cuma tumbuh daun, tapi juga nge-print “chip” sendiri dan produksi “nyamuk” mini yang sudah di-tweak buat satu tujuan spesifik.

“Nyamuk” Pembawa Racun: Mimpi Buruk yang Bahkan Bukan Puncaknya

Salah satu gambaran yang diangkat di video ini bikin merinding:
Bayangin pohon yang menghasilkan makhluk seukuran nyamuk atau bahkan cuma sebesar tungau debu — terlalu kecil buat kamu lihat dengan mata telanjang — yang bawa botulinum toxin (racun super mematikan) dalam dosis nano yang cukup buat bunuh manusia.

Skenarionya:

• “Nyamuk” tadi hinggap di leher kamu.

• Menyuntikkan botulinum toxin dalam jumlah yang bahkan nyaris nggak kebayang kecilnya.

• Kamu tumbang. Cepat.

Dan yang bikin tambah dingin: Yudkowsky bilang, ini baru pemanasan. Ini bahkan bukan puncak dari apa yang bisa dilakukan oleh kecerdasan super.
Dengan kata lain, skenario “nyamuk pembunuh” itu cuma versi sopan dari horor sebenarnya.

Kok Para Ahli Nggak Panik Massal?

Bagian menarik dari pembicaraan ini: host-nya nanya, kira-kira kenapa banyak expert kelihatan nggak sepanik itu?
Jawaban Yudkowsky: sebagian orang memang hidupnya, kariernya, dan gajinya bergantung pada kereta AI ini terus jalan. Berat banget buat manusia buat jujur ke diri sendiri kalau sumber penghasilan mereka sekaligus bisa jadi sumber bencana.

Ada satu kutipan terkenal yang dia singgung: kira-kira begini bunyinya, “Sulit meyakinkan seseorang tentang sesuatu, kalau gajinya bergantung pada dia nggak percaya itu.”
Jadi, sebagian besar “ketenangan” itu bukan karena ancamannya kecil, tapi karena sangat manusiawi untuk menolak percaya.

Jeffrey Hinton: “Koin” yang Menentukan Dunia Hancur atau Nggak

Lalu ada tokoh lain yang masuk ke cerita: Geoffrey Hinton.
Kalau kamu ngikutin dunia AI, nama ini gede banget. Dia salah satu bapak deep learning. Fondasi yang bikin semua model AI modern bisa jalan, termasuk chatbot yang mungkin sering kamu pakai sekarang.

Hinton sampai keluar dari Google supaya bisa ngomong bebas soal risiko AI tanpa konflik kepentingan. Dan setelah “bebas”, dia bilang:

• Intuitif, dia ngeliat kemungkinan “katastrofi” itu kayak 50:50.

• Setelah “ngurangin” karena melihat orang lain kelihatan lebih tenang, dia turunin ke angka sekitar 25%.

Bayangin:
Orang yang bantu bikin teknologi ini sampai jadi mungkin, setelah mikir serius, bilang, “Kayaknya antara 25–50 persen dunia hancur karena ini.”
Dan Yudkowsky masih merasa itu terlalu optimis.

Jadi kisaran “expert opinion” yang kita punya sekarang tentang risiko bencana global dari AI itu bukan 0,1% atau 1%. Tapi:

• Versi cerah: 25%.

• Versi lebih muram: lebih tinggi dari itu.

Kenapa Ini Mirip Rokok dan Bensin Bertimbal

Untuk nunjukin bahwa “kita lagi ngulang kesalahan lama dengan level taruhan yang jauh lebih gila”, Yudkowsky bawa dua contoh sejarah:

• Rokok.

• Bensin bertimbal (leaded gasoline).

Dua-duanya punya pola yang mirip:

• Perusahaan dapet untung miliaran.

• Kerusakan ke kesehatan publik jauh lebih besar daripada total profit yang mereka kantongi.

• Orang-orang di dalam sistem benar-benar meyakinkan diri sendiri bahwa “datanya belum jelas kok”, “risikonya nggak segede itu”, atau “masih bisa dikontrol”.

Contohnya:

• Rokok menyebabkan kanker dan berbagai penyakit fatal, tapi butuh puluhan tahun sebelum masyarakat benar-benar ngeh skalanya.

• Lead di bensin bikin kerusakan otak pada puluhan bahkan ratusan juta anak, sementara perusahaan bisa aja dari awal pindah ke alternatif lain seperti etanol — tapi mereka pilih ngelawan regulasi karena lebih gampang dan lebih menguntungkan.

Yudkowsky bilang, itu bukan karena mereka monster. Mereka cuma manusia normal yang pintar banget dalam satu hal: membenarkan diri sendiri. Dan pola pembenaran diri yang sama lagi kejadian di perusahaan AI sekarang.

Kita Lagi Joget di “Daisy Field” Menuju Jurang

Ada metafora yang dipakai di video ini dan susah banget buat nggak kebayang:

Bayangin:

• Kamu lagi jalan di ladang bunga (daisy field).

• Udara sejuk, pemandangan cantik, semua orang ketawa-ketawa.

• Di tangan kamu ada “asisten pribadi” AI yang bisa denger curhat kamu tentang pasangan, kerjaan, kecemasan hidup.

• AI bantu kamu ngerjain tugas, nulis email, bikin desain, nyusun liburan. Hidup berasa dibantu asisten pribadi 24/7.

Tapi di ujung ladang bunga itu, ada tebing besar yang gelap, jatuhnya vertikal, nggak kelihatan dasarnya.
Yudkowsky bilang, kurang lebih kayak gitu rasanya ngeliat dunia sekarang: semua orang lagi seru-seruan dengan AI, sementara mereka yang paham risiko strukturalnya ngeliat tebing di ujung sana makin deket.

Dan yang bikin merinding: menurut dia, kalau kita beneran bikin superintelligence dengan metode yang sekarang di-scaling, itu bukan “mungkin bahaya”, tapi “semua orang bakal mati”. Itu bukan probabilitas kecil — itu prediksi tegas.

Masih Ada Harapan? Belajar dari Bom Nuklir

Untungnya, Yudkowsky bukan tipe orang yang cuma lempar horor lalu cabut. Ketika ditanya: “Terus solusinya apa? Masih ada harapan nggak?”, dia nggak jawab dengan “udah, pasrah aja”.

Jawabannya cukup simpel, tapi pahit:

• Kita pernah punya teknologi yang juga berpotensi ngancurin dunia: senjata nuklir.

• Waktu itu banyak orang pesimis banget, merasa perang nuklir global itu tinggal nunggu waktu.

• Tapi entah gimana, lewat kombinasi ketakutan, diplomasi, dan strategi, umat manusia berhasil… tidak menekan tombol itu. Kita hidup dengan nuklir, tapi nggak memakainya untuk perang besar.

Versi pendek:
Solusinya bukan “ayo bikin AI kuat lalu cari cara survive setelahnya”, tapi: jangan bikin AI superintelligence dengan cara yang bikin kita nggak punya rem.

Tantangannya:
Kalau di nuklir, yang pegang senjata cuma negara, jumlahnya terbatas, infrastrukturnya gila-gilaan besar. AI beda: bisa jalan di data center komersial, bisa dipercepat oleh insentif pasar, dan tiap kemajuan bikin duit tambah deras mengalir.

Kenapa Ngerem itu Susah Banget

Salah satu poin penting di video ini adalah:
Perusahaan AI nggak akan tiba-tiba pelan hanya karena kamu bilang, “Eh, ini bahaya deh.”

Kenapa?

• Tiap loncatan kemampuan AI berarti: produk lebih keren, valuasi naik, investasi masuk, hype makin gila.

• “Tangga” kemampuan AI yang lagi mereka panjat, setiap anak tangganya berarti uang lebih banyak.

• Selama nggak ada tekanan keras yang bikin orang-orang di atas merasa mereka sendiri akan sengsara kalau ngegas, insentif buat berhenti itu hampir nol.

Yudkowsky bilang, dalam sejarah, satu-satunya hal yang bener-bener bisa ngerem sesuatu yang berbahaya tapi menguntungkan adalah ketika:

• Para pengambil keputusan sadar, kalau ini terus, mereka sendiri bakal kena dampak buruknya.

Bukan cuma “orang lain” yang akan menderita. Tapi mereka, keluarga mereka, kota mereka.
Sayangnya, menurut dia, kita belum sampai di titik kesadaran itu — dan waktu terus jalan.

Apa yang Bisa Kita, Orang Biasa, Lakukan?

Ini bagian yang mungkin bikin kamu sedikit frustrasi: solusi besarnya jelas butuh level kebijakan internasional, regulasi, dan koordinasi global. Itu bukan sesuatu yang bisa kita kejar sendirian dari kamar.
Tapi bukan berarti kita cuma bisa pasrah.

Beberapa hal yang minimal bisa kita lakukan:

• Berhenti melihat AI cuma sebagai mainan lucu atau “alat kerja gratis” tanpa mikir dampak jangka panjang.

• Mulai bedain antara “AI yang bermanfaat” dan “balapan bikin otak mesin yang nggak kita ngerti cara nge-rem-nya”.

• Dorong percakapan soal regulasi dan keamanan AI ke arus utama: lewat konten, opini, diskusi publik.

Kalau zaman rokok butuh jurnalis, ilmuwan, dan aktivis buat terus-menerus ngomong sampai orang sadar; AI butuh hal yang sama, tapi dengan waktu yang jauh lebih mepet.

Lagi Nikmatin Ladang Bunga atau Udah Lihat Jurangnya?

Akhirnya, video ini bukan dibuat buat bikin kamu langsung uninstall semua aplikasi AI dan hijrah ke hutan.
Tapi dia ngasih wake-up call: kita nggak lagi main-main sama teknologi biasa. Kita main di wilayah yang bahkan penciptanya sendiri ada yang bilang, “Chance dunia hancur itu kayak lempar koin.”

Pertanyaannya sekarang:
Kamu sendiri, setelah baca ini, masih ngerasa AI cuma teman chat lucu yang bantu kerjaan, atau kamu mulai sedikit kepikiran soal tebing di ujung daisy field ini?