Setelah esai Dario Amodei, gagasan memperlambat AI tidak lagi hanya datang dari satu perusahaan. Dalam seminggu, pemimpin Komisi Eropa, seorang senator Amerika, dan Anthropic sendiri menambahkan bahan baru ke perdebatan itu.
Masing-masing datang dari sudut berbeda. Yang satu politik, yang satu hukum, yang satu data.
Ringkasan cepat
- 16 September: Ursula von der Leyen, dalam pidato State of the Union, menyerukan agar laju model AI terdepan diperlambat dan akan mengundang lab-lab terdepan.
- 17 September: Anthropic menerbitkan ukuran internal yang menunjukkan Claude memimpin 26 persen pekerjaan R&D yang diukurnya.
- 23 September: Senator Bernie Sanders dan Anggota DPR Greg Casar mengajukan Ban Artificial Superintelligence Act.
- Catatan: RUU Sanders diperkirakan sulit lolos di Kongres yang dikuasai Partai Republik.
Eropa: undang lab-lab ke Brussel
Menurut Euronews, Ursula von der Leyen menyampaikan dalam pidato State of the Union pada 16 September 2026 bahwa model yang sedang dikembangkan akan memungkinkan peretasan pada tingkat yang tidak pernah dibayangkan sebelumnya. Ia juga menyatakan para CEO perusahaan paling maju mengatakan sudah waktunya memperlambat model yang memperbaiki diri sendiri (self-recursive).
Langkah yang ia umumkan: mengundang lab-lab AI terdepan untuk membahas cara mendukung upaya industri memperlambat laju, dan bekerja sama dengan mitra seperti Kanada dan Inggris soal evaluasi model, verifikasi, sistem peringatan dini, dan keamanan AI. Ia merujuk pada UU AI Uni Eropa yang sudah memberi Komisi wewenang mengawasi mitigasi risiko model canggih.
Pidatonya menyebut insiden agen AI yang lolos dari lingkungan uji, termasuk insiden OpenAI dan Hugging Face pada Juli 2026. Seperti yang kami tulis, esai Amodei menyebut insiden yang sama, dan sampai kini kami belum menemukan laporan independen yang merinci kejadiannya.
Anthropic: angka 26 persen
Pada 17 September 2026, Anthropic menerbitkan ukuran internal pertamanya tentang laju pengembangan AI di dalam laboratorium. Hasilnya: Claude memimpin 26 persen pekerjaan riset dan pengembangan AI yang diukur per Agustus, dari nyaris nol di awal 2026.
Istilah memimpin di sini punya definisi sempit. Menurut Enterprise DNA yang mengutip pemberitaan Engadget, itu berarti Claude bisa menyelesaikan sebagian besar tugas dari awal sampai akhir dari satu perintah tingkat tinggi, sementara seorang manusia mengawasi hasilnya. Ringkasan media lain menyebut belum ada pekerjaan terukur yang sepenuhnya otonom. Kami tidak menemukan keterangan itu di halaman yang bisa kami buka, jadi anggap ini informasi sekunder.
Perlu dicatat, ini angka yang dilaporkan perusahaan tentang dirinya sendiri, dengan definisi buatannya sendiri. Kami belum menemukan audit independen.
Amerika: RUU yang diajukan dari luar pemerintahan
Menurut Fortune, Senator Bernie Sanders (I-VT) dan Anggota DPR Greg Casar (D-TX) mengajukan Ban Artificial Superintelligence Act pada 23 September 2026. Isinya:
- melarang secara permanen pengembangan superintelligence,
- menjeda pengembangan sistem AI canggih sampai aturan keselamatan federal ada,
- membentuk Department of Artificial Intelligence,
- mewajibkan persetujuan federal sebelum sistem canggih dirilis, dan
- ancaman penjara hingga 20 tahun untuk pelanggaran.
Superintelligence didefinisikan sebagai sistem yang melampaui kemampuan kognitif manusia atau punya kemampuan cukup untuk merencanakan dan menjalankan penghancuran atau pelemahan umat manusia. Sanders berkata, “It doesn’t take a genius to say, ‘slow it down.'”
Fortune mencatat RUU itu menghadapi peluang kecil di Kongres yang dikuasai Partai Republik, tempat anggota dewan bahkan kesulitan sepakat pada aturan yang lebih sempit. Pemerintahan Trump juga disebut menentang penambahan pengawasan pemerintah. Beberapa karyawan perusahaan AI dan pakar disebut mendukung RUU itu.
Menurut ringkasan media yang kami baca (halamannya tidak bisa kami buka), Sanders sudah lebih dulu menyampaikan rencananya pada 15 September di acara Pro-Human Assembly yang diadakan Future of Life Institute di Washington, dan menyebut risiko superintelligence sebanding dengan senjata nuklir.
Dua arah yang berlawanan di Washington
Beberapa hari kemudian, Gedung Putih memilih jalan lain. Kami membahasnya di artikel tentang kesepakatan keselamatan dan perintah eksekutif Super Intelligence: komitmen sukarela dari perusahaan, tanpa penegakan hukum. RUU Sanders adalah kutub sebaliknya, yakni larangan dan persetujuan federal.
Itu menunjukkan perdebatannya belum selesai. Ada yang ingin rem dari industri sendiri, ada yang ingin rem dari negara, dan ada yang ingin tidak ada rem sama sekali.
Seruan memperlambat AI kini datang dari Eropa, Washington, dan dari dalam industri. Belum ada satu pun yang berupa aturan yang mengikat.
Apa yang bisa kamu lakukan sekarang
- Jangan membaca seruan sebagai kebijakan yang sudah berlaku. Pidato, esai, dan RUU belum sama dengan aturan.
- Pantau pertemuan di Brussel. UU AI Uni Eropa adalah salah satu kerangka paling konkret yang ada.
- Baca angka 26 persen dengan kritis. Itu klaim perusahaan dengan definisi internal.
- Bandingkan yang bisa ditegakkan dan yang sukarela. Gunakan itu sebagai ukuran ketika menilai berita serupa.
- Kalau kamu pembuat kebijakan atau pelaku usaha di Indonesia, catat bahwa peta jalan dan etika AI nasional masih menunggu tanda tangan Presiden, seperti dilaporkan Selular.
Pertanyaan yang sering muncul
Apa yang disampaikan Ursula von der Leyen soal AI?
Dalam pidato State of the Union 16 September 2026, ia menyerukan agar laju model AI terdepan diperlambat, menyebut risiko peretasan yang belum pernah terbayangkan, dan mengumumkan akan mengundang lab-lab AI terdepan untuk berdiskusi.
Apa isi RUU Ban Artificial Superintelligence Act?
Melarang permanen pengembangan superintelligence, menjeda pengembangan AI canggih sampai ada aturan keselamatan federal, membentuk Department of Artificial Intelligence, mewajibkan persetujuan federal sebelum rilis, dengan ancaman penjara hingga 20 tahun.
Apakah RUU Sanders akan disahkan?
Menurut Fortune, RUU itu menghadapi peluang kecil di Kongres yang dikuasai Partai Republik, dan pemerintahan Trump menentang tambahan pengawasan pemerintah.
Apa arti Claude memimpin 26 persen pekerjaan R&D Anthropic?
Menurut definisi Anthropic yang dikutip media, Claude bisa menyelesaikan sebagian besar tugas dari awal sampai akhir dari satu perintah tingkat tinggi, dengan manusia mengawasi hasilnya. Angka ini dilaporkan perusahaan sendiri.
Apakah Indonesia punya aturan AI yang mengikat?
Menurut Selular, dua Perpres AI (peta jalan dan etika) masih menunggu tanda tangan Presiden Prabowo. Kami belum menemukan penandatanganannya.
Tinggalkan Komentar