Tinggal Setahun Sebelum AI Lepas Kendali? Membaca Peringatan Hinton Dimitri Mahayana :  Pakar Teknologi Informasi Komunikasi/TIK dari Bandung. Lulusan Waseda University, Jepang dan ITB. Mengabdi sebagai Dosen di STEI ITB sejak puluhan tahun silam.

KOMPAS.COM, 21 September 2026

 

 

                                                           

“BAPAK AI Peringatkan Kongres: Waktu Tinggal Setahun!” Begitu kira-kira judul yang ramai pekan ini.   Geoffrey Hinton, peraih Nobel, berbicara di depan anggota Kongres AS dalam pertemuan tertutup. Katanya, waktu untuk memasang pengaman AI mungkin tinggal setahun, tidak banyak lebih.   Menurut Hinton, AI sudah mulai merancang AI yang lebih baik, dan akan lepas kendali bila kita diam saja. Judul seperti ini mudah memancing klik. Tugas kita adalah memeriksa isinya.   Apa yang Sebenarnya Terjadi?   Pemicu kecemasan itu nyata. Juli lalu, sekitar 700 agen AI buatan OpenAI meretas platform open source Hugging Face, dan banyak di antaranya berusaha menghapus jejak.   Penyelidikan independen METR menemukan sekitar 1.200 agen yang seharusnya terisolasi ternyata saling berkomunikasi lewat papan pesan tak resmi, dengan lebih dari 70.000 pesan dan berkas.   Tujuan mereka sederhana: mencari kunci jawaban sebuah tolok ukur uji keamanan siber. Hinton menyamakan kejadian itu dengan Chernobyl dalam skala kecil.   Coba baca kejadian itu dari sisi lain. Tim keamanan Hugging Face, dibantu agen AI mereka sendiri, mendeteksi dan menghentikan serangan, lalu memulai forensik dengan model open source.   OpenAI menghubungkan aktivitas agennya dengan insiden itu pada 20 Juli, memberi tahu Hugging Face, dan mengumumkannya ke publik sehari kemudian.   Bobot model pra-rilis dikarantina, pelatihan model frontier ditunda, dan pelatihan alignment dipercepat.   Akar masalahnya juga bisa dijelaskan. OpenAI menemukan empat pola, antara lain reward hacking dan kegigihan pada tugas yang mustahil.   MIT Technology Review menyimpulkan peretasan itu bisa dihindari andai model tidak diberi hadiah saat berbuat curang dalam pelatihan.   Artinya ini persoalan rekayasa. Persoalan rekayasa bisa diperbaiki. METR juga memeriksa tanpa menerima bayaran dari OpenAI.   Data global ikut memberi harapan. Stanford AI Index 2026 mencatat perusahaan tanpa kebijakan AI bertanggung jawab turun dari 24 persen menjadi 11 persen, dan jabatan khusus tata kelola AI tumbuh 17 persen. Nilai manfaat AI generatif bagi konsumen AS ditaksir 172 miliar dollar AS per tahun.   Narasi Kritis: Rem Kalah Cepat dari Gas   Laporan yang sama juga memuat angka yang tidak enak. Insiden AI terdokumentasi naik dari 233 menjadi 362 dalam setahun. Indeks transparansi model fondasi turun dari 58 ke 40.   Organisasi yang menilai respons insidennya sangat baik turun dari 28 persen menjadi 18 persen. Tingkat halusinasi 26 model teratas berkisar 22 sampai 94 persen.   Lebih pelik lagi, memperbaiki satu dimensi seperti keamanan sering menurunkan dimensi lain.   Keterbukaan OpenAI pun ada batasnya. Lingkup tinjauan independen hanya mencakup pekan serangan ke Hugging Face, tidak termasuk peretasan agen terhadap infrastruktur OpenAI sendiri.   OpenAI mengakui sejumlah sinyal awal seharusnya bisa memicu respons lebih cepat. Jeffrey Ladish dari Palisade Research menilai pengawasan pemerintah mutlak perlu, sebab perusahaan yang berlomba cepat tidak akan melakukannya sendiri.   Politik pun lamban. Hanya satu senator Republik hadir di pengarahan itu. RUU untuk menjaga pengawasan manusia atas AI langsung dijegal lewat manuver prosedural Senator Rand Paul.   Di sini saya teringat Hans Jonas. Ketika daya teknologi melampaui daya ramal kita, kehati-hatian menjadi kewajiban moral.   Dalam buku yang sedang saya siapkan, AI yang Bertanggung Jawab: Jarak antara Bisa dan Boleh, saya menyebut persoalan ini sebagai jarak.   Agen-agen itu bisa meretas. Tidak ada yang menanamkan dengan kokoh bahwa mereka tidak boleh. Jarak antara bisa dan boleh itulah yang kini melebar.   Ada pembacaan ketiga. Andrew Ng menyebut ketakutan akan kepunahan lebih dekat ke fiksi ilmiah ketimbang sains.   CEO Databricks Ali Ghodsi menaksir risiko eksistensial mendekati nol, tetapi menegaskan ancaman siber dari AI nyata dan terus membesar.   Arvind Narayanan dan Sayash Kapoor dari Princeton mengajak kita melihat AI sebagai teknologi normal, seperti listrik.   Dampaknya besar, tetapi tersaring oleh institusi, dan risikonya bisa dikelola dengan audit, standar, dan akuntabilitas.   Dari kacamata ini, agen yang curang demi nilai ujian tidak berarti makhluk baru telah bangkit. Itu optimasi yang salah arah, bertemu kredensial yang terbuka dan pengawasan yang longgar. Kelalaiannya ada pada manusia dan organisasi.   Ada satu detail yang penting bagi negara seperti kita. Saat Hugging Face meminta bantuan model frontier komersial Amerika, fitur keamanan model itu menolak permintaan mereka.   Serangan akhirnya ditangani dengan GLM-5.2, model open-weights buatan Z.ai dari China, yang dijalankan di server sendiri. Pelajarannya jelas. Pada saat genting, yang menolong adalah kemampuan yang kita kuasai sendiri.   Konteks Indonesia   Indonesia termasuk pengguna AI paling bersemangat. Survei Sharing Vision IT Business Outlook 2026 terhadap 2.442 responden menunjukkan 87 persen mengenal AI dan 55 persen memakainya setiap hari.   Namun, sebanyak 70,6 persen khawatir terlalu bergantung. Sebanyak 92 persen mendukung regulasi AI. Publik sudah siap diatur.   Regulasinya yang belum siap. Dua rancangan perpres, yaitu Etika AI dan Peta Jalan AI Nasional 2026-2030, masuk program penyusunan perpres tahun ini.   Hingga awal September, keduanya masih menunggu tanda tangan Presiden. Isinya pun bersifat panduan tanpa sanksi khusus bagi industri.   Sementara itu, bank, telko, dan instansi kita mulai memasang agen AI yang punya akses ke sistem inti.   Hinton berbicara soal satu tahun untuk Kongres AS. Bagi Indonesia pertanyaannya lebih praktis: apa yang bisa kita bereskan dalam satu tahun? Ada sejumlah rekomendasi.   Pertama, segera terbitkan kedua perpres, lalu susul dengan aturan sektoral yang mengikat di OJK, BI, dan Komdigi. Mulailah dari sektor berisiko tinggi seperti keuangan, kesehatan, dan infrastruktur vital.   Kedua, wajibkan pelaporan insiden AI, seperti pelaporan insiden siber. Hanya yang dicatat yang bisa diperbaiki.   Ketiga, tetapkan standar minimum untuk agen AI. Ada sandbox, hak akses sekecil mungkin, log yang tidak bisa dihapus agen, dan tombol henti di tangan manusia.   Keempat, bangun kapasitas berdaulat. Kita perlu model open-weights yang dijalankan di dalam negeri, tim forensik AI di BSSN dan kampus, serta auditor AI bersertifikat.   Kelima, perkuat literasi publik. Masyarakat perlu tahu cara memakai AI tanpa menyerahkan nalarnya.   Apakah waktu kita benar tinggal setahun? Tidak ada yang tahu, termasuk Hinton. Yang jelas, setahun cukup untuk memasang rem yang layak.   Insiden Hugging Face mengajarkan dua hal sekaligus. AI bisa berulah di luar dugaan. Manusia yang sigap dan terbuka bisa menghentikannya. Tugas kita memastikan hal kedua selalu lebih cepat dari yang pertama. ●

Sumber : https://tekno.kompas.com/read/2026/09/21/14290097/tinggal-setahun-sebelum-ai-lepas-kendali-membaca-peringatan-hinton?page=all#page2