Viral! Ucapan Satu Orang Mendadak Mengguncang Satu Negara

Pengunduran diri Jacob Coxon dari Anthropic mendorong kekhawatiran baru di Amerika Serikat mengenai risiko pengembangan kecerdasan buatan (AI). Kongres AS kini membahas rancangan aturan yang akan mewajibkan perusahaan AI membuktikan keamanan produk mereka, terutama untuk model yang dinilai berisiko tinggi.

Coxon sebelumnya mengungkap alasan di balik keputusannya meninggalkan perusahaan tersebut. Ia menyatakan bahwa sejumlah pengembang di industri AI secara diam-diam meyakini teknologi itu berpotensi memusnahkan umat manusia sebelum dekade ini berakhir. Pernyataan tersebut kemudian memperkuat desakan agar pengembangan AI tidak hanya bergantung pada pengawasan internal perusahaan.

Rancangan aturan masih dalam tahap awal

Berdasarkan laporan Reuters pada Selasa (15/9/2026), staf Senat dan tim negosiator sedang membahas rancangan regulasi yang dapat memberikan kewenangan khusus kepada Menteri Perdagangan AS. Menteri tersebut nantinya berpotensi meminta perusahaan menunjukkan bukti valid mengenai sistem pengamanan yang mereka miliki.

Rancangan itu juga membuka kemungkinan penempatan auditor independen untuk menguji keamanan model AI secara langsung. Para negosiator turut mendiskusikan peran pengadilan federal dalam memblokir peluncuran model tertentu yang dianggap berbahaya. Perusahaan tetap akan memiliki hak untuk menggugat keputusan tersebut melalui jalur hukum.

Namun, rincian pembagian kewenangan antar-lembaga masih dimatangkan. Pembahasan regulasi pun baru berada pada fase awal. Reuters mencatat peluang rancangan undang-undang itu disahkan tergolong kecil, bahkan jika memperoleh persetujuan Kongres.

Penolakan juga berpotensi datang dari Gedung Putih. Presiden Donald Trump sebelumnya menyatakan instrumen hukum yang telah tersedia sudah cukup untuk mengatur dan menindak perusahaan teknologi besar. Pernyataan itu menjadi sinyal bahwa Trump kemungkinan tidak mendukung undang-undang baru yang secara khusus mengatur AI.

Salah satu poin penting lainnya adalah rencana melarang pemerintah negara bagian membuat aturan sendiri untuk mengawasi risiko AI. Klausul tersebut ditujukan untuk menjaga keseragaman regulasi di seluruh AS.

CEO teknologi menyerukan perlambatan

Di tengah pembahasan di Kongres, CEO Anthropic Dario Amodei menyerukan agar industri tidak terus mempercepat peningkatan kemampuan AI tanpa mempertimbangkan aspek keselamatan. Dalam esai yang diunggah di platform X pada Sabtu (12/9), Amodei menulis, “Kita harus memperlambat kecepatan peningkatan kemampuan model AI. Kemajuan akan tetap terlihat cepat, dan kita harus memanfaatkan waktu yang kita peroleh dengan bijak.”

Amodei mengusulkan tiga langkah. Pertama, perusahaan menggunakan evaluator independen yang memiliki akses penuh setingkat karyawan untuk menguji dan memverifikasi keamanan sistem. Kedua, perusahaan rintisan AI terkemuka membangun aliansi guna menetapkan standar keselamatan dan membatasi eksperimen yang tidak terkendali. Ketiga, negara-negara bekerja sama menyusun kerangka mitigasi risiko AI secara global.

Seruan tersebut mendapat tanggapan dari sejumlah pemimpin perusahaan teknologi lain. Elon Musk dari xAI merespons singkat melalui X, “Dario benar.” CEO OpenAI Sam Altman mengatakan perlambatan atau “pacing” bukan berarti menghentikan pengembangan AI sepenuhnya, melainkan menyesuaikan ritme agar keselamatan tidak tertinggal oleh ambisi bisnis. “Dunia berhak mendapat keyakinan bahwa perusahaan AS bertindak bertanggung jawab,” ujar Altman.

CEO Microsoft Satya Nadella menekankan bahwa pengejaran superinteligensi akan kehilangan makna jika berujung pada hilangnya kendali manusia. Microsoft, kata dia, bersiap merilis “Kode Etik” untuk model AI mereka dan membuka ruang konsultasi publik. “Kuncinya, hal ini tidak boleh dikendalikan oleh segelintir entitas saja,” kata Nadella.

Source link