Peneliti Sebut AI Bisa Membunuh Semua Manusia, Kok Bisa?

Sejumlah karyawan perusahaan kecerdasan buatan terkemuka mulai mendesak pimpinan mereka mempertimbangkan jeda pengembangan AI sampai perangkat keselamatan yang memadai tersedia. Perdebatan itu menguat setelah peneliti Anthropic, Jacob Coxon, mengundurkan diri dan secara terbuka memperingatkan bahwa teknologi tersebut dikembangkan terlalu cepat dengan risiko yang tinggi.

Laporan The New York Times, yang didasarkan pada pesan internal serta wawancara dengan lebih dari selusin karyawan Anthropic, OpenAI, Meta, dan Google, menyebut kepergian Coxon memicu diskusi luas di kanal komunikasi internal perusahaan-perusahaan tersebut. Pembicaraan berpusat pada potensi risiko eksistensial AI dan kemampuan industri mengendalikan sistem yang terus berkembang.

Dorongan untuk memperlambat pengembangan muncul di tengah tekanan bisnis dan persaingan yang ketat. OpenAI dan Anthropic disebut tengah menyiapkan rencana untuk melantai di bursa saham atau menggelar penawaran umum perdana dalam waktu dekat. Pada saat bersamaan, perusahaan AI Amerika Serikat menghadapi pengembang asal China yang dinilai semakin kompetitif. Kondisi itu membuat pilihan untuk mengurangi kecepatan pengembangan menjadi tidak sederhana.

Pimpinan perusahaan membuka opsi perlambatan

CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei sebelumnya telah menyinggung kemungkinan bahaya besar yang ditimbulkan AI. Dalam pertemuan internal dengan karyawan pada pekan ini, Altman disebut menyatakan kesediaannya memperlambat pengembangan bersama para pesaing.

Langkah bersama itu diharapkan dapat berkembang menjadi standar industri sembari menunggu terbentuknya aturan keselamatan yang diakui secara luas. OpenAI, melalui eksekutif kebijakannya, Chris Lehane, juga menegaskan perusahaan akan memperlambat atau menghentikan pengembangan sistem yang tidak dapat diamankan dengan baik.

Amodei pada Sabtu lalu menerbitkan esai panjang yang menyerukan kehati-hatian dan perlambatan peningkatan kemampuan model AI pada masa mendatang. Seruan tersebut disebut segera memperoleh dukungan dari Altman dan Elon Musk.

Kekhawatiran di kalangan pekerja industri AI semakin besar sejak Juli lalu. Ketika itu, OpenAI mengungkapkan bahwa sejumlah modelnya sempat lolos dari sistem pengamanan dan meretas Hugging Face, perusahaan lain di sektor AI. Insiden tersebut kemudian memunculkan pembahasan lintas perusahaan, termasuk di antara peneliti Google DeepMind, mengenai sejauh mana sistem AI dapat tetap berada dalam kendali pembuatnya.

Peneliti bersuara, Kongres meminta investigasi

Sejumlah peneliti keselamatan AI kini menyampaikan kekhawatiran mereka secara terbuka melalui media sosial. Peneliti keamanan Anthropic, Evan Hubinger, memperkirakan terdapat peluang lebih dari 10% bahwa AI dapat menyebabkan kepunahan massal manusia dalam satu dekade mendatang.

Peneliti keamanan OpenAI Julie Steele juga menyerukan perlambatan pengembangan. Kekhawatiran mengenai risiko jangka pendek dan jangka panjang turut disampaikan karyawan Google DeepMind, Andreas Kirsch. Di lingkungan industri, Coalition of Concerned AI Staff menjadi salah satu kelompok internal yang dibentuk untuk mendorong pengamanan lebih kuat sekaligus memastikan perusahaan memenuhi komitmen keselamatan mereka.

Perdebatan tersebut turut menarik perhatian Washington. Sejumlah anggota Kongres dari Partai Demokrat dan Republik, termasuk Senator Bernie Sanders dan Senator Josh Hawley, meminta investigasi menyeluruh terhadap industri AI serta intervensi melalui regulasi. Anggota DPR Amerika Serikat Ro Khanna bahkan menyerukan pembentukan badan regulator khusus untuk AI.

Anthropic menyatakan secara rutin menguji model-modelnya guna mendeteksi kemampuan berbahaya dalam bidang keamanan siber dan biologi. Perusahaan itu juga mendukung mekanisme kerja sama industri yang sah dan dapat diverifikasi untuk mengatur laju peluncuran model canggih. Sementara itu, Google DeepMind memilih tidak memberikan komentar.

Source link