AI Makin Mengkhawatirkan, Penciptanya Kini Ketakutan

Perusahaan-perusahaan pengembang kecerdasan buatan (Artificial Intelligence/AI) mulai memperlakukan risiko teknologi tersebut sebagai persoalan yang harus dihadapi bersama, termasuk dengan melibatkan para pesaing. OpenAI, Anthropic, dan Alphabet diketahui tengah membahas standar keselamatan AI setelah muncul kekhawatiran bahwa kemajuan teknologi berlangsung lebih cepat daripada kemampuan manusia mengendalikannya.

Kepala Kebijakan Global OpenAI Cris Lehane mengatakan, pembicaraan ant perusahaan itu telah berlangsung selama beberapa pekan terakhir. Menurut dia, kerja sama lebih tepat dilakukan untuk menghadapi risiko yang berpotensi muncul dari perkembangan AI.

“Lebih baik mencoba bekerja sama untuk memprioritaskan keselamatan,” ujar Lehane, dikutip Reuters, Rabu (16/9/2026).

OpenAI juga menyatakan kesiapan untuk mendukung regulasi pemerintah yang ditujukan untuk menekan dan mengurangi dampak negatif perkembangan AI. Pernyataan itu disampaikan Lehane di hadapan para anggota parlemen, ketika pembahasan mengenai pengawasan teknologi AI semakin mendapat perhatian.

Peringatan dari para pemimpin industri

Kekhawatiran terhadap AI tingkat lanjut sebelumnya telah disuarakan oleh sejumlah tokoh utama industri teknologi. CEO Anthropic Dario Amodei, misalnya, menyerukan agar laju pengembangan teknologi tersebut diperlambat melalui esainya yang berjudul “We Must Pace the Frontier”.

Amodei menilai kemajuan AI meningkat sangat cepat sejak musim panas 2026. Ia menyoroti kemampuan sistem AI yang terus menunjukkan kemandirian dalam menciptakan generasi AI berikutnya dengan tingkat kecanggihan lebih tinggi.

Seruan itu mendapat dukungan dari CEO OpenAI Sam Altman. Ia mengatakan OpenAI berniat mengadopsi usulan Anthropic untuk melibatkan evaluator independen dalam pengujian keamanan. Para evaluator tersebut akan diberi akses yang setara dengan karyawan internal perusahaan.

Gagasan mengenai potensi bahaya AI bukan hal baru bagi Altman. Pada 2015, ia telah memperingatkan risiko ketika kecerdasan mesin benar-benar melampaui kapasitas manusia untuk mengendalikannya. Peringatan itu disampaikannya melalui esai berjudul “Machine Intelligence, Part 1”.

Dukungan Elon Musk dan seruan jeda pengembangan

Elon Musk, pemimpin SpaceX dan xAI, juga menyatakan dukungan terhadap pandangan Amodei mengenai perlunya mengendalikan laju pengembangan AI. Sikap tersebut sejalan dengan langkah Musk pada 2023, ketika ia mendukung petisi Future of Life Institute.

Petisi lembaga nirlaba itu mendesak penghentian sementara pengembangan AI selama enam bulan. Jeda tersebut dinilai diperlukan agar masyarakat internasional memiliki waktu untuk menyusun mekanisme pengamanan atau safety guardrails sebelum teknologi berkembang ke tahap yang sulit dikendalikan.

Dengan keterlibatan perusahaan AI dan dukungan dari sejumlah pemimpin industri, pembahasan mengenai keselamatan kini tidak hanya berlangsung di dalam masing-masing perusahaan. Kerja sama lintas kompetitor serta dukungan terhadap regulasi pemerintah menjadi bagian dari respons yang sedang dibangun untuk menghadapi risiko AI tingkat lanjut.

Source link