Meta mulai mendeteksi gambar deepfake buatan AI di Instagram, Facebook, dan Threads. Gambar palsu tersebut akan diberikan label dan tanda khusus.
Deepfake adalah konten buatan AI yang sulit dibedakan dari foto, video, dan suara asli. Konten deepfake kini makin mudah diciptakan menggunakan berbagai platform penyedia teknologi AI generatif.
Nick Clegg, Presiden Global Affairs di Meta, menyatakan kebijakan untuk memantau dan memberikan label di konten hasil karya AI akan diterapkan untuk konten yang dibuat menggunakan platform Meta dan platform di luar Meta.
Konten hasil karya AI bisa dikenali dari “cap” tak terlihat yang tertanam di file gambar. Jika cap tersebut terdeteksi, Meta akan memberikan label khusus di konten yang unggah di Facebook, Instagram, dan Threads.
Saat ini, kebijakan dan fitur pemantau AI sudah diterapkan untuk konten yang dibuat menggunakan teknologi Meta. Dalam beberapa bulan ke depan, sistem yang sama akan diterapkan untuk konten buatan platform milik OpenAI, Midjourney, Shutterstock, dan Google.
Menurut Reuters, langkah Meta menunjukkan arah kebijakan platform media sosial dan internet sebagai mitigasi atas dampak negatif dari peredaran konten palsu hasil rekayasa AI.
Cara serupa telah diterapkan dalam 10 tahun terakhir untuk menghapus konten terlarang seperti konten yang menggambarkan kekerasan dan eksploitasi terhadap anak.
Clegg yakin sistem milik Meta bisa mengenali setiap gambar buatan AI yang diunggah di platformnya. Namun, perusahaan yang didirikan oleh Mark Zuckerberg tersebut masih menyempurnakan sistem serupa untuk mengenali video dan audio buatan AI.
Sampai sistem identifikasi sempurna, Meta akan meminta pengguna Instagram dan Facebook untuk memberikan label di konten audio dan video hasil rekayasa. Pelanggar atas kebijakan ini akan dikenai penalti.
Satu konten karya AI yang belum bisa diidentifikasi dengan teknologi adalah teks buatan AI, seperti yang dihasilkan oleh ChatGPT. “Itu sudah lewat [that ship has sailed],” kata Clegg.
Meta juga bungkam soal rencana mereka untuk konten buatan AI yang tersebar di WhatsApp.
Konten deepfake kini juga mulai digunakan untuk penipuan online. Seorang pekerja keuangan di sebuah perusahaan multinasional ditipu untuk membayar US$25 juta (Rp 392,97 miliar) kepada penipu menggunakan teknologi deepfake.
Menurut polisi Hong Kong, penipu itu menyamar menggunakan deepfake sebagai kepala keuangan perusahaan dalam panggilan konferensi video.
Korban ditipu dengan disuruh untuk menghadiri panggilan video yang disebut akan dihadiri oleh beberapa beberapa anggota staf lainnya. Namun semuanya sebenarnya adalah rekreasi palsu, kata polisi Hong Kong, dikutip dari CNN International, Senin (5/2/2024).
“(Dalam) konferensi video yang dihadiri banyak orang, ternyata semua orang yang [dia lihat] adalah palsu,” kata pengawas senior Baron Chan Shun-ching kepada stasiun penyiaran publik kota RTHK.
Chan mengatakan pekerja tersebut menjadi curiga setelah dia menerima pesan yang konon berasal dari kepala keuangan perusahaan yang berbasis di Inggris. Awalnya, pekerja tersebut mencurigai itu adalah email phishing, karena berisi permintaan pelaksanaan transaksi rahasia.
Namun, pekerja tersebut mengesampingkan keraguan awalnya setelah panggilan video tersebut. Sebab, kata Chan, orang lain yang hadir terlihat dan terdengar seperti rekan kerja yang dia kenal.
Karenanya, pekerja tersebut setuju untuk mengirimkan total US$200 juta dolar Hong Kong atau sekitar Rp392,97 miliar.
Kasus ini adalah salah satu dari sekian kasus yang melibatkan teknologi deepfake. Pada konferensi pers hari Jumat lalu, polisi Hong Kong mengatakan mereka telah melakukan enam penangkapan sehubungan dengan penipuan tersebut.
