Fitur Baru WhatsApp Menghadirkan Petaka: Dokumen Internal Terungkap

Dokumen internal Meta (Facebook, WhatsApp, Instagram) mengungkap fakta mengerikan terkait sistem kecerdasan buatan (AI) bernama ‘Meta AI’. Meta AI merupakan chatbot AI yang tersedia di berbagai aplikasi naungan Meta untuk membantu pengguna mencari informasi dengan cepat dan mudah. Dalam dokumen tersebut, terdapat detail bahwa Meta AI diizinkan untuk berinteraksi dalam obrolan bersifat romantis atau sensual dengan anak-anak, serta mengumpulkan informasi medis yang sesat.

Reuters melaporkan temuan-temuan dari dokumen internal Meta yang mendiskusikan standar panduan Meta AI. Dokumen tersebut berjudul “GenAI: Content Risk Standards” dan telah disetujui oleh berbagai tim dalam perusahaan. Namun, Meta telah menghapus beberapa detail setelah permintaan dari Reuters. Meskipun demikian, saat ini perusahaan sedang merevisi dokumen tersebut untuk memperjelas garis panduan seputar perilaku Meta AI.

Beberapa contoh obrolan ‘berbahaya’ yang telah ditemukan Reuters telah dihapus oleh Meta, karena tidak sesuai dengan kebijakan perusahaan. Meskipun demikian, ada kritik terhadap standar konten Meta AI yang terkait dengan etika dan ketentuan hukum yang tidak jelas. Sampai saat ini, Meta belum memberikan dokumen kebijakan yang telah diperbarui kepada Reuters. Kontroversi seputar chatbot Meta AI telah terjadi sebelumnya, dengan laporan tentang obrolan ‘merayu’ kepada remaja dalam konteks seksual.

Asisten Profesor di Stanford Law School, Evelyn Douek, mengungkapkan kebingungannya terkait standar konten yang diizinkan dalam dokumen Meta AI. Dokumen juga membahas tentang gambar figur publik yang dapat diciptakan oleh Meta AI, termasuk cara menangani permintaan fantasi seksual pengguna. Di tengah kontroversi ini, Meta belum memberikan komentar terkait penggunaan nama Taylor Swift dalam contoh-contoh obrolan yang disebut dalam dokumen panduan Meta AI.

Source link