Sebuah alat tengah dibangun untuk mengetahui tulisan yang dibuat oleh ChatGPT. Alat dibuat oleh perusahaan pembuat chatbot populer itu, OpenAI.
Laporan tersebut berasal dari The Wall Street Journal. Menurut laporan yang sama, OpenAI masih bingung apakah harus merilis alat tersebut ke publik.
Juru bicara OpenAI mengonfirmasi laporan tersebut. Menurutnya, metode watermarking memang tengah diteliti perusahaan.
Namun juru bicara perusahaan menambahkan yang dilakukan pihaknya adalah dengan pendekatan yang disengaja. Sebab alat itu memiliki risiko di masa depan.
“Metode watermarking teks yang kami kembangkan secara teknis menjanjikan, namun memiliki risiko penting yang kami pertimbangkan saat meneliti alternatif lain, khususnya kerentanan pada pengelakan pada pelaku kejahatan dan berpotensi berdampak tidak proposional pada kelompok yang tidak berbahasa Inggris,” kata juru bicara dikutip dari Tech Crunch, Selasa (6/8/2024).
Watermarking ini hanya akan mendeteksi tulisan buatan ChatGPT saja. Bukan untuk model AI buatan perusahaan lain.
OpenAI mengembangkan cara dengan melakukan perubahan kecil pada cara ChatGPT memilih kata. Nantinya akan membuat tanda air tidak terlihat pada tulisan dan akan terdeteksi oleh alat terpisah.
Tech Crunch juga mencatat OpenAI memperbarui postingan blog bulan Mei lalu. Isinya terkait pendeteksian konten yang dihasilkan AI.
Menurut pembaruan yang tercatat Tech Crunch, watermarking teks disebut sangat akurat dan efektif pada gangguan seperti parafrase. Namun memang belum kuat pada gangguan seperti menggunakan sistem terjemahan, menulis ulang dengan model lain, atau sisipan dari model.
Sebelumnya, OpenAI telah membuat pendeteksi teks AI. Namun tahun lalu alat tersebut ditutup, dengan alasan tingkat akurasi yang rendah.
