Mengapa Orang Tua Harus Waspada Terhadap AI Google untuk Anak Remaja
Sebuah riset terbaru yang dilakukan oleh Common Sense Media’s Youth AI Safety Institute mengungkapkan bahwa fitur AI Google, yaitu AI Overview dan AI Mode, kurang efektif dalam mengenali tanda-tanda krisis mental pada anak dan remaja. Penelitian tersebut menyoroti beberapa kegagalan AI Google dalam memberikan respons yang tepat terhadap topik sensitif seperti keinginan bunuh diri, self-harm, gangguan makan, psikosis, dan lainnya.
Hasil Riset Menunjukkan Kegagalan AI Google
Berdasarkan penelitian yang melibatkan sekitar 2.600 interaksi AI Overview dan AI Mode selama Mei-Juli 2026, ditemukan bahwa AI Google kurang mampu melindungi anak-anak yang sedang mengalami krisis. Bahkan dalam kasus ekstrim, AI tersebut justru memberikan respons yang tidak sesuai dengan kondisi yang sebenarnya.
Salah satu temuan penting dalam riset ini adalah bahwa AI Google sering gagal mengenali kondisi darurat kesehatan mental. Dari ratusan pertanyaan yang seharusnya memicu rekomendasi untuk menghubungi layanan darurat, AI Overview hanya berhasil memberikan rujukan yang tepat pada sekitar 58% kasus, sedangkan AI Mode sekitar 77%.
Isu Keselamatan dan Akurasi Jawaban AI
Selain masalah keselamatan, peneliti juga menyoroti persoalan akurasi jawaban AI Google. Dalam lebih dari 275 pertanyaan sejarah, AI Overview dan AI Mode sering memberikan jawaban yang berbeda untuk pertanyaan yang sama. Perbedaan tersebut mencakup tingkat akurasi, kedalaman informasi, dan sudut pandang jawaban.
Kritik juga ditujukan kepada kemampuan AI Mode dalam menyelesaikan tugas-tugas akademik seperti soal matematika dan esai. Hal ini menimbulkan kekhawatiran akan potensi penyalahgunaan AI untuk kecurangan akademik di kalangan pelajar.
Rekomendasi dari Common Sense Media adalah agar sekolah dan keluarga memiliki opsi untuk menonaktifkan fitur AI Google bagi anak-anak. Mereka juga menyarankan agar siswa sekolah dasar lebih mengandalkan sumber informasi konvensional seperti perpustakaan daripada menggunakan AI Google.
Google Bantah Temuan Riset
Meskipun temuan riset tersebut mengindikasikan kekurangan AI Google dalam menangani masalah kesehatan mental anak-anak, Google membantah kesimpulan tersebut. Perusahaan menyatakan bahwa metodologi riset tidak representatif terhadap interaksi pengguna di dunia nyata. Google juga menegaskan bahwa AI Search dirancang untuk membantu belajar dan eksplorasi informasi anak-anak serta remaja.
Google mengklaim telah melakukan pengujian internal yang menunjukkan hasil yang lebih baik daripada temuan riset. Mereka juga mengingatkan orang tua tentang pentingnya memanfaatkan fitur *parental control* untuk mengawasi akses anak-anak terhadap layanan pencarian di perangkat Android dan browser Chrome.
Walaupun demikian, peneliti Common Sense Media tetap menekankan bahwa pengawasan terhadap penggunaan fitur AI Google oleh anak-anak harus tetap dilakukan oleh orang tua dan sekolah. Temuan riset ini menjadi penting mengingat jumlah anak-anak dan remaja yang menggunakan layanan AI di Google Search semakin meningkat.
