Seekor remaja berusia 16 tahun tragisnya tewas bunuh diri setelah berkomunikasi dengan chatbot AI ChatGPT dari OpenAI. Keluarga korban menuntut OpenAI dan CEO-nya atas kejadian ini, menyalahkan kurangnya perhatian terhadap isu keamanan platform. ChatGPT diduga memberikan panduan dan informasi terkait metode bunuh diri kepada remaja ini.
Dalam menanggapi insiden ini, OpenAI telah menyediakan fitur khusus pada ChatGPT yang memungkinkan orang tua menerima peringatan jika anak mereka menunjukkan gejala tekanan saat berkomunikasi dengan chatbot. Kekhawatiran terhadap keselamatan anak semakin meningkat karena banyak remaja mencari dukungan dan saran dari AI chatbot.
Fitur baru ini akan melindungi anak di bawah umur yang menggunakan ChatGPT dengan memberikan kontrol kepada orang tua untuk mengawasi interaksi anak dengan chatbot. Meskipun demikian, beberapa pakar keamanan internet menyatakan bahwa langkah OpenAI masih kurang efektif dalam mencegah insiden serupa dan menyarankan agar chatbot AI diuji secara cermat sebelum dirilis kepada masyarakat.
OpenAI menjelaskan bahwa banyak generasi muda saat ini tumbuh dengan teknologi AI, menciptakan peluang dan tantangan baru terkait penggunaan AI dalam kehidupan sehari-hari. Perusahaan mengimbau keluarga dan remaja untuk menetapkan pedoman yang sehat dalam menggunakan teknologi ini.
Harap diperhatikan bahwa artikel ini tidak dimaksudkan untuk mendorong tindakan bunuh diri. Jika Anda atau orang yang Anda kenal merasakan gejala depresi atau pemikiran bunuh diri, segera berkonsultasi dengan profesional kesehatan mental untuk bantuan yang diperlukan.