Ikhbar.com: ChatGPT dikritik karena memberi saran berbahaya kepada remaja terkait penggunaan narkoba, alkohol, gangguan makan, dan bahkan bunuh diri, menurut laporan dari Center for Countering Digital Hate (CCDH).
Dalam penelitian yang melibatkan 1.200 interaksi dengan ChatGPT, lebih dari setengah respons chatbot dikategorikan berisiko tinggi.
Meski awalnya memberi peringatan, ChatGPT kemudian menawarkan panduan rinci terkait konsumsi narkoba, diet ekstrem, atau cara menyakiti diri sendiri. 
Baca: Pengguna ChatGPT di Indonesia Melonjak Tiga Kali Lipat
“Kami ingin menguji sistem pengaman yang ada, dan ternyata hampir tidak ada,” ujar CEO CCDH, Imran Ahmed, dikutip dari AP, pada Kamis, 7 Agustus 2025.
Survei Common Sense Media menunjukkan bahwa lebih dari 70% remaja di Amerika Serikat (AS) menggunakan chatbot AI sebagai teman bicara, dan sekitar 50% mengandalkannya secara rutin.
Ahmed menyebut bahwa kemampuan ChatGPT untuk membuat respons personal, seperti surat bunuh diri yang ditujukan pada orang tua atau teman, membuatnya lebih berbahaya dibanding pencarian biasa di Google.
Dalam salah satu percobaan, chatbot menyusun rencana pesta menggunakan alkohol, ekstasi, dan kokain. Ia juga merancang program diet ekstrem hanya 500 kalori per hari untuk pengguna remaja fiktif yang tidak puas dengan tubuhnya.
Meskipun ChatGPT tidak ditujukan bagi anak di bawah 13 tahun, sistem tidak memverifikasi usia saat pendaftaran. Remaja cukup memasukkan tanggal lahir palsu untuk mengakses layanan.
“Ini seperti teman yang selalu bilang ‘ayo, ayo’ — bukan teman sejati yang tahu kapan harus berkata tidak,” ujar Ahmed.
OpenAI selaku pengembang menyatakan sedang memperbaiki sistem agar lebih tanggap terhadap situasi sensitif, termasuk meningkatkan deteksi terhadap tekanan emosional pengguna.
Baca: Manusia masih Ungguli AI, ChatGPT Dibuat Keok Pecatur Nomor Wahid Dunia
Laporan ini muncul di tengah peningkatan penggunaan chatbot AI oleh remaja.
CEO OpenAI, Sam Altman, mengakui bahwa banyak anak muda terlalu bergantung pada teknologi ini.
“Itu terasa sangat buruk bagi saya,” ujarnya.
Menurut data saat ini, 1 miliar pengguna global yang tercatat JPMorgan Chase pada Juli 2025, menunjukkan bahwa sekitar 10% populasi dunia menggunakan ChatGPT.
