AI Gemini Dinilai Berisiko Tinggi bagi Anak dan Remaja

Common Sense Media menilai kecerdasan buatan (AI) Gemini milik Google berisiko tinggi bagi pengguna muda. Meski sudah dilengkapi filter keamanan, versi “Under 13” dan “Teen Experience” dianggap hanya modifikasi dari layanan dewasa dan masih bisa menampilkan konten tidak pantas, mulai dari seks, narkoba, alkohol, hingga saran kesehatan mental yang berbahaya.

Laporan ini menyoroti potensi bahaya serius, terutama setelah kabar Apple mempertimbangkan Gemini untuk menggerakkan Siri terbaru. Common Sense menegaskan AI untuk anak seharusnya dirancang khusus sesuai kebutuhan perkembangan mereka.

Google membantah penilaian itu, menyebut telah menyiapkan kebijakan khusus untuk pengguna di bawah 18 tahun serta perlindungan tambahan. Namun, perusahaan juga mengakui masih ada respons Gemini yang belum sesuai tujuan.

Dalam penilaian AI lain, Meta AI dan Character.AI disebut “unacceptable,” Perplexity “high risk,” ChatGPT “moderate,” dan Claude berisiko minimal.