Jawa Pos Radar Madiun – Laporan terbaru dari Common Sense Media mengungkap kekhawatiran serius soal penggunaan Gemini AI milik Google oleh anak dan remaja.
Organisasi nirlaba yang fokus pada keselamatan anak dalam dunia digital itu menyatakan Gemini masih menyimpan risiko tinggi, meskipun sudah diberi label ramah anak.
Dikutip dari TechCrunch, Minggu (8/9), Common Sense menilai versi “Under 13” dan “Teen Experience” dari Gemini hanyalah versi dewasa yang dipoles dengan filter keamanan tambahan.
Pendekatan ini dianggap tidak cukup.
“Produk AI untuk anak seharusnya dirancang dari awal dengan mengutamakan keselamatan mereka, bukan sekadar modifikasi dari layanan untuk orang dewasa,” tegas laporan tersebut.
Konten Tidak Pantas Masih Bisa Muncul
Berdasarkan analisis, Gemini masih dapat memberikan respons yang mengandung konten sensitif.
Mulai dari informasi soal seks, narkoba, alkohol, hingga saran kesehatan mental yang tidak sesuai. Hal ini menjadi sangat berbahaya jika diakses tanpa pendampingan.
Apalagi, dalam beberapa bulan terakhir, laporan media internasional menyebut adanya keterkaitan AI dengan kasus bunuh diri remaja.
Tak pelak, ini menambah urgensi untuk mengevaluasi kembali fitur keamanan Gemini.
Potensi Bahaya Meningkat Jika Digunakan di Siri Apple
Isu makin serius setelah muncul kabar bahwa Apple mempertimbangkan untuk menggunakan Gemini sebagai mesin penggerak baru bagi Siri.
Baca Juga: Keren! Ubah Foto Jadi Miniatur Koleksi Bertema Pemain Sepak Bola Pakai Gemini AI
Jika keputusan ini terealisasi, maka jutaan remaja pengguna iPhone bisa terpapar AI berisiko tinggi, kecuali Apple menambahkan sistem pengaman tambahan.
“Gemini memang sudah tepat dalam beberapa hal mendasar, tetapi keliru pada detailnya,” ujar Robbie Torney, Senior Director AI Programs Common Sense Media.
“Platform AI untuk anak harus disesuaikan dengan kebutuhan perkembangan mereka, bukan pendekatan seragam.”
Respons Google: Ada Perbaikan dan Evaluasi Terus-Menerus
Menanggapi kritik tersebut, Google menegaskan bahwa mereka memiliki kebijakan khusus bagi pengguna di bawah 18 tahun.
Termasuk uji keamanan internal dan konsultasi dengan para ahli.
Namun, Google juga mengakui bahwa masih ada respons dari Gemini yang belum sesuai.
Untuk itu, perusahaan menambahkan perlindungan tambahan dan menyatakan tidak setuju dengan metode pengujian yang digunakan oleh Common Sense.
“Kami tidak mengetahui pertanyaan apa saja yang digunakan dalam penilaian. Jadi, sulit menilai keakuratannya,” terang juru bicara Google.
AI Lain Juga Dinilai Berisiko, Gemini Tak Sendiri
Dalam laporan yang sama, Common Sense juga memberikan label risiko untuk berbagai platform AI lain:
• Meta AI dan Character.AI: Unacceptable (risiko sangat tinggi)
• Perplexity: High risk
• ChatGPT: Moderate
• Claude (untuk usia 18+): Minimal risk