Fitur AI Google Berisiko untuk Anak, Temuan Studi Terbaru

Studi terbaru mengungkapkan bahwa Fitur AI Google—khususnya AI Mode dan AI Overview—menimbulkan risiko yang tidak dapat diterima bagi anak-anak. Temuan ini berasal dari Common Sense Media, organisasi yang fokus pada keamanan anak di dunia digital. Mereka menilai bahwa integrasi AI Google yang meluas, terutama melalui perangkat Chromebook yang populer di sekolah, membuat fitur ini sangat dekat dengan keseharian anak-anak.

Temuan Utama: AI Google Gagal di 7 dari 8 Prinsip Keamanan

Common Sense Media menemukan bahwa Fitur AI Google hanya memenuhi satu dari delapan prinsip AI yang mereka uji. Beberapa masalah utama meliputi:

Bantuan Pekerjaan Rumah (PR) yang Bermasalah

AI Mode dengan mudah mengerjakan PR yang seharusnya dikerjakan siswa. Lebih buruk lagi, fitur ini sering memberikan jawaban yang berbeda dari satu percobaan ke percobaan lainnya—terkadang benar, terkadang salah. Hal ini jelas merusak proses belajar.

Gagal Mendeteksi Krisis Kesehatan Mental

Yang lebih mengkhawatirkan, AI Overview dan AI Mode gagal menangani situasi kritis. Menurut laporan, fitur-fitur ini "gagal membantu anak-anak dalam krisis, termasuk melewatkan tanda-tanda jelas keinginan bunuh diri, memperkuat tanda-tanda psikosis dan mania, serta memvalidasi gangguan makan seperti purging dan bahkan merayakan penggunaan ganja."

Konten Berbahaya Lainnya

Selain masalah PR dan kesehatan mental, AI Google juga dinilai menampilkan konten yang tidak pantas untuk anak-anak. Misalnya, memberikan informasi yang tidak akurat tentang narkoba atau perilaku berbahaya lainnya.

Baca Juga

Google Luncurkan Nano Banana 2, Model AI Gemini Terbaru

Mengapa Ini Terjadi? Peran Chromebook dan Ketidakmampuan Mematikan Fitur

Laporan menekankan bahwa faktor utama yang membedakan Fitur AI Google dari layanan AI lain adalah "keberadaannya yang ada di mana-mana di perangkat pribadi dan perangkat sekolah anak-anak." Chromebook, sebagai laptop sekolah yang sangat populer, menjadi kendaraan utama penyebaran AI ini.

Masalah krusial lainnya adalah bahwa baik AI Mode (antarmuka chatbot yang muncul saat pengguna mengklik tombol "AI Mode") maupun AI Overview (fitur yang muncul otomatis) tidak dapat dinonaktifkan oleh pengguna. Hal ini membuat anak-anak tidak memiliki pilihan untuk menghindari risiko tersebut.

Kesimpulan Laporan

Lengkapnya, Anda dapat membaca laporan penuh Common Sense Media di sini (PDF). Singkatnya, Fitur AI Google berkinerja buruk dalam tujuh dari delapan "Prinsip AI" yang telah ditetapkan oleh organisasi tersebut. Temuan ini menjadi peringatan keras bagi Google dan perusahaan teknologi lainnya untuk lebih serius mempertimbangkan keselamatan anak dalam pengembangan AI.