AI Semakin Banyak di Anak, Pakar Minta YouTube Perketat Aturan

JAKARTA – Semakin meningkatnya penggunaan konten video berbasis kecerdasan buatan (AI) oleh anak-anak kini menjadi perhatian serius dari para ahli. Fenomena ini dikenal sebagai “AI slop”, yaitu konten AI berkualitas rendah yang dinilai berpotensi membingungkan dan memengaruhi cara berpikir anak. Dampak jangka panjang dari paparan konten semacam ini mulai menimbulkan kekhawatiran terhadap perkembangan mental anak.

Koalisi yang dipimpin oleh organisasi nirlaba Fairplay mengatakan bahwa belum ada bukti yang cukup untuk menyatakan bahwa konten AI aman bagi anak. Mereka khawatir, konten-konten tersebut dapat membuat anak terpaku pada layar dan mengganggu proses perkembangan kognitif mereka. Dalam surat terbuka yang dikirimkan kepada CEO YouTube Sundar Pichai dan Neil Mohan, para ahli menekankan bahwa konten AI untuk anak belum teruji keamanannya dan berisiko memengaruhi kondisi mental serta perilaku jika dikonsumsi secara berlebihan.

“Belum ada bukti bahwa konten ini aman untuk anak, dan justru berpotensi membuat mereka terpaku serta terdampak secara mental,” tulis koalisi dalam surat tersebut. Mereka juga menyoroti potensi dampak serius seperti distorsi persepsi realitas dan beban kognitif yang berlebihan. Selain itu, paparan konten berlebihan juga dinilai dapat mengurangi aktivitas dunia nyata yang penting bagi tumbuh kembang anak.

Kekecwaan semakin meningkat setelah YouTube menjalin kerja sama dengan studio AI Animaj yang memproduksi konten anak dengan miliaran penayangan. Langkah ini dinilai berpotensi memperluas penyebaran konten AI pada audiens usia dini. Pakar perkembangan anak, Jenny Radesky, menilai bahwa platform digital seharusnya lebih memperhatikan dampak konten terhadap anak. Ia menekankan bahwa anak tidak boleh hanya dipandang sebagai target perhatian tanpa mempertimbangkan kesehatan mental mereka.

“Sudah saatnya platform menghormati perhatian dan pikiran anak, bukan hanya menjadikannya sebagai sumber keuntungan,” ujarnya dalam sebuah wawancara. Selain itu, penulis buku The Anxious Generation, Jonathan Haidt, turut menandatangani surat tersebut sebagai bentuk keprihatinan. Hal ini menunjukkan bahwa isu paparan konten digital pada anak menjadi perhatian luas di kalangan akademisi.

Koalisi tersebut kemudian mengusulkan beberapa langkah kebijakan agar platform digital lebih melindungi anak dari paparan konten AI. Mereka mendorong adanya pembatasan distribusi konten AI, transparansi label, hingga kontrol lebih besar bagi orang tua dalam mengatur konsumsi konten anak. Meski demikian, pihak YouTube menyatakan telah menerapkan standar ketat untuk konten anak. Platform ini juga mengklaim hanya menampilkan konten AI dari kanal berkualitas tinggi di aplikasi YouTube Kids serta menyediakan fitur pemblokiran bagi orang tua.

“Kami memiliki standar tinggi untuk konten anak dan terus memperbarui kebijakan agar tetap relevan,” kata juru bicara YouTube. Namun, kritik tetap bermunculan karena sistem algoritma dinilai masih mendorong anak-anak untuk terus mengkonsumsi konten serupa. Bahkan laporan The New York Times menemukan ribuan video AI berkualitas rendah yang masih beredar dan sebagian melanggar kebijakan keselamatan anak.

Direktur program Fairplay, Rachel Franz, menilai kondisi ini membuat anak sulit menghindari konten AI. Dia menegaskan platform digital harus segera bertindak sebelum dampaknya semakin meluas pada generasi muda. “Algoritma membuat anak tidak bisa menghindari konten ini,” ujarnya. Hingga kini, YouTube masih menjadi platform video paling populer di kalangan anak-anak, terutama di keluarga berpenghasilan rendah. Kondisi ini membuat isu keamanan konten digital semakin mendesak untuk segera ditangani secara serius.