Konten AI Anak Meningkat, Pakar Minta YouTube Perketat Aturan

JAKARTA – Seiring dengan berkembangnya teknologi kecerdasan buatan (AI), semakin banyak konten video yang dihasilkan oleh AI yang dikonsumsi oleh anak-anak. Hal ini menimbulkan kekhawatiran dari para ahli terkait dampak jangka panjang terhadap perkembangan mental dan kognitif anak.

Fenomena ini dikenal sebagai “AI slop”, yaitu konten AI berkualitas rendah yang dinilai memiliki potensi untuk membingungkan dan memengaruhi cara berpikir anak. Keberadaan konten seperti ini telah menjadi perhatian serius dari sejumlah organisasi perlindungan anak dan pakar perkembangan anak. Mereka mendesak YouTube untuk segera memperketat kebijakan terkait konten tersebut.

Beberapa organisasi nirlaba, termasuk Fairplay, mengirimkan surat terbuka kepada CEO YouTube Sundar Pichai dan Neil Mohan. Dalam surat tersebut, mereka menyatakan bahwa belum ada bukti bahwa konten AI aman bagi anak. Mereka khawatir bahwa video-video ini bisa membuat anak terpaku pada layar dan mengganggu proses perkembangan kognitif mereka.

Para ahli menegaskan bahwa konten AI untuk anak belum teruji keamanannya dan berisiko memengaruhi kondisi mental serta perilaku jika dikonsumsi secara berlebihan. Surat tersebut juga menyebutkan bahwa belum ada bukti bahwa konten ini aman untuk anak, dan justru berpotensi membuat mereka terpaku serta terdampak secara mental.

Selain itu, para ahli menyoroti potensi dampak serius seperti distorsi persepsi realitas dan beban kognitif yang berlebihan. Paparan konten berlebihan juga dinilai dapat mengurangi aktivitas dunia nyata yang penting bagi tumbuh kembang anak.

Kekhawatiran ini semakin menguat setelah YouTube menjalin kerja sama dengan studio AI Animaj yang memproduksi konten anak dengan miliaran penayangan. Langkah ini dinilai berpotensi memperluas penyebaran konten AI pada audiens usia dini.

Jenny Radesky, seorang pakar perkembangan anak, menilai bahwa platform digital seharusnya lebih memperhatikan dampak konten terhadap anak. Dia menekankan bahwa anak tidak boleh hanya dipandang sebagai target perhatian tanpa mempertimbangkan kesehatan mental mereka.

“Sudah saatnya platform menghormati perhatian dan pikiran anak, bukan hanya menjadikannya sebagai sumber keuntungan,” ujarnya dalam sebuah wawancara.

Selain itu, Jonathan Haidt, penulis buku The Anxious Generation, turut menandatangani surat tersebut sebagai bentuk keprihatinan. Hal ini menunjukkan bahwa isu paparan konten digital pada anak menjadi perhatian luas di kalangan akademisi.

Koalisi tersebut kemudian mengusulkan sejumlah langkah kebijakan kepada platform digital agar lebih melindungi anak dari paparan konten AI. Mereka mendorong adanya pembatasan distribusi konten AI, transparansi label, hingga kontrol lebih besar bagi orang tua dalam mengatur konsumsi konten anak.

YouTube menyatakan telah menerapkan standar ketat untuk konten anak. Platform ini juga mengklaim hanya menampilkan konten AI dari kanal berkualitas tinggi di aplikasi YouTube Kids serta menyediakan fitur pemblokiran bagi orang tua.

“Kami memiliki standar tinggi untuk konten anak dan terus memperbarui kebijakan agar tetap relevan,” kata juru bicara YouTube.

Meski begitu, kritik tetap bermunculan karena sistem algoritma dinilai masih mendorong anak-anak untuk terus mengkonsumsi konten serupa. Bahkan laporan The New York Times menemukan ribuan video AI berkualitas rendah yang masih beredar dan sebagian melanggar kebijakan keselamatan anak.

Rachel Franz, direktur program Fairplay, menilai kondisi ini membuat anak sulit menghindari konten AI. Dia menegaskan platform digital harus segera bertindak sebelum dampaknya semakin meluas pada generasi muda.

“Algoritma membuat anak tidak bisa menghindari konten ini,” ujarnya.

Hingga kini, YouTube masih menjadi platform video paling populer di kalangan anak-anak, terutama di keluarga berpenghasilan rendah. Kondisi ini membuat isu keamanan konten digital semakin mendesak untuk segera ditangani secara serius.