Laporan terbaru yang dirilis oleh perusahaan pengeditan video Kapwing mengungkapkan fakta yang sangat mengkhawatirkan: hampir 60% dari video yang disajikan kepada pengguna baru di halaman algoritma "For You" (FYP) TikTok kini adalah konten sampah AI. Angka ini tiga kali lipat lebih tinggi dibandingkan dengan YouTube, platform video terbesar di dunia. Statistik ini bukan sekadar angka; ia mencerminkan pergeseran seismik dalam ekosistem konten digital, di mana kuantitas dan kecepatan produksi konten AI mengalahkan kualitas dan orisinalitas manusia. Konten AI slop ini ditandai oleh visual yang tidak wajar, animasi yang kaku, narasi yang berulang, dan estetika "uncanny valley" yang membuat penonton merasa tidak nyaman karena ketidaksempurnaan yang mendekati realitas namun jauh dari sempurna.
Yang lebih mengkhawatirkan lagi adalah segmen demografi yang paling rentan terhadap paparan konten ini: anak-anak. Kapwing menemukan bahwa kategori "Anak-anak" (Kids) memiliki kepadatan konten sampah AI tertinggi. Sebagai contoh, tagar #cartoonkids hampir seluruhnya didominasi oleh konten AI, dengan hanya tiga dari 100 video yang diperiksa murni buatan manusia. Ini bukan hanya masalah hiburan yang buruk; ini adalah krisis perkembangan. Anak-anak yang sedang dalam tahap pembentukan kognitif dan sosial mereka terpapar pada banjir materi AI yang "setengah matang" dan seringkali "merusak otak," seperti yang diperingatkan oleh para ahli. Paparan berlebihan terhadap konten yang tidak koheren, repetitif, dan visualnya aneh dapat memengaruhi perkembangan kemampuan berpikir kritis, rentang perhatian, dan bahkan pemahaman mereka tentang realitas. Dunia digital yang harusnya menjadi ruang inspirasi dan pembelajaran kini berpotensi menjadi medan ranjau kognitif.
Masalahnya diperparah oleh cara kerja algoritma TikTok yang sangat personal. Begitu sebuah akun menunjukkan sedikit pun ketertarikan pada konten AI—bahkan secara tidak sengaja—linimasa pengguna tersebut dengan cepat akan makin gencar menyajikan lebih banyak konten serupa. Ini menciptakan lingkaran umpan balik yang merugikan: semakin banyak Anda melihatnya, semakin banyak Anda akan disajikan, dan semakin sulit untuk keluar dari "gelembung" konten AI tersebut. Algoritma, yang dirancang untuk memaksimalkan engagement, justru tanpa sengaja memfasilitasi penyebaran masif konten berkualitas rendah ini, mengorbankan pengalaman pengguna yang sehat dan bermakna. Motivasi di balik produksi AI slop ini bervariasi, mulai dari upaya monetisasi cepat melalui iklan, menarik perhatian dengan konten yang aneh dan viral, hingga bahkan mencoba memanipulasi opini publik dengan disinformasi.
Temuan ini menjadi pengingat yang mencolok tentang seberapa besar masalah yang ditimbulkan konten sampah AI saat ini. Selain dampak pada perkembangan anak-anak, ada ancaman yang lebih luas terhadap integritas informasi. Teknologi deepfake fotorealistis, yang kini semakin mudah diakses dan disempurnakan oleh AI, memfasilitasi penyebaran misinformasi dan propaganda politik dengan kecepatan dan skala yang belum pernah terjadi sebelumnya. Batasan antara apa yang nyata dan apa yang buatan menjadi semakin kabur, menantang kemampuan individu untuk membedakan kebenaran dan memicu erosi kepercayaan terhadap media dan sumber informasi. Hal ini berpotensi merusak wacana publik, mengganggu proses demokrasi, dan memperparuk polarisasi sosial.
TikTok memang bukan satu-satunya platform yang terjangkit tren ini. Facebook dan Instagram, yang berada di bawah naungan Meta, juga menunjukkan perubahan serupa. Para pengguna, dan kemungkinan besar juga bot-bot AI yang berinteraksi satu sama lain, terpantau berinteraksi dengan konten-konten yang aneh, tidak masuk akal, dan terkadang bermuatan kekerasan yang jelas-jelas dihasilkan oleh AI. Ini menunjukkan bahwa masalah ini bersifat sistemik, meluas di seluruh ekosistem media sosial dan menuntut respons yang komprehensif dari seluruh industri. Konten AI yang dihasilkan dengan cepat dan murah ini membanjiri platform, bersaing dengan konten buatan manusia, dan seringkali mengalahkan mereka dalam hal visibilitas karena volume produksinya yang masif.
Menyikapi masalah yang kian membesar ini, beberapa platform telah mulai mengambil langkah-langkah, meskipun efektivitasnya masih dipertanyakan. TikTok, misalnya, pada bulan November tahun lalu mengumumkan bahwa mereka akan mengizinkan pengguna untuk mengatur jumlah konten buatan AI yang muncul di linimasa mereka. Jade Nester, Direktur Kebijakan Publik untuk Keselamatan dan Privasi TikTok Eropa, menjelaskan, "Kami mengetahui dari komunitas kami bahwa banyak orang menikmati konten yang dibuat AI, mulai seni digital hingga penjelasan sains, dan kami ingin memberi kebebasan kepada pengguna untuk melihat konten semacam itu lebih banyak atau lebih sedikit, berdasarkan preferensi mereka." Langkah ini, meskipun patut diapresiasi karena memberikan kontrol lebih kepada pengguna, tidak secara fundamental mengatasi akar masalah. Ia tidak menghentikan produksi konten sampah AI, juga tidak sepenuhnya melindungi pengguna yang rentan dari paparan awal. Solusi ini cenderung bersifat reaktif, bukan proaktif.
YouTube juga baru-baru ini mengumumkan perubahan terkait cara mereka melabeli konten buatan AI dalam upaya menekan konten sampah AI. Ini adalah langkah penting menuju transparansi dan akuntabilitas. Namun, langkah tersebut belum sampai pada tahap mengubah bagaimana sebuah video direkomendasikan oleh algoritma atau apakah video tersebut memenuhi syarat untuk dimonetisasi. Artinya, meskipun pengguna mungkin tahu bahwa suatu konten adalah AI, algoritma mungkin masih terus merekomendasikannya, dan pembuat konten AI slop masih bisa mendapatkan keuntungan finansial darinya. Ini menciptakan celah besar yang memungkinkan konten berkualitas rendah untuk terus berkembang biak dan membanjiri platform, mengabaikan upaya pelabelan sebagai formalitas belaka.
Hingga kini, belum jelas apa solusi mudah atau "silver bullet" yang bisa diterapkan untuk mengatasi masalah kompleks ini. Teknologi AI telah berkembang pesat hingga ke titik di mana membedakan antara realitas dan konten sampah AI menjadi semakin sulit, bahkan bagi mata manusia yang terlatih sekalipun. Alat deteksi AI juga terus berpacu dengan teknologi generatif AI, menciptakan "perlombaan senjata" digital yang tidak ada habisnya. Tantangannya bukan hanya teknis, tetapi juga etis dan filosofis. Bagaimana kita menyeimbangkan inovasi AI dengan perlindungan pengguna? Bagaimana kita mempertahankan ruang bagi kreativitas manusia di tengah banjir konten otomatis?
Ke depan, respons terhadap fenomena AI slop ini harus multi-dimensi. Platform perlu mengembangkan algoritma yang lebih canggih untuk memprioritaskan kualitas dan orisinalitas, bukan hanya engagement. Mereka harus berinvestasi lebih banyak dalam alat deteksi AI yang proaktif dan memiliki kebijakan monetisasi yang lebih ketat untuk tidak memberi insentif pada konten berkualitas rendah. Pendidikan pengguna juga krusial, terutama bagi anak-anak dan remaja, untuk mengembangkan literasi digital dan kemampuan berpikir kritis dalam menghadapi konten AI. Pemerintah dan regulator mungkin juga perlu campur tangan untuk menetapkan standar dan pedoman yang jelas mengenai produksi dan penyebaran konten AI. Jika tidak ada tindakan tegas dan terkoordinasi, ekosistem digital kita berisiko tenggelam dalam lautan konten sampah yang tidak hanya membingungkan, tetapi juga berpotensi merusak fondasi informasi dan kreativitas manusia. Masa depan internet, dan cara kita berinteraksi dengannya, sangat bergantung pada bagaimana kita merespons tantangan AI slop ini.
