Jakarta – Dunia teknologi kembali dihebohkan oleh temuan yang mengkhawatirkan. Sebuah investigasi mendalam yang dilakukan oleh Tech Transparency Project (TPP) telah mengungkap keberadaan puluhan aplikasi berbasis kecerdasan buatan (AI) yang dikenal sebagai aplikasi ‘nudify’. Aplikasi-aplikasi ini, yang secara terang-terangan melanggar pedoman platform, ditemukan beredar bebas di Apple App Store dan Google Play Store. Fungsi utama dari aplikasi-aplikasi berbahaya ini adalah mengubah foto biasa seseorang menjadi gambar deepfake yang bersifat seksual, tanpa persetujuan subjek foto tersebut.
Temuan TPP sangat mengejutkan, mengingat skala dan implikasi etis yang ditimbulkannya. Investigasi tersebut berhasil mengidentifikasi 55 aplikasi AI yang memiliki kemampuan untuk ‘menelanjangi’ subjek di Google Play Store, dan 47 aplikasi serupa di Apple App Store. Kehadiran aplikasi-aplikasi semacam ini secara jelas bertentangan dengan kebijakan ketat yang seharusnya diterapkan oleh kedua raksasa teknologi tersebut.
Google Play Developer Policy Center, sebagai contoh, secara eksplisit menyatakan bahwa platformnya tidak mengizinkan aplikasi yang mengklaim dapat menelanjangi orang atau membuat pakaian tembus pandang. Serupa halnya, pedoman review aplikasi Apple dengan tegas melarang materi yang terang-terangan bersifat seksual atau pornografi. Namun, kenyataan di lapangan menunjukkan celah besar dalam penegakan kebijakan ini, yang memungkinkan aplikasi-aplikasi tersebut beredar luas dan diunduh oleh jutaan pengguna.
Michelle Kuppersmith, direktur eksekutif organisasi nirlaba yang mengoperasikan TTP, menyuarakan kekecewaannya. "Apple dan Google seharusnya memeriksa aplikasi-aplikasi di toko aplikasi mereka," ujar Kuppersmith, seperti dikutip dari Engadget pada hari Rabu (28/1/2026). "Tapi mereka telah menawarkan puluhan aplikasi yang dapat dipakai untuk menampilkan orang-orang dengan pakaian minim atau tanpa pakaian sama sekali—sehingga rentan disalahgunakan," sambungnya, menyoroti kegagalan platform dalam melindungi penggunanya dari potensi penyalahgunaan yang serius.
Skala penyalahgunaan ini tidak main-main. Aplikasi-aplikasi yang ditemukan oleh TPP telah diunduh lebih dari 700 juta kali di seluruh dunia. Angka ini tidak hanya menunjukkan jangkauan masif dari teknologi berbahaya ini, tetapi juga implikasi finansialnya. Dari unduhan tersebut, aplikasi-aplikasi ini berhasil menghasilkan pendapatan sebesar USD 117 juta. Ironisnya, Apple dan Google, sebagai pemilik platform distribusi, mendapatkan komisi dari setiap pendapatan yang dihasilkan oleh aplikasi yang didistribusikan di toko mereka. Ini menimbulkan pertanyaan tentang sejauh mana insentif finansial memengaruhi keputusan moderasi konten.
Lebih lanjut, temuan TPP juga menyoroti masalah rating aplikasi yang menyesatkan. Banyak dari aplikasi ‘nudify’ ini memiliki rating yang ramah untuk remaja dan anak-anak. Contohnya, aplikasi DreamFace yang memiliki rating 13+ di Google Play Store dan 9+ di Apple App Store. Rating yang tidak sesuai ini secara tidak langsung mengekspos pengguna yang lebih muda dan rentan terhadap konten yang sangat tidak pantas dan berpotensi merusak. Anak-anak dan remaja, yang mungkin kurang memahami risiko deepfake, bisa menjadi korban empuk dari teknologi ini, baik sebagai subjek maupun sebagai penyebar.
Setelah menerima laporan dari TPP, kedua perusahaan teknologi raksasa ini mengambil tindakan. Juru bicara Apple mengonfirmasi bahwa mereka telah menghapus 28 aplikasi yang dilaporkan dari toko aplikasinya. Apple juga menyatakan telah memberi tahu developer lain bahwa aplikasi mereka terancam dihapus dari App Store jika tidak segera memperbaiki masalah yang melanggar aturan. Sementara itu, juru bicara Google mengatakan bahwa mereka telah menangguhkan sejumlah aplikasi yang disebut dalam laporan TPP karena melanggar aturan. Namun, Google tidak merinci berapa jumlah pasti aplikasi yang telah dihapus, meninggalkan pertanyaan mengenai transparansi dan cakupan tindakan mereka.
Insiden ini bukan kali pertama teknologi AI disalahgunakan untuk tujuan yang merusak dan cabul. Laporan TPP ini dirilis tidak lama setelah kontroversi besar terkait chatbot Grok, sebuah model AI lain yang banyak dipakai untuk membuat gambar seksual perempuan dan anak-anak. Menurut laporan Center for Countering Digital Hate (CCDH), Grok disinyalir telah menciptakan sekitar tiga juta gambar cabul, dan yang lebih mengkhawatirkan, 22.000 di antaranya melibatkan anak-anak, hanya dalam periode 11 hari. Kasus Grok dan aplikasi ‘nudify’ ini secara kolektif menyoroti pola yang mengkhawatirkan dalam penyalahgunaan AI generatif.
Deepfake, secara teknis, adalah media sintetik di mana seseorang dalam gambar atau video yang ada diganti dengan seseorang yang lain menggunakan teknik kecerdasan buatan. Meskipun teknologi ini memiliki potensi positif di berbagai bidang, penyalahgunaannya untuk membuat konten seksual non-konsensual, atau yang dikenal sebagai "non-consensual intimate imagery" (NCII), telah menjadi ancaman serius terhadap privasi, reputasi, dan keamanan individu. Korban deepfake seksual seringkali mengalami trauma psikologis yang mendalam, kerusakan reputasi yang tak terpulihkan, dan bahkan ancaman pemerasan atau perundungan.
Kasus aplikasi ‘nudify’ dan Grok menggarisbawahi tantangan besar yang dihadapi oleh industri teknologi dan masyarakat global. Perkembangan AI yang pesat seringkali mendahului kerangka etika dan regulasi yang memadai. Perusahaan-perusahaan teknologi, dengan kekuatan dan sumber daya yang mereka miliki, memiliki tanggung jawab moral dan etis yang besar untuk memastikan bahwa inovasi mereka tidak disalahgunakan untuk menimbulkan kerugian. Ini termasuk investasi lebih lanjut dalam teknologi moderasi konten proaktif, peningkatan pengawasan manusia, dan penegakan kebijakan yang konsisten dan tegas.
Pemerintah dan lembaga regulasi juga memiliki peran krusial dalam menanggapi ancaman deepfake AI ini. Pembentukan undang-undang yang jelas dan sanksi yang berat bagi pembuat dan penyebar deepfake cabul sangat diperlukan. Selain itu, kolaborasi lintas batas antara negara-negara menjadi penting mengingat sifat global internet dan penyebaran konten digital. Edukasi publik tentang bahaya deepfake dan cara melindung diri juga merupakan langkah penting dalam membangun kesadaran dan ketahanan masyarakat.
Michelle Kuppersmith dan TPP menyerukan agar Apple dan Google mengambil langkah yang lebih drastis dan proaktif. Bukan hanya menghapus aplikasi setelah dilaporkan, tetapi membangun sistem yang dapat mencegah aplikasi semacam itu muncul di platform mereka sejak awal. Ini termasuk audit aplikasi yang lebih ketat, penggunaan AI untuk mendeteksi pelanggaran kebijakan secara otomatis, dan respons yang lebih cepat terhadap laporan pengguna.
Insiden ini berfungsi sebagai pengingat keras akan sisi gelap inovasi teknologi jika tidak diimbangi dengan pertimbangan etika dan keamanan yang kuat. Masa depan AI sangat bergantung pada bagaimana kita, sebagai masyarakat, memilih untuk mengaturnya dan memastikan bahwa kekuatannya digunakan untuk kebaikan, bukan untuk eksploitasi dan pelecehan. Perjuangan melawan penyalahgunaan AI, khususnya dalam bentuk deepfake cabul, adalah pertempuran yang mendesak dan membutuhkan komitmen bersama dari semua pihak terkait untuk menciptakan lingkungan digital yang lebih aman dan bertanggung jawab.
