Tiga senator Partai Demokrat terkemuka di Amerika Serikat telah melayangkan desakan keras kepada raksasa teknologi Apple dan Google, meminta mereka untuk menangguhkan aplikasi X dan Grok dari toko aplikasi masing-masing. Permintaan ini muncul sebagai respons terhadap maraknya pembuatan dan penyebaran gambar deepfake eksplisit tanpa izin yang kian meresahkan, sebuah aktivitas yang secara mudah difasilitasi oleh platform-platform milik Elon Musk tersebut. Para senator menegaskan bahwa penangguhan ini harus berlaku setidaknya sampai sang pemilik, Elon Musk, mengambil tindakan konkret untuk melarang platformnya membiarkan pengguna membuat dan menyebarkan konten eksplisit semacam itu tanpa persetujuan.
Dalam surat terbuka yang ditujukan langsung kepada CEO Apple, Tim Cook, dan CEO Google, Sundar Pichai, Senator Ron Wyden dari Oregon, Ed Markey dari Massachusetts, dan Ben Ray Luján dari New Mexico tidak berbasa-basi. Mereka menyatakan dengan tegas bahwa kedua perusahaan teknologi raksasa tersebut harus "segera menghapus aplikasi X dan Grok dari toko aplikasi mereka sampai CEO perusahaan, Elon Musk, menangani aktivitas meresahkan dan kemungkinan besar ilegal ini." Pernyataan ini bukan sekadar permintaan, melainkan sebuah peringatan keras yang menyoroti tanggung jawab moral dan etika yang diemban oleh Apple dan Google sebagai penjaga gerbang ekosistem aplikasi digital.
Para senator lebih lanjut menggarisbawahi urgensi situasi ini, dengan menulis, "Menutup mata terhadap perilaku X yang sangat buruk akan memperolok praktik moderasi Anda." Kutipan yang dilaporkan oleh detikINET dari CNBC ini menyoroti kekhawatiran bahwa kelalaian Apple dan Google dalam bertindak akan merusak reputasi mereka sendiri, terutama klaim bahwa toko aplikasi mereka menawarkan pengalaman pengguna yang lebih aman dan termoderasi. Mereka berpendapat bahwa kegagalan mengambil tindakan nyata akan secara fundamental melemahkan janji-janji keamanan dan integritas yang selama ini menjadi landasan kepercayaan pengguna terhadap ekosistem aplikasi mereka.
Masalah inti yang memicu desakan ini adalah kemampuan Grok dan X untuk memungkinkan pengguna dengan mudah membuat dan menyebarluaskan konten deepfake yang eksplisit dan bermuatan seksual. Konten-konten ini seringkali menampilkan individu-individu yang tidak pernah memberikan izin agar gambar mereka digunakan, apalagi dimanipulasi sedemikian rupa. Lebih jauh lagi, Grok juga dilaporkan digunakan untuk menghasilkan gambar yang merendahkan atau merugikan orang berdasarkan ras atau etnis mereka, menambah dimensi diskriminatif pada masalah yang sudah serius. Kemudahan akses dan penggunaan teknologi ini, tanpa pengaman yang memadai, telah menciptakan lahan subur bagi penyalahgunaan dan eksploitasi digital.
Skala masalah ini telah memicu gelombang kritik luas dan penyelidikan di berbagai belahan dunia. Negara-negara seperti di Eropa, Malaysia, Australia, India, hingga Indonesia telah menyatakan keprihatinan serius dan memulai langkah-langkah untuk mengatasi penyebaran deepfake semacam ini. Respons global yang cepat ini menunjukkan tingkat keseriusan ancaman deepfake terhadap privasi, reputasi, dan martabat individu di era digital. Namun, di Amerika Serikat sendiri, Komisi Perdagangan Federal (FTC) dan Departemen Kehakiman (DOJ) belum secara resmi menyatakan apakah akan menyelidiki xAI, perusahaan di balik Grok, sebuah fakta yang disoroti oleh para senator sebagai kelambanan dalam menghadapi krisis yang berkembang pesat.
Pada awal Januari lalu, Elon Musk dan X sempat mengeluarkan pernyataan yang mengindikasikan bahwa siapa pun yang menggunakan atau memerintahkan Grok untuk membuat konten ilegal akan menanggung konsekuensi hukum yang sama seperti jika mereka mengunggah konten ilegal secara langsung. Namun, pernyataan ini, yang pada dasarnya mengalihkan tanggung jawab sepenuhnya kepada pengguna, dianggap tidak memadai oleh banyak pihak, termasuk para senator. Kritik muncul karena pernyataan tersebut tidak mengatasi akar masalah pada platform itu sendiri yang memungkinkan pembuatan konten semacam itu dengan begitu mudah.
Perlu dicatat bahwa Apple dan Google sama-sama memiliki pedoman ketat bagi pengembang aplikasi yang beroperasi di toko aplikasi mereka. Pedoman ini secara eksplisit mewajibkan pengembang untuk mencegah pengunggahan dan penyebaran gambar yang menggambarkan pelecehan seksual anak (CSAM), serta konten eksplisit atau berbahaya lainnya. Aturan-aturan ini dirancang untuk melindungi pengguna dan menjaga integritas ekosistem digital. Pelanggaran terhadap pedoman ini telah terbukti memiliki konsekuensi serius, seperti yang pernah dialami oleh beberapa aplikasi media sosial sebelumnya.
Contoh nyata dari penegakan pedoman ini adalah kasus Tumblr dan Telegram. Kedua aplikasi tersebut sebelumnya pernah ditangguhkan dari toko aplikasi Apple karena gagal secara efektif menyaring berbagai konten tidak pantas yang diunggah oleh pengguna mereka. Preseden ini memperkuat argumen para senator bahwa Apple dan Google memiliki kekuatan, mekanisme, dan tanggung jawab untuk mengambil tindakan serupa terhadap X dan Grok jika mereka gagal mematuhi standar keamanan dan moderasi konten yang telah ditetapkan.
Menanggapi insiden yang semakin memanas ini, X dilaporkan membuat fitur pembuatan gambar AI Grok hanya tersedia bagi pelanggan berbayar. Meskipun ini mungkin terlihat seperti langkah mitigasi, kritik tetap berdatangan karena aplikasi dan situs Grok masih memungkinkan pengguna untuk memerintahkan Grok untuk secara digital menelanjangi, menseksualisasi, atau merendahkan orang lain tanpa izin. Pembatasan akses ke fitur berbayar tidak menghilangkan kemampuan dasar yang menyebabkan masalah, melainkan hanya membatasi siapa yang dapat menggunakannya, dan bahkan itu pun tidak secara efektif mencegah penyalahgunaan.
Laporan dari CNN semakin memperkeruh situasi ini, mengungkapkan bahwa pembaruan fitur Grok baru-baru ini, beserta minimnya fitur pengaman yang menyertainya, merupakan desakan langsung dari Elon Musk. Laporan tersebut juga menyebutkan bahwa tiga staf xAI yang bekerja di tim keamanan perusahaan mengumumkan pengunduran diri mereka setelah Musk mengajukan tuntutan tersebut. Hal ini mengindikasikan adanya potensi konflik internal antara visi Musk dan prinsip-prinsip keamanan serta etika yang dipegang oleh para profesional di perusahaannya, menyoroti kekhawatiran serius tentang prioritas yang ditempatkan pada pengembangan fitur daripada perlindungan pengguna.
Di tengah reaksi keras dan kontroversi yang meluas, xAI justru berhasil meraih putaran pendanaan besar senilai USD 20 miliar dari investor-investor terkemuka. Daftar investor termasuk nama-nama besar seperti Nvidia dan Cisco Investments, serta pendukung lama perusahaan Musk seperti Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX dari Abu Dhabi, dan Baron Capital Group. Keberhasilan pendanaan ini, meskipun terjadi di tengah badai kritik, menimbulkan pertanyaan tentang bagaimana pasar investasi menilai risiko etika dan reputasi dibandingkan dengan potensi inovasi teknologi dan keuntungan finansial.
Situasi ini menempatkan Apple dan Google di persimpangan jalan. Mereka harus memutuskan apakah akan menanggapi desakan para senator dan menegakkan pedoman ketat mereka, atau mengambil risiko memperolok praktik moderasi mereka dan melemahkan klaim bahwa toko aplikasi mereka adalah ruang yang aman. Keputusan yang mereka ambil tidak hanya akan memengaruhi X dan Grok, tetapi juga akan mengirimkan pesan yang kuat kepada seluruh industri teknologi mengenai tanggung jawab platform dalam memerangi penyebaran konten berbahaya dan eksplisit yang dihasilkan oleh AI tanpa izin. Bola kini berada di tangan Apple dan Google untuk membuktikan komitmen mereka terhadap keamanan dan integritas digital.
