Jakarta – Media sosial X, yang sebelumnya dikenal luas sebagai Twitter, mengambil langkah signifikan dalam menghadapi gelombang kontroversi terkait fitur kecerdasan buatan (AI) miliknya, Grok. Platform di bawah kepemimpinan Elon Musk ini secara resmi membatasi akses ke fitur edit foto Grok, menyusul maraknya laporan penyalahgunaan fitur tersebut untuk menciptakan konten deepfake asusila dalam beberapa pekan terakhir. Keputusan ini datang sebagai respons terhadap tekanan global yang kian memuncak, menyusul terungkapnya kasus manipulasi foto pengguna, termasuk anak-anak, menjadi materi seksual eksplisit.
Pembatasan yang diterapkan oleh X menyoroti dilema yang dihadapi oleh perusahaan teknologi dalam menyeimbangkan inovasi AI dengan tanggung jawab etika dan keamanan pengguna. Sejak akhir Desember 2025, fitur edit gambar Grok telah menjadi alat bagi pihak tak bertanggung jawab untuk mengubah foto yang diunggah oleh pengguna menjadi konten pornografi, memicu gelombang kecaman dari berbagai negara dan organisasi hak asasi manusia.
Secara spesifik, X kini membatasi akses fitur edit foto Grok hanya untuk pelanggan berbayar X Premium, namun dengan catatan penting yang menimbulkan pertanyaan akan efektivitasnya. Ketika pengguna X mencoba meminta Grok mengedit foto melalui fitur mention, chatbot tersebut akan merespons bahwa layanan tersebut eksklusif bagi pelanggan berbayar, disertai dengan ajakan dan tautan untuk berlangganan. "Pembuatan dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar. Anda dapat berlangganan untuk mengakses fitur-fitur tersebut," demikian bunyi pesan otomatis dari Grok di platform X.
Pesan ini, pada pandangan pertama, mungkin memberikan kesan bahwa hanya pelanggan X Premium yang dapat memanfaatkan kemampuan edit atau pembuatan gambar Grok. Namun, kenyataannya tidak sesederhana itu. Penelusuran lebih lanjut menunjukkan bahwa semua pengguna X, termasuk mereka yang tidak berlangganan, masih memiliki celah untuk meminta Grok membuat dan mengedit gambar. Konten yang dihasilkan, sayangnya, masih berpotensi mencakup gambar cabul yang telah memicu kontroversi.
Pembatasan fitur edit gambar hanya berlaku jika pengguna X secara langsung me-mention Grok dalam kolom balasan untuk meminta pengeditan. Metode lain untuk mengakses fitur tersebut, seperti melalui tombol ‘Edit image’ yang tersedia di setiap gambar yang ditampilkan pada versi desktop X, atau tombol serupa yang dapat diakses di aplikasi X dengan menekan dan menahan gambar tertentu, masih dapat digunakan secara bebas. Lebih lanjut, Grok juga dapat diakses melalui aplikasi atau situs web mandirinya, serta melalui tab khusus yang tersedia di aplikasi dan situs web X. Semua jalur akses ini tetap terbuka lebar dan berpotensi terus disalahgunakan untuk memanipulasi foto pengguna lain menjadi konten yang tidak senonoh.
Skala penyalahgunaan ini memicu gelombang kecaman internasional yang kuat. Negara-negara seperti Malaysia, India, Inggris, dan Prancis secara terbuka menyuarakan keprihatinan mereka dan mendesak X untuk segera mengambil tindakan tegas. Mereka menekankan bahaya serius yang ditimbulkan oleh deepfake asusila, terutama ketika melibatkan anak-anak, dan menyoroti kurangnya moderasi konten yang memadai dari pihak platform.
Di Indonesia, Kementerian Komunikasi dan Digital (Komdigi) turut merespons dengan ancaman serius untuk memblokir layanan Grok di Tanah Air. Ancaman ini datang setelah Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan temuan awal yang mengindikasikan bahwa Grok AI belum dilengkapi dengan sistem moderasi yang memadai. Menurut Alexander, fitur AI ini dinilai belum mampu mencegah pembuatan konten pornografi yang berbasis pada foto nyata warga Indonesia.
"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi," tegas Alexander dalam keterangan resmi yang dirilis di Jakarta pada Rabu (7/1/2026). Pernyataan ini menggarisbawahi kegagalan Grok dalam mematuhi standar keamanan digital yang diharapkan, terutama dalam konteks perlindungan data pribadi dan privasi pengguna.
Kemkomdigi tidak hanya berhenti pada ancaman sanksi administratif. Mereka juga menegaskan bahwa penyedia layanan kecerdasan buatan, maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak, dapat dikenakan sanksi pidana sesuai ketentuan hukum yang berlaku di Indonesia. Peringatan ini merupakan sinyal keras bahwa pemerintah Indonesia serius dalam menindak segala bentuk penyalahgunaan teknologi yang merugikan masyarakat.
Penegasan hukum ini didukung oleh berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) sejak 2 Januari 2026. KUHP yang baru ini memuat pengaturan komprehensif terkait pornografi, yang tercantum antara lain dalam Pasal 172 dan Pasal 407. Pasal 172 secara eksplisit mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan. Definisi ini mencakup berbagai bentuk konten, termasuk deepfake yang dibuat dengan teknologi AI.
Lebih lanjut, Pasal 407 KUHP mengatur ancaman pidana yang sangat berat bagi para pelaku. Sanksi pidana penjara paling singkat 6 bulan dan paling lama 10 tahun, atau pidana denda sesuai ketentuan, dapat dijatuhkan kepada mereka yang terbukti melanggar pasal tersebut. Ketentuan ini berlaku tidak hanya bagi individu yang membuat atau menyebarkan konten, tetapi juga dapat menjangkau penyedia layanan yang secara pasif membiarkan platformnya disalahgunakan untuk tujuan tersebut. Hal ini menempatkan beban tanggung jawab yang signifikan pada perusahaan teknologi seperti X untuk memastikan bahwa produk AI mereka tidak menjadi alat kejahatan.
Kasus Grok ini menjadi pengingat pahit tentang sisi gelap inovasi teknologi. Sementara AI menawarkan potensi luar biasa untuk kemajuan, kemampuannya juga dapat dieksploitasi untuk tujuan jahat, dengan konsekuensi yang merusak secara sosial dan psikologis. Kegagalan X dalam mengimplementasikan moderasi yang ketat sejak awal peluncuran fitur edit foto Grok telah membuka kotak pandora masalah yang kompleks.
Situasi ini juga memicu perdebatan global mengenai regulasi AI. Banyak pihak menyerukan agar pemerintah dan badan regulasi internasional lebih proaktif dalam menciptakan kerangka kerja hukum yang jelas untuk mengatur pengembangan dan penggunaan AI, terutama dalam konteks konten yang dihasilkan oleh AI. Pertanyaan tentang siapa yang bertanggung jawab ketika AI menghasilkan konten berbahaya – apakah pengembang AI, platform yang mengintegrasikannya, atau pengguna akhir – menjadi semakin mendesak.
Langkah X untuk membatasi fitur Grok, meskipun masih terasa parsial dan memiliki celah, menunjukkan bahwa tekanan publik dan ancaman regulasi dapat memaksa perusahaan teknologi untuk bertindak. Namun, masalah mendasar tetap ada: bagaimana memastikan bahwa teknologi AI dikembangkan dan digunakan secara etis, dengan perlindungan yang memadai terhadap potensi penyalahgunaan, sejak tahap awal. Tanpa solusi yang lebih komprehensif dan proaktif, insiden seperti penyalahgunaan Grok untuk deepfake asusila kemungkinan besar akan terus berulang, menuntut respons yang lebih tegas dari platform dan regulator di seluruh dunia. Pertarungan antara inovasi dan keamanan digital tampaknya masih akan terus berlanjut.
