Jakarta – Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) akhirnya mengambil langkah tegas yang signifikan terhadap Grok, layanan chatbot berbasis kecerdasan buatan (AI) milik platform X (sebelumnya Twitter). Terhitung mulai hari ini, Sabtu (10/1/2026), Komdigi secara resmi memberlakukan pemutusan akses sementara terhadap fitur Grok. Keputusan drastis ini diambil sebagai respons mendesak terhadap maraknya penyalahgunaan teknologi AI untuk memproduksi konten pornografi palsu atau deepfake yang meresahkan dan membahayakan masyarakat.
Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid, dalam pernyataan resminya di Jakarta, Sabtu (10/1/2026), menegaskan bahwa tindakan ini adalah prioritas utama pemerintah dalam melindungi kelompok rentan. "Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok," ujar Meutya Hafid dengan nada tegas. Ia menambahkan bahwa ancaman deepfake asusila telah mencapai tingkat yang mengkhawatirkan, membutuhkan intervensi pemerintah yang cepat dan terukur untuk mencegah dampak yang lebih luas dan merugikan.
Pelanggaran Serius Hak Asasi dan Kerusakan Digital
Pemerintah memandang fenomena deepfake seksual nonkonsensual, yaitu pembuatan dan penyebaran konten seksual palsu tanpa persetujuan subjek, bukan sekadar pelanggaran kesusilaan biasa. Lebih jauh, praktik ini digolongkan sebagai pelanggaran serius terhadap hak asasi manusia. Manipulasi visual yang canggih ini secara fundamental merusak martabat individu, mengancam keamanan warga di ruang digital, dan merupakan bentuk perampasan kendali individu atas identitas visualnya, atau yang dikenal sebagai ‘right to one’s image’. Korban deepfake seringkali mengalami trauma psikologis yang mendalam, kerusakan reputasi sosial yang sulit dipulihkan, dan bahkan pelecehan berkelanjutan di ruang publik maupun privat. Kondisi ini menjadi alasan utama pemerintah bertindak cepat, tidak hanya dengan memblokir akses Grok, tetapi juga dengan melayangkan panggilan resmi kepada pihak Platform X. Panggilan tersebut bertujuan agar Platform X segera hadir dan memberikan klarifikasi serta penjelasan mengenai mitigasi dampak negatif penggunaan Grok, sekaligus berkomitmen untuk memperketat kebijakan dan sistem penyaringannya.
Perkembangan teknologi AI, meskipun menawarkan berbagai inovasi positif, juga membawa risiko eksploitasi yang belum sepenuhnya terantisipasi oleh kerangka regulasi yang ada. Deepfake, khususnya yang bersifat seksual, telah menjadi senjata baru dalam kejahatan siber, memungkinkan pelaku untuk menciptakan narasi palsu yang sangat meyakinkan dan sulit dibedakan dari kenyataan. Kejahatan semacam ini tidak hanya berdampak pada individu yang menjadi korban, tetapi juga mengikis kepercayaan publik terhadap informasi digital secara keseluruhan, menciptakan lingkungan ketidakpastian dan ketakutan di ranah maya. Komdigi menekankan bahwa perlindungan terhadap warga negara di dunia maya adalah bagian integral dari upaya menjaga kedaulatan digital dan keamanan nasional.
Dasar Hukum dan Ancaman Pidana
Tindakan pemutusan akses ini memiliki dasar hukum yang kuat, yakni Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Pasal 9 dari aturan tersebut secara eksplisit mewajibkan setiap PSE untuk memastikan bahwa sistem elektroniknya tidak memuat, memfasilitasi, atau menyebarluaskan informasi dan dokumen elektronik yang dilarang berdasarkan ketentuan peraturan perundang-undangan. Konten pornografi palsu, khususnya deepfake asusila, jelas termasuk dalam kategori informasi yang dilarang dan bertentangan dengan norma hukum serta sosial di Indonesia. Komdigi menganggap Platform X, sebagai penyelenggara Grok, telah gagal memenuhi kewajiban ini, sehingga pemblokiran sementara menjadi langkah yang tidak terhindarkan.
Selain pemblokiran layanan, ancaman pidana juga mengintai para pengguna yang terlibat dalam pembuatan atau penyebaran konten deepfake asusila. Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menegaskan bahwa manipulasi data elektronik tanpa persetujuan pemiliknya adalah tindak kriminal serius. "Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana," ujar Himawan, Rabu (7/1/2026). Penegasan ini berlaku tidak hanya bagi pengguna Grok, tetapi juga aplikasi AI lainnya yang digunakan untuk tujuan serupa. Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) serta peraturan turunannya dapat menjadi landasan hukum untuk menjerat pelaku, dengan ancaman hukuman penjara dan denda yang tidak sedikit. Pihak kepolisian berkomitmen untuk menindak tegas siapa pun yang terbukti menyalahgunakan teknologi untuk kejahatan, terutama yang menyangkut kesusilaan dan martabat individu. Penegakan hukum yang keras diharapkan dapat memberikan efek jera dan mencegah penyebaran lebih lanjut dari konten-konten merusak tersebut.
Respons Grok dan Kritikan Terhadap Mitigasi
Sebelumnya, fitur Grok AI memang telah menjadi sorotan tajam dari berbagai negara karena kemampuannya yang mengkhawatirkan dalam memproduksi konten pornografi secara instan. Sejumlah pengguna X menyalahgunakan kecanggihan AI ini dengan mengunggah foto wanita – termasuk figur publik dan bahkan anak-anak – disertai perintah atau prompt spesifik seperti "pakaikan dia bikini" atau "lepaskan pakaiannya." Kemampuan Grok untuk secara realistis memanipulasi gambar-gambar ini menjadi konten eksplisit telah memicu gelombang kritik global.
Menanggapi kontroversi yang memanas, X akhirnya mengambil langkah mitigasi terhadap fitur chatbot kecerdasan buatan (AI) miliknya, Grok. Platform milik Elon Musk ini mulai membatasi akses fitur edit foto di Grok setelah maraknya penyalahgunaan fitur tersebut untuk membuat konten deepfake asusila dalam beberapa pekan terakhir. Pembatasan ini dilakukan setelah gelombang kritik global, di mana fitur tersebut digunakan untuk memanipulasi foto pengguna – termasuk anak-anak – menjadi konten seksual yang eksplisit.
Fitur edit foto di Grok saat ini hanya bisa diakses oleh pelanggan berbayar X Premium. Ketika pengguna X meminta Grok mengedit foto lewat mention, chatbot itu menjawab bahwa fitur tersebut hanya tersedia untuk pelanggan berbayar diikuti dengan ajakan dan tautan untuk berlangganan. "Pembuatan dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar. Anda dapat berlangganan untuk mengakses fitur-fitur tersebut," tulis Grok dalam postingannya di X.
Namun, jawaban Grok ini seolah memberi kesan bahwa hanya pelanggan X Premium yang dapat mengedit atau membuat gambar menggunakan Grok. Namun, kenyataannya tidak sepenuhnya benar. Semua pengguna X – termasuk pengguna gratisan – masih bisa meminta Grok membuat dan mengedit gambar, termasuk gambar cabul yang menimbulkan kontroversi. Fitur edit gambar hanya dibatasi jika pengguna X meminta Grok membuat atau mengedit gambar dengan me-mention chatbot tersebut di kolom balasan. Cara lainnya, seperti lewat tombol ‘Edit image’ yang ada di semua gambar yang ditampilkan di situs web desktop X, atau tombol yang sama yang bisa diakses di aplikasi X dengan menekan dan menahan gambar tertentu, masih bisa dipakai mengedit foto. Grok juga bisa diakses lewat aplikasi atau situs web mandirinya, serta lewat tab khusus yang ada di aplikasi dan situs web X. Semua ini masih tersedia dan masih berpotensi disalahgunakan untuk mengedit foto pengguna lain menjadi tidak senonoh, menunjukkan bahwa langkah mitigasi yang diambil oleh X masih belum efektif dan memiliki banyak celah. Inilah yang menjadi dasar kuat bagi Komdigi untuk mengambil tindakan pemblokiran.
Dampak dan Implikasi Lebih Luas bagi Ekosistem Digital
Pemblokiran akses Grok oleh Komdigi ini tidak hanya berdampak pada pengguna layanan tersebut, tetapi juga memiliki implikasi yang lebih luas bagi ekosistem digital di Indonesia. Keputusan ini mengirimkan pesan tegas kepada seluruh Penyelenggara Sistem Elektronik (PSE), baik lokal maupun asing, bahwa pemerintah Indonesia tidak akan menoleransi platform yang gagal mengendalikan penyalahgunaan teknologinya untuk tujuan yang melanggar hukum dan moral. Ini merupakan penanda bahwa pemerintah akan semakin proaktif dalam mengawasi perkembangan teknologi AI dan dampaknya terhadap masyarakat.
Langkah ini juga memicu diskusi mendalam mengenai keseimbangan antara inovasi teknologi dan kebutuhan akan regulasi yang ketat. Di satu sisi, AI menawarkan potensi luar biasa untuk kemajuan di berbagai sektor. Namun, di sisi lain, tanpa pengawasan dan batasan yang jelas, teknologi ini dapat menjadi alat yang ampuh untuk kejahatan dan pelanggaran hak asasi manusia. Kasus Grok menjadi studi kasus penting tentang bagaimana perusahaan teknologi harus bertanggung jawab atas produk yang mereka kembangkan, terutama ketika produk tersebut memiliki kemampuan manipulatif yang tinggi.
Pemerintah melalui Komdigi juga diharapkan tidak berhenti pada pemblokiran. Edukasi publik mengenai bahaya deepfake dan cara mengidentifikasinya menjadi krusial. Kolaborasi dengan pakar teknologi, akademisi, dan organisasi masyarakat sipil juga diperlukan untuk mengembangkan solusi jangka panjang, termasuk filter konten yang lebih canggih dan mekanisme pelaporan yang efektif. Selain itu, dialog dengan perusahaan teknologi global menjadi penting untuk mendorong pengembangan AI yang bertanggung jawab dan etis sejak tahap desain.
Pada akhirnya, pemblokiran Grok AI oleh Komdigi merupakan refleksi dari komitmen pemerintah Indonesia untuk menciptakan ruang digital yang aman dan sehat bagi seluruh warganya. Ini adalah langkah awal dalam menghadapi tantangan baru yang dibawa oleh era kecerdasan buatan, memastikan bahwa kemajuan teknologi tidak mengorbankan nilai-nilai kemanusiaan dan perlindungan hak asasi. Masyarakat pun diharapkan untuk lebih bijak dan kritis dalam berinteraksi dengan teknologi AI, serta berperan aktif dalam melaporkan konten-konten berbahaya.
(afr/afr)
