Kementerian Komunikasi dan Digital (Komdigi) mengonfirmasi bahwa platform media sosial X, di bawah kepemimpinan Elon Musk, telah secara resmi memulai komunikasi terkait pemblokiran layanan kecerdasan buatan (AI) Grok AI di Indonesia. Pemblokiran ini dipicu oleh kekhawatiran serius pemerintah akan potensi Grok AI dalam memfasilitasi pembuatan dan penyebaran konten pornografi palsu atau deepfake yang meresahkan masyarakat.
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, mengungkapkan bahwa perwakilan dari platform digital milik Elon Musk tersebut telah menghubungi Komdigi dengan harapan dapat mencari jalan keluar dan membuka kembali akses Grok AI yang telah diblokir. "Mereka sudah menghubungi ya," ujar Nezar, ditemui awak media usai menghadiri sebuah panel diskusi yang diselenggarakan oleh Mastel Indonesia di Jakarta, pada Rabu (14/1/2026). Pernyataan ini menegaskan adanya langkah konkret dari pihak X untuk berdialog dengan regulator Indonesia.
Meskipun komunikasi telah terjalin, Nezar Patria menyarankan agar publik dan media massa bersabar menunggu hasil pembahasan yang lebih mendalam. Ia menegaskan bahwa detail dan substansi pembicaraan, termasuk kemungkinan pencabutan pemblokiran Grok AI, akan ditentukan setelah pertemuan antara Direktorat Jenderal Pengawasan Ruang Digital Komdigi dengan perwakilan X. "Kita tunggu saja nanti bagaimana hasilnya pembicaraan dengan Ditjen Pengawasan Ruang Digital," ungkap Nezar, mengindikasikan bahwa proses negosiasi dan klarifikasi masih akan berjalan.
Keputusan pemblokiran Grok AI sendiri merupakan langkah tegas yang diambil oleh Pemerintah Indonesia melalui Kementerian Komdigi pada Sabtu (10/1/2026). Layanan chatbot berbasis kecerdasan buatan yang terintegrasi dengan platform X ini resmi diputus aksesnya sementara waktu demi melindungi masyarakat, khususnya perempuan dan anak-anak, dari ancaman konten pornografi palsu atau deepfake yang semakin canggih dan sulit dibedakan dari aslinya.
Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid, menyatakan bahwa keputusan ini bukan tanpa alasan, melainkan respons mendesak terhadap potensi penyalahgunaan teknologi AI yang dapat menimbulkan dampak destruktif. "Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok," tegas Meutya Hafid. Pernyataan ini menggarisbawahi prioritas Komdigi dalam menjaga ruang digital yang aman dan sehat bagi seluruh warga negara.
Pemerintah memandang fenomena deepfake seksual nonkonsensual sebagai isu yang jauh melampaui pelanggaran kesusilaan biasa. Praktik manipulasi visual ini dikategorikan sebagai pelanggaran serius terhadap hak asasi manusia, merusak martabat individu, mengancam keamanan warga di ruang digital, serta merupakan bentuk perampasan kendali individu atas identitas visualnya, atau yang dikenal sebagai ‘right to one’s image’. Dampak psikologis yang mendalam bagi korban, kerusakan reputasi sosial yang permanen, hingga pelecehan dan perundungan di ruang publik menjadi alasan utama pemerintah bertindak cepat dan tegas.
Grok AI, sebagai chatbot canggih yang dikembangkan oleh xAI dan terintegrasi dengan X, memiliki kemampuan untuk memproses informasi dalam jumlah besar dan menghasilkan respons yang mirip manusia. Kekhawatiran utama muncul ketika kemampuan generatif ini disalahgunakan untuk menciptakan gambar atau video deepfake yang melibatkan individu tanpa persetujuan mereka, terutama dalam konteks pornografi. Meskipun X dan xAI mungkin mengklaim adanya filter atau panduan penggunaan, realitas di lapangan menunjukkan bahwa sistem AI masih rentan terhadap ‘prompt injection’ atau instruksi licik yang dapat melewati batasan etis, menghasilkan konten yang tidak diinginkan. Kasus Grok AI ini menyoroti dilema etika yang lebih luas dalam pengembangan dan implementasi teknologi kecerdasan buatan, di mana inovasi harus sejalan dengan tanggung jawab sosial dan perlindungan hak-hak individu.
Selain memblokir akses, Komdigi juga telah melayangkan panggilan resmi kepada pihak Platform X untuk segera hadir dan memberikan klarifikasi terkait dampak negatif yang ditimbulkan oleh penggunaan Grok AI. Langkah ini menunjukkan keseriusan pemerintah dalam meminta pertanggungjawaban platform digital atas konten yang difasilitasi oleh layanan mereka, terutama yang berpotensi melanggar hukum dan etika. Komdigi berharap X dapat menjelaskan langkah-langkah mitigasi yang akan mereka ambil untuk mencegah penyalahgunaan serupa di masa mendatang.
Tindakan pemutusan akses ini memiliki dasar hukum yang kuat, yakni Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Pasal 9 aturan tersebut secara eksplisit mewajibkan setiap PSE untuk memastikan sistem elektroniknya tidak memuat, memfasilitasi, atau menyebarluaskan informasi dan dokumen elektronik yang dilarang. Ini termasuk konten pornografi dan deepfake yang melanggar kesusilaan serta hak privasi. Dengan demikian, pemblokiran Grok AI merupakan implementasi dari amanat regulasi yang berlaku, menegaskan bahwa platform digital yang beroperasi di Indonesia harus tunduk pada hukum dan norma yang berlaku.
Ancaman pidana juga mengintai para pengguna yang dengan sengaja membuat atau menyebarkan konten deepfake. Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menegaskan bahwa manipulasi data elektronik tanpa persetujuan pemiliknya adalah tindak kriminal serius. "Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana," ujar Himawan pada Rabu (7/1/2026). Pernyataan ini berlaku tidak hanya bagi pengguna Grok AI, tetapi juga aplikasi AI lainnya yang digunakan untuk tujuan serupa. Hukuman pidana ini mengacu pada Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) serta peraturan terkait lainnya yang melindungi individu dari penyalahgunaan data dan informasi pribadi di ranah digital.
Kasus pemblokiran Grok AI oleh Komdigi ini menjadi preseden penting dalam lanskap regulasi AI di Indonesia dan bahkan dunia. Ini menunjukkan komitmen pemerintah untuk tidak hanya reaktif, tetapi juga proaktif dalam menghadapi tantangan etika dan hukum yang ditimbulkan oleh kemajuan teknologi AI yang pesat. Indonesia bergabung dengan negara-negara lain yang mulai serius mempertimbangkan kerangka regulasi untuk AI, terutama dalam hal konten generatif yang berpotensi merugikan. Dialog antara Komdigi dan X diharapkan tidak hanya berfokus pada pembukaan blokir, tetapi juga pada pengembangan standar keamanan dan etika yang lebih ketat untuk teknologi AI, serta mekanisme moderasi konten yang lebih efektif.
Platform X sendiri berada dalam posisi yang dilematis. Di satu sisi, mereka ingin mendorong inovasi dan kebebasan berekspresi melalui teknologi AI. Di sisi lain, mereka harus mematuhi regulasi lokal di setiap negara tempat mereka beroperasi dan bertanggung jawab atas dampak negatif yang mungkin timbul dari produk mereka. Negosiasi dengan Komdigi kemungkinan akan melibatkan pembahasan mengenai peningkatan sistem filter konten, penguatan moderasi berbasis AI dan manusia, serta mekanisme pelaporan yang lebih responsif bagi pengguna. X mungkin akan mengusulkan solusi teknis untuk mendeteksi dan mencegah pembuatan konten deepfake ilegal, atau bahkan membatasi kemampuan Grok AI di wilayah Indonesia untuk fungsi-fungsi tertentu yang berisiko.
Masa depan Grok AI di Indonesia akan sangat bergantung pada hasil pembicaraan ini. Lebih dari sekadar nasib satu aplikasi, kasus ini mencerminkan tantangan global dalam menyeimbangkan inovasi teknologi dengan perlindungan hak asasi manusia dan keamanan siber. Pemerintah Indonesia telah menunjukkan sikap tegasnya, dan kini bola ada di tangan X untuk menunjukkan komitmen mereka dalam menciptakan ruang digital yang aman dan bertanggung jawab. Kerjasama antara regulator, penyedia platform, dan masyarakat sipil menjadi kunci untuk memastikan bahwa teknologi AI dapat dimanfaatkan secara positif tanpa mengorbankan nilai-nilai etika dan hukum yang mendasar.
