Jakarta, Harian Umum - Kementerian Komunikasi dan Digital (Komdigi) memblokir sementara akses masyarakat terhadapnaplikasi Grok di Indonesia.
Kebijakan ini ditempuh untruk melindungi masyarakat, khususnya perempuan dan anak, dari potensi penyalahgunaan teknologi kecerdasan artifisial untuk produksi konten pornografi palsu, karena Pemerintah menilai, penyebaran konten deepfake seksual tanpa persetujuan merupakan sebuah ancaman serius.
Praktik itu bahkan dianggap melanggar hak asasi manusia, merusak martabat individu, serta mengganggu rasa aman publik di ruang digital.
"Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok," ujar Menteri Komunikasi dan Digital, Meutya Hafid, dalam keterangan resminya,, Sabtu (10/1/2026).
Ia menjelaskan, pemutusan akses sementara terhadap Grok dilandasi dengan dasar hukum yang jelas, yakni Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9. Aturan ini mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan platform-nya tidak memuat atau memfasilitasi distribusi konten yang dilarang.
Sebelumnya, Komdigi telah menindaklanjuti dugaan pemanfaatan Grok AI pada platform X untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menyebut hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang memadai untuk mencegah pembuatan dan distribusi konten pornografi berbasis foto nyata warga Indonesia.
Kondisi tersebut dinilai berpotensi melanggar hak privasi dan hak atas citra diri.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujar Alexander dalam keterangan resmi yang diterima Kompas.com, Rabu (7/1/2026).
"Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," tambahnya.
Menurut Komdigi, manipulasi digital terhadap foto pribadi tidak bisa dipandang semata sebagai persoalan kesusilaan. Praktik tersebut juga merupakan bentuk pengambilalihan kendali atas identitas visual seseorang yang berpotensi menimbulkan dampak psikologis, sosial, hingga reputasi.
Sebelumnya, The Guardian melaporkan bahwa pada Jumat (9/1/2026), manajemen Grok mengambil langkah dengan membatasi fitur pembuatan gambar bagi mayoritas pengguna.
Menurut The Guardian, kebijakan ini muncul menyusul gelombang protes publik atas pemanfaatan fitur tersebut untuk menghasilkan gambar bermuatan seksual eksplisit dan kekerasan.
Pembatasan itu dilakukan di tengah tekanan terhadap Elon Musk, yang menghadapi ancaman sanksi denda, tindakan regulatif, hingga laporan mengenai kemungkinan pelarangan platform X di Inggris.
Sebelumnya, fitur Grok dilaporkan kerap disalahgunakan untuk memanipulasi foto perempuan, termasuk menghapus busana dan menempatkan subjek dalam konteks seksual tanpa persetujuan.
Saat ini, akses terhadap fungsi pembuatan gambar tersebut hanya tersedia bagi pengguna berbayar. (man)