Komdigi Blokir Grok AI Imbas Deepfake Seksual, Platform X Diminta Klarifikasi

RM.id  Rakyat Merdeka - Kementerian Komunikasi dan Digital (Komdigi) memutus akses sementara aplikasi Grok AI karena teknologi tersebut dapat memproduksi konten pornografi palsu, termasuk deepfake seksual nonkonsensual yang membahayakan perempuan, anak, dan masyarakat luas.

Komdigi juga meminta Platform X segera memberikan klarifikasi resmi terkait potensi dampak negatif penggunaan Grok AI. Terutama, yang terkait kemampuan sistem tersebut memanipulasi foto pribadi menjadi konten asusila, tanpa persetujuan pemiliknya.

“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” kata Menkomdigi Meutya Hafid dalam keterangan resminya, Sabtu (10/1/2026).

Temuan Awal: Pengamanan Konten Lemah

Baca juga : Polri Diminta Fokus Kejar Jaringan Besar

Sebelumnya, pada Rabu (7/1/2026), Direktur Jenderal Pengawasan Ruang Digital Alexander Sabar mengungkapkan, hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan eksplisit dan memadai, untuk mencegah pembuatan maupun distribusi konten pornografi berbasis foto nyata warga Indonesia.

“Kondisi tersebut berpotensi melanggar hak privasi dan hak atas citra diri, khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan sah,” ujar Alexander di Jakarta.

Menurutnya, Grok AI belum memiliki mekanisme spesifik untuk mencegah penyalahgunaan teknologi dalam pembuatan konten seksual berbasis foto pribadi, yang berpotensi menimbulkan kerugian psikologis, sosial, dan reputasi bagi korbannya.

Risiko Deepfake Seksual

Baca juga : Polemik PAW Anggota DPRD, KPU Minta Klarifikasi DPD Golkar Maluku

Komdigi menilai, manipulasi digital terhadap foto bukanlah sekadar persoalan kesusilaan. Deepfake seksual menimbulkan ancaman serius terhadap keamanan individu, menghilangkan kendali seseorang atas identitas visualnya, serta membuka ruang penyalahgunaan dan pemerasan di ruang digital.

Teknologi ini dapat memanfaatkan foto publik atau foto pribadi seseorang, untuk kemudian dimodifikasi menjadi konten asusila yang tampak nyata, dan dapat disebarkan tanpa izin. Kondisi inilah yang mendorong pemerintah mengambil tindakan cepat untuk mencegah meluasnya dampak.

Dasar Hukum Pemutusan Akses

Pemutusan akses terhadap Grok AI dilakukan berdasarkan kewenangan Komdigi, sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.

Baca juga : Kader Partai Matahari Diminta Berintrospeksi

Aturan tersebut, khususnya Pasal 9, mewajibkan setiap PSE memastikan sistem elektronik yang mereka kelola tidak memuat, memfasilitasi, ataupun menyebarkan informasi atau dokumen elektronik yang dilarang, termasuk konten pornografi dan konten yang merugikan masyarakat.

Update berita dan artikel RM.ID menarik lainnya di Google News

Dapatkan juga update berita pilihan dan breaking news setiap hari dari RM.id. Mari bergabung di Grup Telegram "Rakyat Merdeka News Update", caranya klik link https://t.me/officialrakyatmerdeka kemudian join. Anda harus install aplikasi Telegram terlebih dulu di ponsel.