KLIKSUMUT.COM | JAKARTA – Kementerian Komunikasi dan Digital (Komdigi) memutuskan untuk menghentikan sementara akses layanan kecerdasan buatan (AI) Grok, setelah ditemukan potensi penyalahgunaan untuk menyebarkan konten pornografi palsu.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melalui Kementerian Komdigi melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Menkomdigi Meutya Hafid, Sabtu (10/1/2026).
Meutya menekankan, praktik deepfake seksual nonkonsensual merupakan pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.
BACA JUGA: Kemkomdigi Selidiki Dugaan Penyalahgunaan Grok AI di Platform X untuk Konten Asusila
“Kementerian Komdigi juga telah meminta Platform X untuk segera hadir dan memberikan klarifikasi terkait dampak negatif penggunaan Grok,” tambah Meutya.
Langkah penghentian sementara ini didasari Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Menurut Pasal 9, setiap Penyelenggara Sistem Elektronik (PSE) wajib memastikan sistem yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi yang dilarang.
Sebelumnya, Komdigi menindaklanjuti dugaan penyalahgunaan fitur Grok AI di Platform X untuk membuat dan menyebarkan konten asusila, termasuk manipulasi foto pribadi sensitif tanpa izin pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyatakan, hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang memadai untuk mencegah produksi dan distribusi konten pornografi berbasis foto warga Indonesia.
BACA JUGA: Waspada Penipuan Online, Komdigi Dorong Gen Z Tingkatkan Literasi Digital
“Kondisi ini berpotensi melanggar hak privasi dan hak atas citra diri, khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan sah,” kata Alexander di Jakarta, Rabu (7/1/2026).
Temuan awal ini menekankan pentingnya regulasi dan pengawasan ketat terhadap penggunaan teknologi AI di Indonesia, agar tidak dimanfaatkan untuk melanggar hak privasi dan martabat warga negara. (KSC)
TIM REDAKSI
