DCNews, Jakarta— Anggota Komisi I DPR RI Syamsu Rizal menyatakan dukungan penuh terhadap langkah Kementerian Komunikasi dan Digital (Komdigi) untuk menjatuhkan sanksi hingga memblokir Grok AI dan platform media sosial X, menyusul maraknya penyalahgunaan kecerdasan buatan tersebut dalam memproduksi dan menyebarkan konten pornografi.
Syamsu menilai kemampuan Grok AI memanipulasi gambar hingga menjadi konten asusila merupakan ancaman serius bagi keamanan digital dan perlindungan warga negara. Menurutnya, absennya sistem moderasi konten yang ketat membuka ruang luas bagi penyalahgunaan teknologi berbasis kecerdasan buatan.
“Selama ini kita melihat Grok AI di platform X dimanfaatkan untuk mengubah foto atau gambar seseorang menjadi konten asusila. Dengan permintaan yang sangat spesifik, sistem ini dapat menuruti instruksi tersebut. Ini jelas berbahaya,” kata Syamsu Rizal dalam keterangannya, Jumat (9/1/2026).
Ia menegaskan, penyalahgunaan teknologi AI tanpa pengawasan bukan sekadar persoalan individu, melainkan berpotensi menimbulkan dampak sosial yang luas, mulai dari pelanggaran privasi, eksploitasi, hingga degradasi moral masyarakat.
“Jika Grok AI dan platform X tidak mampu mengendalikan sistemnya dan terus membiarkan produksi serta distribusi konten pornografi, maka Komdigi harus bersikap tegas dengan melakukan pemblokiran,” ujarnya.
Syamsu juga mengingatkan bahwa negara memiliki kewajiban konstitusional untuk melindungi warganya dari dampak negatif transformasi digital. Pembiaran terhadap praktik manipulasi citra pribadi dan pornografi berbasis AI, kata dia, dapat menjadi preseden buruk bagi tata kelola ekosistem digital nasional.
“Langkah tegas ini penting. Jika dibiarkan, penggunaan AI yang tidak bertanggung jawab akan sangat membahayakan dan merusak moral bangsa,” tambahnya.
Sebelumnya, Komdigi menegaskan bahwa Grok AI dan platform X terancam sanksi administratif hingga pemutusan akses apabila tidak patuh dan kooperatif terhadap peraturan yang berlaku di Indonesia.
Direktur Jenderal Pengawasan Ruang Digital Komdigi Alexander Sabar menyatakan bahwa X sebagai Penyelenggara Sistem Elektronik (PSE) wajib mematuhi seluruh ketentuan hukum nasional, termasuk regulasi terkait perlindungan data pribadi dan larangan konten pornografi.
Menurut Sabar, baik penyedia layanan AI maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi, termasuk manipulasi citra pribadi tanpa izin, dapat dikenakan sanksi administratif dan/atau pidana sesuai peraturan perundang-undangan yang berlaku.
Langkah Komdigi ini dinilai menjadi ujian penting bagi komitmen pemerintah dalam menegakkan kedaulatan digital sekaligus memastikan perkembangan teknologi kecerdasan buatan tidak melanggar nilai hukum, etika, dan perlindungan hak asasi manusia di Indonesia. ***
