DCNews, Jakarta — Pemerintah Indonesia mengambil langkah tegas dengan memutus akses sementara Grok AI, platform kecerdasan buatan yang dikembangkan xAI milik Elon Musk, menyusul kekhawatiran serius atas maraknya produksi dan penyebaran konten pornografi berbasis kecerdasan artifisial, termasuk praktik deepfake seksual nonkonsensual yang dinilai mengancam martabat dan keamanan warga negara di ruang digital.
Kementerian Komunikasi dan Digital (Komdigi) menyatakan kebijakan tersebut ditempuh untuk melindungi perempuan, anak, dan masyarakat luas dari risiko konten manipulatif yang dihasilkan teknologi AI. Langkah ini sekaligus menegaskan kewajiban Penyelenggara Sistem Elektronik (PSE) untuk patuh terhadap regulasi nasional.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” kata Menteri Komdigi Meutya Hafid di Jakarta, Sabtu (10/1/2026).
Meutya menegaskan, praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia, martabat individu, dan keamanan warga negara di ruang digital. Pemerintah juga telah meminta klarifikasi resmi dari platform X—sebelumnya dikenal sebagai Twitter—yang berada dalam satu ekosistem dengan Grok di bawah perusahaan xAI.
Menurut pemerintah, indikasi manipulasi konten berbasis AI, khususnya foto dan gambar pribadi yang direproduksi menjadi materi asusila tanpa izin, telah memicu kecaman luas, baik di dalam negeri maupun di sejumlah negara lain. Di Indonesia, aparat penegak hukum bahkan membuka peluang pemrosesan pidana terhadap pengelola Grok setelah Kementerian Komdigi melaporkan dugaan pelanggaran tersebut.
Pendiri Indonesia Cyber Security Forum (ICSF) Ardi Sutedja menilai penyebaran konten asusila hasil manipulasi AI sebagai ancaman serius terhadap keamanan digital nasional dan kehormatan individu. Ia menyoroti karakter Grok yang dinilai lebih longgar dalam membatasi konten dibandingkan platform AI lain.
“Bayangkan foto Anda atau keluarga Anda tiba-tiba muncul di media sosial dalam bentuk yang vulgar dan merendahkan martabat, padahal Anda tidak pernah berpose seperti itu. Inilah kenyataan mengerikan yang kini mengintai masyarakat kita,” ujar Ardi dalam keterangan tertulis, Jumat (9/1/2026).
Ardi menjelaskan, Grok belakangan menuai sorotan karena fitur yang dianggap terlalu “bebas”. Berbeda dengan ChatGPT atau Gemini yang menerapkan pagar pembatas ketat, chatbot yang terintegrasi dengan platform X itu dinilai lebih permisif dalam menghasilkan dan memodifikasi konten visual.
“Kemampuan ini bukan sekadar masalah teknis, tetapi ancaman langsung terhadap keamanan digital dan kehormatan pribadi setiap warga negara Indonesia,” katanya.
Dengan jumlah pengguna internet mencapai sekitar 212 juta orang, Indonesia menjadi pasar digital yang sangat besar. Namun, di balik angka tersebut, Ardi menyoroti kerentanan yang mengkhawatirkan. Mengutip survei Asosiasi Penyelenggara Jasa Internet Indonesia (APJII), ia menyebut sekitar 64 persen pengguna internet di Tanah Air belum memahami risiko keamanan digital secara komprehensif, terutama terkait manipulasi konten berbasis AI.
Zona Abu-Abu Regulasi Data Pribadi
Ardi juga menyinggung Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (PDP) yang hingga kini belum sepenuhnya efektif karena ketiadaan peraturan pelaksana.
“Kondisi ini menciptakan zona abu-abu yang dimanfaatkan oleh pihak tidak bertanggung jawab. Tanpa aturan teknis yang jelas, penegakan hukum terhadap penyalahgunaan AI menjadi sangat sulit,” ujarnya.
Menurut Ardi, risiko penyalahgunaan teknologi seperti Grok tidak berhenti pada pelanggaran privasi individu, melainkan dapat meluas menjadi ancaman stabilitas sosial dan keamanan nasional.
“Jika teknologi ini digunakan untuk memanipulasi foto pejabat negara, tokoh agama, atau figur publik, dampaknya bisa memicu konflik horizontal, menurunkan kepercayaan publik, bahkan berujung pada destabilisasi politik,” katanya.
Di era informasi yang bergerak cepat, konten manipulatif dapat menyebar dalam hitungan detik dan meninggalkan kerusakan reputasi jangka panjang. “Bahkan setelah konten dihapus, jejak digitalnya bisa tetap beredar dan menghantui korban selama bertahun-tahun,” ujar Ardi.
Ia menegaskan, tanpa respons regulasi yang cepat dan tegas, Indonesia berisiko menghadapi gelombang kejahatan digital yang semakin sulit dikendalikan. “Teknologi AI yang mampu memanipulasi gambar menjadi vulgar dapat berubah menjadi senjata berbahaya di tangan pelaku kejahatan siber,” pungkasnya.
Cermin kan Perubahan Sikap Pemerintah
Pemutusan akses sementara Grok AI mencerminkan perubahan sikap pemerintah dari sekadar pengawasan menjadi tindakan preventif aktif di tengah pesatnya perkembangan teknologi kecerdasan buatan.
Kebijakan ini menegaskan bahwa inovasi digital tidak dapat berjalan tanpa batas etika dan hukum. Namun, tanpa percepatan regulasi turunan UU PDP dan peningkatan literasi digital publik, langkah pemblokiran berpotensi menjadi solusi jangka pendek atas persoalan struktural yang jauh lebih kompleks. ***
