Tabengan.com – Pemerintah Indonesia kembali menunjukkan sikap tegas terhadap platform digital global. Melalui Kementerian Komunikasi dan Digital (Komdigi), pemerintah resmi melakukan pemutusan akses sementara terhadap Grok AI, sebuah platform kecerdasan buatan milik Elon Musk, menyusul maraknya temuan konten pornografi berbasis teknologi artificial intelligence (AI), termasuk praktik deepfake seksual nonkonsensual.
Langkah ini bukan sekadar kebijakan administratif, melainkan sinyal keras bahwa negara tidak akan mentoleransi penggunaan teknologi mutakhir yang melanggar hukum, etika, dan martabat manusia. Terlebih, Indonesia tengah berada di fase ledakan pengguna internet, dengan tingkat kerentanan literasi digital yang masih tinggi.
Langkah Tegas Komdigi di Tengah Lonjakan Konten AI Bermasalah
Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa pemblokiran sementara Grok AI dilakukan demi melindungi masyarakat dari bahaya konten pornografi palsu yang diproduksi menggunakan teknologi kecerdasan artifisial.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya di Jakarta, Sabtu (10/1/2026).
Menurut Meutya, fenomena deepfake seksual nonkonsensual bukan sekadar pelanggaran etika, tetapi sudah masuk kategori pelanggaran serius hak asasi manusia, karena menyangkut martabat, rasa aman, serta perlindungan warga negara di ruang digital.
Pemerintah menilai, jika dibiarkan tanpa kontrol ketat, teknologi AI yang terlalu permisif justru dapat menjadi senjata baru dalam kejahatan digital, terutama terhadap kelompok rentan.
PSE Wajib Patuh Regulasi, Tidak Ada Pengecualian
Dalam konteks hukum nasional, seluruh Penyelenggara Sistem Elektronik (PSE), baik lokal maupun asing, diwajibkan menaati regulasi yang berlaku di Indonesia. Salah satu payung hukum utama adalah Peraturan Menteri Kominfo Nomor 5 Tahun 2020, yang secara tegas mewajibkan platform digital:
- Tidak memuat konten terlarang
- Tidak memfasilitasi distribusi konten melanggar hukum
- Tidak menyebarluaskan informasi elektronik yang merusak moral dan ketertiban umum
Grok AI dinilai belum memenuhi kewajiban tersebut, terutama dalam aspek pengendalian konten berbasis AI yang dapat memanipulasi foto dan visual pribadi menjadi konten asusila tanpa persetujuan pemiliknya.
“Tidak ada platform yang kebal hukum di Indonesia. Semua tunduk pada aturan yang sama,” tegas sumber internal Komdigi.
Platform X Diminta Klarifikasi Resmi
Selain memutus akses Grok AI, Komdigi juga secara resmi meminta klarifikasi dari platform X (sebelumnya Twitter), yang berada di bawah ekosistem perusahaan xAI milik Elon Musk.
Permintaan klarifikasi tersebut menyangkut:
- Mekanisme pengamanan konten Grok
- Sistem moderasi dan pembatasan fitur AI
- Tanggung jawab platform terhadap dampak sosial di negara pengguna
Pemerintah menilai, relasi erat antara Grok AI dan platform X membuat potensi penyebaran konten bermasalah menjadi jauh lebih cepat dan masif, terutama karena terintegrasi langsung dengan media sosial.
Sorotan Global: Grok AI Diprotes Sejumlah Negara
Indonesia bukan satu-satunya negara yang menyoroti Grok AI. Sejumlah negara sebelumnya juga menyuarakan kekhawatiran atas indikasi manipulasi konten pengguna melalui teknologi AI yang dinilai terlalu longgar dalam pengawasan.
Berbeda dengan platform AI lain seperti ChatGPT atau Gemini yang menerapkan pembatasan ketat pada konten sensitif, Grok AI kerap disebut lebih “bebas” dalam merespons perintah pengguna, termasuk permintaan yang berpotensi menghasilkan konten vulgar atau merendahkan martabat individu.
Kondisi ini memicu perdebatan global mengenai batas kebebasan AI, antara inovasi teknologi dan tanggung jawab sosial.
Ancaman Proses Pidana di Indonesia
Di Indonesia, persoalan ini tidak berhenti pada pemblokiran. Aparat penegak hukum bahkan telah menyatakan kesiapan untuk memproses pidana pengelola Grok AI, menyusul laporan resmi dari Kementerian Komdigi.
Kasus yang disorot terutama berkaitan dengan:
- Manipulasi foto pribadi
- Deepfake bersifat seksual
- Penggunaan tanpa persetujuan pemilik data
Jika terbukti melanggar, pengelola platform berpotensi dijerat dengan berbagai regulasi, termasuk Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) serta peraturan perlindungan data pribadi.
Ancaman Nyata di Tengah Minimnya Literasi Digital
Pendiri Indonesia Cyber Security Forum (ICSF), Ardi Sutedja, menyebut penyebaran konten asusila hasil manipulasi AI sebagai ancaman serius terhadap keamanan digital nasional dan kehormatan individu.
“Bayangkan foto Anda atau keluarga Anda tiba-tiba muncul di media sosial dalam bentuk yang vulgar dan merendahkan martabat, padahal Anda tidak pernah berpose seperti itu. Inilah kenyataan mengerikan yang kini mengintai masyarakat kita,” ujar Ardi dalam keterangan tertulis, Jumat (9/1/2026).
Menurutnya, teknologi seperti Grok AI membuka celah besar bagi kejahatan berbasis visual, terutama ketika digunakan oleh pihak yang tidak bertanggung jawab.
Grok AI Dinilai Terlalu Longgar
Ardi menilai, desain Grok AI yang relatif permisif membuatnya lebih berisiko dibandingkan chatbot AI lain.
“Berbeda dengan ChatGPT atau Gemini yang memiliki batasan ketat, Grok justru dirancang lebih bebas. Ini bukan sekadar persoalan teknis, tetapi ancaman nyata bagi kehormatan pribadi warga negara,” tegasnya.
Kebebasan tanpa pengaman, menurut Ardi, justru dapat menjadi bumerang di negara dengan tingkat literasi digital yang belum merata.
Indonesia: Pasar Digital Besar, Tapi Rentan
Dengan jumlah pengguna internet mencapai 212 juta orang, Indonesia merupakan salah satu pasar digital terbesar di dunia. Namun, di balik potensi ekonomi digital yang besar, terdapat kerentanan serius.
Ardi mengutip data Asosiasi Penyelenggara Jasa Internet Indonesia (APJII) yang menunjukkan sekitar 64 persen pengguna internet di Indonesia belum memahami risiko keamanan digital secara komprehensif.
Kondisi ini diperparah oleh minimnya edukasi publik mengenai:
- Bahaya deepfake
- Manipulasi visual berbasis AI
- Perlindungan data pribadi
Tanpa intervensi negara, masyarakat berpotensi menjadi korban berulang dari kejahatan digital yang semakin canggih.
Negara Hadir di Ruang Digital
Pemutusan akses Grok AI menjadi bukti bahwa negara tidak tinggal diam menghadapi disrupsi teknologi. Pemerintah menegaskan bahwa inovasi digital harus berjalan seiring dengan perlindungan masyarakat.
“Teknologi seharusnya mempermudah hidup manusia, bukan merusaknya,” ujar seorang pejabat Komdigi.
Ke depan, pemerintah berkomitmen memperkuat regulasi AI, meningkatkan literasi digital, serta mendorong platform global agar lebih bertanggung jawab terhadap dampak sosial teknologi yang mereka kembangkan.
Pemblokiran Grok AI pun menjadi pengingat keras: di Indonesia, kebebasan digital tetap memiliki batas—dan batas itu adalah hukum, etika, serta kemanusiaan.
