JAKARTA, TINTAHIJAU.com — Kehadiran Grok, chatbot berbasis kecerdasan artifisial (AI) milik Elon Musk, memicu kehebohan di platform media sosial X. Fitur AI tersebut dilaporkan dapat dimanfaatkan untuk memproduksi konten pornografi melalui manipulasi foto nyata tanpa persetujuan pemiliknya.
Di media sosial X, sejumlah pengguna menyebut akun Grok disertai unggahan foto perempuan dan permintaan spesifik, seperti mengubah pakaian atau pose. Dalam berbagai kasus, Grok disebut menuruti perintah tersebut dan menghasilkan gambar bermuatan seksual, mulai dari perubahan busana hingga pose vulgar. Praktik ini dinilai berbahaya karena menyasar foto orang sungguhan dan berpotensi melanggar hak privasi.
Merespons temuan tersebut, Kementerian Komunikasi dan Digital (Kemkomdigi) mengambil langkah tegas terhadap platform X. Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyatakan hasil penelusuran awal menunjukkan Grok AI belum memiliki sistem moderasi yang memadai untuk mencegah pembuatan konten pornografi berbasis foto pribadi warga Indonesia.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi,” ujar Alexander dalam keterangan resmi di Jakarta, Rabu (7/1/2026).
Pemerintah menegaskan, apabila X dan pengelola Grok AI tidak kooperatif serta tidak segera memperbaiki sistem pengamanan, sanksi tegas akan dijatuhkan. Sanksi tersebut dapat berupa tindakan administratif hingga pemutusan akses layanan atau pemblokiran di wilayah Indonesia.
Kemkomdigi menilai persoalan ini tidak semata menyangkut kesusilaan, melainkan juga perampasan kendali individu atas identitas visualnya. Manipulasi digital berbasis AI atau deepfake dinilai berpotensi menimbulkan kerugian psikologis bagi korban, merusak reputasi sosial, serta melanggar hak atas citra diri.
Sementara itu, Bareskrim Polri turut menanggapi fenomena manipulasi foto menjadi konten vulgar menggunakan Grok AI. Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menegaskan praktik tersebut dapat dikategorikan sebagai tindak pidana deepfake apabila dilakukan tanpa persetujuan pemilik data.
“Selama itu bisa diklarifikasi sebagai manipulasi data elektronik, maka dapat diproses pidana,” kata Himawan di Jakarta Selatan, Rabu (7/1/2026). Penegakan hukum tersebut, lanjutnya, tidak terbatas pada penggunaan Grok AI, tetapi juga aplikasi lain dengan fungsi serupa.
Di sisi lain, wacana penguatan regulasi AI kembali mengemuka. Saat ini, aturan AI di Indonesia masih sebatas Surat Edaran yang bersifat imbauan tanpa sanksi tegas. Pemerintah tengah menyiapkan Peraturan Presiden (Perpres) tentang Kecerdasan Artifisial.
Ketua Indonesia Cyber Security Forum (ICSF) Ardi Sutedja menilai regulasi penting, namun tidak cukup. Menurutnya, persoalan utama terletak pada rendahnya literasi digital dan kesadaran risiko teknologi di masyarakat.
“Peraturan hanya membatasi boleh dan tidak boleh. Yang paling penting adalah bagaimana masyarakat paham bahwa tidak semua teknologi aman digunakan,” ujar Ardi. Ia menambahkan, Indonesia belum memiliki kurikulum memadai terkait etika digital dan risiko AI, baik di pendidikan formal maupun nonformal.
Ardi mendorong pendekatan multi-pemangku kepentingan dalam penyusunan Perpres AI, dengan melibatkan industri, akademisi, komunitas teknologi, dan masyarakat. Tanpa itu, regulasi dikhawatirkan hanya menjadi dokumen administratif yang kurang efektif menghadapi dampak cepat perkembangan teknologi AI.
