ORBIT-NEWS.COM, JAKARTA - Kementerian Komunikasi dan Digital (Kemkomdigi) tengah menaruh perhatian serius terhadap dugaan penyalahgunaan teknologi kecerdasan buatan Grok AI yang terintegrasi dalam platform X. Teknologi tersebut disinyalir dimanfaatkan untuk membuat dan menyebarluaskan konten asusila, termasuk rekayasa foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa hasil penelusuran awal menunjukkan masih adanya celah dalam sistem pengamanan Grok AI. Hingga kini, belum ditemukan pengaturan yang secara tegas dan memadai untuk mencegah produksi maupun distribusi konten pornografi berbasis foto nyata warga Indonesia.

Kondisi tersebut dinilai berpotensi menimbulkan pelanggaran serius terhadap hak privasi serta hak atas citra diri seseorang. Manipulasi digital terhadap foto pribadi, menurut Alexander, bukan hanya melanggar norma kesusilaan, tetapi juga merampas kendali individu atas identitas visualnya.

“Jika foto pribadi dimanipulasi dan disebarkan tanpa persetujuan, dampaknya tidak hanya bersifat hukum, tetapi juga psikologis, sosial, dan reputasi korban. Ini adalah pelanggaran yang sangat serius,” ujar Alexander, Rabu (7/1/2026).

Kemkomdigi menegaskan bahwa persoalan ini tidak bisa dipandang sebagai isu teknis semata. Teknologi kecerdasan buatan, apabila tidak dibarengi dengan sistem pengamanan yang kuat, berpotensi menjadi alat eksploitasi dan perusakan martabat manusia di ruang digital.

Baca juga: Haedar Nashir Ajak Umat Islam Jadikan Ramadan 1447 H Momentum Penguatan Takwa dan Kemajuan Peradaban

Sebagai langkah tindak lanjut, Kemkomdigi saat ini menjalin koordinasi intensif dengan para Penyelenggara Sistem Elektronik (PSE). Pemerintah mendorong penguatan moderasi konten, pencegahan pembuatan deepfake asusila, serta penyediaan mekanisme penanganan laporan yang cepat dan responsif bagi korban pelanggaran privasi.

Alexander menegaskan, setiap PSE memiliki kewajiban memastikan teknologi yang mereka kelola tidak disalahgunakan untuk pelanggaran privasi, eksploitasi seksual, atau tindakan yang merendahkan martabat seseorang. Kepatuhan terhadap regulasi nasional menjadi syarat mutlak bagi seluruh platform digital yang beroperasi di Indonesia.

Kemkomdigi mengingatkan, apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif dari penyedia layanan, pemerintah dapat menjatuhkan sanksi administratif hingga langkah paling tegas berupa pemutusan akses terhadap layanan Grok AI maupun platform X di Indonesia.

Seiring berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) sejak 2 Januari 2026, ketentuan terkait pornografi kini memiliki dasar hukum yang lebih kuat. Dalam KUHP tersebut, pornografi diatur antara lain melalui Pasal 172 dan Pasal 407, dengan ancaman pidana penjara mulai dari enam bulan hingga sepuluh tahun, atau denda sesuai ketentuan yang berlaku.

Kemkomdigi juga membuka ruang bagi masyarakat untuk melapor apabila menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri. Korban dapat menempuh jalur hukum melalui aparat penegak hukum maupun mekanisme pengaduan resmi kepada Kemkomdigi.

Baca juga: Sambut Ramadan 2026, Kemendag Buka Pasar Murah, 75 UMKM Ramaikan Lapangan Pejambon

“Pemanfaatan kecerdasan buatan harus disertai tanggung jawab. Ruang digital bukan wilayah bebas hukum. Setiap warga negara memiliki hak atas privasi dan citra dirinya, dan itu wajib dilindungi,” pungkas Alexander.