Badan Reserse Kriminal (Bareskrim) Polri menegaskan bahwa manipulasi foto seseorang menjadi konten vulgar menggunakan fitur kecerdasan buatan (AI) seperti Grok AI di platform X dapat dikenakan sanksi pidana. Penegasan ini disampaikan jika pengeditan foto tersebut dilakukan tanpa izin dari pemilik aslinya.
Deepfake Merupakan Tindak Pidana
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menjelaskan bahwa tindakan pengeditan foto tanpa izin tersebut termasuk dalam kategori deepfake yang merupakan bentuk pidana. Ia menyatakan bahwa fenomena ini terus diawasi perkembangannya.
“Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence ya itu termasuk deepfake itu menggunakan AI,” ujar Himawan saat menjawab pertanyaan wartawan di Bareskrim Polri, Jakarta Selatan, Rabu (7/1/2026).
“Karena itu memang kita sedang melakukan penyelidikan ke arah sana,” sambungnya.
Manipulasi Data Elektronik Tanpa Persetujuan
Himawan menyatakan bahwa jika terbukti ada manipulasi data elektronik yang dilakukan oleh orang lain tanpa persetujuan pemiliknya, maka tindakan tersebut dapat diproses secara hukum. Hal ini juga berlaku bagi pelaku yang memanipulasi foto mesum menggunakan aplikasi selain Grok AI.
“Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana,” imbuhnya.
Kementerian Komunikasi dan Informatika Juga Awasi X
Sebelumnya, Kementerian Komunikasi dan Informatika (Kominfo) telah mengambil langkah tegas terhadap platform X terkait dugaan penyalahgunaan fitur kecerdasan buatan, Grok AI. Teknologi ini disinyalir menjadi sarana produksi dan penyebaran konten asusila melalui manipulasi foto pribadi (deepfake) tanpa izin.
Direktur Jenderal Pengawasan Ruang Digital Kominfo, Alexander Sabar, mengungkapkan bahwa temuan awal menunjukkan Grok AI belum memiliki sistem moderasi yang memadai. Fitur AI ini dinilai belum mampu mencegah pembuatan konten pornografi berbasis foto nyata warga Indonesia.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi,” ujar Alexander dalam keterangan resmi di Jakarta, Rabu (7/1/2026).
Indonesia bukan negara pertama yang mempersoalkan Grok AI kepada X. Sebelumnya, Prancis, India, dan Malaysia juga telah mengajukan keberatan serupa kepada perusahaan milik Elon Musk tersebut.
