JAKARTA, || Anggota Komisi I DPR RI Amelia Anggraini menilai penyalahgunaan teknologi kecerdasan buatan Grok AI untuk memproduksi dan menyebarkan konten pornografi berbasis foto atau video orang nyata tanpa persetujuan merupakan pelanggaran serius terhadap martabat manusia, hak privasi, serta pelindungan data pribadi di ruang digital.
Amelia menegaskan, praktik manipulasi wajah, foto, atau identitas visual seseorang ke dalam konten asusila tidak dapat dipandang sekadar sebagai persoalan moralitas, melainkan telah masuk kategori kekerasan berbasis teknologi yang berpotensi menimbulkan dampak psikologis, sosial, hingga kerugian reputasi bagi korban.
“Ketika identitas visual seseorang dimanipulasi tanpa izin untuk konten asusila, itu merupakan bentuk perampasan hak individu atas citra dirinya,” tegas Amelia dalam keterangan yang diterima Parlementaria, Jumat (9/1/2026).
Legislator Fraksi Partai NasDem itu menyoroti pernyataan Kementerian Komunikasi dan Digital melalui Direktorat Jenderal Pengawasan Ruang Digital yang menyebutkan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi pornografi berbasis foto nyata.
Menurut Amelia, temuan tersebut harus menjadi perhatian serius pemerintah, sehingga Kemkomdigi diminta bersikap proaktif dan tidak menunggu hingga kasus serupa menjadi viral. Ia menegaskan negara wajib hadir melindungi warga di ruang digital melalui kebijakan yang tegas, terukur, dan dapat diawasi publik.
Dalam perspektif Undang-Undang Pelindungan Data Pribadi (UU PDP), Amelia menekankan bahwa foto, wajah, dan video merupakan bagian dari data pribadi yang tidak boleh diproses tanpa dasar hukum yang sah. Karena itu, ia mendorong Kemkomdigi untuk menagih kepatuhan platform digital dan penyedia layanan kecerdasan buatan dengan standar yang jelas dan dapat diuji.
“Pemrosesan identitas visual untuk konten seksual tanpa dasar hukum harus diperlakukan sebagai pelanggaran serius. Negara juga harus memastikan adanya respons cepat bagi korban melalui kanal pelaporan yang efektif, mekanisme takedown cepat, serta pencegahan unggah ulang,” ujar politisi dari daerah pemilihan Jawa Tengah VII tersebut.
Amelia juga mendorong penguatan standar kepatuhan Penyelenggara Sistem Elektronik (PSE), termasuk platform X dan penyedia layanan AI, yang mencakup pencegahan sejak desain sistem (prevention by design), sistem moderasi konten yang transparan, serta mekanisme pengawasan yang dapat diaudit.
Terkait penegakan hukum, Amelia menegaskan bahwa langkah administratif harus berjalan seiring dengan ketentuan pidana sebagaimana diatur dalam KUHP Nasional yang berlaku sejak 2 Januari 2026, seraya menegaskan Komisi I DPR RI akan mengawal penanganan penyalahgunaan AI agar menghasilkan perlindungan nyata bagi korban dan kepatuhan tegas dari platform digital.
(Editor : Rizal)
Comment