Darurat Pornografi AI: Mengapa Ruang Digital Menjadi Medan Kekerasan Baru?

jogja.jpnn.com, YOGYAKARTA - Indonesia tengah menghadapi darurat kekerasan seksual digital. Kemajuan teknologi kecerdasan buatan (Artificial Intelligence/AI) kini disalahgunakan untuk menciptakan konten pornografi palsu (deepfake) secara instan dan masif.

Fenomena ini bukan sekadar tren teknologi, melainkan ancaman nyata yang menempatkan Indonesia di posisi mengkhawatirkan secara global.

Data dari National Center for Missing Exploited Children (NCMEC) mencatat 5.566.015 kasus konten pornografi anak di Indonesia selama empat tahun terakhir.

Angka fantastis itu menunjukkan bahwa Indonesia sebagai salah satu negara dengan jumlah kasus pornografi daring terbesar, di mana manipulasi foto dan video berbasis AI menjadi senjata utama para pelaku.

Seperti yang terjadi saat ini, ketika masyarakat Indonesia cemas dengan maraknya konten pornografi deepfake dari Grok AI, yang dianggap sebagai bentuk kekerasan digital nonkonsensual.

Kekhawatiran ini mencakup risiko kerusakan reputasi, trauma psikologis, dan pelanggaran privasi, terutama bagi perempuan dan anak-anak

Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) telah memblokir sementara akses ke Grok AI milik xAI karena dugaan penyalahgunaan untuk menghasilkan konten pornografi palsu atau deepfake.

Grok di platform X dinilai memungkinkan manipulasi foto menjadi konten pornografi non-konsensual, termasuk deepfake yang merugikan.