Dari Video Rumahan ke AI, Ketika Teknologi Mengubah Bisnis Pornografi

Kedua perkara itu memperlihatkan perbedaan titik tekan dalam menghadapi persoalan AI seksual. Kasus Minnesota berkaitan dengan konstitusionalitas pembatasan yang dibuat pemerintah, sedangkan penyelidikan di Prancis berfokus pada dugaan pelanggaran yang berkaitan dengan platform.

Di luar perbedaan tersebut, keduanya membawa persoalan mengenai batas tanggung jawab perusahaan teknologi ketika layanan mereka digunakan untuk menghasilkan atau menyebarkan materi yang dapat merugikan orang lain.

Tanggung jawab itu mencakup kemampuan sistem mencegah pembuatan konten terlarang, mekanisme penanganan laporan korban, dan langkah membatasi penyebaran materi yang melanggar hak individu.

Regulasi juga menghadapi kebutuhan untuk membedakan konten dewasa yang dibuat secara konsensual dari gambar sintetis yang menggunakan wajah atau identitas seseorang tanpa persetujuan.

Lalu Bagaimana di Indonesia?

Persoalan serupa juga menjadi perhatian pemerintah Indonesia setelah muncul risiko penggunaan AI untuk memanipulasi foto pribadi menjadi konten pornografi. Kementerian Komunikasi dan Digital (Komdigi) mengambil tindakan terhadap Grok pada Januari 2026 setelah melakukan penelusuran awal terhadap kemampuan sistem tersebut.

Pada 7 Januari 2026, Direktur Jenderal Pengawasan Ruang Digital Komdigi Alexander Sabar menyampaikan bahwa penelusuran awal kementerian menemukan belum adanya pengaturan spesifik yang memadai pada Grok AI untuk mencegah pembuatan dan penyebaran konten pornografi berbasis foto pribadi warga Indonesia.

Menurut Alexander, manipulasi foto pribadi tidak hanya menyangkut persoalan kesusilaan, tetapi juga privasi dan hak atas citra diri.

Praktik tersebut dapat menghilangkan kendali seseorang atas identitas visualnya serta menimbulkan dampak psikologis, sosial, dan reputasi.

Komdigi menyatakan telah berkoordinasi dengan penyelenggara sistem elektronik untuk memperkuat moderasi konten, mencegah pembuatan deepfake seksual, dan mempercepat penanganan laporan pelanggaran.