JAKARTA — Kecerdasan buatan atau artificial intelligence (AI) mulai menghadirkan bentuk baru persoalan di lingkungan sekolah. Manipulasi foto yang dapat dilakukan dalam hitungan detik tidak lagi berhenti sebagai persoalan di ruang digital, tetapi dapat berkembang menjadi konflik sosial hingga kekerasan fisik.

Kasus di Jakarta Timur memperlihatkan persoalan tersebut. Seorang siswa SMP Negeri di Jakarta Timur diduga menjadi korban penganiayaan setelah teman-temannya mengetahui dirinya mengedit foto sejumlah siswi menggunakan teknologi AI hingga menjadi foto vulgar.

Kepala Seksi Humas Polres Metro Jakarta Timur AKP I Made Budi mengatakan siswa yang diduga membuat atau mengedit foto tersebut justru membuat laporan terkait dugaan penganiayaan yang dialaminya.

“Terduga pelaku yang membuat atau mengedit foto rekan-rekannya, membuat laporan penganiayaan,” kata Made saat dikonfirmasi di Jakarta, Kamis (24/9/2026).

Berdasarkan keterangan orang tua korban, dugaan penganiayaan terjadi pada Selasa (15/9) hingga Rabu (16/9/2026), sekitar pukul 11.00 WIB atau setelah korban pulang sekolah.

Pada Selasa, korban disebut diminta datang ke sebuah warung di samping SD 01 Kayu Putih. Dari lokasi tersebut, korban kemudian dibawa menggunakan sepeda motor menuju sebuah rumah kosong di Jalan Tiner, Kelurahan Kayu Putih, Pulogadung.

Di rumah kosong tersebut, korban diduga dipukul pada bagian hidung, telinga dan kepala serta ditendang pada bagian dada. Salah seorang yang diduga terlibat juga disebut mengancam korban menggunakan senjata tajam.

“Setelah di rumah kosong korban dipukul bagian hidung, telinga, kepala, dan dada korban ditendang oleh beberapa pelaku (lidik). Dan salah satu pelaku mengancam menggunakan senjata tajam katna atau samurai,” jelas Made.

Penganiayaan kembali terjadi pada Rabu (16/9). Korban kembali diminta datang ke warung di sekitar SD 01 Kayu Putih sebelum dibawa menggunakan sepeda motor menuju Waduk Ria Rio, Kayu Putih, Jakarta Timur.

Setibanya di kawasan waduk, korban diduga kembali mengalami kekerasan fisik.

“Kemudian setiba di waduk korban dipukul bagian kepala, digampar di bagian telinga kanan dan kiri, kemudian bagian perut korban beberapa kali ditendang oleh beberapa pelaku (lidik),” ucap Made.

Menurut Made, dugaan penganiayaan tersebut berkaitan dengan tindakan korban yang sebelumnya mengedit foto sejumlah siswi menjadi foto vulgar menggunakan AI.

“Lalu teman-teman siswa tersebut tidak terima, sehingga melakukan kekerasan fisik terhadap korban. Jadi yang melakukan penganiayaan teman-teman para korban karena kesal sudah mengedit foto para korban,” ujar Made.

Polisi masih memastikan apakah para siswi yang diduga menjadi korban pengeditan foto tersebut telah membuat laporan atau belum.

“Iya betul, namun saya saat ini masih menanyakan apakah para korban sudah membuat laporan atau belum,” kata Made.

Dua persoalan dalam satu kasus

Kasus tersebut tidak hanya berkaitan dengan penganiayaan.

Sehari sebelumnya, Polres Metro Jakarta Timur menyatakan tengah mengusut dugaan pelecehan seksual melalui penyalahgunaan foto yang disunting menggunakan AI. Penyidikan dilakukan Unit Perlindungan Perempuan dan Anak (PPA) Satreskrim Polres Metro Jakarta Timur.

“Memang terjadi pada salah seorang siswa yang melakukan perbuatan tersebut dan saat ini masih dilakukan penyidikan oleh Unit Perlindungan Perempuan dan Anak (PPA) Satreskrim Polres Metro Jakarta Timur,” ujar Made.

Polisi menyebut foto sejumlah siswi diduga diubah menggunakan AI sehingga menyerupai konten dewasa. Penyidik masih mendalami mekanisme penyuntingan foto, pihak yang menerima atau menyebarkan hasil suntingan serta jumlah korban.

Made juga menjelaskan bentuk manipulasi yang sedang didalami penyidik.

“Iya jadi fotonya dijadiin stiker, foto badan korban apa ini (dibuat) editan, yang seperti itu,” ucapnya.

Polisi belum membeberkan identitas siswa maupun korban dalam perkara tersebut. Informasi mengenai dugaan sekitar 200 foto yang beredar sebelumnya berasal dari unggahan media sosial dan belum seluruhnya dikonfirmasi sebagai fakta hukum oleh kepolisian.

Dengan demikian, terdapat dua rangkaian persoalan yang kini ditangani yakni dugaan penyalahgunaan foto menggunakan AI dan dugaan penganiayaan terhadap siswa yang disebut membuat atau mengedit foto tersebut.

Pemerintah: keselamatan anak tidak boleh diserahkan kepada algoritma

Kasus tersebut muncul ketika pemerintah Indonesia sedang memperkuat pembahasan mengenai perlindungan anak di tengah perkembangan AI.

Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid dalam forum tingkat tinggi di sela Sidang Umum ke-81 PBB di New York pada Selasa (22/9/2026) mengatakan sekitar 70 juta anak Indonesia akan tumbuh dalam ekosistem digital yang semakin dipengaruhi AI.

“Anak-anak kita akan hidup semakin dekat dengan AI. Karena itu, keselamatan dan hak anak harus kita pastikan sejak awal, bukan setelah risikonya terjadi,” ujar Meutya.

Menurut Meutya, AI memberikan peluang bagi anak untuk belajar, berkreasi dan memperoleh pengetahuan. Namun, teknologi yang sama juga membawa risiko baru.

“Kita tidak bisa menyerahkan keselamatan anak kepada algoritma. Pemerintah, platform teknologi, industri, orang tua, sekolah, dan komunitas internasional harus mengambil tanggung jawab masing-masing,” katanya.

Dalam forum tersebut, Indonesia bersama negara dan organisasi lain juga mendorong agenda perlindungan anak di era AI.

Peta jalan 2026–2027 yang diluncurkan dalam forum itu mencakup penguatan keselamatan dan privasi sejak tahap perancangan teknologi, akuntabilitas, standar pengujian, literasi AI serta penanganan penyalahgunaan AI untuk menghasilkan materi kekerasan seksual terhadap anak dan deepfake.

Politikus Golkar itu menegaskan bahwa perkembangan AI membutuhkan kerja sama lintas negara karena teknologi tersebut tidak mengenal batas wilayah.

“Dunia sedang menentukan aturan main AI. Indonesia ingin memastikan suara anak-anak ikut diperhitungkan dalam proses itu,” ujar Meutya.

Indonesia sebelumnya telah menerbitkan Permen Komdigi Nomor 9 Tahun 2026 sebagai aturan pelaksanaan PP Nomor 17 Tahun 2025 tentang tata kelola sistem elektronik dalam pelindungan anak.

Pemerintah juga tengah menyusun kerangka tata kelola AI yang lebih luas, termasuk Rancangan Peraturan Presiden tentang Etika AI dan Peta Jalan AI Nasional.

Namun, kasus Jakarta Timur memperlihatkan persoalan yang lebih spesifik yakni ketika AI digunakan untuk memanipulasi foto anak lain tanpa persetujuan dan kemudian memicu konflik di lingkungan sekolah.

Persoalannya bukan hanya bagaimana teknologi tersebut digunakan, tetapi bagaimana sekolah, orang tua, platform dan aparat merespons ketika manipulasi digital menghasilkan konsekuensi di dunia nyata.

Dunia mulai mengatur deepfake

Sejumlah negara dan kawasan juga mulai membuat aturan yang lebih spesifik terhadap risiko AI dan deepfake.

Uni Eropa, misalnya, mulai memberlakukan ketentuan transparansi AI pada 2 Agustus 2026. Konten deepfake berupa gambar, video atau audio yang dibuat atau dimanipulasi dengan AI harus diberi penanda, termasuk penanda yang dapat dibaca mesin.

Uni Eropa juga menetapkan ketentuan terkait larangan pembuatan atau manipulasi materi intim nonkonsensual dan materi kekerasan seksual terhadap anak yang mulai berlaku pada Desember 2026.

Inggris mengambil pendekatan pidana yang lebih spesifik. Melalui Crime and Policing Act 2026, Inggris memperluas ketentuan pidana terhadap pembuatan, penyediaan atau penggunaan teknologi tertentu yang memungkinkan pembuatan gambar intim palsu.

Perkembangan tersebut menunjukkan bahwa persoalan AI tidak lagi hanya dilihat sebagai persoalan teknologi. Regulasi mulai bergerak ke wilayah privasi, perlindungan anak, persetujuan, tanggung jawab platform dan konsekuensi hukum dari manipulasi konten.

Di Indonesia, kasus siswa SMP di Jakarta Timur menjadi salah satu contoh bagaimana persoalan tersebut dapat muncul di lingkungan pendidikan.

Sebuah foto yang dimanipulasi di ruang digital dapat berubah menjadi persoalan sosial dan kemudian berujung pada kekerasan fisik.

Tetap Terhubung Dengan Kami:
WA Channel Ikuti Kami Subscribe

CATATAN REDAKSI: Apabila Ada Pihak Yang Merasa Dirugikan Dan /Atau Keberatan Dengan Penayangan Artikel Dan /Atau Berita Tersebut Diatas, Anda Dapat Mengirimkan Artikel Dan /Atau Berita Berisi Sanggahan Dan /Atau Koreksi Kepada Redaksi Kami Laporkan,
Sebagaimana Diatur Dalam Pasal (1) Ayat (11) Dan (12) Undang-Undang Nomor 40 Tahun 1999 Tentang Pers.