Kasus Pelecehan Digital oleh Siswa SMP Menggunakan AI dan Deepfake

Kasus terbaru siswa SMP yang menggunakan teknologi AI dan deepfake untuk membuat dan menyebarkan gambar tidak pantas dari teman sekelas mereka telah terungkap. Kali ini, insiden tersebut terjadi di Kabupaten Hadong, Gyeongnam, menyusul situasi serupa di Busan.

Kasus ini melibatkan lima siswa dari sebuah SMP setempat yang diduga menggunakan teknologi deepfake untuk menggabungkan konten eksplisit dengan foto teman sekelas perempuan mereka. Gambar yang diubah tersebut kemudian dibagikan di berbagai platform media sosial. Cakupan pelecehan digital ini melampaui satu sekolah, dengan korban yang diidentifikasi dari empat SMP berbeda di daerah tersebut, dengan total 12 siswa yang terkena dampak.

Pembuatan gambar yang dimanipulasi ini dilaporkan terjadi di berbagai lokasi, termasuk rumah pelaku dan warnet. Insiden yang dimulai pada akhir April tersebut baru diketahui pihak berwenang pada akhir Juli ketika seorang orang tua menemukan konten yang mengganggu tersebut.

Setelah ditemukan, pihak sekolah melaporkan insiden tersebut ke saluran yang sesuai, yang mengarah pada penyelidikan yang sedang berlangsung oleh polisi setempat dan unit cyber khusus Badan Kepolisian Gyeongnam. Kantor Dukungan Pendidikan Hadong juga mengambil tindakan, menjadwalkan pertemuan untuk mengatasi masalah tersebut dan menentukan potensi konsekuensi bagi mereka yang terlibat.

Namun, kasus ini rumit karena pertimbangan hukum. Berdasarkan undang-undang saat ini, anak-anak berusia antara 10 dan 14 tahun tidak dapat menghadapi tuntutan pidana tetapi dapat dikenakan tindakan perlindungan seperti masa percobaan atau pengabdian masyarakat.

Menambah kerumitan situasi, penanganan pihak sekolah terhadap dampaknya telah menimbulkan tanda tanya. Berdasarkan preferensi yang diungkapkan oleh para korban, baik pelaku yang diduga maupun korban terus menghadiri kelas bersama, sebuah keputusan yang dapat dimengerti tidak diterima dengan baik oleh para korban dan orang tua mereka.

Seiring dengan meningkatnya kasus kejahatan seksual digital yang serupa, begitu pula kebutuhan akan undang-undang yang lebih ketat seputar AI, deepfake, dan teknologi serupa. Kejahatan yang sangat mirip terjadi di sebuah SMP di Busan beberapa hari sebelumnya — Anda dapat membaca lebih lanjut tentang hal itu di bawah ini.

Siswa SMP Tertangkap Membuat dan Mengedarkan Foto Eksplisit Siswa Perempuan Menggunakan Deepfake