Jam istirahat belum selesai ketika satu video mulai berpindah dari ponsel ke ponsel.
Wajah seorang murid ditempel ke tubuh penyanyi terkenal. Gerak bibirnya dibuat seolah sedang menyanyikan lagu yang tidak pernah ia nyanyikan.
Anak-anak tertawa.
“Lucu doang.”
Lima menit kemudian, video masuk grup kelas.
Satu jam kemudian, ada yang mengunggah ulang ke akun lain.
Murid yang wajahnya dipakai akhirnya melihat.
Ia tidak tertawa.
Skenario seperti ini menunjukkan kenapa deepfake tidak bisa dinilai hanya dari niat pembuatnya.
“Aku cuma bercanda” mungkin menjelaskan niat awal.
Tetapi konsekuensi dinilai dari lebih banyak hal:
siapa yang wajah atau suaranya dipakai,
apakah ada persetujuan,
apa isi manipulasi,
siapa yang melihat,
apakah konten disebarkan,
apakah korban dipermalukan,
apakah ada unsur seksual,
apakah ada ancaman,
dan apakah reputasi atau keselamatan seseorang terdampak.
Deepfake bukan otomatis kejahatan dalam setiap bentuk.
Membuat karakter fiksi untuk proyek kreatif sangat berbeda dari memanipulasi wajah teman menjadi konten yang memalukan.
Karena itu anak perlu belajar konteks, bukan sekadar satu aturan “deepfake boleh” atau “deepfake dilarang”.
Mulai dari pertanyaan paling sederhana: wajah itu milik siapa?
Anak sering merasa foto yang sudah ada di galeri adalah bahan bebas.
“Kan fotonya sudah ada di Instagram.”
“Kan semua orang bisa lihat.”
“Kan aku cuma screenshot.”
Tetapi bisa melihat bukan berarti bebas menggunakan identitas orang sesuka hati.
Wajah adalah bagian dari identitas seseorang.
Di Indonesia, pelindungan data pribadi juga memberi perhatian khusus pada data biometrik dan data anak. Selain itu, pemerintah pada 2026 secara terbuka menyoroti manipulasi foto pribadi dengan AI sebagai isu privasi dan hak atas citra diri.
Untuk anak, penjelasannya tidak perlu seperti kuliah hukum.
Gunakan satu pertanyaan:
“Kalau wajah kamu dipakai tanpa izin untuk video yang bikin malu, kamu nyaman?”
Biasanya jawabannya langsung jelas.
Consent mengubah banyak hal
Bayangkan dua teman sepakat membuat video AI parodi untuk tugas sekolah.
Keduanya tahu.
Keduanya melihat hasil sebelum dipublikasikan.
Tidak ada konten merendahkan.
Audiensnya jelas.
Konteksnya transparan.
Bandingkan dengan:
satu anak diam-diam mengambil foto temannya,
membuat video palsu,
menambahkan suara yang tidak pernah diucapkan,
lalu mengirim ke grup dengan tujuan membuat teman menjadi bahan tertawaan.
Teknologinya sama.
Etikanya berbeda.
Consent bukan solusi untuk semua risiko, tetapi ia faktor penting.
Dan consent untuk satu penggunaan tidak otomatis berlaku untuk penggunaan lain.
Teman mungkin setuju fotonya dibuat meme di grup kecil.
Belum tentu setuju diunggah ke TikTok.
Mungkin setuju wajahnya dijadikan karakter superhero.
Belum tentu setuju dibuat seolah mengucapkan penghinaan.
Anak perlu memahami bahwa izin punya konteks.
“Cuma di grup kelas” tetap penyebaran
Anak sering membayangkan internet sebagai dua mode:
private dan viral.
Padahal ada banyak tingkat di antaranya.
Grup kelas.
Close friends.
Discord.
WhatsApp.
DM.
Grup game.
Semua tetap ruang di mana konten dapat disalin.
Screenshot.
Screen recording.
Forward.
Re-upload.
Sekali file dikirim, pembuat kehilangan banyak kontrol.
Ini salah satu konsekuensi paling nyata yang perlu dijelaskan.
Deepfake yang awalnya dilihat lima orang bisa berpindah ke lima ratus.
Dan pesan:
“Jangan sebar ya”
bukan teknologi penghapus.
Kalau anak tidak siap melihat kontennya berada di luar lingkaran awal, sebaiknya jangan kirim.
Konsekuensi sosial datang lebih cepat daripada konsekuensi hukum
Sebelum membicarakan pasal, lihat kehidupan sekolah.
Korban bisa malu datang ke kelas.
Teman-teman bisa mulai memanggil dengan julukan.
Video bisa memicu ejekan baru.
Guru harus menangani konflik.
Orang tua dipanggil.
Persahabatan rusak.
Anak yang membuat konten bisa kehilangan kepercayaan.
Sekolah dapat menerapkan aturan disiplin sesuai kebijakan yang berlaku.
Semua ini bisa terjadi bahkan sebelum ada proses hukum.
Itulah mengapa pendidikan deepfake tidak boleh hanya berbunyi:
“Jangan, nanti kena hukum.”
Anak perlu memahami dampak manusia.
Hukum penting.
Tetapi empati bekerja lebih awal.
Deepfake seksual adalah garis merah yang jauh lebih serius
Jika wajah seseorang dimanipulasi menjadi konten seksual atau pornografis, situasinya berubah secara drastis.
Pemerintah Indonesia pada Januari 2026 menegaskan bahwa manipulasi foto pribadi menjadi konten asusila dapat menimbulkan pelanggaran serius terhadap privasi dan hak citra diri, serta dapat berimplikasi pada sanksi administratif atau pidana sesuai fakta dan hukum yang berlaku.
KUHP baru juga sudah berlaku sejak 2 Januari 2026 dan mengatur konten pornografi.
Jika anak menjadi korban atau pembuatnya juga anak, penanganannya tetap membutuhkan pendekatan perlindungan anak dan proses hukum yang sesuai usia.
Jangan mencoba menyelesaikan deepfake seksual anak hanya dengan:
“hapus terus jangan diulang.”
Kalau ada materi seksual yang melibatkan anak, eksploitasi, ancaman, pemerasan, atau distribusi luas, segera libatkan orang dewasa yang bertanggung jawab dan jalur penanganan yang tepat.
Jangan memperbanyak file untuk “bukti” secara sembarangan.
Jangan meneruskan ke grup lain.
Jangan mempermalukan korban.
Fokus awal adalah menghentikan penyebaran dan melindungi anak.
Tidak semua deepfake memiliki konsekuensi hukum yang sama
Ini bagian yang harus dijelaskan secara jujur.
Tidak ada rumus:
“deepfake = otomatis pasal X.”
Fakta menentukan.
Manipulasi bisa bersinggungan dengan beberapa rezim hukum tergantung isinya.
Misalnya:
privasi dan data pribadi,
pencemaran atau serangan reputasi,
pornografi,
eksploitasi seksual,
ancaman,
penipuan,
atau aturan lain sesuai tindakan konkret.
UU ITE telah mengalami perubahan melalui UU Nomor 1 Tahun 2024.
KUHP baru berlaku sejak 2 Januari 2026.
UU Pelindungan Data Pribadi tetap relevan pada pemrosesan data pribadi.
UU Hak Cipta bisa relevan pada materi karya yang digunakan.
UU Perlindungan Anak dan UU TPKS dapat menjadi penting dalam situasi tertentu yang melibatkan kekerasan atau eksploitasi seksual.
Karena konfigurasi hukumnya bergantung fakta, orang tua sebaiknya tidak mencoba mendiagnosis kasus serius dari satu artikel internet.
Jika ada potensi korban atau pelanggaran serius, cari pendampingan hukum atau otoritas yang tepat.
Anak perlu tahu ini tanpa dibuat takut
Cara menyampaikan hukum kepada anak sangat menentukan.
Jangan:
“Kalau bikin begitu kamu bisa langsung masuk penjara.”
Pernyataan absolut seperti itu bisa tidak akurat dan menimbulkan kepanikan.
Lebih baik:
“Kalau kamu memakai wajah orang tanpa izin dan membuat konten yang merugikan, ada konsekuensi sekolah, sosial, dan dalam kasus tertentu bisa menjadi masalah hukum. Makin serius isinya, makin serius konsekuensinya.”
Itu lebih benar.
Anak memahami skala.
Bercanda tidak menghapus tanggung jawab.
Tetapi tidak semua kesalahan anak harus diperlakukan sebagai kriminalitas berat.
Respons harus proporsional.
Deepfake bisa menjadi bentuk bullying
Teknologi tidak mengubah dinamika lama sepenuhnya.
Dulu anak bisa membuat gambar ejekan.
Sekarang AI membuatnya lebih realistis, lebih cepat, dan lebih mudah disebar.
Kalau deepfake digunakan berulang untuk mempermalukan, mengucilkan, merusak reputasi, atau menakut-nakuti teman, masalahnya bisa masuk wilayah perundungan.
Sekolah perlu melihat perilaku.
Apakah korban meminta berhenti tetapi tidak dihentikan?
Apakah ada kelompok yang menargetkan satu anak?
Apakah materi dibuat semakin ekstrem?
Apakah anak takut datang ke sekolah?
Apakah konten dipakai untuk mengancam?
Jangan terpaku pada teknologi.
Lihat relasi kekuasaan dan dampaknya.
Deepfake mungkin hanya alat baru untuk perilaku lama yang menyakitkan.
Kalau anak sudah membuat, apa yang dilakukan?
Pertama, jangan langsung menyuruh anak menghapus semua lalu berharap selesai.
Cari tahu:
kontennya apa,
siapa yang menjadi target,
siapa yang sudah menerima,
apakah sudah diunggah publik,
apakah ada unsur seksual,
apakah ada ancaman atau pemerasan,
dan bagaimana kondisi korban.
Kedua, hentikan penyebaran.
Jangan kirim ulang.
Kalau memungkinkan, hapus dari akun yang masih dikuasai.
Laporkan pada platform jika perlu.
Ketiga, libatkan orang dewasa yang tepat.
Orang tua.
Sekolah.
Pihak perlindungan anak.
Aparat atau bantuan hukum jika situasinya serius.
Keempat, pikirkan pemulihan.
Permintaan maaf mungkin perlu.
Tetapi jangan memaksa korban langsung menerima.
Korban berhak butuh waktu.
Kelima, cari akar perilaku.
Apakah anak paham consent?
Apakah ia mengejar perhatian teman?
Apakah ada konflik sebelumnya?
Apakah ia tahu deepfake mudah menyebar?
Memperbaiki perilaku lebih penting daripada hanya menyita ponsel.
Kalau anak menjadi korban, jangan mulai dengan “kenapa fotomu ada di internet?”
Korban sering sudah merasa malu.
Pertanyaan menyalahkan membuat mereka semakin diam.
Mulai dengan:
“Kamu aman?”
“Kamu tahu siapa yang membuat?”
“Sudah tersebar di mana?”
“Ada ancaman?”
“Ada unsur seksual?”
“Ada yang minta uang atau memaksa kamu melakukan sesuatu?”
Lalu bantu.
Simpan informasi yang diperlukan untuk pelaporan secara aman tanpa ikut menyebarkan.
Hubungi sekolah jika melibatkan lingkungan sekolah.
Gunakan fitur report dan takedown platform.
Jika ada eksploitasi, ancaman serius, atau konten seksual anak, cari bantuan resmi.
Yang paling penting, jangan membuat korban merasa harus menyelesaikan sendiri karena “cuma bercanda anak-anak”.
Bercanda berhenti menjadi bercanda ketika satu orang menjadi target dan kehilangan kendali atas identitasnya.
Ajari tes tiga pintu sebelum membuat
Sebelum anak memakai wajah atau suara orang lain dalam AI, gunakan tiga pertanyaan.
Pintu pertama:
“Ada izin?”
Pintu kedua:
“Kalau orang itu melihat hasilnya, kira-kira ia merasa dihormati atau dipermalukan?”
Pintu ketiga:
“Kalau file ini tersebar jauh di luar rencana, apakah kita masih berani mempertanggungjawabkannya?”
Kalau salah satu pintu gagal, berhenti.
Tes ini tidak sempurna.
Tetapi mudah diingat.
Anak tidak perlu menghafal semua hukum untuk membuat keputusan awal yang lebih baik.
Sekolah juga perlu memperbarui aturan
Tata tertib yang hanya menulis:
“Dilarang melakukan cyberbullying”
mungkin terlalu umum.
Sekolah bisa memberi contoh:
manipulasi wajah,
voice cloning,
deepfake,
akun palsu,
penyebaran gambar sintetis yang merendahkan,
dan penggunaan AI untuk meniru identitas orang.
Aturannya perlu menjelaskan proses pelaporan dan pemulihan.
Bukan hanya hukuman.
Guru juga perlu tahu cara membedakan eksperimen kreatif dengan tindakan yang merugikan.
Membuat deepfake karakter sejarah untuk proyek dengan disclosure berbeda dari membuat teman seolah melakukan sesuatu yang memalukan.
Context matters.
Pada akhirnya, anak perlu belajar satu prinsip
Teknologi membuat banyak hal bisa dilakukan.
Etika dan hukum membantu kita menentukan mana yang layak dilakukan.
Anak yang membuat deepfake teman mungkin benar-benar menganggapnya lucu.
Itu tidak berarti ia anak jahat.
Tetapi ia perlu melihat hal yang belum terlihat dari layar:
wajah orang lain adalah bagian dari identitas mereka,
file digital bisa lepas dari kontrol,
niat bercanda tidak menghapus dampak,
dan konsekuensi bisa menjadi serius ketika konten menyerang privasi, martabat, seksualisasi, atau keselamatan seseorang.
Di kelas tadi, guru akhirnya meminta video berhenti disebarkan.
Pembuatnya duduk bersama korban dan orang tua masing-masing.
Tidak ada ceramah tentang “AI adalah ancaman masa depan”.
Yang dibahas justru lebih sederhana.
“Kalau teknologi bisa membuat seseorang seolah melakukan sesuatu yang tidak pernah ia lakukan, tanggung jawab kita harus lebih besar, bukan lebih kecil.”
Itulah pelajaran yang perlu tinggal lebih lama daripada videonya.