Grup keluarga mendadak ramai.
Skenario ini ilustratif.
Sebuah video pendek menunjukkan seseorang yang wajahnya sangat mirip paman keluarga.
Suaranya juga mirip.
Ia berkata sedang kehilangan ponsel dan meminta uang dikirim ke rekening tertentu.
Seorang anggota keluarga menulis:
“Ini Om?”
Remaja 17 tahun di grup menjawab:
“Jangan transfer dulu.”
“Lho, videonya jelas.”
“Telepon nomor Om yang biasa.”
Beberapa menit kemudian paman asli menjawab telepon.
Ia baik-baik saja.
Tidak kehilangan ponsel.
Video tadi bukan permintaan nyata.
Skenario semacam ini menunjukkan perubahan penting.
Dulu kita sering memakai dua hal sebagai bukti identitas:
wajah dan suara.
Sekarang generative AI dapat membuat atau memanipulasi keduanya.
UNICEF pada 2025 mengingatkan bahwa AI modern bisa menghasilkan lifelike images, videos, audio, dan teks yang tampak sangat nyata.
Maka literasi anak dan keluarga perlu berubah.
“Video ada” bukan akhir.
“Suara ada” bukan akhir.
Untuk permintaan sensitif, verifikasi identitas melalui kanal kedua.
Ini bukan paranoia.
Ini prosedur.
Deepfake tidak harus sempurna untuk berhasil
Orang sering berkata:
“Aku pasti bisa lihat kalau palsu.”
Mungkin.
Tetapi scam tidak butuh video sempurna.
Ia hanya perlu cukup meyakinkan ketika korban:
panik,
terburu-buru,
atau merasa mengenal orangnya.
Ada wajah.
Suara.
Permintaan darurat.
Otak mengisi sisanya.
Karena itu pertahanan terbaik bukan mengandalkan kemampuan mata dan telinga.
Gunakan protocol.
Permintaan uang?
Call back.
Permintaan OTP?
Jangan beri.
Permintaan password?
Jangan.
Permintaan tindakan mendesak?
Verifikasi.
Identitas digital sekarang perlu second channel.
Jika pesan datang dari video, cek lewat nomor tersimpan.
Jika dari voice note, telepon.
Jika dari akun baru, hubungi akun lama atau anggota keluarga lain.
Cross-channel verification lebih tahan lama daripada berburu artefak AI.
Wajah dan suara adalah data identitas
Anak perlu memahami kenapa cloning voice atau face bukan sekadar filter lucu.
Suara seseorang dapat menjadi bagian kuat dari identitas.
Wajah juga.
Menggunakan keduanya tanpa izin bisa menimbulkan masalah sosial dan privasi.
UNICEF Guidance on AI and Children menekankan privacy, safety, transparency, dan perlindungan hak anak.
Untuk proyek kreatif keluarga, gunakan consent.
“Boleh suaramu dipakai?”
“Boleh wajahmu dibuat karakter?”
Kalau tidak:
jangan.
Anak yang belajar consent saat proyek lucu lebih siap memahami batas saat teknologi dipakai secara manipulatif.
Etika dimulai sebelum ada korban.
Jangan menunggu deepfake berbahaya baru bicara.
Mulai dari lelucon kecil.
“Boleh nggak bikin Kakak seolah nyanyi lagu ini?”
Tanya Kakak.
Kalau tidak, cari karakter fiktif.
Video asli juga bisa punya audio palsu
Ini nuance lain.
Tidak semua deepfake berarti seluruh video sintetis.
Seseorang bisa memakai video nyata lalu mengganti suara.
Atau memotong beberapa bagian.
Atau menambahkan caption palsu.
Atau mengubah konteks.
Jadi pertanyaan:
“Video ini asli?”
terlalu luas.
Pecah.
Apakah gambar asli?
Apakah suara asli?
Apakah waktunya benar?
Apakah caption cocok?
Apakah editing mengubah makna?
Apakah orang tersebut benar mengatakan kalimat ini?
Anak belajar media layers.
Visual.
Audio.
Text.
Context.
Satu layer bisa benar, layer lain palsu.
Inilah mengapa multimodal literacy makin penting.
Jangan hanya fact-check file.
Fact-check klaim.
Label platform membantu membaca konteks
YouTube menyediakan disclosure “Made with AI” atau informasi tentang bagaimana sebuah konten dibuat ketika konten secara bermakna diubah atau disintesis dalam kondisi tertentu.
TikTok juga mewajibkan label realistic AI-generated content dan menggunakan C2PA Content Credentials sebagai salah satu strategi provenance.
Ini langkah bagus.
Ajarkan anak melihat.
Tetapi ada dua batas.
Pertama:
tidak semua konten sintetis pasti terlabel.
Kedua:
label AI tidak selalu berarti seluruh informasi salah.
Video edukasi bisa memakai ilustrasi AI.
Film pendek bisa sintetis.
Satire bisa jelas fiksi.
Yang penting:
apakah konteks transparan?
Untuk video paman meminta uang, label AI akan menjadi red flag besar.
Kalau tidak ada label, tetap verifikasi karena taruhannya tinggi.
Risk determines checking.
Buat kode keluarga
Untuk keluarga yang ingin sederhana, punya satu kata atau pertanyaan yang hanya diketahui keluarga untuk kondisi darurat bisa membantu.
Misalnya bukan data sensitif seperti tanggal lahir atau alamat yang mudah ditemukan.
Pilih pertanyaan internal yang tidak diposting publik.
Namun jangan mengandalkan satu kode selamanya.
Kalau bocor, ganti.
Lebih penting adalah kebiasaan call back.
“Kalau minta uang darurat, selalu telepon.”
Ini aturan lebih kuat.
Anak perlu tahu scammer sering mendorong urgency.
“Sekarang.”
“Jangan telepon siapa-siapa.”
“Rahasia.”
Urgency menurunkan waktu berpikir.
Protocol mengembalikan waktu.
Stop.
Call.
Confirm.
Baru bertindak.
Jangan menyalahkan orang yang tertipu
Deepfake makin realistis.
Orang bisa tertipu.
Jangan berkata:
“Kok nggak kelihatan palsu?”
Shame membuat orang enggan mengaku.
Kalau keluarga hampir transfer:
“Bagus tadi berhenti.”
Fokus pada process.
Jika sudah terlanjur, segera ambil langkah keamanan yang sesuai melalui bank, platform, atau pihak terkait.
Untuk anak, pesan penting:
kalau terlanjur klik atau share, bilang orang dewasa.
Jangan sembunyikan karena takut dimarahi.
Response speed bisa lebih penting daripada malu.
Ini safety culture.
Rumah harus menjadi tempat escalation.
Bukan tempat sidang pertama.
Jangan gunakan deepfake teman sebagai prank
Remaja bisa merasa:
“Cuma bikin dia ngomong ‘aku suka matematika’.”
Kelihatannya kecil.
Tetapi prinsipnya:
orang dibuat mengatakan sesuatu yang tidak pernah ia katakan.
Kalau dibagikan, audience bisa salah paham.
Kalau suara atau wajah teman digunakan tanpa izin, consent dilanggar.
Prank juga bisa berkembang.
Hari ini kalimat lucu.
Besok tuduhan.
Sekolah perlu garis jelas.
Jangan membuat synthetic media realistis yang menempatkan siswa lain dalam tindakan atau pernyataan palsu tanpa izin.
Kalau tugas ingin belajar deepfake literacy, gunakan karakter fiktif atau materi demonstrasi yang aman.
Technology education tidak memerlukan korban nyata.
Deepfake seksual terhadap anak bukan lelucon
Ini harus disebut secara tegas tetapi tidak grafis.
UNICEF pada Februari 2026 menegaskan bahwa sexualised images of children yang dibuat atau dimanipulasi AI adalah bentuk child sexual abuse material dan bahwa deepfake abuse menimbulkan bahaya nyata.
Untuk anak:
jangan membuat,
jangan meminta,
jangan menyimpan untuk lucu-lucuan,
jangan meneruskan.
Kalau menerima konten sintetis seksual yang melibatkan anak atau teman:
jangan menyebarkan lebih lanjut,
libatkan orang dewasa tepercaya,
dan gunakan jalur pelaporan atau bantuan yang sesuai.
Jangan mencoba “investigasi” dengan menyebarkan ke teman.
Safety dan dignity dulu.
Ini hard boundary.
Tidak ada eksperimen kreatif di wilayah itu.
Suara AI juga bisa berguna secara sah
Jangan jadikan pembahasan semua negatif.
Synthetic voice bisa membantu:
aksesibilitas,
dubbing,
storytelling,
karakter fiktif,
pendidikan,
dan produksi kreatif.
Kuncinya:
consent,
transparency,
dan penggunaan yang tidak menipu.
Seorang anak membuat audiobook dengan voice sintetis generik.
Boleh sesuai tool dan aturan.
Anak membuat karakter animasi bersuara.
Bisa seru.
Masalah bukan suara sintetisnya.
Masalah ketika suara itu dipakai untuk memalsukan identitas atau konteks.
Anak perlu melihat teknologi sebagai tool.
Bukan kategori moral hitam-putih.
Cara pakai menentukan dampak.
Buat permainan “call back”
Keluarga bisa simulasi aman.
Ayah mengirim pesan:
“Aku kehilangan dompet. Tolong transfer.”
Anak harus menjawab:
“Call back.”
Tidak perlu uang nyata.
Tidak perlu membuat deepfake.
Tujuan melatih protocol.
Skenario lain:
“Teman kirim voice note minta OTP.”
Jawab:
“Jangan beri.”
“Video saudara minta rahasia.”
Jawab:
“Hubungi lewat kanal lama.”
Anak belajar respons.
Bukan hanya teori.
Safety drill seperti simulasi kebakaran.
Tidak berharap kejadian.
Tetapi tahu apa yang dilakukan.
Jangan terlalu sering sampai cemas.
Sesekali cukup.
Jangan mengandalkan pertanyaan rahasia yang datanya ada di media sosial
Kalau keluarga memakai verifikasi tambahan, pilih sesuatu yang tidak mudah ditebak dari posting publik.
Tanggal lahir.
Nama sekolah.
Nama hewan peliharaan.
Tempat liburan favorit.
Semua mungkin sudah pernah diunggah.
Karena itu callback ke nomor yang memang sudah dikenal biasanya lebih kuat daripada satu pertanyaan trivia keluarga.
Kalau orang yang meminta bantuan bilang:
“Jangan telepon, baterai habis,”
justru itu alasan untuk semakin berhati-hati.
Hubungi anggota keluarga lain.
Tunggu.
Gunakan kanal yang sudah dikenal.
Scam memanfaatkan tekanan agar korban merasa tidak punya waktu.
Keluarga bisa membuat aturan eksplisit:
Tidak ada keadaan darurat finansial yang membatalkan langkah verifikasi.
Kalau benar-benar darurat, tambahan satu atau dua menit untuk konfirmasi tetap lebih baik daripada mengirim uang ke pihak salah.
Anak tidak harus menghafal teknologi deepfake.
Ia cukup menghafal procedure.
Orang tua juga harus mengurangi data publik berlebihan
Semakin banyak sample wajah dan suara seseorang tersedia publik, semakin banyak material yang berpotensi dipakai oleh pihak lain, meski risiko teknis spesifik bergantung banyak faktor.
Keluarga tidak perlu panik menghapus semua foto.
Tetapi bisa lebih sadar.
Apakah perlu upload video anak setiap hari?
Apakah nama lengkap, sekolah, jadwal, dan suara semuanya dipublikasikan bersama?
Data minimization masuk akal.
Sharenting dan posting keluarga perlu memikirkan privacy.
Bukan karena satu unggahan otomatis menghasilkan deepfake.
Jangan fearmonger.
Karena setiap publikasi punya audience dan persistence.
Anak berhak dilibatkan sesuai usia.
“Boleh Mama upload?”
Pertanyaan itu membangun agency.
Kalau video atau voice note membuat keluarga panik, jangan biarkan rasa panik menentukan urutan tindakan. Urutannya tetap sama: berhenti, hubungi kanal yang dikenal, konfirmasi identitas, baru ambil keputusan. Jangan biarkan satu video memotong prosedur yang sebenarnya sudah keluarga sepakati bersama sejak awal sekali itu.
Kembali ke grup keluarga
Paman asli akhirnya menulis:
“Itu bukan saya.”
Semua lega.
Satu anggota keluarga berkata:
“Gila, suaranya mirip.”
Remaja tadi menjawab:
“Makanya jangan percaya cuma karena ada video.”
Ibunya menambahkan:
“Mulai sekarang kalau minta transfer, telepon dulu.”
Aturan baru lahir.
Sederhana.
Video ada.
Suara ada.
Masih bisa palsu atau dimanipulasi karena media digital sekarang bisa dibuat, diubah, dan dikombinasikan dengan sangat realistis.
Anak tidak perlu menjadi ahli deepfake detection.
Mereka perlu tiga kemampuan yang lebih tahan lama:
menahan urgency,
memeriksa lewat kanal kedua,
dan memahami bahwa wajah atau suara bukan lagi bukti tunggal identitas.
Teknologi membuat imitasi semakin kuat.
Keluarga perlu membuat verifikasi semakin normal.