Seorang anak 11 tahun ingin membuat karakter untuk cerita sekolah.
Skenario ini ilustratif.
“Namanya Zara.”
Kakaknya bertanya:
“Zara siapa?”
“Detektif.”
“Umurnya?”
“Sebelas.”
“Sekolah di mana?”
Anak menyebut nama sekolahnya sendiri.
Kakaknya berhenti.
“Kalau karakter fiktif, sekolahnya bikin fiktif juga, yuk.”
“Kenapa?”
“Biar ceritanya seru tanpa masukin data asli.”
Ini contoh kecil dari desain karakter AI yang aman.
Membuat karakter dengan generative AI bisa menjadi proyek menyenangkan.
Anak memilih nama.
Pakaian.
Warna.
Sifat.
Dunia.
Misi.
Teman.
Musuh.
Teknologi membantu memberi visual.
Tetapi proyek karakter anak perlu beberapa pagar.
Jangan memakai data nyata yang tidak perlu.
Jangan memakai identitas teman tanpa izin.
Jangan membuat konten seksual atau eksploitatif.
Jangan menyamarkan karakter AI sebagai manusia nyata untuk menipu.
Dan jangan membiarkan generator mengambil alih semua keputusan.
Karakter yang aman sebaiknya juga karakter yang benar-benar punya cerita.
Mulai dari karakter fiktif, bukan wajah teman
Ini pilihan paling sederhana.
Daripada:
“Buat karakter yang mirip teman sebangku.”
Coba:
“Buat karakter fiktif anak penjelajah yang suka serangga dan memakai jaket hijau.”
Tidak ada foto.
Tidak ada nama asli.
Tidak ada sekolah.
Anak tetap bisa membuat karakter yang relatable.
Kalau ingin terinspirasi teman, ambil kualitas umum.
“Dia suka basket.”
“Dia lucu.”
“Dia selalu bawa buku.”
Jangan ambil identitas tanpa izin.
UNICEF dalam Guidance on AI and Children 2025 menekankan perlindungan data dan privasi anak sebagai bagian utama AI yang bertanggung jawab.
Dalam proyek rumah, prinsip itu bisa diterjemahkan sangat sederhana:
Fiksi dulu.
Data asli hanya kalau memang diperlukan dan ada izin yang tepat.
Kebanyakan proyek karakter tidak memerlukan wajah nyata.
Maka jangan masukkan.
Buat character bible kecil
Supaya AI tidak menentukan karakter setiap kali, buat kartu.
Nama:
Zara.
Umur:
11.
Dunia:
Kota Awan, fiktif.
Tujuan:
menemukan kenapa lampu kota mati setiap jam sembilan.
Sifat:
penasaran, cepat bicara, takut ketinggian.
Kekuatan:
ingat detail kecil.
Kelemahan:
suka menyimpulkan terlalu cepat.
Benda:
kaca pembesar berbentuk bulan.
Tiga aturan:
tidak punya kekuatan super,
tidak membawa senjata,
selalu bekerja dengan teman.
Sekarang anak punya otoritas.
Jika AI menghasilkan Zara terbang:
“Tidak cocok.”
Kalau AI memberi pedang:
“Hapus.”
Anak tidak sekadar meminta karakter.
Ia menjaga continuity dan safety.
Character bible juga membantu jika proyek berlanjut menjadi komik atau animasi.
AI bisa berubah output.
Kartu karakter menjaga identitas.
Jangan memberikan alamat nyata untuk membuat latar lebih realistis
Anak mungkin ingin:
“Zara tinggal di komplek kita.”
Tidak perlu memasukkan alamat.
Buat tempat fiktif.
“Gang Bintang.”
“Jalan Pelangi 7.”
Jangan gunakan nomor rumah asli.
Jangan menulis jadwal anak.
Jangan masukkan nama guru.
Tidak menambah kualitas cerita secara berarti.
Data minimization membuat proyek lebih aman.
Ini juga mengajarkan anak memisahkan realisme dari data nyata.
Cerita bisa terasa Indonesia tanpa menggunakan identitas asli.
Warung.
Hujan sore.
Angkot.
Lapangan.
Kantin.
Kota.
Semua bisa jadi texture.
Tidak perlu koordinat.
Kreativitas justru bekerja saat anak menciptakan detail.
Karakter anak tidak perlu “sempurna”
Generator sering menghasilkan karakter menarik secara visual.
Kulit mulus.
Rambut rapi.
Pakaian keren.
Proporsi ideal.
Anak bisa mulai berpikir karakter yang bagus harus selalu cakep.
Tantang.
“Zara punya gigi ompong satu.”
“Sepatunya beda warna.”
“Dia suka salah pasang kaus kaki.”
Bukan untuk membuat jelek.
Untuk membuat manusiawi.
Karakter yang terlalu sempurna sering kurang punya cerita.
Keunikan bisa datang dari kebiasaan.
Gesture.
Kelemahan.
Cara bicara.
Pilihan.
Bukan hanya wajah.
Ini juga membantu mengurangi tekanan appearance.
AI character design tidak harus menjadi beauty generator.
Anak bisa belajar bahwa visual menarik dan tubuh sempurna bukan hal yang sama.
Keamanan bukan berarti karakter tidak boleh mengalami konflik
Karakter aman bukan karakter yang hidupnya selalu baik-baik saja.
Cerita butuh konflik.
Zara boleh tersesat.
Boleh salah menuduh.
Boleh takut.
Boleh bertengkar.
Boleh gagal.
Yang dijaga adalah bagaimana konten disesuaikan usia dan tidak mengajarkan perilaku berbahaya tanpa konteks.
Misalnya anak ingin:
“Zara bikin eksperimen listrik berbahaya.”
Kita bisa ubah.
“Zara menemukan panel listrik rusak dan memanggil orang dewasa.”
Masih ada ketegangan.
Tidak ada tutorial berbahaya.
Atau:
“Zara mengejar pencuri sendirian malam-malam.”
Ubah:
“Zara mengamati dari tempat aman dan meminta bantuan.”
Cerita tidak menjadi membosankan.
Constraint safety justru menciptakan solusi baru.
Jangan semua karakter perempuan harus cantik, semua laki-laki harus kuat
AI dapat mereproduksi pola stereotip dari data dan desain.
UNICEF memasukkan non-discrimination dan fairness sebagai prinsip AI untuk anak.
Dalam proyek karakter, orang tua atau guru bisa menjadikannya latihan.
Lihat sepuluh output.
“Kenapa ilmuwannya selalu berkacamata?”
“Kenapa pemimpinnya laki-laki?”
“Kenapa karakter cantik semua kurus?”
“Kenapa orang tua digambar selalu tua sekali?”
Tidak perlu menuduh tool secara abstrak.
Amati.
Kalau pola sempit muncul, ubah prompt.
Buat karakter lebih beragam.
Profesi.
Tubuh.
Kepribadian.
Latar.
Anak belajar bahwa output AI bukan definisi dunia.
Ia adalah material yang bisa dikritik.
Ini literacy sekaligus creativity.
Buat nama dan identitas original
Anak suka superhero terkenal.
Ia ingin:
“Zara anaknya karakter X.”
Untuk proyek privat, fan play mungkin terjadi.
Tetapi jika proyek akan dipublikasikan, lomba, atau dijual, lebih aman membangun dunia original.
Jangan bergantung pada karakter atau brand terkenal.
Nama sendiri.
Lambang sendiri.
Dunia sendiri.
Aturan sendiri.
Ini mengurangi isu IP dan memperkuat creativity.
Tanya:
“Kalau nggak boleh pakai karakter itu, apa yang paling kamu suka dari idenya?”
“Dia punya alat.”
“Oke. Zara punya alat apa yang beda?”
“Kaca pembesar yang bisa rekam suara.”
Sekarang karakter tumbuh.
Bukan copy.
Anak belajar mengambil prinsip lalu membuat keputusan.
Jangan cloning suara anak untuk karakter tanpa pertimbangan
Karakter AI bisa punya suara.
Godaan:
“Pakai suara kamu.”
Sebelum upload sample voice ke layanan, cek kebijakan.
Suara adalah data identitas.
Untuk proyek sederhana, gunakan suara anak yang direkam biasa tanpa cloning, atau voice fiktif yang disediakan layanan sesuai terms.
Kalau anak ingin membacakan dialog sendiri, bagus.
Ia belajar performance.
Tidak semua efek perlu AI.
UNICEF menekankan privacy dan safety.
Prinsipnya konsisten:
Kalau fitur membutuhkan data sensitif yang tidak dibutuhkan tujuan, pilih jalan lain.
Kreativitas punya banyak opsi.
Jangan membuat proyek bergantung pada biometrik.
Bedakan karakter AI dan AI companion
Karakter untuk cerita tidak sama dengan chatbot companion.
Zara bisa menjadi tokoh komik.
Tidak perlu dibuat menjadi “teman” yang mengobrol 24 jam dengan anak.
Kalau proyek melibatkan conversational character, orang tua perlu lebih hati-hati.
Anak harus tahu:
karakter tidak punya perasaan manusia,
respons dihasilkan sistem,
jangan membagikan informasi pribadi,
dan jangan menjadikan chatbot satu-satunya tempat mencari dukungan emosional.
Untuk anak lebih kecil, lebih aman menjaga karakter sebagai karya kreatif daripada hubungan sosial yang dibuat terasa nyata.
Buku.
Komik.
Animasi.
Permainan peran keluarga.
Semua sudah cukup.
Jangan memaksakan AI menjadi teman jika tujuannya hanya storytelling.
Transparency sejak awal
Anak menunjukkan Zara ke temannya.
“Ini aku gambar.”
Padahal visual utamanya generated.
Koreksi tanpa mempermalukan.
“Bilang yang lebih tepat.”
“Aku desain karakternya, gambarnya dibantu AI.”
Bagus.
Transparansi adalah bagian safe creation.
Kalau karakter diposting:
“AI-assisted character concept.”
Tidak harus besar seperti warning.
Cukup jujur.
Jika visual realistis dapat dikira manusia nyata, disclosure lebih penting.
Platform seperti YouTube dan TikTok juga memiliki mekanisme disclosure untuk synthetic content dalam konteks tertentu.
Anak belajar provenance.
Siapa membuat?
Alat apa?
Apakah ini fiksi?
Kebiasaan ini membantu ketika ia menjadi penonton juga.
Orang yang terbiasa memberi konteks akan lebih peka mencari konteks.
Buat checklist karakter aman
Sebelum final:
Apakah karakter fiktif?
Apakah ada data pribadi nyata?
Apakah wajah atau suara orang lain dipakai dengan izin?
Apakah ada elemen seksual atau eksploitasi yang tidak pantas?
Apakah perilaku berbahaya digambarkan tanpa konteks?
Apakah karakter terlalu mirip IP terkenal?
Apakah anak tahu tool yang dipakai?
Apakah perlu disclosure?
Apakah karakter masih punya keputusan anak?
Checklist tidak harus dicetak.
Bisa menjadi kebiasaan.
Safety tidak berdiri di akhir sebagai polisi.
Ia masuk desain.
Ini prinsip yang bagus.
Kalau sejak awal character bible mengatakan:
“tidak membawa senjata,”
banyak keputusan aman terjadi otomatis.
Safety by design dalam versi keluarga.
Jangan biarkan AI memberi seluruh backstory
Anak meminta:
“Bikin semua cerita hidup Zara.”
AI menghasilkan:
lahir di mana,
orang tua siapa,
trauma,
mimpi,
musuh,
sekolah,
ending.
Anak hanya menerima.
Karakter menjadi milik generator secara rasa.
Lebih baik gunakan metode pertanyaan.
AI:
“Berikan lima pertanyaan untuk mengembangkan karakter detektif anak.”
Kemudian anak menjawab.
Apa yang Zara takutkan?
Ketinggian.
Siapa sahabatnya?
Nino.
Kenapa suka misteri?
Karena sering kehilangan barang sendiri.
Lucu.
Spesifik.
Anak menulis.
AI membantu proses interview.
Karakter tumbuh dari keputusan anak.
Ini jauh lebih membangun kreativitas.
Buat “satu detail yang AI tidak boleh ubah”
Anak memilih:
kaca pembesar bulan.
Setiap output harus punya itu.
Jika hilang, revisi.
Detail ini menjadi anchor.
Latihan bagus untuk consistency dan agency.
Setelah beberapa gambar, anak mungkin punya tiga anchor:
jaket hijau,
kaca pembesar bulan,
satu tali sepatu merah.
AI yang berubah-ubah memaksa anak mengawasi.
Ia belajar melihat continuity.
Tool tidak selalu benar.
Anak menjadi editor.
Kembali ke Zara
Kakaknya melihat character sheet.
“Sekolahnya apa?”
Anak menulis:
“SD Awan 3.”
“Alamat?”
“Rahasia.”
“Bagus.”
“Kenapa bagus?”
“Karena memang nggak perlu.”
Anak lalu membuat scene pertama.
Zara berdiri di depan perpustakaan fiktif.
Tidak ada foto teman.
Tidak ada nama sekolah nyata.
Tidak ada alamat.
Karakter tetap terasa hidup.
Membuat karakter AI yang aman tidak membutuhkan anak menjadi ahli keamanan siber.
Mulai dengan tiga kebiasaan:
buat fiksi ketika data nyata tidak perlu,
minta izin ketika identitas orang lain terlibat,
dan biarkan anak tetap memegang keputusan kreatif.
Teknologi boleh membantu wajah karakter muncul.
Anak yang menentukan siapa karakter itu.