Di toko aplikasi, satu produk mendapat label:
“Kids Safe.”
Aplikasinya cerah.
Ada maskot.
Ada parental control.
Tidak ada iklan dewasa.
Seorang ibu hampir langsung mengunduh.
Anaknya bertanya:
“Boleh pakai?”
Ibunya berhenti.
“Sebentar.”
Ia melihat lagi.
Apakah anak harus membuat akun?
Data apa yang diminta?
Ada chat?
Ada pembelian?
Bisa delete akun?
Apakah anak tahu kalau sistem menggunakan AI?
Apakah aplikasi bisa dipakai tanpa memberikan nama lengkap?
Pertanyaan itu menunjukkan satu hal.
Teknologi yang baik untuk anak tidak cukup hanya terlihat ramah anak.
Ia harus menghormati hak anak.
Safety penting.
Tetapi hak anak lebih luas dari safety.
Anak punya hak atas privasi.
Informasi.
Pendidikan.
Partisipasi.
Ekspresi.
Perlindungan.
Non-discrimination.
Perkembangan.
Akses.
Dan kepentingan terbaik.
Teknologi yang bagus harus membantu memenuhi hak-hak itu, bukan memaksa keluarga memilih satu hak dengan mengorbankan semua yang lain.
Hak pertama: anak berhak diperlakukan sebagai manusia, bukan data point
Aplikasi melihat angka.
Login.
Skor.
Klik.
Waktu.
Riwayat.
Lokasi.
Preferensi.
Semua bisa berguna.
Tetapi anak bukan kumpulan variabel.
Anak punya konteks.
Sakit.
Lelah.
Berubah.
Belajar.
Punya keluarga.
Budaya.
Bahasa.
Kesempatan berbeda.
Teknologi yang baik menggunakan data tanpa menyederhanakan manusia menjadi skor.
Kalau sistem berkata:
“Anak ini berisiko rendah kemampuan membaca,”
itu harus diperlakukan sebagai sinyal yang perlu diperiksa.
Bukan identitas permanen.
Guru tetap melihat anak.
Orang tua tetap memberi konteks.
Anak tetap punya kesempatan berkembang.
Data membantu.
Data tidak mengambil alih kemanusiaan.
Hak privasi: ambil data secukupnya
Aplikasi membaca untuk anak.
Kenapa perlu lokasi presisi?
Tool matematika.
Kenapa perlu kontak?
Generator cerita.
Kenapa perlu nama sekolah?
Teknologi yang child-respecting tidak mengumpulkan data hanya karena bisa.
Ia punya tujuan jelas.
Data minim.
Setting masuk akal.
Retention masuk akal.
Penghapusan tersedia.
Indonesia melalui PP TUNAS dan UU PDP sudah memperkuat perlindungan data anak dalam lingkungan digital.
Bagi keluarga, praktiknya sederhana:
kalau fungsi bisa berjalan tanpa data tertentu, pilihan lebih baik adalah tidak mengambilnya.
Privacy bukan bonus premium.
Untuk anak, ia bagian desain dasar.
Hak atas informasi: anak perlu tahu apa yang terjadi
“Ini AI atau manusia?”
Anak seharusnya tidak menebak.
“Kenapa aku dapat rekomendasi ini?”
Anak seharusnya mendapat penjelasan proporsional.
“Data aku dipakai buat apa?”
Harus ada jawaban.
Informasi perlu sesuai usia.
Anak kecil butuh bahasa sederhana.
Remaja bisa mendapat detail lebih banyak.
Transparency tidak berarti membuka semua rahasia dagang.
Ia berarti pengguna memahami hal yang material bagi hak dan keputusan mereka.
Kalau sistem memengaruhi anak tetapi tidak bisa menjelaskan perannya, trust akan rapuh.
Teknologi yang baik tidak mengandalkan kebingungan anak.
Hak untuk didengar: anak bukan pengguna diam
Orang dewasa sering berkata:
“Kami tahu yang terbaik.”
Kadang benar.
Tetapi pengalaman anak tetap perlu didengar.
Tool belajar membuat anak stres.
Anak bilang.
Dengar.
Notifikasi terlalu banyak.
Dengar.
AI pronunciation sering salah.
Dengar.
Fitur membantu anak disleksia.
Dengar.
Chatbot membuat anak nyaman latihan bahasa.
Dengar.
Partisipasi bukan berarti semua permintaan dituruti.
Ia berarti suara anak menjadi salah satu bahan keputusan.
UNICEF menempatkan meaningful participation sebagai bagian penting AI yang berpusat pada anak.
Ini sangat masuk akal.
Kita tidak bisa mengklaim teknologi baik untuk anak kalau tidak pernah bertanya kepada mereka bagaimana rasanya menggunakan.
Hak atas perlindungan: safety harus lebih luas dari filter
Tidak ada konten seksual?
Bagus.
Tetapi bagaimana dengan scam?
Grooming?
Deepfake?
Bullying?
Dark pattern?
Pembelian impulsif?
Ketergantungan?
Manipulasi emosional?
Konten salah?
AI companion yang mendorong isolasi?
Teknologi aman harus melihat seluruh pengalaman.
PP TUNAS Indonesia juga melihat risiko anak secara lebih luas, termasuk data pribadi, adiksi, eksploitasi sebagai konsumen, dan risiko lain di ruang digital.
Safety bukan satu filter.
Ia ekosistem.
Report.
Block.
Privacy.
Age-appropriate design.
Human support.
Moderation.
Data governance.
Semua saling terhubung.
Hak non-discrimination: sistem harus bekerja untuk lebih dari “anak rata-rata”
Anak Indonesia beragam.
Bahasa.
Budaya.
Ekonomi.
Geografi.
Disabilitas.
Perangkat.
Akses internet.
Gender.
Kebutuhan belajar.
Teknologi yang bagus di sekolah elite kota belum tentu cocok di semua tempat.
Kalau AI belajar hanya bekerja baik dengan internet cepat, sekolah perlu alternatif.
Kalau voice system buruk untuk aksen tertentu, jangan gunakan skor sebagai keputusan final.
Kalau fitur tidak accessible, sebagian anak kehilangan kesempatan.
Fairness bukan membuat semua pengguna identik.
Fairness memastikan perbedaan tidak berubah menjadi diskriminasi yang tidak perlu.
Teknologi yang baik bertanya:
“Siapa yang tertinggal?”
Bukan hanya:
“Berapa pengguna aktif?”
Hak atas pendidikan: AI harus menambah kemampuan, bukan hanya jawaban
Anak memakai AI tutor.
Dalam 30 detik, tugas selesai.
Apakah itu teknologi pendidikan yang baik?
Belum tentu.
Pertanyaannya:
anak belajar apa?
AI yang bagus bisa:
memberi hint,
mengajukan pertanyaan balik,
menyesuaikan latihan,
menjelaskan konsep dengan cara lain,
membantu aksesibilitas,
memberi feedback.
Tetapi jika seluruh pengalaman hanya:
input soal,
keluar jawaban,
copy,
selesai,
hak atas pendidikan tidak otomatis terpenuhi.
Pendidikan bukan delivery jawaban.
Pendidikan membangun kemampuan.
Teknologi yang menghormati hak pendidikan menjaga agency anak.
Mereka tetap berpikir.
Mencoba.
Salah.
Memperbaiki.
Bertanya.
Hak bermain dan beristirahat juga penting
Anak berhak belajar.
Tetapi juga bermain dan beristirahat.
Aplikasi yang terus meminta engagement dapat mengganggu keseimbangan.
Streak.
Notifikasi.
Reward.
Autoplay.
Infinite scroll.
Semua harus dilihat dari perkembangan anak.
Teknologi yang baik tidak merasa menang hanya karena screen time naik.
Ia memberi ruang berhenti.
Tidak menghukum anak karena istirahat.
Tidak membuat anak cemas kehilangan progres.
Tidak mengubah semua waktu luang menjadi kesempatan engagement.
Kadang desain terbaik adalah tombol:
“Sudah cukup untuk hari ini.”
Hak berekspresi: jangan melindungi anak dengan membungkam semuanya
Safety bisa berlebihan.
Misalnya sistem memblokir diskusi kesehatan reproduksi yang sebenarnya edukatif.
Atau memblokir ekspresi identitas yang aman.
Atau membuat anak tidak bisa mencari bantuan.
Teknologi yang menghormati hak perlu membedakan konteks.
Anak membutuhkan informasi yang sesuai usia.
Membutuhkan ruang kreativitas.
Membutuhkan komunikasi.
Safety tidak sama dengan sensor total.
Ini sulit.
Tetapi hak anak memang saling berhubungan.
Perlindungan harus proporsional.
Tidak boleh membuat anak aman dengan cara membuat mereka tidak punya akses pada informasi penting.
Hak atas perkembangan: jangan kunci anak dalam profil lama
Sistem personalisasi suka profil.
“Anak ini suka X.”
“Lemah di Y.”
“Tidak cocok Z.”
Profil membantu rekomendasi.
Tetapi anak berubah.
Teknologi yang baik harus memberi ruang perubahan.
Anak yang dulu lemah matematika bisa berkembang.
Anak yang dulu pemalu bisa menjadi pemimpin.
Minat berubah.
Bahasa berkembang.
Kondisi keluarga berubah.
Jangan biarkan data lama menjadi penjara algoritmik.
Profile seharusnya bisa diperbarui.
Keputusan harus bisa ditinjau.
Anak perlu kesempatan mencoba hal baru.
Hak untuk berkembang berarti sistem tidak boleh terlalu cepat berkata:
“Ini siapa kamu.”
Hak atas pemulihan: kalau sistem salah, ada jalan memperbaiki
Teknologi bisa gagal.
AI salah.
Akun diblokir keliru.
Konten dihapus salah.
Skor salah.
Data bocor.
Rekomendasi merugikan.
Teknologi yang baik tidak hanya berkata:
“Kami berusaha sebaik mungkin.”
Ia punya mekanisme.
Report.
Appeal.
Correction.
Delete.
Human review.
Support.
Akuntabilitas terlihat ketika ada kesalahan.
Bukan ketika semua berjalan baik.
Untuk anak, jalur ini harus mudah.
Tidak masuk akal meminta anak 12 tahun membaca 14 halaman bantuan untuk menemukan formulir banding.
Desain pemulihan juga harus sesuai usia.
Best interests menjadi kompas
Hak anak bisa bertemu dan kadang berkonflik.
Privacy vs safety.
Access vs age restrictions.
Personalization vs profiling.
Freedom vs protection.
Bagaimana memilih?
Kepentingan terbaik anak menjadi salah satu kompas penting.
Tanya:
Apa manfaat?
Apa risiko?
Apa alternatif?
Data apa?
Apakah anak didengar?
Apakah ada kelompok yang dirugikan?
Apakah keputusan bisa dikoreksi?
Apakah manfaat jangka pendek mengganggu perkembangan jangka panjang?
PP TUNAS Indonesia menempatkan kepentingan terbaik anak sebagai prinsip penting.
UNICEF juga menjadikannya bagian child-centred AI.
Ini bukan jargon.
Ia cara menyusun keputusan.
Teknologi yang menghormati hak anak juga lebih baik untuk orang dewasa
Menariknya, banyak prinsip child-friendly juga membuat produk lebih baik secara umum.
Privacy default jelas.
Report mudah.
Transparansi.
Tidak manipulatif.
Aksesibel.
Data minim.
Bisa delete.
Ada human review.
Siapa yang tidak mau?
Mendesain untuk anak bisa menjadi stress test kualitas.
Kalau sistem aman dan bisa dipahami oleh pengguna yang lebih rentan, banyak pengguna lain juga mendapat manfaat.
Child rights bukan beban inovasi.
Ia standar kualitas manusia.
Orang tua juga punya tanggung jawab
Jangan semua dibebankan ke perusahaan.
Orang tua memilih tool.
Mengatur waktu.
Mendampingi.
Menjelaskan.
Mendengar.
Menjadi role model.
Menghapus aplikasi yang tidak cocok.
Membantu anak melapor.
Sekolah juga punya tanggung jawab.
Regulator punya tanggung jawab.
Perusahaan punya tanggung jawab.
Anak punya tanggung jawab yang sesuai usia.
Ekosistem diperlukan.
Tidak ada satu parental control yang bisa menggantikan semuanya.
Tidak ada satu regulasi.
Tidak ada satu aplikasi.
Hak anak dijaga oleh banyak pihak.
Tes satu menit sebelum memberikan teknologi
Orang tua bisa bertanya:
Apakah tool ini sesuai usia?
Apakah data yang diminta masuk akal?
Apakah anak tahu apa yang terjadi?
Apakah ada cara report?
Apakah bisa berhenti?
Apakah manusia masih ada untuk keputusan penting?
Apakah anak mendapat manfaat nyata?
Apakah ada kelompok pengguna yang dirugikan?
Tidak harus sempurna.
Tetapi kalau banyak jawabannya tidak jelas, jangan buru-buru.
Teknologi yang baik tidak takut diperiksa.
Kembali ke aplikasi “Kids Safe” tadi
Ibunya akhirnya menemukan:
umur sesuai,
privacy setting cukup jelas,
data bisa dihapus,
tidak ada DM dari orang asing,
pembelian membutuhkan konfirmasi,
dan orang tua bisa mematikan notifikasi.
Ia juga melihat satu hal yang kurang:
penjelasan AI-nya terlalu abstrak.
Mereka mencoba bersama.
Anak bertanya:
“Kalau dia jawab salah?”
Ibunya menjawab:
“Kita cek.”
Aplikasi itu mungkin tidak sempurna.
Tidak ada teknologi yang sempurna.
Tetapi keluarga sekarang menilainya dengan standar yang lebih baik.
Bukan:
“Warnanya lucu.”
Bukan:
“Katanya kids safe.”
Bukan:
“Teman-teman pakai.”
Standarnya:
apakah teknologi ini memperlakukan anak sebagai manusia yang punya hak?
Kalau jawabannya iya, teknologi punya fondasi yang baik.
Kalau jawabannya tidak, secanggih apa pun AI-nya, masih ada pekerjaan besar yang belum selesai.