Di ruang konseling sekolah, seorang guru melihat rekomendasi dari sistem digital.
“Prioritas rendah.”
Ia berhenti.
Siswa yang dimaksud sebenarnya sedang mengalami banyak masalah.
Akses internet di rumah tidak stabil.
Bahasa sekolah bukan bahasa yang paling sering dipakai di rumah.
Ia beberapa kali terlambat mengumpulkan tugas.
Sistem membaca pola.
Sedikit aktivitas.
Deadline lewat.
Skor menurun.
Dari data itu, sistem menilai engagement rendah.
Guru yang mengenal anak tahu gambarnya lebih rumit.
AI bias sering dibicarakan sebagai masalah teknis.
Dataset.
Model.
Accuracy.
Tetapi ketika bias mengenai anak, dampaknya bisa sangat manusiawi.
Anak bisa mendapat rekomendasi lebih buruk.
Tidak terdeteksi kebutuhannya.
Salah dikategorikan.
Bahasanya tidak dipahami.
Konten tidak mewakili dirinya.
Aksesnya lebih buruk.
Atau dianggap “bermasalah” karena sistem tidak memahami konteks.
UNICEF menempatkan non-discrimination, fairness, privacy, transparency, inclusion, dan best interests of the child sebagai bagian penting child-centred AI.
UNESCO pada laporan 2025 tentang AI dan hak atas pendidikan juga mengingatkan bahwa teknologi dapat memperdalam marginalisasi kelompok yang kurang terwakili, termasuk bahasa minoritas.
Bias tidak selalu berarti seseorang sengaja mendiskriminasi.
Tetapi dampaknya tetap bisa berat.
Dan bagi anak yang sudah rentan, satu kesalahan sistem bisa menambah beban yang sudah ada.
AI belajar dari dunia yang tidak sempurna
Model dilatih dengan data.
Data berasal dari manusia, institusi, internet, keputusan masa lalu, dan sistem sosial.
Kalau dunia punya ketimpangan, data bisa memuat jejaknya.
Kalau kelompok tertentu kurang terwakili, model mungkin kurang mampu memahami mereka.
Kalau bahasa tertentu sedikit tersedia dalam data digital, kualitas output bisa lebih buruk.
Kalau histori keputusan sudah bias, model bisa mempelajari pola tersebut.
AI tidak keluar dari ruang steril.
Ia membawa sebagian struktur dunia masuk ke sistem.
Ini alasan kita tidak boleh berkata:
“Komputer pasti objektif.”
Komputer menjalankan model.
Model dibuat dari pilihan.
Pilihan manusia selalu punya konteks.
Bias bisa muncul lewat bahasa
Anak menggunakan bahasa daerah.
AI tutor tidak memahami.
Jawabannya aneh.
Sistem menganggap prompt tidak jelas.
Anak merasa:
“Aku yang bodoh?”
Padahal masalahnya bisa pada representasi bahasa di sistem.
UNESCO pada laporan tentang hak atas pendidikan menyoroti ketimpangan representasi bahasa dalam konten digital dan risiko AI memperdalam marginalisasi bahasa yang kurang terwakili.
Ini contoh bias yang tidak selalu terlihat seperti diskriminasi.
Tidak ada kalimat kasar.
Tidak ada penolakan.
Tetapi kualitas layanan berbeda.
Kalau sekolah menggunakan AI, performa pada bahasa dan pola komunikasi lokal perlu diuji.
Jangan menganggap performa bahasa Inggris otomatis berlaku sama dalam bahasa lain.
Bias bisa muncul lewat akses
Anak dengan internet cepat dapat menggunakan AI tutor setiap malam.
Anak lain hanya bisa online saat berada di sekolah.
Ketika guru mulai menganggap penggunaan AI di rumah sebagai bagian normal, kelompok kedua tertinggal.
Ini bukan bias model.
Ini bias sistem penggunaan.
UNICEF membahas digital poverty dan ketidaksetaraan akses sebagai bagian isu non-discrimination dalam generative AI untuk anak.
AI education perlu melihat siapa yang tidak punya perangkat.
Siapa yang berbagi ponsel.
Siapa yang koneksinya mahal.
Siapa yang tidak punya ruang belajar.
Kalau tugas berbasis AI hanya realistis untuk sebagian anak, desain pembelajarannya tidak adil.
Bias bisa muncul dari data perilaku
Platform melihat:
anak jarang login.
Waktu tugas lama.
Sedikit klik.
Skor tertentu.
Kemudian menyimpulkan:
motivasi rendah.
Padahal mungkin koneksi buruk.
Perangkat dibagi dengan saudara.
Anak menggunakan screen reader sehingga pola navigasi berbeda.
Bahasa membuat waktu membaca lebih lama.
Ada tanggung jawab keluarga.
Data perilaku tidak menjelaskan penyebab.
Sistem yang mengubah korelasi menjadi label bisa merugikan.
Guru perlu membaca:
“Anak jarang login.”
sebagai pertanyaan:
“Kenapa?”
Bukan keputusan:
“Anak tidak engaged.”
Ini perbedaan human oversight.
Bias lebih berat kalau sistem menyentuh kesempatan
Kalau AI salah merekomendasikan satu video latihan, dampaknya kecil.
Kalau AI ikut menentukan:
siapa mendapat program khusus,
siapa dianggap berisiko,
siapa mendapat kesempatan,
siapa masuk kelompok tertentu,
siapa dianggap melanggar,
dampaknya jauh lebih besar.
Semakin high-stakes keputusan, semakin kuat kebutuhan human review.
Jangan menggunakan satu skor AI sebagai alasan keputusan besar tentang anak.
Harus ada konteks.
Bukti lain.
Kesempatan banding.
Koreksi.
Penjelasan.
Anak juga berhak tahu jika teknologi punya peran penting dalam keputusan yang memengaruhinya.
Transparency bukan hanya urusan orang dewasa.
Jangan biarkan bias menjadi self-fulfilling prophecy
Sistem menilai siswa “low potential”.
Guru melihat label.
Tanpa sadar memberi tugas lebih mudah.
Ekspektasi turun.
Anak jarang mendapat kesempatan menunjukkan kemampuan.
Skor tetap rendah.
Sistem merasa prediksinya benar.
Inilah loop yang berbahaya.
Prediksi memengaruhi lingkungan.
Lingkungan menghasilkan data yang memperkuat prediksi.
Untuk memutus loop, keputusan AI perlu dianggap provisional.
Bukan identitas.
Anak harus mendapat kesempatan keluar dari kategori.
Human judgment harus bisa menantang sistem.
Data baru harus bisa memperbarui.
Tidak ada anak yang layak dibekukan oleh label algoritmik.
Anak difabel menghadapi risiko tambahan
Speech recognition bisa kurang akurat pada pola bicara tertentu.
Interface bisa tidak accessible.
Sistem adaptive bisa salah membaca waktu respons.
Computer vision bisa gagal.
Jika sekolah memperlakukan output AI sebagai kebenaran, anak difabel bisa terkena dua lapis hambatan:
hambatan awal,
dan hambatan dari sistem yang tidak dirancang cukup inklusif.
Itulah kenapa inclusive design dan bias testing harus berjalan bersama.
Pertanyaan:
Apakah performa sistem diuji pada berbagai pengguna?
Apakah ada alternative input?
Apakah ada human fallback?
Apakah data disabilitas dilindungi?
Apakah anak bisa mengoreksi?
Fairness bukan slogan di policy.
Harus terlihat di pengalaman pengguna.
Anak dari keluarga berpenghasilan rendah juga bisa dirugikan oleh asumsi sistem
Contoh sederhana.
Platform menganggap siswa punya laptop personal.
Tugas panjang.
File besar.
Video HD.
AI feature cloud.
Untuk keluarga yang hanya punya satu ponsel, pengalaman berbeda.
Jika sistem kemudian membaca completion rendah sebagai kemampuan rendah, ketidakadilan bertambah.
Sekolah perlu membedakan performance dan opportunity to perform.
Anak hanya bisa menunjukkan kemampuan jika kondisi memungkinkan.
AI tidak boleh menghapus pertanyaan tentang kondisi.
Kadang teknologi sangat pintar memprediksi hasil.
Tetapi prediksi itu tidak memberi tahu apakah sistemnya adil.
Bias bisa masuk lewat konten generatif
Minta AI membuat ilustrasi “pemimpin”.
Siapa yang muncul?
Minta “ilmuwan”.
“Orang miskin.”
“Keluarga.”
“Anak pintar.”
Output bisa membawa stereotip.
Untuk anak, repetisi stereotip punya dampak.
Mereka belajar siapa yang dianggap cocok untuk profesi.
Siapa yang dianggap normal.
Siapa yang dianggap sukses.
Guru dapat menjadikan ini pelajaran AI literacy.
Buat beberapa prompt.
Bandingkan output.
“Ada pola nggak?”
“Siapa yang tidak terlihat?”
“Kenapa ini bisa terjadi?”
Sekarang bias bukan konsep abstrak.
Anak belajar melihat representasi.
Tetapi jangan menjadikan identitas rentan sebagai bahan lelucon eksperimen.
Diskusi perlu sensitif.
Guru juga dapat membuat log insiden sederhana. Bukan untuk mengumpulkan data anak sebanyak mungkin, tetapi untuk mencatat ketika sistem gagal dengan pola tertentu. Misalnya speech recognition berulang kali salah pada pengguna tertentu, rekomendasi terlalu sering menurunkan level, atau terjemahan bahasa lokal menghasilkan kesalahan serupa. Pola insiden lebih berguna daripada keluhan yang berdiri sendiri.
Jika pola muncul, penggunaan fitur bisa dihentikan sementara sampai ada evaluasi. Prinsip kehati-hatian penting karena anak tidak seharusnya menjadi eksperimen berjalan hanya agar sekolah bisa terus memakai teknologi yang belum terbukti cukup adil.
Bias audit tidak harus teknis tingkat tinggi
Sekolah bisa mulai sederhana.
Tool dipakai satu semester.
Lihat:
Siapa yang paling sering mengalami error?
Siapa yang paling sering butuh bantuan?
Apakah kualitas berbeda antar bahasa?
Apakah anak dengan assistive technology mengalami masalah?
Apakah rekomendasi tertentu menumpuk pada kelompok tertentu?
Apakah ada keluhan berulang?
Data kuantitatif ditambah feedback.
Kalau ada pola, investigasi.
Jangan menunggu bukti sempurna.
Sistem pendidikan punya tanggung jawab kehati-hatian.
UNICEF mendorong risk and impact assessment untuk EdTech dan AI, terutama ketika menyentuh hak anak.
Anak harus punya cara mengatakan “ini salah tentang saya”
Bayangkan sistem memberi label.
Anak tahu itu salah.
Apa yang bisa dilakukan?
Harus ada jalur.
Guru.
Administrator.
Koreksi data.
Review.
Penjelasan.
Tanpa mekanisme itu, AI menjadi otoritas tanpa banding.
Untuk anak, ini sangat berbahaya karena relasi kekuasaan sudah tidak seimbang.
Mereka lebih sulit menolak sistem.
Desain yang adil memberi ruang contestability.
Bahasa sederhana:
“Kalau sistem ini salah tentang kamu, kamu bisa bilang ke siapa?”
Kalau jawabannya tidak ada, governance-nya belum cukup.
Orang tua tidak perlu takut pada semua algoritma
Artikel ini bukan alasan menolak AI.
AI dapat membantu menemukan kebutuhan.
Memperluas akses.
Menyediakan materi.
Membantu guru.
Membuat pembelajaran lebih fleksibel.
Masalahnya adalah blind trust.
Orang tua dapat bertanya:
“Untuk keputusan apa sistem dipakai?”
“Apakah guru tetap memeriksa?”
“Data apa yang digunakan?”
“Kalau salah, bisa dikoreksi?”
“Apakah anak tahu?”
“Apakah tool diuji pada pengguna berbeda?”
Pertanyaan ini membuat AI governance lebih konkret.
Bukan debat abstrak “AI baik atau buruk”.
Sistem yang adil harus tetap memberi ruang koreksi.
Kembali ke rekomendasi “prioritas rendah”
Guru tadi tidak mengikuti begitu saja.
Ia melihat histori.
Bicara dengan siswa.
Tanya keluarga.
Ternyata masalah utama akses.
Sekolah kemudian mengatur alternatif tugas offline dan waktu akses perangkat.
Dalam beberapa minggu, pola berubah.
Kalau label awal dipercaya mentah-mentah, anak mungkin dianggap tidak termotivasi.
Human review mengubah cerita.
Bias AI bisa lebih berdampak pada anak yang sudah rentan karena teknologi tidak masuk ke ruang yang kosong.
Ia masuk ke dunia dengan ketimpangan akses, bahasa, ekonomi, disabilitas, dan kesempatan.
Kalau sistem salah, anak yang punya banyak sumber daya mungkin masih punya jalan lain.
Anak yang sumber dayanya sedikit bisa lebih sulit memperbaiki dampaknya.
Karena itu, fairness harus lebih dari rata-rata akurasi.
Pertanyaan paling penting bukan:
“Seberapa pintar modelnya?”
Tetapi:
“Ketika model salah, siapa yang paling dirugikan, siapa yang bisa memperbaikinya, dan apakah anak punya jalan untuk tetap diperlakukan sebagai manusia, bukan sebagai label?”