Di sebuah kelas seni, guru memberi tantangan sederhana.
“Coba minta AI membuat gambar seorang ilmuwan.”
Anak-anak mengetik prompt masing-masing.
Beberapa detik kemudian, layar terisi gambar.
Seorang murid mengangkat tangan.
“Bu, kok kebanyakan orangnya mirip?”
Guru berjalan mendekat.
Anak lain ikut membandingkan hasil.
“Punyaku juga.”
Mereka mencoba lagi.
“Bikin ilmuwan dari Indonesia.”
Hasil berubah, tetapi masih ada pola yang terasa sempit.
Guru tidak langsung mengatakan, “AI-nya rasis,” atau “AI-nya buruk.”
Ia bertanya:
“Menurut kalian, sistem ini belajar gambaran ilmuwan dari mana?”
Kelas mendadak lebih serius.
Inilah cara bias AI sebaiknya dibicarakan dengan anak.
Bukan sebagai teori teknis yang jauh.
Bias bisa muncul dalam gambar, bahasa, rekomendasi, skor, pencarian, dan keputusan.
Kadang terlihat lucu.
Kadang terlihat kecil.
Tetapi ketika sistem dipakai untuk keputusan yang berdampak pada pendidikan, kesempatan, atau reputasi anak, bias bisa ikut memengaruhi masa depan mereka.
Bias bukan berarti mesin punya prasangka seperti manusia
Ini distinction penting.
Ketika kita berkata AI bias, bukan berarti model duduk diam lalu “membenci” kelompok tertentu.
Bias dapat muncul dari banyak tempat.
Data pelatihan.
Cara data dikumpulkan.
Representasi yang tidak seimbang.
Label yang dibuat manusia.
Tujuan sistem.
Variabel yang dipilih.
Cara output ditafsirkan.
Konteks penggunaan.
Bahkan keputusan siapa yang dianggap “normal”.
AI belajar pola dari data.
Kalau data membawa pola ketidaksetaraan atau stereotip, sebagian pola itu dapat muncul kembali.
Kalau sebagian kelompok kurang terwakili, sistem bisa bekerja lebih buruk untuk mereka.
Kalau ukuran sukses terlalu sempit, sistem bisa menguntungkan anak yang paling cocok dengan ukuran itu.
Jadi bias bukan satu bug yang selalu bisa diperbaiki dengan satu tombol.
Ia bisa menjadi masalah sepanjang siklus hidup sistem.
Data masa lalu bisa membawa ketidakadilan masa lalu
Bayangkan sekolah menggunakan data historis untuk memprediksi siapa yang “berpotensi tinggi” masuk program tertentu.
Masalahnya, data historis tidak netral.
Mungkin di masa lalu hanya siswa tertentu yang punya akses les.
Mungkin siswa dengan internet bagus lebih banyak menyelesaikan tugas online.
Mungkin ada kelompok yang kurang mendapat rekomendasi guru.
Jika pola lama dipakai sebagai contoh “keberhasilan”, sistem bisa belajar mengulang pola itu.
Lalu orang berkata:
“Bukan kami yang memilih. Algoritma.”
Padahal algoritma belajar dari keputusan dan struktur sebelumnya.
Inilah salah satu alasan UNESCO menempatkan fairness dan non-discrimination sebagai prinsip penting etika AI.
Teknologi tidak seharusnya membuat ketidakadilan lama terlihat objektif hanya karena sekarang tampil dalam bentuk skor.
Bias bahasa sangat relevan untuk anak Indonesia
AI global sering bekerja dengan banyak bahasa.
Kemampuannya terus berkembang.
Tetapi kualitas tidak selalu sama untuk semua bahasa, dialek, gaya tutur, dan konteks budaya.
Bayangkan anak menulis bahasa Indonesia bercampur istilah daerah.
Atau menggunakan struktur kalimat yang khas daerahnya.
Sistem penilaian otomatis mungkin menganggap gaya itu “kurang standar”.
Untuk tugas tertentu, standar bahasa memang penting.
Tetapi jangan sampai sistem salah menganggap perbedaan budaya sebagai kekurangan kemampuan.
Hal yang sama berlaku pada voice recognition.
Aksen bisa memengaruhi akurasi.
Kalau sistem lebih sering salah mengenali satu kelompok anak, lalu skor pronunciation mereka turun, itu bukan sekadar error teknis.
Itu dampak fairness.
Karena error tidak dibagi rata.
Anak yang paling sering disalahpahami sistem bisa kehilangan kepercayaan diri atau kesempatan.
Bias gambar membentuk imajinasi
Generator gambar bukan hanya mainan visual.
Anak menggunakannya untuk membayangkan dunia.
“Buat CEO.”
“Buat perawat.”
“Buat programmer.”
“Buat keluarga bahagia.”
“Buat orang sukses.”
Kalau output berulang kali menampilkan stereotip yang sama, anak bisa menyerap pesan tanpa sadar.
Siapa yang terlihat seperti pemimpin?
Siapa yang terlihat seperti pekerja tertentu?
Warna kulit apa?
Jenis tubuh apa?
Usia berapa?
Gender apa?
Budaya mana?
Bias representasi bisa membentuk horizon imajinasi.
Itulah mengapa latihan kelas tadi berguna.
Guru tidak harus melarang generator gambar.
Ia bisa mengubahnya menjadi alat kritis.
“Siapa yang tidak muncul?”
Pertanyaan itu sederhana tetapi kuat.
Anak belajar bahwa output AI bukan cermin dunia.
Ia hasil dari data, model, prompt, dan desain.
Bias bisa berdampak lebih serius ketika sistem menilai anak
Bayangkan AI digunakan untuk membantu menilai esai.
Sistem mungkin punya pola bahasa yang dianggap “baik”.
Anak dengan gaya ekspresi berbeda bisa mendapat feedback lebih rendah.
Atau sistem mendeteksi “risiko perilaku” dari data tertentu.
Anak dari kelompok tertentu lebih sering ter-flag.
Atau platform merekomendasikan materi lebih mudah kepada siswa yang dianggap lemah.
Akibatnya, anak itu justru menerima lebih sedikit tantangan.
Prediksi menciptakan realitas.
Sistem berpikir anak lemah.
Memberi materi lebih mudah.
Anak mendapat lebih sedikit kesempatan menunjukkan kemampuan.
Data berikutnya menguatkan prediksi awal.
Loop semacam ini berbahaya.
Bias bukan hanya output salah.
Bias bisa memengaruhi jalur yang diberikan kepada anak.
Itulah mengapa keputusan berdampak tinggi membutuhkan review manusia.
Jangan mengandalkan satu angka akurasi
Vendor berkata:
“Akurasi 95 persen.”
Bagus.
Tetapi orang tua atau sekolah perlu bertanya:
95 persen untuk siapa?
Apakah performanya sama pada anak perempuan dan laki-laki?
Bahasa Indonesia dan bahasa lain?
Anak dengan disabilitas?
Perangkat baru dan lama?
Lingkungan terang dan gelap jika memakai kamera?
Aksen berbeda?
Kelompok usia berbeda?
Rata-rata bisa menyembunyikan kelompok yang dirugikan.
Kalau sistem sangat baik untuk 90 persen anak tetapi buruk untuk 10 persen tertentu, fairness tetap masalah.
Terutama jika 10 persen itu konsisten berasal dari kelompok yang sama.
Sekolah tidak perlu melakukan audit statistik kompleks sendiri untuk setiap aplikasi.
Tetapi vendor yang dipakai untuk keputusan penting seharusnya mampu menjelaskan bagaimana fairness diuji dan keterbatasannya.
Kalau jawabannya hanya:
“AI kami objektif,”
itu justru red flag.
AI tidak menjadi adil hanya karena perusahaan menyebutnya objektif.
Bias juga bisa datang dari prompt
Anak mengetik:
“Buat gambar anak nakal.”
AI menghasilkan tipe anak tertentu.
Apakah bias hanya salah model?
Prompt juga membawa asumsi.
Apa artinya “nakal”?
Siapa yang kita bayangkan?
Anak bisa belajar bahwa pengguna juga ikut membentuk output.
Fairness bukan hanya tanggung jawab mesin.
Manusia yang memberi instruksi perlu memeriksa bahasa.
Misalnya:
“Buat dua kandidat ketua kelas. Satu pintar, satu kurang pintar.”
Kemudian sistem membuat stereotip visual.
Diskusi bisa dimulai:
“Kenapa kita mengaitkan penampilan tertentu dengan pintar?”
Teknologi menjadi cermin untuk melihat bias manusia.
Ini pelajaran etika yang sangat berguna.
Jangan hanya bertanya apakah AI bias.
Tanya juga:
“Bias apa yang kita bawa saat menggunakannya?”
Anak perlu tahu bahwa fairness tidak sama dengan semua diperlakukan identik
Ini nuance penting.
Dua anak mendapat hal yang sama belum tentu adil.
Misalnya aplikasi hanya bisa digunakan dengan video.
Semua siswa “diperlakukan sama”.
Tetapi anak dengan keterbatasan tertentu atau akses internet lemah bisa dirugikan.
Fairness kadang membutuhkan akomodasi.
Format alternatif.
Waktu tambahan.
Perangkat sekolah.
Human review.
Dukungan bahasa.
Jadi fairness bukan sekadar equality.
Fairness bertanya apakah semua anak punya kesempatan yang bermakna.
UNESCO menekankan pendekatan inklusif dalam fairness dan non-discrimination, termasuk kebutuhan kelompok usia, bahasa, disabilitas, perempuan dan anak perempuan, serta kelompok marginal.
Untuk sekolah, prinsip itu harus terasa dalam desain penggunaan.
Bukan hanya di dokumen kebijakan.
Bias tidak bisa dihapus sekali untuk selamanya
Model berubah.
Data berubah.
Cara anak menggunakan berubah.
Fitur baru muncul.
Sistem yang cukup adil hari ini perlu diperiksa lagi besok.
Ini alasan monitoring penting.
Sekolah bisa mengumpulkan laporan:
“Kelompok siswa tertentu lebih sering mendapat false flag.”
“Voice recognition sering salah pada aksen tertentu.”
“Rekomendasi terlalu mudah untuk beberapa anak.”
Data seperti ini membantu perbaikan.
Jangan menunggu sampai ada skandal.
Fairness perlu dipantau.
Anak juga harus punya mekanisme mengatakan:
“AI salah tentang aku.”
Kalimat itu harus dianggap valid untuk diperiksa.
Bukan dianggap anak sedang mencari alasan.
Ajari anak melakukan bias check sederhana
Tidak perlu dataset.
Coba eksperimen.
Minta AI:
gambar ilmuwan,
pemimpin,
petani,
programmer,
orang sukses,
keluarga,
guru.
Ulang beberapa kali.
Bandingkan.
Tanya:
“Siapa yang sering muncul?”
“Siapa yang jarang?”
“Apakah ada stereotip?”
“Kalau prompt-nya diubah, apa yang terjadi?”
Untuk teks:
“Minta AI memberi contoh nama orang Indonesia.”
“Nama dari wilayah mana yang muncul?”
“Atau minta contoh makanan Indonesia. Apakah hanya yang paling populer?”
Anak belajar bahwa data dominan sering mendominasi output.
Suara minoritas bisa hilang.
Ini menghubungkan teknologi dengan budaya Indonesia yang sangat beragam.
Anak tidak perlu menyimpulkan AI jahat.
Mereka belajar untuk memperluas perspektif.
Bias di masa kecil bisa menjadi ekspektasi diri
Ini dampak yang lebih halus.
Bayangkan seorang anak berulang kali menerima rekomendasi:
“materi dasar.”
“pekerjaan cocok: administratif.”
“kemampuan verbal rendah.”
“risiko tinggi.”
Jika sistem keliru tetapi terus diulang, anak bisa mulai percaya.
“Berarti aku memang segitu.”
Itulah mengapa label otomatis perlu hati-hati.
Anak masih membangun identitas.
Teknologi tidak boleh terlalu cepat mengunci gambaran siapa mereka.
Guru dan orang tua perlu menggunakan bahasa yang menjaga perkembangan.
Bukan:
“AI bilang kamu tidak cocok.”
Tetapi:
“AI memberi satu prediksi. Kita lihat data dan pengalamanmu yang sebenarnya.”
Prediksi adalah hipotesis.
Bukan identitas.
Siapa yang bertanggung jawab memperbaiki bias?
Banyak pihak.
Pembuat model perlu menguji.
Vendor perlu transparan.
Sekolah perlu memilih dengan hati-hati.
Guru perlu review.
Pemerintah perlu membuat aturan.
Orang tua perlu bertanya.
Anak perlu diberi jalur melapor.
Tidak adil jika beban diletakkan pada anak:
“Kalau AI bias, kamu harus lebih kritis.”
Anak memang perlu literasi.
Tetapi sistem juga harus dibuat lebih aman.
Literasi pengguna bukan alasan untuk membiarkan desain buruk.
Ini sama seperti keselamatan jalan.
Anak diajari menyeberang.
Tetapi pemerintah tetap memasang lampu, zebra cross, dan aturan kendaraan.
Kedua lapisan diperlukan.
Indonesia perlu melihat bias dalam konteks lokal
AI yang baik untuk anak Indonesia harus diuji terhadap realitas Indonesia.
Bahasa.
Budaya.
Geografi.
Akses.
Kondisi sekolah.
Disabilitas.
Perbedaan kota dan desa.
Ketimpangan perangkat.
Tidak cukup mengimpor model fairness dari konteks negara lain tanpa adaptasi.
UNESCO sendiri menekankan multilingualism, cultural diversity, dan inclusive access dalam etika AI.
Bagi Indonesia, itu sangat relevan.
Anak di Jakarta dan anak di pulau kecil bisa menggunakan teknologi yang sama dalam kondisi sangat berbeda.
Sistem seharusnya tidak menganggap satu kehidupan sebagai default untuk semua.
Kembali ke kelas seni
Guru meminta anak-anak mencoba satu prompt terakhir.
“Buat ilmuwan Indonesia yang bekerja memecahkan masalah lingkungan di daerahnya.”
Hasilnya lebih beragam.
Seorang anak berkata:
“Bu, ternyata kalau kita lebih spesifik, gambarnya beda.”
Guru menjawab:
“Iya. Tapi kita juga harus tanya kenapa prompt umum tadi menghasilkan pola yang sempit.”
Itu inti pelajarannya.
Bias AI tidak selalu terlihat seperti diskriminasi besar di layar.
Kadang ia muncul sebagai pola kecil yang diulang.
Siapa yang terlihat.
Siapa yang dipercaya.
Siapa yang direkomendasikan.
Siapa yang dianggap mampu.
Kalau pola itu ikut menentukan kesempatan anak, dampaknya bisa panjang.
Karena itu fairness bukan materi tambahan untuk programmer.
Fairness adalah bagian dari pendidikan AI untuk keluarga dan sekolah.
Anak perlu tumbuh dengan satu kebiasaan:
jangan hanya bertanya apakah AI memberi jawaban.
Tanya juga:
“Jawaban ini adil untuk siapa?”
Pingback: Mengajarkan Fairness kepada Anak lewat Contoh AI