Ketika Algoritma Ikut Membuat Keputusan tentang Anak

Bayangkan sebuah sekolah memakai sistem digital untuk membantu menentukan siapa yang perlu mendapat latihan tambahan matematika.

Senin pagi, guru membuka dashboard.

Ada nama murid dengan indikator hijau, kuning, dan merah.

Seorang guru menunjuk satu nama.

“Kenapa dia merah?”

Rekannya membaca layar.

“Katanya risiko tertinggal tinggi.”

“Dari apa?”

“Nilai latihan, frekuensi login, sama kecepatan mengerjakan, kayaknya.”

Guru pertama berhenti.

“Kayaknya?”

Di situlah masalah besar bisa dimulai.

Ketika algoritma ikut membuat keputusan tentang anak, persoalannya bukan hanya apakah sistemnya canggih. Persoalannya adalah apakah orang dewasa memahami data yang dipakai, batas sistem, kemungkinan bias, konsekuensi keputusan, dan siapa manusia yang tetap bertanggung jawab.

Algoritma bisa membantu melihat pola yang sulit dibaca manual.

Tetapi pola bukan selalu penjelasan.

Skor bukan identitas.

Prediksi bukan masa depan.

Dan rekomendasi mesin bukan alasan untuk berhenti berpikir.

Algoritma sebenarnya melakukan apa?

Kata algoritma sering terdengar seperti sesuatu yang misterius.

Padahal dalam bentuk paling sederhana, algoritma adalah serangkaian aturan atau proses yang digunakan sistem untuk mengolah input menjadi hasil.

Dalam sistem AI, prosesnya bisa jauh lebih kompleks. Model dapat belajar pola dari data dan menghasilkan prediksi, klasifikasi, ranking, rekomendasi, atau output lain.

Untuk anak, hasil itu bisa muncul dalam banyak bentuk.

Rekomendasi materi belajar.

Urutan video.

Deteksi risiko akademik.

Skor otomatis.

Filter konten.

Prioritas bantuan.

Saran kegiatan.

Penilaian kemampuan.

Bahkan indikasi siapa yang dianggap perlu perhatian tambahan.

Tidak semuanya buruk.

Masalah muncul ketika orang dewasa melihat hasil sistem seperti keputusan final yang tidak perlu dipertanyakan.

“Komputer bilang begitu.”

Kalimat itu seharusnya tidak menjadi akhir percakapan.

Data anak tidak pernah membawa seluruh cerita

Bayangkan satu siswa jarang login ke platform belajar.

Algoritma membaca:

engagement rendah.

Kemungkinan interpretasi manusia:

anak malas.

Tetapi ada cerita lain.

Ponsel dipakai bergantian dengan kakaknya.

Internet rumah tidak stabil.

Ia belajar dari buku cetak.

Ia mengerjakan tugas di sekolah karena rumahnya ramai.

Sistem hanya melihat apa yang masuk sebagai data.

Ia tidak otomatis melihat kehidupan anak di luar data.

Itulah information gain penting ketika membicarakan algorithmic decision-making.

Model tidak mengambil keputusan dari “realitas utuh”.

Model mengambil keputusan dari representasi realitas yang tersedia dalam data dan desain sistem.

Kalau data tidak lengkap, hasil bisa tidak lengkap.

Kalau indikator yang dipilih salah, kesimpulan bisa salah.

Kalau konteks sosial tidak masuk, sistem bisa terlihat presisi sambil kehilangan hal paling penting.

Anak bukan kumpulan variabel.

Indikator yang mudah diukur belum tentu yang paling penting

Sekolah suka data karena data membantu membuat sesuatu terlihat terukur.

Jumlah login.

Nilai.

Durasi.

Jumlah klik.

Persentase penyelesaian.

Semua enak dimasukkan dashboard.

Tetapi pendidikan punya banyak hal yang sulit diukur.

Keberanian bertanya.

Kreativitas.

Kondisi emosional.

Kemajuan kecil.

Dukungan keluarga.

Cara anak bekerja sama.

Kemampuan bangkit setelah gagal.

Konteks bahasa.

Motivasi.

Kalau sistem hanya mengukur hal yang mudah diukur, jangan biarkan hal yang mudah itu otomatis dianggap paling penting.

Seorang anak bisa lambat mengerjakan karena teliti.

Anak lain cepat karena menebak.

Sistem yang hanya melihat waktu mungkin membaca keduanya dengan cara yang salah.

Itulah mengapa metrik perlu diuji terhadap makna.

Bukan sebaliknya.

Prediksi bukan vonis

Algoritma bisa menghasilkan prediksi.

“Berisiko tertinggal.”

“Potensi tinggi.”

“Perlu remedial.”

“Cocok untuk program A.”

Prediksi bisa membantu manusia memeriksa.

Tetapi bahasa perlu dijaga.

Kalau guru berkata kepada anak:

“Sistem bilang kamu lemah.”

Label bisa menempel.

Lebih sehat:

“Sistem melihat pola yang perlu kita cek. Menurut kamu, apa yang sedang terjadi?”

Sekarang prediksi menjadi pembuka percakapan.

Bukan identitas.

Anak berkembang.

Data bulan lalu tidak menentukan seluruh tahun depan.

Kemampuan bisa berubah.

Lingkungan bisa berubah.

Motivasi bisa berubah.

Guru bisa memberi dukungan.

Orang tua bisa menemukan masalah yang tidak terlihat.

Prediksi seharusnya menghasilkan perhatian, bukan membatasi kesempatan.

Human oversight bukan stempel manusia

UNESCO menempatkan human oversight sebagai bagian penting etika AI.

Tetapi kehadiran manusia saja belum cukup.

Bayangkan sistem memberi rekomendasi.

Guru selalu menekan Approve tanpa membaca.

Secara formal ada manusia.

Secara substantif, tidak ada review.

Human oversight yang bermakna berarti manusia punya:

informasi cukup,

otoritas untuk menolak,

waktu untuk memeriksa,

kemampuan memahami keterbatasan,

dan tanggung jawab terhadap keputusan akhir.

Guru harus bisa berkata:

“Sistem merekomendasikan ini, tapi saya tidak setuju karena konteksnya berbeda.”

Kalau tidak bisa, manusia hanya menjadi dekorasi di proses otomatis.

Semakin besar dampak keputusan, semakin kuat review manusianya harus bekerja.

Memberi lima soal tambahan tidak sama dengan menentukan anak masuk kelas tertentu.

Merekomendasikan video tidak sama dengan memberi sanksi.

Konsekuensi menentukan standar.

Anak dan orang tua perlu tahu bila algoritma punya peran penting

Transparansi juga relevan.

Jika AI hanya membantu guru membuat lima contoh soal, mungkin penjelasan singkat cukup.

Tetapi kalau algoritma memengaruhi:

nilai,

penempatan kelas,

akses program,

rekomendasi konseling,

keputusan disiplin,

atau peluang pendidikan,

anak dan orang tua punya alasan jauh lebih kuat untuk tahu.

Tidak perlu membuka kode sumber.

Yang perlu dijelaskan:

sistem dipakai untuk apa,

data apa yang dipakai,

apakah hasilnya rekomendasi atau keputusan,

siapa manusia yang memeriksa,

dan bagaimana cara mempertanyakan jika hasil terasa salah.

Bayangkan seorang siswa bertanya:

“Kenapa aku masuk kelas remedial?”

Jawaban sehat:

“Nilai latihan menunjukkan beberapa pola. Sistem membantu menandai, lalu guru memeriksa hasil dan pekerjaan kamu.”

Jawaban buruk:

“Dashboard bilang begitu.”

Anak berhak diperlakukan sebagai subjek, bukan objek klasifikasi.

Bias bisa masuk sebelum algoritma dijalankan

Orang sering bertanya:

“Algoritmanya bias nggak?”

Pertanyaan itu bagus.

Tetapi bias bisa muncul sebelum sistem dibuat.

Data siapa yang dikumpulkan?

Siapa yang tidak terwakili?

Apa definisi “siswa berhasil”?

Metrik apa yang dianggap penting?

Bahasa mana yang didukung?

Perangkat apa yang diasumsikan tersedia?

Siapa yang menentukan threshold?

Misalnya sistem belajar dibangun dari data anak yang selalu punya internet stabil.

Ketika digunakan pada siswa dengan kondisi berbeda, pola yang dianggap normal bisa tidak cocok.

Atau sistem penilaian bahasa dilatih terutama pada gaya bahasa tertentu.

Anak dengan aksen, dialek, atau gaya ekspresi lain bisa dirugikan.

UNESCO menekankan fairness dan non-discrimination dalam etika AI, termasuk perhatian pada kelompok usia, bahasa, disabilitas, perempuan dan anak perempuan, serta kelompok yang rentan.

Bagi sekolah, prinsip itu harus diterjemahkan menjadi tes nyata.

“Siapa yang mungkin salah dibaca sistem ini?”

Pertanyaan itu lebih berguna daripada sekadar “akurasi rata-rata berapa?”

Akurasi rata-rata bisa menyembunyikan ketidakadilan

Bayangkan tool punya akurasi 92 persen.

Kedengarannya bagus.

Tetapi bagaimana kalau akurasi untuk satu kelompok siswa hanya 70 persen?

Rata-rata bisa terlihat tinggi karena kelompok mayoritas mendominasi data.

Ini alasan fairness perlu dilihat per kelompok relevan ketika memungkinkan dan sah.

Bukan untuk memberi label baru.

Untuk mencari pola kerugian.

Apakah sistem lebih sering salah terhadap anak dengan bahasa tertentu?

Anak dengan kebutuhan aksesibilitas?

Anak dari perangkat lama?

Anak yang jarang online?

Anak dengan gaya menulis tertentu?

Kesalahan tidak selalu tersebar merata.

Dan ketika yang terkena adalah anak, “hanya sebagian kecil” bukan alasan mengabaikan.

Sistem perlu mekanisme koreksi

Kalau algoritma ikut memengaruhi keputusan, harus ada cara untuk mengatakan:

“Ini salah.”

Anak perlu tahu siapa yang bisa ditanya.

Guru perlu tahu bagaimana override.

Orang tua perlu tahu bagaimana mengajukan keberatan.

Sekolah perlu punya log keputusan.

Vendor perlu punya mekanisme pelaporan.

Tanpa jalur koreksi, kesalahan berubah menjadi ketidakadilan permanen.

Bayangkan siswa salah ditandai karena data akun tercampur.

Kalau tidak ada cara membetulkan, ia bisa menerima rekomendasi yang salah berulang kali.

Sistem belajar dari data yang salah.

Output berikutnya makin salah.

Kesalahan kecil menjadi loop.

Itulah mengapa correction mechanism penting.

Bukan setelah insiden besar.

Sejak desain.

PP 17/2025 memberi konteks penting untuk anak Indonesia

Per Agustus 2026, Indonesia sudah memiliki PP Nomor 17 Tahun 2025 tentang tata kelola penyelenggaraan sistem elektronik dalam pelindungan anak.

Aturan ini bukan “undang-undang AI anak” yang mengatur semua algoritma secara khusus.

Tetapi kerangkanya penting.

Ada prinsip kepentingan terbaik anak, perlindungan data pribadi, desain sesuai usia, dan penilaian risiko pada layanan yang digunakan atau mungkin diakses anak.

Bagi sekolah dan keluarga, pesannya konsisten dengan prinsip internasional:

keputusan teknologi harus melihat dampak pada anak, bukan hanya kenyamanan sistem.

Jika algoritma membuat proses lebih cepat tetapi membuat anak sulit mempertanyakan hasil, ada masalah.

Jika dashboard terlihat rapi tetapi privasi berlebihan dikorbankan, ada masalah.

Jika prediksi membantu guru tetapi berubah menjadi label permanen, ada masalah.

Teknologi perlu ditempatkan di bawah kepentingan anak.

Bukan sebaliknya.

Ajari anak bertanya kepada algoritma, bukan takut pada algoritma

Anak tidak perlu belajar coding dulu untuk punya sikap kritis.

Mereka bisa mulai dari empat pertanyaan.

“Data apa yang dipakai?”

“Kenapa aku dapat hasil ini?”

“Bisa salah nggak?”

“Kalau salah, aku bilang ke siapa?”

Empat pertanyaan itu bisa dibawa ke banyak situasi.

Rekomendasi video.

Skor belajar.

AI tutor.

Filter.

Aplikasi latihan.

Sistem sekolah.

Anak belajar bahwa algoritma bukan makhluk gaib.

Ia sistem yang dibuat manusia, memakai data, memiliki tujuan, dan bisa keliru.

Pemahaman ini jauh lebih sehat daripada dua ekstrem.

“Algoritma selalu pintar.”

atau

“Algoritma selalu jahat.”

Keduanya salah.

Algoritma adalah alat yang kualitas dan dampaknya tergantung desain, data, konteks, dan tata kelola.

Kembali ke dashboard merah tadi

Guru akhirnya tidak langsung memasukkan murid ke program remedial.

Ia memanggil anak.

“Di sistem, kamu jarang menyelesaikan latihan online. Ada masalah?”

Anak menjawab:

“Aku biasanya ngerjain dari buku, Bu. HP-nya dipakai Ibu kerja malam.”

Guru melihat lagi dashboard.

Data benar.

Interpretasinya belum lengkap.

Itulah pelajaran penting.

Algoritma bisa menunjukkan sinyal.

Manusia harus memahami cerita.

Ketika algoritma ikut membuat keputusan tentang anak, tugas kita bukan menolak semua otomatisasi.

Tugas kita memastikan teknologi tidak mengambil alih hal yang seharusnya tetap manusiawi:

mendengar,

memahami konteks,

memberi kesempatan kedua,

mengoreksi kesalahan,

dan mempertanggungjawabkan keputusan.

Kalau satu dashboard tidak bisa menjelaskan seluruh kehidupan anak, jangan biarkan satu skor menentukan seluruh masa depannya.