Skenario ini ilustratif.
Seorang anak 15 tahun sedang membuat presentasi sejarah.
Ia membaca jawaban AI lalu berkata:
“Ini pasti benar.”
Kakaknya bertanya:
“Kenapa?”
“Detail banget.”
“Apa detailnya?”
“Ada nama tokoh, tahun, bahkan kutipan.”
“Sudah cek?”
“Belum. Tapi masa iya kalau salah sedetail ini?”
Justru di situlah jebakannya.
Generative AI tidak selalu terlihat bingung ketika salah.
Ia bisa memberi jawaban dengan struktur rapi.
Bahasa formal.
Tanggal spesifik.
Nama orang.
Kutipan.
Daftar referensi.
Nada percaya diri.
UNESCO pada 2025 secara terang menjelaskan bahwa large language models dapat hallucinate, membuat informasi yang terdengar believable tetapi sebenarnya dibuat-buat, termasuk fake quotes, invented sources, dan false statistics.
NIST menggunakan istilah confabulation untuk risiko ketika generative AI menghasilkan atau mewakili informasi yang salah atau keliru sebagai sesuatu yang benar.
Bagi anak, istilah teknis bukan bagian terpenting.
Pelajaran utamanya:
Cara sebuah jawaban terdengar tidak memberi jaminan bahwa isinya benar.
Confidence adalah gaya.
Evidence adalah dasar.
Dua hal berbeda.
Manusia juga tertipu oleh detail
Kenapa jawaban rinci terasa lebih benar?
Karena detail memberi rasa konkret.
Bandingkan:
“Seorang ilmuwan pernah mengatakan ini.”
dengan:
“Pada 14 Mei 1987, Dr. Arman Wibowo dari Institut X menyampaikan…”
Kalimat kedua terasa lebih serius.
Ada tanggal.
Ada nama.
Ada institusi.
Masalahnya, semua detail itu bisa saja rekaan.
AI sangat mampu menghasilkan struktur yang menyerupai teks faktual.
Itulah sebabnya anak tidak boleh memakai “kedengarannya pintar” sebagai metode verifikasi.
Orang dewasa pun bisa tertipu.
Bahasa akademik.
Istilah teknis.
Grafik.
Nomor.
Semua menciptakan aura authority.
Literasi AI berarti belajar melepas aura itu dan kembali ke pertanyaan dasar.
“Ada buktinya?”
“Bisa dicari?”
“Sumbernya ada?”
“Apakah sumber bilang hal yang sama?”
Kalau tidak, detail justru menjadi objek pemeriksaan.
Semakin spesifik klaim, semakin mudah diuji.
Gunakan itu.
Kalau ada nama, cari nama.
Kalau ada kutipan, cari kutipan.
Kalau ada statistik, cari data asal.
Jadikan detail sebagai pegangan fact-check, bukan alasan percaya.
Apa itu hallucination tanpa membuat anak takut?
Jelaskan sederhana.
“AI menghasilkan jawaban dengan memprediksi pola bahasa. Kadang ia bisa menyusun informasi yang terdengar cocok tetapi tidak sesuai fakta.”
Tidak perlu mengatakan:
“AI berbohong.”
Berbohong biasanya berarti ada niat menipu.
AI tidak perlu kita personifikasikan seperti manusia yang sengaja menipu.
Lebih tepat:
“AI bisa membuat kesalahan atau mengarang bagian jawaban.”
UNESCO menggunakan istilah hallucination.
NIST sering memakai confabulation dalam kerangka risikonya.
Untuk anak, pilih kata yang mudah:
“Jawaban ngarang.”
Tetapi beri nuance.
Bukan karena mesin sedang punya niat buruk.
Karena sistem generatif bisa menghasilkan pola bahasa yang plausible meski faktanya keliru.
Ini penting.
Kalau anak menganggap AI sengaja berbohong, ia belajar model mental yang salah.
Kalau menganggap AI selalu tahu, juga salah.
Posisi sehat:
AI powerful.
AI fallible.
Kuat dan bisa salah.
Dua-duanya benar.
“Kalau AI bilang yakin 100 persen?”
Tetap bukan bukti.
AI bisa menulis:
“Saya sangat yakin.”
Itu teks.
Bukan pembacaan meter internal yang harus dipercaya pengguna.
Beberapa sistem mungkin punya mekanisme confidence atau grounding tertentu, tetapi dalam penggunaan sehari-hari anak sebaiknya tidak menilai kebenaran dari frase percaya diri.
Yang diperiksa adalah external evidence.
Anak:
“AI bilang jawabannya pasti.”
Orang tua:
“Pasti menurut kata-katanya. Sumbernya?”
Simple.
Jangan berdebat dengan tone.
Pindah ke evidence.
Ini juga berlaku pada manusia.
Guru yakin bisa salah.
Influencer yakin bisa salah.
Orang tua yakin bisa salah.
Confidence bukan privilege AI.
Kita semua butuh koreksi.
Contoh paling bagus: sumber yang tidak ada
Untuk mengajarkan hallucination, minta anak melakukan eksperimen aman.
Jangan sengaja meminta AI membuat misinformation.
Cukup dari penggunaan normal, periksa satu referensi yang diberikan.
Misalnya chatbot menyebut buku.
Cari katalog.
Kalau ada, bagus.
Kalau tidak ada, jangan langsung simpulkan palsu.
Coba variasi judul.
Nama penulis.
Penerbit.
Jika tetap tidak ditemukan, statusnya:
“belum terverifikasi.”
Bukan otomatis:
“AI bohong.”
Bahasa status membantu.
Kalau referensi ternyata benar, anak juga belajar AI bisa benar.
Tujuannya bukan membuktikan mesin buruk.
Tujuannya melatih verification loop.
Pertanyaan.
Jawaban.
Cek.
Update.
Ini cara ilmu berjalan.
Mengapa sumber rekaan berbahaya untuk tugas?
Karena anak bisa memasukkan bibliografi palsu.
Guru melihat.
Tidak bisa menemukan.
Masalah academic integrity.
Anak mungkin tidak berniat menipu.
Ia hanya percaya output.
Tetapi tanggung jawab tugas tetap pada siswa.
Sekolah perlu mengajari, bukan hanya menghukum.
Kalau ada referensi AI:
verifikasi sebelum submit.
Buka sumber.
Baca minimal bagian relevan.
Pastikan penulis, judul, dan tahun benar.
Pastikan klaim memang didukung.
Jangan citation laundering.
Menempel referensi yang tidak dibaca hanya untuk terlihat akademik.
AI membuat itu sangat mudah.
Pendidikan perlu membuatnya tidak normal.
Sumber bukan dekorasi.
Sumber adalah evidence trail.
AI bisa salah karena informasi berubah
Tidak semua kesalahan adalah hallucination murni.
Kadang jawaban outdated.
Harga berubah.
CEO berubah.
Aturan berubah.
Jadwal berubah.
Fitur platform berubah.
Regulasi berubah.
Maka currentness juga perlu diperiksa.
Anak bertanya:
“Boleh usia berapa pakai platform X?”
Jawaban AI mungkin berdasarkan informasi lama.
Cek help center resmi terbaru.
Anak bertanya:
“Besok museum buka?”
Cek situs atau kanal resmi.
AI bisa memiliki atau tidak memiliki akses informasi terbaru tergantung sistem dan konteks penggunaan.
Jangan asumsi.
Untuk fakta dinamis:
cek tanggal.
Ini memberi anak satu mental model:
Ada kesalahan karena model “ngarang”.
Ada kesalahan karena informasi sudah berubah.
Ada kesalahan karena pertanyaan ambigu.
Ada kesalahan karena sumber salah.
Jenis berbeda.
Solusinya bisa berbeda.
Ajarkan anak memperbaiki pertanyaan
Kadang jawaban aneh karena prompt terlalu kabur.
“Siapa orang pertama yang menemukan ini?”
Apa definisi “menemukan”?
Di negara mana?
Periode apa?
Anak bisa meminta klarifikasi.
“Berikan beberapa kandidat dan jelaskan mengapa atribusinya diperdebatkan.”
Sekarang output lebih nuanced.
AI bukan hanya diuji benar salah.
Pengguna juga belajar bertanya lebih baik.
Tetapi prompt engineering tidak menghilangkan kebutuhan verifikasi.
Pertanyaan bagus meningkatkan peluang jawaban berguna.
Tidak menjamin kebenaran.
Itu penting.
Jangan membuat anak percaya kalau prompt-nya sempurna maka AI tidak bisa salah.
Tidak ada mantra.
Ada proses.
Gunakan metode “percaya sementara”
Ini framing yang enak.
Anak dapat jawaban.
Status:
percaya sementara.
Bukan percaya penuh.
Bukan curiga total.
Jika jawaban hanya untuk ide, lanjut.
Jika untuk fakta penting, cek.
Setelah dua sumber cocok, confidence naik.
Kalau sumber bertentangan, turunkan.
Investigasi.
Ini mirip scientist mindset.
Pengetahuan punya tingkat keyakinan.
Tidak semua hal 100 persen.
Anak belajar nuance.
UNICEF dalam panduan misinformation juga menekankan bahwa informasi tidak selalu hitam putih dan percakapan sebaiknya mengakui gray areas.
Ini sangat relevan dengan AI.
Bukan semua output:
benar atau palsu.
Ada:
benar tetapi kurang konteks,
outdated,
oversimplified,
uncertain,
partly wrong,
atau benar untuk satu kondisi.
Anak perlu vocabulary ini.
“Jawabannya setengah benar.”
Lebih canggih daripada:
“AI salah.”
Jangan pakai satu kesalahan untuk membuang seluruh tool
Anak menemukan AI mengarang satu nama.
Orang tua berkata:
“Makanya jangan pakai.”
Kesempatan belajar hilang.
Lebih bagus:
“Apa yang bisa AI tetap bantu?”
Anak:
“Bikin outline.”
“Bagus.”
“Apa yang harus dicek?”
“Fakta.”
Sekarang tool punya role.
AI bisa membantu:
brainstorm,
explanation,
practice questions,
draft,
summarization dari materi yang diberikan,
atau struktur.
Untuk factual claims:
verifikasi.
Ini balanced.
Keluarga tidak menjadi anti-tech.
Anak tidak menjadi overtrusting.
Semua lebih proporsional.
Guru juga perlu mendesain assessment
Kalau tugas hanya:
“Cari lima fakta.”
AI sangat mudah menjawab.
Mungkin sebagian salah.
Lebih baik:
“Cari lima fakta dan lampirkan sumber. Pilih satu yang awalnya kamu temukan lewat AI lalu jelaskan bagaimana diverifikasi.”
Sekarang AI literacy menjadi bagian tugas.
Atau:
“Bawa satu contoh jawaban AI yang perlu diperbaiki.”
Murid membedah.
Tidak hanya memakai.
Critical use.
UNESCO menekankan media and information literacy sebagai keterampilan penting di dunia yang dipenuhi AI-generated content.
Sekolah bisa mengubah hallucination dari masalah menjadi bahan belajar.
Tanpa fearmongering.
Tanpa melarang semua.
Anak perlu pengalaman menemukan kesalahan sendiri.
Itu lebih kuat daripada ceramah.
Keluarga bisa memainkan “terlalu rapi”
Saat AI memberi jawaban sangat spesifik, seseorang berkata:
“Terlalu rapi. Pilih satu detail buat dicek.”
Ini bisa jadi running rule.
Bukan berarti jawaban rapi mencurigakan.
Hanya pemicu.
Nama?
Cek.
Angka?
Cek.
Kutipan?
Cek.
Tanggal?
Cek.
Kalau detail benar, bagus.
Kalau salah, ketahuan cepat.
Anak membangun reflex.
Tidak perlu memeriksa setiap adjective.
Cari testable claims.
Ini scientific thinking sederhana.
Jawaban yang panjang juga bisa memberi ilusi kualitas. Anak melihat lima paragraf lalu mengira sistem pasti sudah “berpikir lebih dalam”. Panjang tidak menjamin akurasi. Ringkas tidak berarti dangkal. Karena itu, saat jawaban terasa sangat lengkap, lakukan satu tes kecil: ambil klaim paling spesifik dan cari evidence eksternal. Kalau satu detail inti sudah gagal, bagian lain layak diperiksa lebih hati-hati.
Ada juga jebakan consistency. AI bisa mengulang klaim yang sama ketika ditanya lagi, sehingga anak merasa pengulangan adalah konfirmasi. Belum tentu. Model yang sama dapat mempertahankan kesalahan yang sama. Konfirmasi yang lebih bernilai datang dari sumber luar, bukan hanya bertanya ulang dengan kalimat berbeda kepada sistem yang sama.
Kembali ke presentasi sejarah
Anak tadi mencari kutipan yang diberikan AI.
Tidak ada.
Ia mencoba lagi.
Ternyata tokoh sejarahnya memang nyata, tetapi kutipannya tidak ditemukan di sumber kredibel.
Kakaknya bertanya:
“Terus?”
“Hapus.”
“Ganti?”
“Pakai fakta yang ada sumbernya.”
“AI-nya?”
“Masih bantu outline.”
Itu respon matang.
Tidak membuang seluruh kerja.
Tidak mempertahankan kesalahan karena malu.
AI bisa salah dengan bahasa yang sangat meyakinkan.
Karena itu anak perlu belajar satu bentuk keberanian baru:
berani tidak terkesan oleh confidence.
Rapi boleh.
Pintar terdengar boleh.
Detail boleh.
Tetapi kalau klaimnya penting, evidence tetap harus masuk.
Di era AI, mungkin tanda anak berpikir kritis bukan seberapa cepat ia mendapat jawaban.
Justru seberapa mudah ia berkata:
“Kedengarannya meyakinkan. Sekarang kita cek.”