Bayangkan seorang siswa sedang menyiapkan presentasi sejarah di perpustakaan sekolah. Ia meminta chatbot AI menyebutkan tiga buku tentang sebuah tokoh. Jawabannya terlihat meyakinkan: judul lengkap, nama penulis, tahun terbit, bahkan ringkasan satu kalimat.
Temannya membaca layar dan berkata, “Wah, lengkap banget.”
Guru yang lewat ikut melihat.
“Sudah cek bukunya benar-benar ada?”
“Belum, Bu. Tapi detailnya sampai tahun terbit.”
Mereka mencari judul pertama. Tidak ketemu. Judul kedua ternyata mirip buku nyata, tetapi penulisnya berbeda. Judul ketiga sama sekali tidak ditemukan di katalog yang mereka periksa.
Siswa itu mengernyit. “Berarti AI-nya bohong?”
Pertanyaan ini membawa kita ke salah satu istilah AI yang paling sering disalahpahami: hallucination.
Dalam dunia generative AI, hallucination bukan berarti mesin sedang mengalami halusinasi seperti manusia. Sistem tidak sedang melihat bayangan, mendengar suara, atau mengalami kondisi psikologis. Istilah ini dipakai secara populer untuk menggambarkan keluaran AI yang keliru, tidak didukung fakta, atau dibuat-buat tetapi dapat terdengar masuk akal.
NIST, lembaga standardisasi dan teknologi Amerika Serikat, lebih memilih istilah “confabulation” dalam profil risiko generative AI. NIST menjelaskan risiko ini sebagai kondisi ketika sistem menghasilkan konten yang salah atau palsu dan dapat menyatakannya dengan sangat meyakinkan.
Bagi keluarga, istilah mana yang dipakai bukan bagian terpenting. Yang penting adalah kebiasaannya: AI bisa terdengar yakin dan tetap salah.
KENAPA JAWABANNYA BISA TERDENGAR SANGAT MEYAKINKAN?
Generative AI dirancang untuk menghasilkan keluaran yang sesuai dengan pola dan konteks masukan. Pada model bahasa, sistem memproses konteks dan menghasilkan rangkaian teks yang secara statistik dan struktural cocok dengan pola yang telah dipelajari serta instruksi yang diberikan.
Tujuan proses itu bukan sama dengan “memastikan setiap kalimat adalah fakta yang sudah diverifikasi”.
Karena itulah kelancaran bahasa dan kebenaran faktual adalah dua hal berbeda.
Sebuah model bisa menghasilkan paragraf yang tata bahasanya bagus, urutannya rapi, dan istilahnya terdengar akademis. Namun jika detail faktual yang diminta tidak tersedia dengan cukup, konteksnya ambigu, atau sistem tidak memiliki grounding yang memadai pada sumber yang dapat diperiksa, ia tetap bisa menghasilkan jawaban yang salah.
Pada beberapa sistem modern, fitur pencarian, retrieval, database, atau tool eksternal dapat membantu menghubungkan jawaban dengan sumber. Ini dapat mengurangi jenis kesalahan tertentu, tetapi tidak mengubah aturan dasar untuk pengguna: sumber tetap perlu diperiksa, terutama untuk klaim penting.
Jangan menganggap adanya daftar sumber otomatis berarti seluruh isi sudah benar. AI juga dapat salah membaca, salah merangkum, menggabungkan konteks, atau membuat hubungan yang tidak didukung sumber.
HALLUCINATION BUKAN “AI BERBOHONG”
Kata “bohong” biasanya mengandung unsur niat: seseorang mengetahui sesuatu tidak benar lalu sengaja mengatakan sebaliknya.
Model AI tidak memiliki niat manusia semacam itu.
Karena itu, mengatakan “AI bohong” kadang berguna sebagai bahasa sehari-hari, tetapi secara konsep bisa membuat anak salah memahami sistem seolah AI adalah agen sosial yang tahu kebenaran lalu sengaja menipu.
Lebih tepat berkata:
“AI menghasilkan jawaban yang salah.”
Atau:
“Output-nya tidak didukung fakta.”
Atau, jika ingin memakai istilah populer:
“Ini mungkin hallucination.”
Pembedaan ini bukan sekadar soal bahasa. Anak yang memahami bahwa AI bukan manusia kecil di dalam layar akan lebih mudah menilai teknologi secara realistis. Ia tidak terlalu cepat percaya, tetapi juga tidak perlu takut secara berlebihan.
EMPAT BENTUK KESALAHAN YANG MUDAH DIKENALI KELUARGA
Hallucination dapat muncul dalam banyak bentuk. Orang tua tidak perlu membuat taksonomi teknis, tetapi empat pola ini berguna untuk dikenali.
Pertama, fakta yang dibuat-buat.
Misalnya AI menyebut tanggal, tempat, atau kejadian yang ternyata tidak sesuai sumber terpercaya.
Kedua, sumber atau kutipan yang tidak ada.
Ini berbahaya untuk tugas sekolah. Sebuah judul artikel, nama jurnal, DOI, buku, atau kutipan bisa terlihat sangat realistis sehingga anak langsung menyalinnya ke daftar pustaka.
Ketiga, detail nyata yang dicampur secara salah.
Nama orangnya nyata, institusinya nyata, peristiwanya nyata, tetapi hubungan antarbagian salah. Justru jenis ini sering lebih sulit terlihat karena sebagian informasinya benar.
Keempat, jawaban terlalu pasti pada pertanyaan yang sebenarnya tidak punya informasi cukup.
Misalnya pengguna meminta kesimpulan definitif dari konteks yang minim. Sistem bisa tetap menghasilkan satu jawaban tanpa cukup menonjolkan ketidakpastian.
Di rumah, pola-pola itu bisa dijadikan permainan detektif kecil, bukan sumber kepanikan.
“Mana bagian yang bisa kita cek?”
“Kalau judul bukunya nyata, harusnya bisa ditemukan di katalog atau penerbit.”
“Kalau ini aturan sekolah, sumber resminya di mana?”
“Kalau ini soal kesehatan, kita jangan berhenti di chatbot.”
PROMPT BAGUS TIDAK MEMBUAT HALLUCINATION HILANG
Ini salah satu miskonsepsi yang perlu dibereskan.
Prompt yang jelas memang dapat membantu sistem memahami kebutuhan pengguna dan mengurangi ambiguitas. Kita bisa meminta AI membedakan fakta dan asumsi, menyebutkan ketidakpastian, atau menggunakan sumber tertentu.
Tetapi tidak ada formula prompt sederhana yang menjamin sistem tidak akan pernah salah.
Kalimat seperti “jangan mengarang” atau “pastikan 100 persen akurat” tidak mengubah AI menjadi mesin kebenaran. Instruksi semacam itu mungkin memengaruhi cara sistem merespons, tetapi pengguna tetap perlu verifikasi.
Bagi anak, ini pelajaran bagus tentang batas alat.
“Kita bisa memberi instruksi lebih baik, tapi kita enggak bisa menyuruh alat menjadi sempurna.”
KAPAN HARUS SANTAI, KAPAN HARUS SERIUS?
Tidak semua hallucination punya dampak yang sama.
Jika keluarga meminta AI membuat sepuluh nama lucu untuk boneka, fakta bukan isu utama. Kalau AI menciptakan nama yang sebenarnya tidak punya arti, mungkin tidak ada masalah.
Jika anak meminta ide cerita fantasi, kreativitas justru diharapkan.
Tetapi ketika AI dipakai untuk fakta sejarah, tugas ilmiah, informasi kesehatan, hukum, keselamatan, informasi pribadi, aturan sekolah, berita, atau keputusan yang menyangkut orang lain, standar pemeriksaannya harus naik.
Keluarga bisa memakai sistem lampu lalu lintas sederhana.
Hijau: kebutuhan kreatif berisiko rendah.
Contoh: ide permainan, variasi judul cerita, pertanyaan latihan, brainstorming kegiatan.
Kuning: informasi faktual yang akan dipakai untuk belajar atau dibagikan.
Contoh: rangkuman materi, definisi, sejarah, statistik, kutipan, daftar sumber. Perlu cek silang.
Merah: keputusan berdampak tinggi atau menyangkut keselamatan dan kesejahteraan.
Contoh: kesehatan, ancaman, kekerasan, hukum, keputusan finansial penting, atau situasi yang membutuhkan profesional. AI tidak boleh menjadi satu-satunya dasar keputusan.
Lampu ini bukan standar resmi. Ini alat percakapan keluarga agar anak bisa menilai konsekuensi sebelum percaya.
CARA MENGECEK JAWABAN AI TANPA MENJADI PENELITI
Orang tua sering berkata, “Kalau saya sendiri enggak tahu topiknya, bagaimana saya bisa tahu AI salah?”
Kita tidak perlu mengetahui jawabannya lebih dulu untuk melakukan verifikasi dasar.
Mulai dari klaim yang paling mudah diuji.
Jika AI menyebut sumber, buka sumbernya.
Jika AI menyebut aturan pemerintah, cari dokumen atau situs lembaga resmi.
Jika AI menyebut penelitian, cek apakah penelitian itu benar ada dan apakah kesimpulan AI sesuai dengan isinya.
Jika AI menyebut kutipan, cari teks asli, bukan hanya halaman lain yang mengulang kutipan tersebut.
Jika pertanyaannya berkaitan dengan pelajaran, bandingkan dengan buku, materi guru, atau sumber pendidikan tepercaya.
Kalau jawabannya menyangkut kesehatan atau keselamatan, libatkan orang dewasa dan profesional yang sesuai.
Prinsipnya bukan “jangan pernah pakai AI”. Prinsipnya adalah “sesuaikan tingkat kepercayaan dengan tingkat risiko”.
JANGAN HANYA MEMINTA AI MENGECEK DIRINYA SENDIRI
Ada kebiasaan yang terasa praktis:
“Apakah jawabanmu tadi benar?”
AI mungkin memperbaiki jawabannya. Tetapi ia juga bisa kembali menyatakan hal yang salah dengan bahasa berbeda.
Karena itu, self-check dari AI sebaiknya dianggap langkah tambahan, bukan verifikasi akhir.
Kita boleh meminta:
“Bagian mana dari jawaban ini yang paling tidak pasti?”
“Pisahkan fakta, interpretasi, dan asumsi.”
“Berikan sumber primer yang bisa saya cek.”
Namun setelah itu, pengguna tetap perlu keluar dari percakapan AI dan memeriksa sumber independen bila faktanya penting.
Ini juga melatih anak untuk tidak menjadikan satu sistem sebagai penanya, penjawab, pemeriksa, sekaligus hakim terakhir.
SATU SUMBER JUGA BISA SALAH DIBACA
Ada satu jebakan tambahan. Kadang AI memberikan tautan atau menyebut sumber yang benar-benar ada, lalu pengguna merasa masalah selesai. Belum tentu. Sumber yang nyata masih bisa dipahami secara keliru, dipotong konteksnya, atau dipakai untuk mendukung klaim yang sebenarnya tidak tertulis di sana.
Karena itu, untuk tugas penting, biasakan anak membuka sumber dan membaca bagian yang relevan. Jangan berhenti pada nama situs, logo lembaga, atau judul penelitian. Tanyakan, “Apakah sumber ini benar-benar mengatakan hal yang ditulis AI?”
Ini keterampilan yang akan tetap berguna walaupun model AI nanti semakin akurat. Verifikasi bukan sekadar cara menangkap kesalahan mesin. Verifikasi adalah kebiasaan intelektual untuk memastikan bahwa kesimpulan kita memang punya dasar.
HALLUCINATION JUSTRU BISA MENJADI PELAJARAN TENTANG CARA MENGETAHUI SESUATU
Ada sisi pendidikan yang menarik di sini.
Sebelum AI generatif, anak pun sudah perlu belajar membedakan sumber kuat dan lemah, fakta dan opini, bukti dan klaim. AI membuat pelajaran itu lebih mendesak karena informasi salah kini dapat disajikan dalam bahasa yang sangat rapi dan personal.
Di kelas ilustratif tadi, guru tidak langsung melarang siswa memakai chatbot.
Ia bertanya, “Kalau tiga judul buku tadi ternyata salah, apa yang kita pelajari?”
Siswa pertama menjawab, “Jangan percaya AI.”
Guru menggeleng. “Terlalu gampang.”
Temannya mencoba, “Jangan percaya cuma karena kelihatannya lengkap?”
“Nah.”
Itu lebih tepat.
Kecurigaan total juga bukan literasi. Kalau semua output AI dianggap salah, anak kehilangan kesempatan belajar menggunakan alat secara produktif. Literasi berada di tengah: gunakan, pertanyakan, cek, lalu putuskan.
BAHASA KELUARGA YANG BISA DIPAKAI SETIAP HARI
Istilah hallucination mungkin terdengar besar, tetapi praktiknya bisa diringkas menjadi empat kalimat pendek.
“Rapi belum tentu benar.”
“Kalau ada fakta penting, cek sumbernya.”
“Kalau risikonya besar, jangan hanya tanya AI.”
“Kalau kita belum yakin, boleh bilang belum tahu.”
Kalimat terakhir penting. AI sering memberi kita ilusi bahwa semua pertanyaan harus langsung punya jawaban. Anak perlu melihat bahwa manusia boleh menahan kesimpulan ketika bukti belum cukup.
Beberapa menit kemudian, siswa di perpustakaan tadi menemukan dua buku nyata yang relevan melalui katalog. Presentasinya tetap selesai, hanya jalurnya berubah.
“Bu, berarti tadi AI-nya hallucination?”
“Bisa kita sebut begitu,” jawab gurunya. “Yang lebih penting, sekarang kamu tahu apa yang harus dilakukan kalau kejadian lagi.”
Siswa itu mengangguk. Ia tidak menutup chatbot karena takut. Ia juga tidak menyalin jawabannya mentah-mentah.
Ia membuka tab baru untuk memeriksa.
Itulah respons yang kita cari dari AI literacy: bukan percaya penuh, bukan panik penuh, tetapi kemampuan berhenti satu langkah sebelum menjadikan output sebagai kebenaran.