Bayangkan seorang orang tua menerima pesan dari sekolah.
“Bapak/Ibu, kami sedang meninjau penggunaan platform AI karena ditemukan masalah pada pengelolaan data.”
Pertanyaan pertama yang muncul sangat wajar.
“Siapa yang bertanggung jawab?”
Guru?
Sekolah?
Vendor aplikasi?
Perusahaan model AI?
Penyedia cloud?
Orang tua yang pernah menyetujui?
Anaknya sendiri karena menekan tombol?
Dalam ekosistem digital, jawabannya bisa melibatkan lebih dari satu pihak.
Tetapi ada satu hal yang harus ditolak sejak awal:
“AI-nya yang salah.”
AI bukan badan yang dapat mengambil tanggung jawab hukum atau institusional seperti manusia dan organisasi.
Di balik sistem ada pihak yang memilih, mengonfigurasi, membeli, mengoperasikan, memproses, menyimpan, dan menggunakan data.
Tanggung jawab perlu ditelusuri ke sana.
Mulai dari pertanyaan: siapa menentukan tujuan?
Dalam pelindungan data, ada konsep pengendali dan prosesor data pribadi.
Secara sederhana, pengendali menentukan tujuan dan melakukan kendali atas pemrosesan data.
Prosesor memproses data atas nama pengendali.
Dalam praktik nyata, perannya harus dilihat dari hubungan dan aktivitas yang sebenarnya, bukan sekadar label pemasaran.
Misalnya sekolah memutuskan:
kami akan memakai platform ini untuk memberi feedback tugas.
Sekolah menentukan tujuan pendidikan.
Vendor memproses data sesuai layanan dan kontrak.
Tetapi vendor mungkin juga mempunyai tujuan pemrosesan tertentu berdasarkan kebijakannya sendiri.
Kompleks.
Itulah sebabnya kontrak dan kebijakan perlu dibaca.
Sekolah tidak boleh berasumsi:
“Data sudah masuk vendor, jadi bukan tanggung jawab kami.”
Keputusan memasukkan data adalah bagian dari tata kelola sekolah.
Vendor juga tidak bisa begitu saja berkata:
“Sekolah yang upload, jadi semua urusan mereka.”
Masing-masing pihak bisa memiliki kewajiban sesuai perannya.
Rantai tanggung jawab harus terlihat sebelum data masuk
Sebelum implementasi, sekolah perlu bisa menggambar peta sederhana.
Murid memberi tugas.
Guru menggunakan platform.
Sekolah mengelola akun.
Vendor menerima data.
Vendor mungkin menggunakan layanan cloud.
Mungkin ada subprocessor.
Output kembali ke guru.
Guru memakai output untuk feedback.
Dari peta ini, tanyakan:
siapa punya akses?
siapa menyimpan?
siapa menghapus?
siapa menangani permintaan orang tua?
siapa menangani insiden?
siapa memberi notifikasi?
siapa memastikan usia dan persetujuan?
siapa menentukan retention?
siapa bertanggung jawab atas keputusan akhir?
Kalau jawaban-jawaban ini tidak jelas, sistem belum siap.
Tanggung jawab tidak seharusnya baru dicari setelah insiden.
Sekolah tetap bertanggung jawab atas keputusan penggunaan
Misalnya vendor memiliki sertifikasi keamanan yang bagus.
Itu positif.
Tetapi sekolah tetap harus menilai apakah penggunaan cocok untuk data murid.
Sertifikasi tidak menjawab semua pertanyaan.
Apakah tool sesuai usia?
Apakah data yang dikirim terlalu banyak?
Apakah tujuan pendidikan jelas?
Apakah orang tua sudah diberi informasi?
Apakah guru memasukkan data sensitif?
Apakah output AI digunakan secara proporsional?
Vendor bisa menyediakan alat.
Sekolah menentukan konteks penggunaan.
Karena itu procurement teknologi pendidikan tidak boleh hanya soal fitur dan harga.
Harus ada privacy review.
Security review.
Pedagogical review.
Legal review jika risikonya tinggi.
Dan rencana exit.
Sekolah yang memilih sistem tetap punya tanggung jawab untuk memilih dengan hati-hati.
Guru juga punya tanggung jawab, tetapi jangan dibiarkan sendirian
Guru memegang titik kontak paling dekat dengan data murid.
Mereka memilih file.
Mengetik prompt.
Mengunggah.
Membaca output.
Keputusan sehari-hari guru sangat penting.
Tetapi tidak adil jika seluruh tata kelola dibebankan kepada mereka.
Bayangkan instruksi sekolah:
“Silakan pakai AI dengan bijak.”
Apa artinya?
Tool mana yang boleh?
Data apa?
Akun apa?
Setting apa?
Apakah boleh upload esai?
Apakah boleh data nilai?
Bagaimana dengan catatan kebutuhan khusus?
Tanpa kebijakan, guru akan menebak.
Sekolah perlu memberikan guardrail yang konkret.
Guru kemudian bertanggung jawab mengikuti guardrail itu dan melaporkan jika ada masalah.
Tanggung jawab dibagi.
Bukan dilempar.
Vendor harus bisa menjawab pertanyaan data
Sebelum sekolah memasukkan data anak, vendor seharusnya dapat memberikan informasi yang cukup.
Apa jenis data yang diproses?
Untuk tujuan apa?
Apakah data digunakan untuk melatih atau meningkatkan model?
Bagaimana setting terkait penggunaan data?
Di mana data disimpan?
Berapa lama?
Bagaimana penghapusan?
Subprocessor siapa?
Bagaimana keamanan?
Apa prosedur insiden?
Bagaimana hak subjek data dipenuhi?
Apa batas usia?
Apakah ada produk pendidikan khusus?
Bagaimana perubahan kebijakan diberitahukan?
Jika vendor tidak bisa menjawab pertanyaan dasar, itu sinyal.
Tidak semua tool konsumen cocok untuk data sekolah.
Produk yang menyenangkan untuk brainstorming guru pribadi belum tentu tepat untuk menyimpan informasi murid.
Orang tua punya peran, tetapi bukan pemindahan tanggung jawab
Sekolah mendapat tanda tangan orang tua.
Apakah semua risiko sekarang menjadi tanggung jawab orang tua?
Tidak.
Consent tidak boleh digunakan sebagai surat pembebasan tanggung jawab.
Orang tua memberi persetujuan dalam konteks informasi tertentu.
Sekolah tetap punya kewajiban tata kelola.
Vendor tetap punya kewajiban sesuai perannya.
Guru tetap perlu menggunakan tool sesuai aturan.
Anak tetap perlu diberi penjelasan sesuai usia.
Tanggung jawab tidak berubah menjadi:
“Bapak/Ibu sudah setuju, jadi kalau ada apa-apa bukan urusan kami.”
Itu bukan governance.
Persetujuan adalah satu lapisan.
Bukan seluruh sistem.
Anak juga punya tanggung jawab yang sesuai usia
Anak perlu belajar:
jangan membagikan password,
jangan upload data teman sembarangan,
jangan memasukkan informasi sensitif tanpa perlu,
ikuti aturan sekolah,
laporkan output yang tidak aman,
dan jangan memalsukan usia akun.
Tetapi jangan membalik logika.
Anak tidak boleh menjadi pihak yang disalahkan ketika desain sistem, kebijakan sekolah, atau kontrol vendor gagal.
Anak masih berkembang.
Orang dewasa dan institusi harus membangun lingkungan yang memudahkan pilihan aman.
Tanggung jawab anak bersifat edukatif dan proporsional.
Tanggung jawab institusi bersifat struktural.
Bedakan keduanya.
Kalau AI salah menilai, siapa bertanggung jawab?
Misalnya AI memberi feedback:
“Tulisan ini plagiarisme.”
Guru percaya.
Siswa dihukum.
Belakangan ternyata sistem salah.
Sekolah tidak bisa berkata:
“AI yang menilai.”
Keputusan disiplin adalah keputusan manusia atau institusi.
AI boleh menjadi alat bantu.
Tetapi untuk keputusan yang berdampak besar, human oversight sangat penting.
UNICEF menekankan pentingnya transparansi, explainability, accountability, serta kepentingan terbaik anak dalam sistem AI.
Artinya rekomendasi mesin perlu dapat ditinjau.
Siswa perlu bisa bertanya.
Guru perlu memahami keterbatasan tool.
Ada jalur banding.
Ada manusia yang bertanggung jawab.
Semakin besar dampaknya, semakin tidak dapat diterima keputusan “komputer bilang begitu”.
Akuntabilitas membutuhkan nama dan jalur
Sekolah sebaiknya bisa menjawab:
“Kalau orang tua punya pertanyaan, hubungi siapa?”
Bukan:
“Coba tanya vendor.”
Bukan:
“Coba tanya wali kelas.”
Bukan:
“Coba baca Terms.”
Harus ada jalur yang jelas.
Misalnya:
wali kelas untuk konteks akademik,
tim TI untuk akun,
petugas atau fungsi privasi untuk data,
pimpinan sekolah untuk kebijakan,
vendor melalui kanal resmi untuk masalah platform.
Struktur tergantung sekolah.
Yang penting tidak menjadi ping-pong.
Orang tua yang bertanya tentang data anak tidak boleh dipaksa mengejar lima pihak untuk mendapatkan satu jawaban.
Tanggung jawab perlu dikoordinasikan.
Indonesia sudah punya kerangka perlindungan yang lebih kuat
UU PDP memberi kewajiban kepada pengendali dan prosesor data pribadi serta memberikan perlakuan khusus pada data anak.
PP 17/2025 menambah lapisan pelindungan anak dalam sistem elektronik, termasuk prinsip kepentingan terbaik anak, perlindungan data, desain sesuai usia, dan kewajiban tertentu bagi penyelenggara dalam cakupannya.
Permenkomdigi 9/2026 menjadi aturan pelaksanaan PP tersebut.
Sekolah dan vendor perlu melihat seluruh kewajiban yang relevan terhadap peran mereka.
Tidak semua situasi akan memiliki konfigurasi hukum yang sama.
Sekolah negeri, swasta, vendor lokal, vendor global, akun institusi, akun konsumen, dan jenis data berbeda bisa menimbulkan pertanyaan berbeda.
Karena itu tata kelola perlu konkret, bukan slogan.
Apa yang terjadi jika vendor memakai subprocessor?
Sekolah memakai platform A.
Platform A memakai cloud B.
Fitur AI menggunakan model C.
Analitik memakai vendor D.
Apakah sekolah harus panik?
Tidak.
Rantai vendor adalah hal biasa dalam layanan digital.
Yang penting transparansi dan kontrol.
Apakah hubungan itu dijelaskan?
Apakah perlindungan data diteruskan ke pihak terkait?
Apakah ada batas penggunaan?
Apakah sekolah tahu ke mana data dapat bergerak?
Apakah perubahan subprocessor diberitahukan?
Semakin kompleks rantainya, semakin penting kontrak dan dokumentasi.
“Banyak vendor” bukan otomatis buruk.
“Tidak tahu vendor mana yang memproses” adalah masalah.
Jika terjadi insiden, respons lebih penting daripada saling menyalahkan
Bayangkan data murid terekspos.
Langkah buruk:
guru menyalahkan vendor,
vendor menyalahkan konfigurasi,
sekolah menyalahkan guru,
orang tua diberi jawaban kabur.
Langkah lebih baik:
hentikan risiko aktif,
identifikasi data terdampak,
identifikasi sistem,
libatkan pihak internal yang bertanggung jawab,
ikuti kewajiban notifikasi dan respons sesuai hukum serta kebijakan,
komunikasikan secara akurat,
pulihkan kontrol,
dan perbaiki proses.
Akuntabilitas terlihat saat sistem gagal.
Bukan hanya saat presentasi vendor.
Sekolah perlu melakukan post-incident review.
Kenapa terjadi?
Apakah kebijakan kurang jelas?
Setting salah?
Vendor gagal?
Training guru kurang?
Data yang dikumpulkan terlalu banyak?
Apa yang harus diubah?
Tanggung jawab yang sehat menghasilkan perbaikan.
Bukan scapegoat.
Buat satu matriks sederhana
Sebelum memakai AI, tulis:
DATA
SIAPA MENGUMPULKAN
SIAPA MENYIMPAN
SIAPA BOLEH AKSES
UNTUK TUJUAN APA
BERAPA LAMA
CARA HAPUS
SIAPA MENJAWAB PERTANYAAN
SIAPA MEMUTUSKAN OUTPUT
Tidak perlu software mahal.
Satu tabel pun cukup.
Kalau satu kolom kosong, itu sinyal untuk bertanya.
Tata kelola yang baik sering dimulai dari kejelasan sederhana.
Kembali ke pesan orang tua tadi.
“Siapa yang bertanggung jawab?”
Jawaban sekolah yang sehat seharusnya tidak:
“AI.”
Seharusnya ada jawaban manusia.
“Akun dikelola sekolah. Vendor memproses melalui layanan X. Untuk pertanyaan data, hubungi tim ini. Untuk keputusan akademik, guru tetap bertanggung jawab. Kami sedang melakukan langkah berikut.”
Jelas.
Spesifik.
Dapat ditindaklanjuti.
AI boleh rumit.
Rantai teknologinya boleh panjang.
Tetapi tanggung jawab kepada anak tidak boleh hilang di tengah rantai itu.
Kontrak juga perlu menjawab skenario perubahan. Apa yang terjadi jika vendor mengganti model, menambah subprocessor, mengubah lokasi pemrosesan, atau mengubah kebijakan penggunaan data? Sekolah membutuhkan mekanisme review. Tanggung jawab bukan sesuatu yang ditentukan sekali saat pembelian lalu dilupakan.
Hal lain yang sering luput adalah log akses. Jika banyak staf dapat membuka data murid, sekolah perlu memastikan akses diberikan berdasarkan kebutuhan kerja. Guru matematika tidak otomatis perlu melihat seluruh catatan konseling. Prinsip yang sama berlaku ketika AI diintegrasikan dengan sistem sekolah. Integrasi yang nyaman tidak boleh membuat batas akses menjadi kabur.