Tantangan Etika Teknologi Dalam Pemanfaatan Artificial Intelligence: Privasi, Bias, Dan Akuntabilitas Dalam Pendidikan Di Indonesia
DOI:
https://doi.org/10.31849/r0b2fm79Keywords:
Kecerdasan Buatan, Pendidikan, Tantangan EtikaAbstract
Pemanfaatan Kecerdasan Buatan (AI) dalam sektor pendidikan di Indonesia menghadirkan peluang signifikan dalam meningkatkan efisiensi pembelajaran, personalisasi materi, dan pengambilan keputusan berbasis data. Namun, di balik potensi tersebut, terdapat tantangan etis yang kompleks, khususnya terkait privasi data siswa, bias algoritmik, dan akuntabilitas sistem. Penelitian ini menggunakan pendekatan literature review terhadap 34 sumber akademik dan kebijakan publik untuk mengidentifikasi isu-isu utama serta strategi mitigasi yang telah diusulkan. Hasil kajian menunjukkan bahwa pengumpulan data yang masif tanpa kontrol ketat berisiko menimbulkan pelanggaran privasi, algoritma yang dilatih dengan data tidak representatif dapat memperkuat ketidakadilan pendidikan, dan ketidakjelasan regulasi menciptakan celah akuntabilitas yang merugikan pengguna. Oleh karena itu, diperlukan pendekatan sistemik yang mencakup desain privasi sejak awal, bias terhadap algoritma, serta kerangka hukum yang mendukung transparansi dan penelusuran keputusan AI. Kajian ini diharapkan dapat menjadi landasan bagi pengembangan kebijakan etika AI yang lebih inklusif dan berkelanjutan di sektor pendidikan Indonesia.
References
[1] Aulia, R., Refa, N., Zahra, M., Chi, B. I., & Monzum, R. E. (2025). Literatur Review : Etika Penggunaan AI dalam Praktik Bisnis. 2393.
[2] Dakakni, D., & Safa, N. (2023). Artificial intelligence in the L2 classroom: Implications and challenges on ethics and equity in higher education: A 21st century Pandora’s box. Computers and Education: Artificial Intelligence, 5(August). https://doi.org/10.1016/j.caeai.2023.100179
[3] Erna Widyasari, Budi Murtiyasa, & Eko Supriyanto. (2024). Revolusi Pendidikan dengan Artificial Intelligence: Peluang dan Tantangan. Jurnal Ilmiah Edukatif, 10(2), 302–311. https://doi.org/10.37567/jie.v10i2.3405
[4] Faisal, M. (2025). Regulasi dan Tantangan Hukum Penggunaan AI di Sektor Publik dalam Risiko, Akuntabilitas, dan Kebijakan Strategis. CENDEKIA : Jurnal Penelitian Dan Pengkajian Ilmiah, 2(1), 109–116. https://doi.org/10.62335/n1prjk86
[5] Judijanto, L., Basri, T. S., Khulaili Harsya, R. M., Vandika, A. Y., & Utama, A. S. (2024). Kajian Hukum Dampak Kecerdasan Buatan terhadap Perlindungan Privasi Data dalam Hukum Siber Indonesia. Sanskara Hukum Dan HAM, 3(02), 68–76. https://doi.org/10.58812/shh.v3i02.498
[6] Judijanto, L., & Harsya, R. M. K. (2025). Etika dan Hukum dalam Penggunaan Artificial Intelligence terhadap Privasi Digital di Indonesia. Sanskara Hukum Dan HAM, 3(03), 141–149. https://doi.org/10.58812/shh.v3i03.543
[7] Lopes, N. M., Aparicio, M., & Neves, F. T. (2025). Challenges and prospects of artificial intelligence in aviation: a bibliometric study. Data Science and Management, 8(2), 207–223. https://doi.org/10.1016/j.dsm.2024.11.001
[8] Memarian, B., & Doleck, T. (2023). Fairness, Accountability, Transparency, and Ethics (FATE) in Artificial Intelligence (AI) and higher education: A systematic review. Computers and Education: Artificial Intelligence, 5(May). https://doi.org/10.1016/j.caeai.2023.100152
[9] Mienye, I. D., & Swart, T. G. (2025). ChatGPT in Education: A Review of Ethical Challenges and Approaches to Enhancing Transparency and Privacy. Procedia Computer Science, 254, 181–190. https://doi.org/10.1016/j.procs.2025.02.077
[10] Nasman, Astuti, P., & Perwitasari, D. (2024). Etika Dan Pertanggungjawaban Penggunaan Artificial Intelligence Di Indonesia Ethics. Jurnal Hukum, 5(10), 1–13.
[11] Ofosu-Ampong, K. (2024). Artificial intelligence research: A review on dominant themes, methods, frameworks and future research directions. Telematics and Informatics Reports, 14(March), 1–11. https://doi.org/10.1016/j.teler.2024.100127
