Desafíos éticos de la Inteligencia Artificial en la personalización del aprendizaje
Ethical Challenges of Artificial Intelligence in the personalization of learning
Desafios éticos da inteligência artificial na personalização da aprendizagem
Resumen (es)
La Inteligencia Artificial (IA) ha emergido como una fuerza transformadora en múltiples aspectos de la sociedad contemporánea, incluyendo la educación. A pesar de sus promesas de personalizar el aprendizaje y mejorar los resultados educativos, su implementación plantea desafíos éticos significativos. Este artículo explora tales desafíos, focalizándose en la equidad educativa, el empoderamiento del estudiante, la construcción de confianza en los sistemas de IA, la protección de datos personales y la preservación de la diversidad educativa. Aunque la IA ofrece la capacidad de adaptar la enseñanza a las necesidades personales, existe el riesgo de amplificar desigualdades preexistentes debido a disparidades en el acceso a la tecnología y recursos educativos, o de una dependencia excesiva de la tecnología. La reflexión ética y la implementación de políticas adecuadas son fundamentales para maximizar los beneficios de la IA mientras se mitigan sus posibles repercusiones negativas en el ámbito educativo.
Resumen (en)
Artificial Intelligence (AI) has emerged as a transformative force in multiple aspects of contemporary society, including education. Despite its promises to personalize learning and improve educational outcomes, its implementation poses significant ethical challenges. This article explores such challenges, focusing on educational equity, student empowerment, building trust in AI systems, protecting personal data and preserving educational diversity. While AI offers the ability to tailor learning to personal needs, there is a risk of amplifying pre-existing inequalities due to disparities in access to technology and educational resources, or over-reliance on technology. Ethical reflection and the implementation of appropriate policies are critical to maximize the benefits of AI while mitigating its potential negative impacts on education.
Resumen (pt)
A Inteligência Artificial (IA) surgiu como uma força transformadora em múltiplos aspectos da sociedade contemporânea, incluindo a educação. Apesar das suas promessas de personalizar a aprendizagem e melhorar os resultados educativos, a sua aplicação coloca desafios éticos significativos. Este artigo explora esses desafios, centrando-se na equidade educativa, na capacitação dos estudantes, na criação de confiança nos sistemas de IA, na proteção dos dados pessoais e na preservação da diversidade educativa. Embora a IA ofereça a capacidade de adaptar a aprendizagem às necessidades pessoais, existe o risco de amplificar as desigualdades pré-existentes devido a disparidades no acesso à tecnologia e aos recursos educativos, ou a uma dependência excessiva da tecnologia. A reflexão ética e a aplicação de políticas adequadas são fundamentais para maximizar os benefícios da IA e, ao mesmo tempo, atenuar os seus potenciais impactos negativos na educação.
Referencias
Acquisti, A., Brandimarte, L., & Loewenstein, G. (2015). Privacy and human behavior in the age of information. Science, 347(6221), 509-514.
Aparicio-Gómez, Oscar-Yecid, Aparicio-Gómez, Carlos Alfonso., & von Feigenblatt, Otto Federico (2024). Tejiendo conexiones: la simbiosis transformadora entre aprendizaje e Inteligencia Artificial. Hachetetepé. Revista científica De Educación y Comunicación, (28), 1-11. https://doi.org/10.25267/Hachetetepe.2024.i28.1103
Aparicio-Gómez, Oscar-Yecid, Aparicio-Gómez, William-Oswaldo (2024). Homo technicus: From techné to Artificial Intelligence. von Feigenblatt, Otto., Aparicio-Gómez, Oscar-Yecid (Eds.) (2024). Artificial Intelligence and Education: An Ongoing Dialogue (pp. 97-119). Barcelona: Octaedro. ISBN: 978-84-10282-04-9.
Brundage, M., Klein, J., & Wang, M. (2020). The malicious use of artificial intelligence: Forecasting, prevention, and mitigation. Artificial Intelligence, 328.
Calo, R. (2015). Against autonomy: Why self-driving cars, and other autonomous machines, are bad ideas. Columbia Law Review, 114(4), 993-1062.
Castelvecchi, V. (2016). Making AI explainable: Efforts to demystify machine learning and make it more transparent. Nature News, 538(7623), 435.
Doshi, V., Whittaker, C., & Tambe, P. (2020). Auditing AI: A framework for enabling the responsible use of artificial intelligence. Proceedings of the ACM on Human-Computer Interaction, 4(CSCW1), 1-18.
Floridi, L. (2013). The ethics of information. MIT Press.
Gebhardt, M., Wadler, S., & Berk, A. (2020). Bias and fairness in artificial intelligence. Proceedings of the AAAI Conference on Artificial Intelligence, 34(01), 745-752.
Johnson, D. D. (2016). Pervasive artificial intelligence: Should we fear or welcome it? In The ethics of artificial intelligence (pp. 246-263). Cambridge University Press.
Lipton, Z. C. (2018). The flip side of learning: A survey of algorithmic biases. Communications of the ACM, 61(7), 38-47.
Mittelstadt, B., Allo, P., Taddeo, M., Wachter, S., & Floridi, L. (2019). The ethics of artificial intelligence. Nature, 561(7723), 388-392.
O'Neill, S. (2017). Weapons of math destruction: How big data increases inequality and threatens democracy. Crown Publishing.
Pasquale, F., & Goertzel, B. (2020). The black box problem and artificial intelligence. Artificial Intelligence and Society, 56, 1-9.
Sandvig, E., & Wachter, S. (2019). Auditing algorithms: Beyond explanation. Science, 365(6453).
Solove, D. J. (2008). Understanding privacy. Harvard University Press.
Toft, M. B. (2018). Algorithmic fairness and the limits of human-centered design. Ethics and Information Technology, 20(2), 223-239.
Verma, S., & Doshi-Velez, F. (2019). Fairness and causality in predictive modeling. Proceedings of the AAAI Conference on Artificial Intelligence, 33(1), 1992-1999.
Zuboff, S. (2019). The age of surveillance capitalism: The fight for the future of our privacy. PublicAffairs.
Cómo citar
Licencia
Derechos de autor 2024 Revista Interamericana de Investigación Educación y Pedagogía RIIEP
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
Los autores mantienen los derechos sobre los artículos y por tanto son libres de compartir, copiar, distribuir, ejecutar y comunicar públicamente la obra bajo las condiciones siguientes:
Reconocer los créditos de la obra de la manera especificada por el autor o el licenciante (pero no de una manera que sugiera que tiene su apoyo o que apoyan el uso que hace de su obra).
RIIEP está bajo una licencia Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional (CC BY-NC-SA 4.0)
La Universidad Santo Tomás conserva los derechos patrimoniales de las obras publicadas, y favorece y permite la reutilización de las mismas bajo la licencia anteriormente mencionada.
