Protección de los derechos humanos frente a los sesgos algorítmicos en la IA aplicada a la salud en América Latina: desafíos y perspectivas
Protecting Human Rights Against Algorithmic Bias in AI Applied to Healthcare in Latin America: Challenges and Prospects
Resumen (es)
El presente artículo analiza los desafíos que enfrenta la protección de los derechos humanos en América Latina frente a los sesgos algorítmicos en la IA aplicada al ámbito de la salud. Examina cómo la rápida incorporación de estas tecnologías en el sector sanitario de la región puede exacerbar las desigualdades existentes debido a la falta de datos representativos y de marcos regulatorios sólidos, lo que podría afectar los derechos de los pacientes. El objetivo principal del trabajo es analizar dichos desafíos, describiendo las características generales de los sistemas de salud latinoamericanos y la normativa internacional en materia de derechos humanos. Se emplea una metodología cualitativa, basada en la revisión de documentos e informes de organismos internacionales. El artículo concluye que, si bien la IA posee un notable potencial para mejorar la atención sanitaria, persisten profundas desigualdades que afectan a las poblaciones más vulnerables. En consecuencia, la ausencia de regulación específica en la región podría acentuar los riesgos de discriminación y exclusión. Se resalta, por tanto, la necesidad de adoptar medidas proactivas, como la elaboración de instrumentos jurídicamente vinculantes y la promoción de políticas de educación digital, a fin de garantizar el respeto de los derechos humanos en el contexto de la IA aplicada a la salud.
Resumen (en)
This article analyzes the challenges facing the protection of human rights in Latin America in light of algorithmic biases in AI applied to the healthcare sector. It examines how the rapid adoption of these technologies in the region’s healthcare sector may exacerbate existing inequalities due to a lack of representative data and robust regulatory frameworks, which could affect patients’ rights. The main objective of this study is to analyze these challenges by describing the general characteristics of Latin American health systems and international human rights standards. A qualitative methodology is employed, based on a review of documents and reports from international organizations. The article concludes that, while AI has significant potential to improve healthcare, deep-seated inequalities persist that affect the most vulnerable populations. Consequently, the absence of specific regulation in the region could exacerbate the risks of discrimination and exclusion. The need to adopt proactive measures—such as the development of legally binding instruments and the promotion of digital education policies—is therefore emphasized, in order to ensure respect for human rights in the context of AI applied to healthcare.
Referencias
Ahmed MI, Spooner B, Isherwood J, Lane M, Orrock E., y Dennison A. (2023). A Systematic Review of the Barriers to the Implementation of Artificial Intelligence in Healthcare. Cureusm 15(10), https://doi.org/10.7759/cureus.46454.
Alowais, S. A., Alghamdi, S. S., Alsuhebany, N., Alqahtani, T., Alshaya, A. I., Almohareb, S. N., Aldairem, A., Alrashed, M., Bin Saleh, K., Badreldin, H. A., Al Yami, M. S., Al Harbi, S., y Albekairy, A. M. (2023). Revolutionizing healthcare: the role of artificial intelligence in clinical practice. BMC Medical Education, 23, 689. https://doi.org/10.1186/s12909-023-04698-z.
Atun, R., Monteiro de Andrade, L. O., Almeida, G., Cotlear, D., Dmytraczenko, T., Frenz, P., Garcia, P., Gómez-Dantés, O., Knaul, F. M., Muntaner, C., Braga de Paula, J., Rígoli, F., Castell-Florit Serrate, P., y Wagstaff, A. (2015). Health-system reform and universal health coverage in Latin America. The Lancet, 385(9974), 1230-1247. https://doi.org/10.1016/S0140-6736(14)61646-9.
Avbelj, M. (2024). Reconceptualizing constitutionalism in the AI-run algorithmic society. German Law Journal. https://doi.org/10.1017/glj.2024.35.
Bancalari, A., Bernal, P., Celhay, P., Martinez, S., y Sánchez, M. D. (2023). Health systems and health inequalities in Latin America. Oxford Open Economics.
Bárcenas Vidal, J., Fuertes Iglesias, C., y Martínez Montenegro, I. (2025). Sesgos en la inteligencia artificial en el sector salud: una revisión sistemática en el contexto iberoamericano. Revista Iberoamericana De La Propiedad Intelectual, (22), 123-154. https://doi.org/10.26422/RIPI.2025.2200.bar.
Cárdenas-Contreras, L. E. (2023). La salud a la manera de la Corte Interamericana de Derechos Humanos: Una exploración de la jurisprudencia, hasta 2021, a propósito del artículo 26 de la Convención Americana sobre Derechos Humanos. Díkaion, 32(1), https://doi.org/10.5294/dika.2023.32.1.13.
Cary, M. P., Zink, A., Wei, S., et al. (2023). Mitigating Racial and Ethnic Bias and Advancing Health Equity in Clinical Algorithms: A Scoping Review. Health Affairs, 42(10), 1359–1368. https://doi.org/10.1377/hlthaff.2023.00553.
Castro A, Savage V., y Kaufman H. (2015). Assessing equitable care for Indigenous and Afrodescendant women in Latin America. Rev Panam Salud Publica, 38(2), 96-109. PMID: 26581050.
Celeste, E. (2022). Digital Constitutionalism: The Role of Internet Bills of Rights. Editorial Milton: Taylor & Francis Group. https://doi.org/10.4324/9781003256908.
Chen, R. J., Wang, J. J., Williamson, D. F. K., Chen, T. Y., Lipkova, J., Lu, M. Y., Sahai, S., y Mahmood, F. (2023). Algorithmic fairness in artificial intelligence for medicine and healthcare. Nature Biomedical Engineering, 7, 719–742. https://doi.org/10.1038/s41551-023-01056-8
Comisión Europea. (2021). Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión [COM(2021) 206 final]. https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX%3A52021PC0206.
Comisión Interamericana de Derechos Humanos. (2019). Informe sobre protesta social y derechos humanos. Organización de los Estados Americanos. https://www.oas.org/es/cidh/expresion/publicaciones/ProtestayDerechosHumanos.pdf.
Comisión Interamericana de Derechos Humanos. (2020). Compendio sobre igualdad y no discriminación. Organización de los Estados Americanos. https://www.oas.org/es/cidh/informes/pdfs/compendio-igualdadnodiscriminacion.pdf.
Comisión Interamericana de Derechos Humanos (CIDH). (2023). Pandemia y derechos humanos (OEA/Ser.L/V/II. Doc. 38). Organización de los Estados Americanos.
Comisión Interamericana de Derechos Humanos. (s.f.). Principios y buenas prácticas sobre la protección de las personas privadas de libertad en las Américas. Organización de los Estados Americanos. https://www.oas.org/es/cidh/jsForm/?File=%2Fes%2Fcidh%2Fmandato%2Fbasicos%2Fprincipiosppl.asp
Contreras, P. (2024). Convergencia internacional y caminos propios: regulación de la inteligencia artificial en América Latina. Actualidad Jurídica Iberoamericana (21), 468-493. https://n9.cl/mv3v7c
Corte Interamericana de Derechos Humanos. (2020, 9 de abril). Declaración de la Corte Interamericana de Derechos Humanos 1/20: COVID 19 y derechos humanos: Los problemas y desafíos deben ser abordados con perspectiva de derechos humanos y respetando las obligaciones internacionales. https://www.corteidh.or.cr/tablas/alerta/comunicado/declaracion_1_20_ESP.pdf.
Corte Interamericana de Derechos Humanos. (2021). Caso Vera Rojas y otros vs. Chile. Sentencia de 1 de octubre de 2021 (Serie C No. 439). https://www.corteidh.or.cr/docs/casos/articulos/seriec_439_esp.pdf.
Corte Interamericana de Derechos Humanos. (2022). Cuadernillos de Jurisprudencia de la Corte Interamericana de Derechos Humanos No. 28: Derecho a la salud [archivo PDF]. Corte IDH. https://biblioteca.corteidh.or.cr/adjunto/38989.
Corte Interamericana de Derechos Humanos. (2024). Caso Habitantes de La Oroya vs. Perú. Sentencia de 29 de noviembre de 2023 (Excepciones Preliminares, Fondo, Reparaciones y Costas) (Serie C No. 511). https://www.corteidh.or.cr/docs/casos/articulos/seriec_511_esp.pdf.
Cotlear, D., Gómez-Dantés, O., Knaul, F., Atun, R., Barreto, I. C. H. C., Cetrángolo, O., Cueto, M., Francke, P., Frenz, P., Guerrero, R., Lozano, R., Marten, R., y Sáenz, R. (2015). Overcoming social segregation in health care in Latin America. The Lancet, 385(9974), 1248-1259. https://doi.org/10.1016/S0140-6736(14)61647-0.
De Asís, R. (2020). Inteligencia artificial y derechos humanos (Uc3m Working Paper, Materiales de Filosofía del Derecho, 20-04). Universidad Carlos III de Madrid.
De Asís, R. de. (2024). De nuevo sobre Inteligencia Artificial y derechos humano. Derechos y libertades: revista de filosofía del derecho y derechos humanos, (51), 25-40. https://doi.org/10.20318/dyl.2024.8582.
Denizot, A. (2021). Responsabilidad civil y robots inteligentes: Entre dudas doctrinales y respuestas técnicas, Revista Nuevos Desafíos del Derecho, 1(1). https://doi.org/10.15765/ndd.v1i1.1768.
De Gregorio, G. (2019). From constitutional freedoms to the power of the platforms: Protecting fundamental rights online in the algorithmic society. European Journal of Legal Studies, 11(2), 65-103.
Díaz R., Zabala T., Romero H. (2024). Análisis del riesgo de mal manejo de bases de datos personales (caso Nequi). Revista Nuevos Desafíos Del Derecho, 4(1), 5-43, https://revistas.poligran.edu.co/index.php/desafios/issue/view/505.
Díaz Galán, E. C. (2025). La regulación jurídica de la inteligencia artificial (IA) en Europa: Dos pasos decisivos, aunque insuficientes, del Consejo de Europa y la Unión Europea. Cuadernos de Derecho Transnacional, 17(1), 366-390. https://doi.org/10.20318/cdt.2025.9334.
Fukuda‐Parr, S., y Gibbons, E. (2021). Emerging consensus on ‘ethical ai’: Human rights critique of stakeholder guidelines. Global Policy, 12(S6), 32-44. https://doi.org/10.1111/1758-5899.12965.
Flick, U. (2018). An Introduction to Qualitative Research (6th ed.). SAGE. https://doi.org/10.4135/9781529622737.
González L., Rueda A. (2025). Análisis de la inteligencia artificial en las decisiones judiciales en Colombia: estudio de caso de la sentencia t-323 y proyectos de ley radicados. Revista Nuevos Desafíos Del Derecho, 6(1), 65-89. https://revistas.poligran.edu.co/index.php/desafios/issue/view/507
Garcia-Saiso, S., Marti, M., Pesce, K., Luciani, S., Mujica, O., Hennis, A. y D’Agostino, M. (2024). Artificial intelligence as a potential catalyst to a more equitable cancer care. JMIR Cancer, 10, e57276. https://doi.org/10.2196/57276.
Gianfrancesco, M. A., Tamang, S., Yazdany, J., y Schmajuk, G. (2018). Potential Biases in Machine Learning Algorithms Using Electronic Health Record Data. JAMA Internal Medicine, 178(11), 1544-1547. doi:10.1001/jamainternmed.2018.3763.
Gutiérrez Robledo, L. M., Cano-Gutiérrez, C., y Vega Garcia, E. (2022). Healthcare for older people in Central and South America. Age and Ageing, 51(5). https://doi.org/10.1093/ageing/afac017.
Graph, A., Poon, K. T., y Wietzke, L. (2021). Artificial intelligence and human rights: Are there signs of an emerging discipline? A systematic review. Journal of Human Rights, 32(1), 1-23.
Hauglid, M. K., y Mahler, T. (2023). Doctor Chatbot: The EU’s Regulatory Prescription for Generative Medical AI. Oslo Law Review, 10(1). https://doi.org/10.18261/olr.10.1.1.
Hogan, L., y Lasek-Markey, M. (2024). Towards a Human Rights-Based Approach to Ethical AI Governance in Europe. Philosophies, 9(6), 181. https://doi.org/10.3390/philosophies9060181.
Jain, A., Brooks, C. C., Alford, B., y Bierman, A. S. (2023). Awareness of racial and ethnic bias and potential solutions to address bias with use of health care algorithms. JAMA Health Forum, 4(6), https://doi.org/10.1001/jamahealthforum.2023.1197.
Kijewski, S., Ronchi, E., y Vayena, E. (2024). 15: International organisations and the global governance of AI in health. Research Handbook on Health, AI and the Law. Cheltenham, https://doi.org/10.4337/9781802205657.ch15.
Kriebitz, A. (2023). Protecting and realizing human rights in the context of artificial intelligence: A problem statement. Institute for Ethics in Artificial Intelligence, Technical University of Munich. https://doi.org/10.4337/9781803928241.00011.
Kusche, I. (2024). Possible harms of artificial intelligence and the EU AI act: fundamental rights and risk. Journal of Risk Research, 1–14. https://doi.org/10.1080/13669877.2024.2350720.
Lane, L. (2023). Artificial Intelligence and Human Rights: Corporate Responsibility in AI Governance Initiatives. Nordic Journal of Human Rights, 41(3), 304–325. https://doi.org/10.1080/18918131.2022.2137288.
Li, YH., Li, YL., Wei, MY. (2024). Innovation and challenges of artificial intelligence technology in personalized healthcare. Sci Rep 14(18994). https://doi.org/10.1038/s41598-024-70073-7.
Makino, M., Yoshimoto, R., Ono, M., Itoko, T., Katsuki, T., Koseki, A., Kudo, M., Haida, K., Kuroda, J., Yanagiya, R., Saitoh, E., Hoshinaga, K., Yuzawa, Y., y Suzuki, A. (2019). Artificial intelligence predicts the progression of diabetic kidney disease using big data machine learning. Scientific Reports, 9(11862). https://doi.org/10.1038/s41598-019-48263-5.
Martínez, I. (2025). El problema de investigación jurídica: claves metodológicas para una formulación pertinente. Revista chilena de derecho y ciencia política, 16(09). https://dx.doi.org/10.7770/rchdcp-v16n1-art503.
Martínez Montenegro, I. (2023). Sobre los métodos de la investigación jurídica. Revista chilena de derecho y ciencia política, 14(01). https://dx.doi.org/10.7770/rchdcp-v14n1-art312.
Micklitz, H.-W., Pollicino, O., Reichman, A., Simoncini, A., Sartor, G., y De Gregorio, G. (Eds.). (2022). Constitutional challenges in the algorithmic society. Cambridge University Press. https://doi.org/10.1017/9781108914857.
Mittelstadt, B. (2019). Principles alone cannot guarantee ethical AI. Nature Machine Intelligence, 1(11), 501–507. https://doi.org/10.1038/s42256-019-0114-4.
Miller, R. J. H., Singh, A., Otaki, Y., Tamarappoo, B. K., Kavanagh, P., Parekh, T., Hu, L.-H., Gransar, H., Sharir, T., Einstein, A. J., Fish, M. B., Ruddy, T. D., Kaufmann, P. A., Sinusas, A. J., Miller, E. J., Bateman, T. M., Dorbala, S., Di Carli, M. F., Liang, J. X., … Slomka, P. J. (2023). Mitigating bias in deep learning for diagnosis of coronary artery disease from myocardial perfusion SPECT images. European Journal of Nuclear Medicine and Molecular Imaging, 50, 387–397. https://doi.org/10.1007/s00259-022-05972-w.
Montenegro, R. A., y Stephens, C. (2006). Indigenous health in Latin America and the Caribbean. The Lancet, 367(9525), 1859-1869. https://doi.org/10.1016/S0140-6736(06)68808-9.
Mujica, O. J., Sanhueza, A., Carvajal-Velez, L., Vidaletti, L. P., Costa, J. C., Barros, A. J. D., y Victora, C. G. (2023). Recent trends in maternal and child health inequalities in Latin America and the Caribbean: Analysis of repeated national surveys. International Journal for Equity in Health, 22, 125. https://doi.org/10.1186/s12939-023-01932-4.
Muller, K., Bown, P., y Sable, B. (2022). The sociodemographic biases in machine learning algorithms: A biomedical informatics perspective. Health Informatics Journal, 28(3), 146-158.
Muñoz-Cadena, S., Gutiérrez, J. D., Castellanos-Sánchez, M., y Peralta, D. S. (2025, mayo). Sistemas de IA en el sector público de América Latina y el Caribe (versión 2.4) [conjunto de datos]. Universidad de los Andes.
Obregón Fernández, A., y Lazcoz Moratinos, G. (2021). La supervisión humana de los sistemas de inteligencia artificial de alto riesgo. Revista Electrónica de Estudios Internacionales, 42, 1-29.
Organización Mundial de la Salud y Banco Mundial. (2020). Panorama de la Salud: Latinoamérica y el Caribe 2020, OECD Publishing, https://doi.org/10.1787/740f9640-es.
Organización Mundial de la Salud y Banco Mundial. (2017). Tracking universal health coverage: 2017 global monitoring report. World Health Organization. https://apps.who.int/iris/handle/10665/259817.
Organización Panamericana de la Salud. (2021). Inteligencia artificial en salud: Oportunidad para mejorar la equidad en América Latina y el Caribe. https://iris.paho.org/bitstream/handle/10665.2/53887/OPSEIHIS21011_spa.pdf?sequence=5&isAllowed=y
Organización Panamericana de la Salud. (2024). Inteligencia artificial en salud pública: Kit de herramientas para la evaluación y mejora de la preparación (Revisión final). https://www.paho.org/sites/default/files/2024-08/ai-ra-tool-rev-final-esp-aug-1_0.pdf
Organización Panamericana de la Salud. (2025). Hoja de ruta para la transformación digital del sector salud en la región de las Américas. https://www.paho.org/en/documents/cd596-roadmap-digital-transformation-health-sector-region-americas.
Parra Sepúlveda, D., Mendoza Alonzo, P., y Concha Machucha, R. (2024). Responsabilidad civil de los profesionales de la salud por lesión a la autodeterminación del paciente. Revista chilena de derecho y ciencia política, 15(14). https://dx.doi.org/10.7770/rchdcp-v15n1-art361.
Pérez-Cuevas, R., Guanais, F. C., Doubova, S. V., Pinzón, L., Tejerina, L., Pinto Masis, D., Rocha, M., Harris, D. O., y Macinko, J. (2017). Understanding public perception of the need for major change in Latin American healthcare systems. Health Policy and Planning, 32(6), 816-824. https://doi.org/10.1093/heapol/czx020.
Pribble, J. (2013). Welfare and party politics in Latin America. Cambridge University Press. https://doi.org/10.1017/CBO9781139343299.
Quintero, C. A. (2023). Características esenciales del Gobierno electrónico en Colombia en Revista Nuevos Desafíos del Derecho, 3(1). https://doi.org/10.15765/rndd.v3i1.4099.
Roberti, A., Leslie, H. H., Doubova, S. V., Medina Ranilla, J., Mazzoni, A., Espinoza, L., Calderón, R., Arsenault, C., García-Elorrio, E., y García, P. J. (2024). Inequalities in health system coverage and quality: A cross-sectional survey of four Latin American countries. The Lancet Global Health, 12(1), https://doi.org/10.1016/S2214-109X(23)00488-6.
Rodríguez Gatta, D., Rotenberg, S., Allel, K., Reichenberger, V., Banks, L. M., y Kuper, H. (2024). Access to general health care among people with disabilities in Latin America and the Caribbean: A systematic review of quantitative research. Lancet Regional Health - Americas, 32, 100701. https://doi.org/10.1016/j.lana.2024.100701.
Ruano, A.L., Rodríguez, D., Rossi, P.G., y Maceira, D. (2021). Understanding inequities in health and health systems in Latin America and the Caribbean: a thematic series. Int J Equity Health 20(94). https://doi.org/10.1186/s12939-021-01426-1.
Solaiman, B. (2025). The European Union’s Artificial Intelligence Act and trust: towards an AI Bill of Rights in healthcare? Law, Innovation and Technology, 17(1), 318–334. https://doi.org/10.1080/17579961.2025.2469986.
Schmidt, J., Schutte, N. M., Buttigieg, S., Novillo-Ortiz, D., Sutherland, E., Anderson, M., de Witte, B., Peolsson, M., Unim, B., Pavlova, M., Stern, A. D., Mossialos, E., & van Kessel, R. (2024). Mapping the regulatory landscape for artificial intelligence in health within the European Union. npj Digital Medicine, 7, 229. https://doi.org/10.1038/s41746-024-01221-6.
Shaban-Nejad, A., Fashoto, S., y Ayorinde, O. (2025). Innovation and challenges of artificial intelligence technology in personalized healthcare. Scientific Reports, 15, 70-80. https://doi.org/10.1038/s41598-024-9012-3.
Soenksen, L. R., Jha, S., Sutherland, D. R., y Murnane, K. (2022). Integrated multimodal artificial intelligence framework for healthcare applications. Scientific Reports, 12, 8015. https://doi.org/10.1038/s41598-022-00689-4.
Solaiman, B., Malik, A. y Ghuloum, S. (2024). Monitoring Mental Health: Legal and Ethical Considerations of Using Artificial Intelligence in Psychiatric Wards. American Journal of Law & Medicine, 49(2–3), 250–266. https://doi.org/10.1017/amj.2023.30.
Unión Europea. (2024, 13 de junio). Reglamento (UE) 2024/1689. Por el que se establecen normas armonizadas en materia de inteligencia artificial y se modifican determinados actos legislativos de la Unión (Ley de Inteligencia Artificial). Diario Oficial de la Unión Europea, L 1689, 1-158.
Van Kolfschooten, H. (2025). Towards an EU Charter of Digital Patients’ Rights in the Age of Artificial Intelligence. Digit. Soc., 4(6). https://doi.org/10.1007/s44206-025-00159-w
Vargas-Santiago, M., León-Velasco, D.A., Maldonado-Sifuentes, C.E., y Chanona-Hernandez, L. (2025). A State-of-the-Art Review of Artificial Intelligence (AI) Applications in Healthcare: Advances in Diabetes, Cancer, Epidemiology, and Mortality Prediction. Computers, 14(1), 143. https://doi.org/10.3390/computers14040143.
Ventura, D., Martins da Silva, J., Calderón, L., y Eguiluz, I. (2021). Migration, migrants, and health in Latin America and the Caribbean. Oxford Research Encyclopedia of Global Public Health. https://doi.org/10.1093/acrefore/9780190632366.013.323
Wah, J. N. K. (2025). Revolutionizing e-health: The transformative role of AI-powered hybrid chatbots in healthcare solutions. Frontiers in Public Health, 13, https://doi.org/10.3389/fpubh.2025.1530799.
Wilson, R. L., Higgins, O., Atem, J., Donaldson, A. E., Gildberg, F. A., Hooper, M., y Welsh, B. (2023). Artificial intelligence: An eye cast towards the mental health nursing horizon. International Journal of Mental Health Nursing, 32(3), 938-944. https://doi.org/10.1111/inm.13121.
World Health Organization. (2023). Tracking universal health coverage 2023: Global monitoring report.
Zhang, J., y Zhang, Z. M. (2023). Ethics and governance of trustworthy medical artificial intelligence. BMC Medical Informatics and Decision Making, 23(7). https://doi.org/10.1186/s12911-023-02103-9.
Cómo citar
Licencia
Derechos de autor 2026 Via Inveniendi Et Iudicandi
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
Los autores mantienen los derechos sobre los artículos y por tanto son libres de compartir, copiar, distribuir, ejecutar y comunicar públicamente la obra bajo las condiciones siguientes:
Reconocer los créditos de la obra de la manera especificada por el autor o el licenciante (pero no de una manera que sugiera que tiene su apoyo o que apoyan el uso que hace de su obra).
VIeI está bajo una licencia Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional (CC BY-NC-SA 4.0)
La Universidad Santo Tomás conserva los derechos patrimoniales (copyright) de las obras publicadas, y favorece y permite la reutilización de las mismas bajo la licencia anteriormente mencionada.
