La responsabilidad civil y la ética en la inteligencia artificial: una revisión sistemática de las ideas del período 2018-2023
Civil Liability and Ethics in Artificial Intelligence: A Systematic Review of Ideas from the Period 2018-2023
Responsabilidade e ética na inteligência artificial: uma revisão sistemática das ideias de 2018-2023
Resumen (es)
La investigación revisó estudios teóricos publicados entre 2019 y 2022 sobre responsabilidad civil y ética en el desarrollo de inteligencia artificial (IA), analizando 490 documentos de diversas bases de datos. Se identificó la necesidad de establecer mecanismos regulatorios para garantizar la rendición de cuentas en el desarrollo de aplicaciones de IA. Como respuesta, se propone la implementación de auditorías internas y externas con informes accesibles para los usuarios. Esto contribuiría a aumentar la confiabilidad de las aplicaciones, especialmente aquellas con potencial para impactar los derechos fundamentales. El objetivo del manuscrito es destacar la importancia de estos mecanismos regulatorios para abordar los desafíos éticos y legales asociados con el desarrollo de IA, promoviendo así una mayor transparencia y responsabilidad en este campo en rápida evolución.
Resumen (en)
The research reviewed theoretical studies published between 2019 and 2022 on civil liability and ethics in the development of artificial intelligence (AI), analyzing 490 documents from various databases. The need to establish regulatory mechanisms to ensure accountability in the development of AI applications was identified. In response, the implementation of internal and external audits with reports accessible to users is proposed. This would contribute to increasing the reliability of applications, especially those with the potential to impact fundamental rights. The aim of the manuscript is to highlight the importance of these regulatory mechanisms in addressing the ethical and legal challenges associated with the development of AI, thus promoting greater transparency and accountability in this rapidly evolving field.
Resumen (pt)
A investigação analisou estudos teóricos publicados entre 2019 e 2022 sobre responsabilidade civil e ética no desenvolvimento da inteligência artificial (IA), analisando 490 artigos de várias bases de dados. Foi identificada a necessidade de criar mecanismos regulamentares para garantir a responsabilização no desenvolvimento de aplicações de IA. Em resposta, propõe-se a realização de auditorias internas e externas com relatórios acessíveis aos utilizadores. Tal contribuiria para aumentar a fiabilidade das candidaturas, especialmente as que podem ter impacto nos direitos fundamentais. O objetivo do manuscrito é realçar a importância destes mecanismos regulamentares na abordagem dos desafios éticos e jurídicos associados ao desenvolvimento da IA, promovendo assim uma maior transparência e responsabilidade neste domínio em rápida evolução.
Referencias
Antonov, A. (2022). Gestionar la complejidad: la contribución de la UE a la gobernanza de la inteligencia artificial. Revista CIDOB d’Afers Internacionals, 131, 41-68. https://doi.org/10.24241/rcai.2022.131.2.41
Azpiazu Arrieta, G., y Bayón Pérez, J. . (2022). Tendencias laborales y el futuro del trabajo por medio de la robotización, digitalización e inteligencia artificial en España. Razón Crítica, (12). https://doi.org/10.21789/25007807.1805
Arbeláez-Campillo, D. F., Villasmil Espinoza, J. J., y Rojas-Bahamón, M. J. (2021). Inteligencia artificial y condición humana: ¿Entidades contrapuestas o fuerzas complementarias? Revista de Ciencias Sociales, 27(2), 502-513. https://doi.org/10.31876/rcs.v27i2.35937
Añón Roig, M. J. (2022). Derechos y libertades: Revista de Filosofía del Derecho y derechos humanos, (47), 17-49. https://dialnet.unirioja.es/servlet/articulo?codigo=8497850
Baranov, P., Mamychev, A., Plotnikov, A. A., Voronov, D. Yu., y Voronova, E. (2020). Problems of Legal Regulation of Robotics and Artificial Intelligence from the Psychological Perspective. Propósitos y Representaciones, 8(2), e511. [en línea]. http://dx.doi.org/10.20511/pyr2020.v8n2.511
Barrio, M. A. (2018). Del derecho de internet al derecho de los robots. En Barrio, M. (Coord.), Derecho de los Robots. Madrid: Wolters Kluwer. https://www.moisesbarrio.es/pdf/libro_derecho_robots.pdf
Becerra, J. (2022). La Inteligencia Artificial en la decisión jurídica y política. Araucaria, 24(49). https://revistascientificas.us.es/index.php/araucaria/article/view/15557
Belintxon Martín, U. (2021). Derecho internacional privado e inteligencia artificial: algunos retos e incertidumbres para el transporte en el siglo XXI. Sociology & Technoscience / Sociología y Tecnociencia, 11(Extra,2), 17–36. https://doi.org/10.24197/st.Extra_2.2021.17-36
Blázquez Ruiz, F. J. (2022). Riesgos para la privacidad en la aplicación de la inteligencia artificial al ámbito biosanitario. Implicaciones éticas y legales. Anales de la Cátedra Francisco Suárez, 56, 245-268.
Brundage, M., Shahar Avin., Jack Clark. (2018). The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation. Future of Humanity Institute; University of Oxford; Centre for the Study of Existential Risk; University of Cambridge; Center for a New American Security; Electronic Frontier Foundation; OpenAI. https://www.researchgate.net/publication/323302750_The_Malicious_Use_of_Artificial_Intelligence_Forecasting_Prevention_and_Mitigation
Carmona González, D. (2021). Implementación y precisión de un nuevo método de cálculo biométrico basado en técnicas de inteligencia artificial. Universidad Complutense de Madrid. https://eprints.ucm.es/id/eprint/70509/1/T43051.pdf
Cascón-Katchadourian, J. (2020). Tecnologías para luchar contra la pandemia Covid-19: geolocalización, rastreo, big data, SIG, inteligencia artificial y privacidad. Profesional de la Información, 29(4). https://doi.org/10.3145/epi.2020.jul.29
Castellanos Claramunt, Jorge. (2020). Democracia, Administración pública e inteligencia artificial desde una perspectiva política y jurídica. Revista Catalana de Dret Públic, 60, 137-147. https://doi.org/10.2436/rcdp.i60.2020.3344
Chávez Valdivia, A. K. (2021). Hacia otra dimensión jurídica: el derecho de los robots. Revista Del Instituto De Ciencias Jurídicas De Puebla, México, Nueva Época, 15(48), 325-337. https://revistaius.com/index.php/ius/article/view/681
Campione, R. (2021). Recopilar y vigilar: algunas consideraciones filosófico-jurídicas sobre inteligencia artificial. Sociology & Technoscience / Sociología y Tecnociencia, 11(Extra, 2), 123–139. https://doi.org/10.24197/st.Extra_2.2021.123-139
Criado, J. I. (2021). Inteligencia Artificial (y Administración Pública). EUNOMÍA. Revista En Cultura De La Legalidad, (20), 348-372. https://doi.org/10.20318/eunomia.2021.6097
Comité Económico y Social Europeo. (2017). Dictamen sobre la «Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad». Diario Oficial de la Unión Europea. https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52016IE5369&from=BG
Comisión de Asuntos Jurídicos. (2020). Informe con recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas (2020/2012(INL)). Ibán García del Blanco (Ponente), Urmas Paet, Alexandra Geese, Valter Flego, & Assita Kanko (Ponentes de opinión). Parlamento Europeo. https://www.europarl.europa.eu/doceo/document/A-9-2020-0186_ES.html
Cortina Orts, A. (2019). Ética de la inteligencia artificial. Anales de la Real Academia de Ciencias Morales y Políticas, 96, 379-393. [en línea] https://www.unesco.org/es/artificial-intelligence/recommendation-ethics
Costa, F. V., & Martins, N. S. C. (2022). Proceso democrático, inteligencia artificial, masificación de la ratio decidendi. Revista Tesis Juris – RTJ, 11(1), 114-135. http://doi.org/10.5585/rtj.v11i1.19221
Cotino Hueso, L. (2019). Ética en el diseño para el desarrollo de una inteligencia artificial, robótica y big data confiables y su utilidad desde el derecho. Revista Catalana de Dret Públic, (58), 29-48. [en línea]. https://doi.org/10.2436/rcdp.i58.2019.3303
De Lecuona, I. (2021). Aspectos éticos, legales y sociales del uso de la inteligencia artificial y el Big Data en salud en un contexto de pandemia. Revista Internacional De Pensamiento Político, 15, 139–166. https://doi.org/10.46661/revintpensampolit.5599
Ercilla García, J. (2018). Normas de Derecho Civil y Robótica. Robots Inteligentes, Personalidad Jurídica, Responsabilidad Civil y Regulación. Pamplona: Thomson Reuters Arazandi.
Espinosa, J. R. (2021). The Development of Artificial Intelligence in the Framework of Competition La Win the Eu/El Desarrollo De La Inteligencia Artificial en El Marco Del Derecho De La Competencia en La Ue. Revista de Direito Brasileira, 29, 452.
Esquivel Zambrano, L. M., y Galvis Martínez, J. C. (2022). Derechos y deberes en la inteligencia artificial: dos debates inconclusos entorno a su regulación. Nuevo Derecho, 18(31), 1-17. https://doi.org/10.25057/2500672X.1479
Faggiani, V. (2022). El derecho a un proceso con todas las garantías ante los cambios de paradigma de la inteligencia artificial. Teoría y realidad constitucional, (50), 517-546. https://dialnet.unirioja.es/metricas/documentos/ARTREV/8744158
Fernández Fagina, J. L. (2021). Hacia el Humanismo Digital desde un denominador común para la Cíber Ética y la Ética de la Inteligencia Artificial. Disputatio. Philosophical Research Bulletin, 10(17), 107–130. [en línea]. https://dialnet.unirioja.es/servlet/articulo?codigo=8018155
Fernandes de Oliveira, N., y Massmann, D. (2022). Sobre a eficiência da ética como ferramenta de governança da inteligência artificial. Veritas, 67(1), 1–11. https://doi.org/10.15448/1984-6746.2022.1.42584
Flores-Vivar, J., y García-Peñalvo, F. (2023). Reflections on the ethics, potential, and challenges of artificial intelligence in the framework of quality education (SDG4). [Reflexiones sobre la ética, potencialidades y retos de la Inteligencia Artificial en el marco de la Educación de Calidad (ODS4)]. Comunicar, 74, 37-47. https://doi.org/10.3916/C74-2023-03
Flores-Ruiz, D., Miedes-Ugarte, B., y Wanner, P. (2021). Inteligencia relacional, inteligencia artificial y participación ciudadana. El caso de la plataforma digital cooperativa «Les Oiseaux de Passage». Recerca. Revista de Pensament i Anàlisi, 26(2), 1-25. [en línea]. http://dx.doi.org/10.6035/recerca.5514
Francisca, R. F. (2020). Inteligencia Artificial y Agricultura: nuevos retos en el sector agrario. Campo Jurídico, 8(2), 123–139. https://doi.org/10.3749/revistacampjur.v8i2.662
Gálvez Valega, J. (2020). Innovation-Artificial Intelligence: Challenges of the Right Against a Digital Society. Utopía y Praxis Latinoamericana, 25, 461–472. https://doi.org/10.5281/zenodo.4278404
Galvis Cano, L., y Pesca Mesa, D. A. (2020). Límites del tratamiento de los datos personales en el ámbito laboral frente al uso de las tecnologías de la información y comunicación en la era digital. IUSTA, (52), 51–76. https://doi.org/10.15332/25005286.5482
Gascón Marcén, A. (2021). El impulso japonés a un acercamiento global a la inteligencia artificial y el comercio electrónico. Mirai. Estudios Japoneses, 5, 53–66. https://doi.org/10.5209/mira.73600
Goñi Sein, J. L. (2019). Defendiendo los derechos fundamentales frente a la inteligencia artificial. Lección inaugural del Curso Académico 2019-2020, Universidad Pública de Navarra. [en línea]. https://academica-e.unavarra.es/handle/2454/34886
Habermas, J. (2002). El futuro de la naturaleza humana. ¿Hacia una eugenesia liberal? Barcelona: Paidós. https://revistadecomunicacion.com/pdf/2003/Res147-148.pdf
Hernández Zuluaga, J. C. (2020). Can machines think? Inteligencia Artificial y Derecho de Daños. Revista E-Mercatoria, 19(1), 3–36. https://revistas.uexternado.edu.co/index.php/emerca/article/view/7246/9959
Kluge Corrêa, N., Fernandes de Oliveira, N., y Massmann, D. (2022). Sobre a eficiência da ética como ferramenta de governança da inteligência artificial. Veritas, 67(1), 1–11. https://doi.org/10.4067/s0718-00122022000200003
Martín-Casals, M. (2022). An Approach to Some EU Initiatives on the Regulation of Liability for Damage Caused by AI-Systems. Ius et Praxis (07172877), 28(2), 3–24.
Martínez Martínez, F., y Zagrebelsky, G. (2009). El derecho dúctil: Ley, derechos, justicia (5.a ed., Trad. M. Gascón). Trotta. https://www.scielo.org.mx/scielo.php?script=sci_arttext&pid=S0041-86332009000100018
Martínez Martínez, R. (2019). Inteligencia artificial desde el diseño. Retos y estrategias para el cumplimiento normativo. Revista Catalana de Dret Públic, (58). [en línea]. https://doi.org/10.2436/rcdp.i58.2019.3317
Mathew, P., et ál. (2021). Declaración PRISMA 2020: una guía actualizada para la publicación de revisiones sistemáticas. Revista Española de Cardiología, 74(9), 790-799. [en línea]. https://www.sciencedirect.com/science/article/pii/S0300893221002748?via%3Dihub
Monasterio Astobiza, A. (2021). Inteligencia Artificial para el bien común (AI4SG): IA y los Objetivos de Desarrollo Sostenible. Arbor, 197(802), a629. https://doi.org/10.3989/arbor.2021.802007
Morales Moreno, Á. (2021). Inteligencia artificial y derecho penal: primeras aproximaciones. Revista Jurídica de Castilla y León, 53, 177–202. https://www.jcyl.es/web/jcyl/AdministracionPublica/es/Plantilla100Detalle/1131978346397/Publicacion/1285024121501/Redaccion
Morte Ferrer, R. (2021). Valoraciones éticas para una inteligencia artificial adecuada a la privacidad. Arbor, 197(802), a628. https://doi.org/10.3989/arbor.2021.802006
Ortega Ruíz, L., y Becerra, J. (2022). La Inteligencia Artificial en la decisión jurídica y política. Araucaria, 24(49), 217–238. https://doi.org/10.12795/araucaria.2022.i49.10
Parlamento Europeo. (2018). Propuesta de Resolución 2752 del Parlamento Europeo. Recuperado de https://www.europarl.europa.eu/doceo/document/A-8-2017-0005_ES.html#title1
Parra Sepúlveda, D., y Concha Machuca, R. (2021). Inteligencia artificial y derecho. Problemas, desafíos y oportunidades. Vniversitas, 70. [en línea] https://doi.org/10.11144/Javeriana.vj70.iadp
Pasquale III, F. A. (2022). The Price of Autonomy: Liability Standards for Complementary and Substitutive Medical Robotics and Artificial Intelligence. Ius et Praxis (07172877), 28(1), 3–19. https://doi.org/10.4067/s0718-00122022000100003
Peña, J. S. (2022). Inteligencia artificial para la seguridad jurídica. Superando el problema de la cognoscibilidad del derecho. Revista Oficial Del Poder Judicial, 14(17), 55–117. https://doi.org/10.35292/ropj.v14i17.568
Pérez Ragone, Á. (2021). Justicia Civil en La Era Digital Y Artificial: ¿Hacia Una Nueva Identidad? Revista Chilena de Derecho, 48(2), 203–229. [en línea]. https://doi.org/10.7764/R.482.9
Porcelli, A. M. (2021). La inteligencia artificial aplicada a la robótica en los conflictos armados. Debates sobre los sistemas de armas letales autónomas y la (in) suficiencia de los estándares del derecho internacional humanitario. Estudios Socio-Jurídicos, 23(1). https://doi.org/10.12804/revistas.urosario.edu.co/sociojuridicos/a.9269
Ramon Fernández, F. (2020). Inteligencia Artificial y Agricultura: nuevos retos en el sector agrario. Campo Jurídico, 8(2), 123–139. https://www.researchgate.net/publication/350081042_Inteligencia_Artificial_y_Agricultura_nuevos_retos_en_el_sector_agrario
Rúa Bustamante, M., Ángel Muñoz, S., Giraldo Aristizábal, J., y Marín Tapiero, J. (2020). Mecanismos Alternativos de Solución de Conflictos (MASC) e Inteligencia Artificial (IA) para la Solución de Controversias en Línea (SCL): Una Apuesta por la Descongestión en la Administración de Justicia. The Law, State and Telecommunications Review, Brasilia, 12(1), 77-112. https://doi.org/10.26512/lstr.v12i1.25808
Salardi, S. (2020). Robótica e inteligencia artificial: Retos para el derecho. Revista Derechos y Libertades, 42, 203–232. https://doi.org/10.14679/1158
Santos Gonzales, M. J. (2017). Regulación legal de la robótica y la inteligencia artificial: Retos de futuro. Revista Jurídica de la Universidad de León, 4, 25-50. http://revpubli.unileon.es/index.php/juridica/article/view/5285/4108
Scherer, M. (2016). Regulating artificial intelligence systems: Risks, challenges, competencies, and strategies. Harvard Journal of Law & Technology, 29(2), 353-400. http://dx.doi.org/10.2139/ssrn.2609777
Temesio Vizoso, S. G. (2022). Reflexiones sobre la inteligencia artificial y la bibliotecología. Palabra Clave (La Plata), 11(2), e159. https://doi.org/10.24215/18539912e159
Terrones Rodríguez, A. (2020). Inteligencia artificial y ética de la responsabilidad. Cuestiones de Filosofía, 4(22), 141-170. [en línea]. https://doi.org/10.19053/01235095.v4.n22.2018.8311
Valverde Pérez; Nuria (2021). Presentación. Inteligencia artificial y nuevas éticas de la convivencia. Arbor, 197(800): a599. doi.org/10.3989/arbor.2021.800001
Vásquez- Pita, E. (2021). La UNESCO y la gobernanza de la inteligencia artificial en un mundo globalizado. La necesidad de una nueva arquitectura legal. Anuario de la Facultad de Derecho. Universidad de Extremadura, 37, 273-302. file:///C:/Users/jonat/Downloads/Dialnet-LaUNESCOYLaGobernanzaDeLaInteligenciaArtificialEnU-8360236.pdf
Verdegay, J., Lamata, M., Pelta,D. y Cruz, C. (2021). Inteligencia artificial y problemas de decisión: la necesidad de un contexto ético. Suma de Negocios, 12(27), 104-114, julio-diciembre 2021, ISSN 2215-910X. https://doi.org/10.14349/sumneg/2021.V12.N27.A2
Zabala Leal, T., y Zuluaga, P. (2021). Los retos jurídicos de la inteligencia artificial en el derecho en Colombia. Jurídicas CUC, 17(1), 475–498. [en línea]. http://dx.doi.org/10.17981/juridcuc.17.1.2021.17
Zabala Leal, T. D. (2021). La ética en inteligencia artificial desde la perspectiva del derecho. Via Inveniendi Et Iudicandi, 16(2). https://doi.org/10.15332/19090528.6785
Zurita Martín, I. (2021). Proposals for legislative reform of the European White Paper on Artificial Intelligence in the field of safety and civil liability. Actualidad Jurídica Iberoamericana, 14, 438-487.
Cómo citar
Licencia
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
Los autores mantienen los derechos sobre los artículos y por tanto son libres de compartir, copiar, distribuir, ejecutar y comunicar públicamente la obra bajo las condiciones siguientes:
Reconocer los créditos de la obra de la manera especificada por el autor o el licenciante (pero no de una manera que sugiera que tiene su apoyo o que apoyan el uso que hace de su obra).
Revista IUSTA está bajo una licencia Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional (CC BY-NC-SA 4.0)
La Universidad Santo Tomás conserva los derechos patrimoniales (copyright) de las obras publicadas, y favorece y permite la reutilización de las mismas bajo la licencia anteriormente mencionada.
