Regulación de algoritmos y sistemas de IA para la toma de decisiones judiciales, la toma de decisiones con sistemas de IA en la justicia colombiana

Resumen (es)

El presente artículo de investigación es resultado del trabajo adelantado por el autor dentro del proyecto de investigación Análisis de datos para la toma de decisiones espaciales e inteligencia artificial para la administración, vinculado al grupo de investigación Derecho Público y Tecnologías, categoría Colciencias A1 de la Universidad Católica de Colombia. De igual forma, resultado de la colaboración con el grupo de investigación Régimen jurídico constitucional de las libertades, el gobierno abierto y el uso de las nuevas tecnologías (UVEG-GIUV2016-270), así como del proyecto nacional MICINN, Derechos y garantías frente a las decisiones automatizadas en entornos de inteligencia artificial, IoT, big data y robótica (PID2019-108710RB-I00, 2020-2022) de la Universidad de Valencia, España. 

El lector encontrará un análisis que parte de la siguiente hipótesis: Las autoridades judiciales al utilizar sistemas de inteligencia artificial deben garantizar que estos sistemas cumplen la política de uso de tecnologías y en particular, los estándares que permitan la materialización del debido proceso. Por ello, el objetivo general de este artículo es determinar la existencia de límites jurídicos a los que están sometidas las autoridades judiciales cuando usan sistemas de inteligencia artificial para el cumplimiento de la función judicial. Para lograr este objetivo se aborda: 1) los derechos y principios en los entornos digitales, son referencia de buena administración algorítmica; 2) las normas que deben cumplir las autoridades judiciales, de manera general, cuando se usan tecnologías de la información y las comunicaciones; 3) las obligaciones derivadas del cumplimiento de las normas referidas al uso de sistemas de inteligencia artificial y 4) la necesidad de regulación de algoritmos para la toma de decisiones judiciales. Por último, se dan las conclusiones.

Palabras clave (es): inteligencia artificial, nuevas tecnologías, derechos fundamentales, debido proceso, big data, algoritmos

Resumen (en)

This research article is the result of the work carried out by the author within the research project "Data analysis for spatial decision making and artificial intelligence for administration", linked to the research group Public Law and Technologies, category Colciencias A1, Catholic University of Colombia. Similarly, as a result of the collaboration with the research group Constitutional legal regime of freedoms, open government and the use of new technologies (UVEG-GIUV2016-270), as well as the national project MICINN, "Rights and guarantees against automated decisions in environments of artificial intelligence, IoT, big data and robotics" (PID2019-108710RB-I00, 2020-2022) of the University of Valencia - Spain.

The reader will find an analysis based on the following hypothesis: Judicial authorities when using artificial intelligence systems must ensure that these systems comply with the policy of use of technologies and in particular the standards that allow the materialization of due process. Therefore, the general objective of this article is to determine the existence of legal limits to which judicial authorities are subject when using artificial intelligence systems for the fulfillment of the judicial function. To achieve this objective it addresses: 1) the rights and principles in digital environments, are a reference of good algorithmic administration; 2) the rules that judicial authorities must comply with, in general, when using information and communication technologies; 3) the obligations arising from compliance with the rules referring to the use of artificial intelligence systems and 4) the need for regulation of algorithms for judicial decision making. Finally, conclusions are given.

Palabras clave (en): artificial intelligence, new technologies, fundamental rights, big data, algorithms