¿Máquinas de justicia?: Inteligencia artificial y sistema judicial en América Latina

18 de Febrero del 2021
¿Máquinas de justicia?: Inteligencia artificial y sistema judicial en América Latina

Los robots están aquí

En años recientes, algunos países de América Latina han impulsado iniciativas para introducir sistemas digitales de administración documental o de decisión autónoma en sus procesos judiciales. La idea, en pocas palabras, es usar programas informáticos que procesen documentos o expedientes, para que ayuden así a solucionar cuellos de botella en el proceso judicial que generan congestión.

Un ejemplo es VICTOR, del Tribunal Supremo Federal del Brasil (STF), llamado así en honor del fallecido ministro Victor Nunes Leal. En su fase piloto, lanzada en 2018, VICTOR analiza el texto de miles de recursos de apelación presentados ante el STF, y señala los que cumplirían el requisito de “repercusión general”; esto es, la exigencia de que el recurso solicitado tenga un potencial impacto social amplio, y por lo tanto merezca ser estudiado. Usualmente, este análisis lo hacen funcionarios judiciales, aplicando criterios temáticos previamente identificados por el STF. En su lugar, VICTOR aplica los mismos criterios y los identifica en el texto del recurso, seleccionando los que presenten mayores coincidencias. Según su desarrollador, VICTOR tendría una precisión del 90.34% clasificando los recursos.

Más avanzado en la línea de la decisión autónoma es Prometea, desarrollado por un equipo en el Ministerio Público Fiscal de la Ciudad Autónoma de Buenos Aires. El piloto, lanzado en 2017, se centró en la decisión de amparos habitacionales que llegan al Tribunal; esto es, el recurso mediante el cual se pide al gobierno una vivienda digna, y posteriormente se ha implementado a casos de bonificaciones en empleo público, ejecución de multas no pagadas, negación de licencias de taxi por antecedentes penales, y denuncias por violencia de género, entre otros. En estos casos, la contribución de Prometea es analizar el texto del recurso y las actuaciones previas, verificar la presencia de ciertas palabras clave que han sido preconfiguradas en el sistema, y predecir la respuesta apropiada a la solicitud: por ejemplo, el dictamen que debe rendir la Fiscalía en un amparo habitacional. Posteriormente, el sistema organiza un borrador de la decisión o dictamen, y le hace algunas preguntas al operario judicial para ajustar el documento, que es finalmente revisado por un humano. Según su desarrollador, Prometea tendría una precisión de 96% en su predicción.

Prometea ha mostrado ser interesante para otras instituciones de la región. La Corte Constitucional colombiana, por ejemplo, anunció en 2019 que implementaría una solución de inteligencia artificial para el proceso de selección de tutelas, basado en Prometea. El sistema, llamado PretorIA, fue lanzado en agosto de 2020 e interviene en un momento procesal clave para la protección de los derechos fundamentales. De todas las decisiones de acciones de tutela decididas en Colombia, la Corte Constitucional escoge algunas para su revisión, con el fin de fijar o avanzar su jurisprudencia. Sin embargo, este proceso de selección es dispendioso: en Colombia se deciden alrededor de 600.000 tutelas al año, las cuales definen el universo de escogencia; esto es, en promedio, 130 tutelas al día.  A pesar de que hasta el momento el piloto de PretorIA se ha centrado en una fracción de esos casos, relacionados con el derecho a la salud (que representan cerca de la mitad de tutelas de Colombia), el sistema estaría en capacidad de ayudar a la Corte a buscar entre las decisiones de instancia, categorizarlas según criterios decididos por la Corte, y elaborar estadísticas. En ese sentido, PretorIA no realiza predicciones ni proyecta decisiones, a diferencia de Prometea, sino que está pensado más como una herramienta para que la Corte pueda hacer un triage en el amplio universo de sentencias de instancia, para así escoger las que irían a revisión.

¿Máquinas de justicia?

Estos son solo algunos ejemplos de sistemas más o menos automatizados que comienzan a ser implementados en la región. Otros más, como PRISMA de la Fiscalía colombiana (que busca hacer predicciones en reincidencia penal), o Expertius en México (que hace análisis en juicios de alimentos), también pueden ser mencionados. A pesar de la diversidad de las iniciativas, es posible observar algunas tendencias en la región, que señalan a algunos desafíos comunes que, creo, merecen mayor atención de la que están recibiendo.

Es importante considerar el contexto social en el que los sistemas son adoptados. En términos generales, la presentación y recepción en medios de comunicación de los mismos ha sido caracterizada por cierto optimismo tecnológico, el cual ya ha sido objeto de lecturas críticas, por ejemplo, en el caso de la presentación de Prometea en Colombia, y respecto a otras iniciativas de legal tech en el mundo. Se trata, en esencia, de resistir la narrativa de que las soluciones tecnológicas están desconectadas de la realidad social que las define y que, en consecuencia, pueden solucionar graves problemas sociales, como el acceso a la justicia en América Latina, sin considerar las causas subyacentes del problema que el sistema busca solucionar.

Por este motivo, todas las fases de desarrollo de estas soluciones deben ser transparentes, y estar acompañadas por la sociedad civil. Así, en el contexto de la justicia, es importante que todo programa pueda ser probado por pares externos a la institución judicial que busca implementarlo. 

La transparencia es, en ese sentido, fundamental, no solo en el diseño del sistema, como ya vimos, sino respecto a cada una de las decisiones que tome el mismo. No deben existir resultados que no sean explicables, o verificables por terceros, en la automatización de la justicia en América Latina. Aquí, por supuesto, hay una diferencia respecto a si el proveedor de la solución es público o privado: en el caso de los desarrollos logrados con recursos públicos y que son aplicados a la administración de justicia (como es el caso de todos los ejemplos mencionados), no hay razón para que no haya completo acceso al código por parte del público, y para que puedan darse tests de reproducibilidad de resultados por parte de organizaciones de la sociedad civil o expertos independientes. De similar forma, en los casos en que las instituciones judiciales contraten con proveedores privados, deberán tener como prioridad que los derechos de propiedad intelectual no sean un obstáculo para la transparencia en el proceso de administración de justicia, como hizo evidente el caso de Loomis en Estados Unidos, referido al sistema de predicción de reincidencia COMPAS.

La transparencia protege el debido proceso en el proceso judicial. Aquí el desafío es tanto jurídico, como conceptual. De una parte, la automatización de ciertos momentos procesales implica reconocer recursos jurídicos a los afectados que probablemente no existían antes, para que sea posible cuestionar ciertas clasificaciones automáticas. Por ejemplo, VICTOR, el sistema de Brasil, no da un recurso en contra de una verificación del requisito de repercusión general que el afectado considere incorrecta, ni se informa al usuario que su petición fue objeto de decisión automática, y no de un funcionario judicial. Adicionalmente, aún si la decisión final no es tomada por el sistema, como sería el caso de Prometea, es necesario considerar el problema del sesgo de automatización; esto es, el instinto humano a ser deferente respecto a la decisión tomada por una máquina. Así, aún si existe la posibilidad de que el humano contradiga la decisión del sistema, la realidad es que la presunción tiende a ser a favor de confirmarla, y solo en casos extremos el humano la contradice. En el contexto de la administración de justicia, será necesario integrar al diseño del sistema y del derecho procesal ciertos mecanismos de control de este sesgo, de tal forma que se proteja el debido proceso en esta zona de decisión previa.

Como puede verse, la automatización en ciertos procesos de administración de justicia es ya una realidad en América Latina, y probablemente seguirá creciendo. Este giro debe ser bienvenido, pues tiene la potencialidad de resolver ciertos cuellos de botella documentales que crean congestión judicial. Abundan, sin embargo, los desafíos logísticos en términos de digitalización de documentos y operatividad de los sistemas. Para bien o para mal, la justicia en América Latina es todavía una justicia que se tramita en papel, y esto hace que muchas de estas iniciativas de automatización no sean escalables. Pero, aun cuando sean implementadas, es necesario involucrar a la sociedad civil e insertar mecanismos de protección al debido proceso desde el diseño mismo del sistema, y no como una corrección posterior. Sólo así las maquinas nos ayudarán a traer más justicia a la región.

Citación académica sugerida: Ureña, René: ¿Máquinas de justicia?: Inteligencia artificial y sistema judicial en América Latina , 2021/02/18, https://agendaestadodederecho.com/maquinas-de-justicia-inteligencia-artificial-y-sistema-judicial-en-america-latina

Comparte este artículo en...
Facebook
Twitter
LinkedIn
WhatsApp
ACERCA DEL AUTOR
René Urueña

Profesor asociado y Director de Investigaciones de la Facultad de Derecho de la Universidad de los Andes, Colombia. Ha sido fellow en la Universidad de Nueva York y en el Instituto Max Planck de Derecho Público Comparado e Internacional, docent en el Institute for Global Law and Policy de Harvard, y profesor invitado en las universidades de Tel-Aviv, Utah y Helsinki. Doctor en Derecho (eximia cum laude) de la Universidad de Helsinki, y especialista en economía. Es autor deAutoridad algorítmica: ¿cómo empezar a pensar la protección de los derechos humanos en la era del “big data”?

Artículos Relacionados

Edgar Ortiz Romero

Abogado egresado de la Universidad Francisco Marroquín de Guatemala y con un Máster en Economía de la Universidad Rey Juan Carlos de Madrid. En la actualidad, desempeña el cargo de Editor Asistente en el blog de la International Association of Constitutional Law (IACL) y es Director del área de Estudios Jurídicos en la Fundación Libertad y Desarrollo, un think tank basado en Ciudad de Guatemala. A nivel docente, ejerce como profesor tanto en la Universidad del Istmo como en la Universidad Francisco Marroquín de Guatemala. Adicionalmente, es columnista para el periódico guatemalteco La Hora. Sus principales áreas de investigación son el derecho constitucional y el derecho electoral.

Mauricio Alarcón

Director Ejecutivo de Fundación Ciudadanía y Desarrollo, contacto nacional de Transparencia Internacional en Ecuador. Abogado y máster en Dirección y Gestión Pública, así como en Acción Política, Fortalecimiento Institucional y Participación Ciudadana en el Estado de Derecho. Fue miembro suplente de la Asamblea Nacional Constituyente de Ecuador y asesor constitucional en el Consejo de Participación Ciudadana. Fellow del Centro para la Democracia, el Desarrollo y el Estado de Derecho de la Universidad de Stanford. Consultor para organizaciones nacionales e internacionales en temas de derechos humanos, libertad de expresión, acceso a la información, participación ciudadana, transparencia y lucha contra la corrupción.

Ariana Guevara Gómez

Es profesora ayudante e investigadora predoctoral en el Departamento de Ciencia Política y Relaciones Internacionales de la Universidad Autónoma de Madrid (UAM). Tiene un Máster en Democracia y Gobierno, y un Máster en Gobernanza y Derechos Humanos, ambos de la UAM. Es licenciada en Comunicación Social por la Universidad Central de Venezuela. Es integrante del Lab Grupo de Investigación en Innovación, Tecnología y Gestión Pública de la UAM. Su tesis doctoral aborda la relación entre género, tecnologías y sector público, con un especial énfasis en la Inteligencia Artificial. También ha publicado sobre innovación pública y colaboración entre administraciones públicas y ciudadanía. Formó parte del equipo editorial de Agenda Estado de Derecho desde 2020 hasta febrero de 2022.

Catalina Fernández Carter

Abogada de la Universidad de Chile y Magíster en Derecho Internacional de la Universidad de Cambridge. En el ámbito profesional, se ha desempeñado en el extranjero como asistente legal en la Corte Internacional de Justicia y consultora para la International Nuremberg Principles Academy. En Chile, ha trabajado como abogada para el Comité para la Prevención de la Tortura, y actualmente se desempeña en la División de Derechos Humanos del Ministerio de Relaciones Exteriores de Chile. Asimismo, es académica de Derecho Internacional Público en la Universidad de Chile. Sus áreas de investigación incluyen el derecho internacional de los derechos humanos, la regulación de la actividad policial y su conformidad con estándares internacionales, el derecho internacional humanitario y el derecho penal internacional.

Edison Lanza

Ex Relator Especial para la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos (CIDH) hasta el 5 de octubre de 2020. Abogado y docente uruguayo egresado de la Facultad de Derecho de la Universidad de la República de Uruguay (Udelar). Actualmente es senior fellow en El Diálogo Interamericano (The Interamerican Dialogue) y consultor en libertades informativas de UNESCO y organizaciones de la sociedad civil. Se desempeña como Secretario de Relaciones Internacionales y Gobierno Abierto del Gobierno de Canelones (Uruguay).

Docente y conferenciasta en el campo de la libertad de expresión y el derecho a la información en prestigiosas universidades, entre ellas American University (Washington), Unam (México), Universidad Carlos III (España), Stanford (California), Universidad del Pacífico (Perú), UBA (Argentina) Universidad Diego Portales (Chile), Udelar (Uruguay) y Universidad de los Andes (Colombia). Periodista, columnista y colaborador asiduo en distintos medios de comunicación.

José Luis Caballero Ochoa

José Luis Caballero Ochoa es Licenciado en Derecho por el Tecnológico de Monterrey, Campus Chihuahua; Maestro en Derecho, por la Facultad de Derecho de la Universidad Nacional Autónoma de México, y Doctor en Derecho por la Universidad Nacional de Educación a Distancia (UNED) de España. Diplomado en derechos humanos y procesos de democratización por la Universidad de Chile. Pertenece al Sistema Nacional de Investigadores. Es académico – investigador en el Departamento de Derecho en la Universidad Iberoamericana, Ciudad de México, del que fue su Director por seis años. Actualmente es Comisionado de la Comisión Internacional de Juristas. Ha participado o participa en diversas comisiones o consejos públicos, ciudadanos y académicos en México, entre los que destacan: el Consejo de la Comisión de Derechos Humanos del Distrito Federal; la Junta Directiva del Instituto Federal de la Defensoría Pública; el Comité Consultivo del Centro de Estudios Constitucionales de la Suprema Corte de Justicia de la Nación; el Comité Académico y Editorial del Tribunal Electoral del Poder Judicial de la Federación la Comisión de Selección del Comité de Participación Ciudadana del Sistema Nacional Anticorrupción, entre otros. Docente en diversos programas académicos en materia de derecho constitucional y derechos humanos en centros de educación superior nacionales, y ponente en congresos y foros académicos especializados en México, Argentina, Brasil, Chile, Guatemala, Colombia, España, Estados Unidos y Perú. Su papel como consultor y especialista ha implicado la elaboración de proyectos de ley, dictámenes técnicos bajo la figura de amicus curiae y peritajes internacionales. Su obra publicada consiste en más de 80 capítulos de libros y artículos en revistas especializadas sobre derecho constitucional, derechos humanos y derecho internacional de los derechos humanos, así como algunos libros en estas materias.

Leonel González

Doctorando en Derecho por la Facultad de Derecho de la Universidad de Buenos Aires (Argentina); Master en Derecho Penal y Procesal Penal por Osgoode Hall Law School, Universidad de York (Canadá); Diplomado Latinoamericano sobre Reforma Procesal Penal por la Facultad de Derecho de la Universidad Diego Portales (Chile); Abogado con orientación en Derecho Penal por la Facultad de Derecho de la Universidad de Buenos Aires (Argentina). Actualmente es el Director de Relaciones Internacionales del Instituto de Estudios Comparados en Ciencias Penales y Sociales (INECIP). Durante 8 años fue el Director del Área de Capacitación del Centro de Estudios de Justicia de las Américas (CEJA), organismo internacional de la Organización de Estados Americanos (OEA), creado en 1999 por resolución de la Asamblea General de la OEA, con sede en Santiago de Chile.

María Luisa Piqué

Fiscal de la Procuración General de la Nación Argentina. Es abogada por la Universidad de Buenos Aires, donde se recibió con diploma de honor, Especialista en derecho penal y procesal penal por la Universidad Torcuato Di Tella y Máster en Derecho por la Universidad de Georgetown. Fue becaria de la Fundación Fulbright y perita de la Corte Interamericana de Derechos Humanos. Es profesora de Garantías Constitucionales del Derecho Penal Sustantivo y Procesal Penal de la Universidad de Buenos Aires, de Género y Derecho Penal en la Maestría en Derecho Penal de la Universidad de San Andrés y profesora invitada en distintas universidades, de grado y posgrado. Es autora de varios artículos en publicaciones académicas sobre temáticas de género y derecho penal y de garantías constitucionales en el proceso penal.

Mariano Fernández Valle

Abogado, Magíster en Derecho y Posgrado en Derecho Constitucional y Derechos Humanos por la Universidad de Palermo. Profesor en la Facultad de Derecho de la Universidad de Buenos Aires. Responsable del Programa para la Aplicación de Instrumentos de Derechos Humanos del Ministerio Público de la Defensa de la Nación. Integrante de la Red Latinoamericana de Académicas/os del Derecho - ALAS. Fue docente en diferentes universidades de Argentina, e investigador y docente en el Centro de Derechos Humanos de la Universidad de Chile. Sus temas de especialización son Derecho Internacional de los Derechos Humanos, Acceso a la Justicia y No Discriminación.

Silvia Serrano

Abogada colombiana, LLM en International Legal Studies por la Universidad de Georgetown y Máster en Argumentación Jurídica por la Universidad de Alicante. Es candidata a Doctora en Derecho por la Universidad de Georgetown. Actualmente se desempeña como Directora Asociada en el O'Neill Institute for National and Global Health Law y es docente en la Universidad de Georgetown y en programas de especialización y maestría en diversas universidades de América Latina. Anteriormente trabajó en la Comisión Interamericana de Derechos Humanos donde tuvo varios cargos, principalmente como Coordinadora de la Sección de Casos a cargo de la etapa de fondo y del litigio ante la Corte Interamericana de Derechos Humanos.

Marcia Aguiluz

Abogada costarricense, Máster en Derecho Internacional y Resolución de Conflictos por la Universidad para la Paz de las Naciones Unidas. Actualmente se desempeña como Directora Legal para América Latina en Women’s Link Worldwide, desde donde ejerce como estratega legal, líder de iniciativa y abogada litigante, con una gran responsabilidad para diseñar y liderar complejos proyectos legales, asimismo, es docente en la Universidad para la Paz, y en diversas universidades de Costa Rica. Anteriormente trabajó en el Centro por la Justicia y el Derecho Internacional (CEJIL) como Directora del Programa para Centroamérica y México, en la Secretaría General de la Facultad Latinoamericana de Ciencias Sociales (FLACSO) y como consultora internacional. Marcia se especializa en el litigio estratégico con enfoque de género e interseccional.

Ángel Arellano

Doctor en Ciencias Políticas de la Universidad de la República de Uruguay, magíster en Estudios Políticos por la Universidad Metropolitana de Venezuela y licenciado en Comunicación Social por la Universidad Santa María con especialización en Gobernabilidad y Gerencia Política por la Universidad Católica Andrés Bello y The George Washington University. Autor del libro «Venezolanos en el Uruguay» (2019). Trabaja como editor de la plataforma Diálogo Político y coordinador de proyectos del Programa Regional Partidos Políticos y Democracia en América Latina de la Fundación Konrad Adenauer.

Angelita Baeyens

Vicepresidenta de incidencia y litigio internacional del Robert F. Kennedy Human Rights. Baeyens lidera la estrategia de incidencia legal en derechos humanos de la organización, incluyendo el litigio de casos de alto impacto ante mecanismos de la ONU y sistemas regionales de protección, en temáticas relacionadas con la protección del espacio cívico y la lucha contra la discriminación, violencia e impunidad. Previamente se desempeñó como oficial de asuntos políticos en la ONU y como oficial de derechos humanos en la CIDH, donde también coordinó la Relatoría sobre personas defensoras. Es profesora adjunta de la Facultad de Derecho de la Universidad de Georgetown. Recibió su título de abogada de la Universidad de Ibagué, Colombia, y su LL.M en derecho internacional de los derechos humanos de la Universidad de Notre Dame, Estados Unidos.

Leonardo Nemer Caldeira Brant

Juez electo de la Corte Internacional de Justicia, además de profesor y director del Departamento de Derecho Público de la Universidad Federal de Minas Gerais (UFMG) y fundador del Centro de Derecho Internacional (CEDIN) y del Anuario Brasileño de Derecho Internacional. Tiene un máster de la UFMG y un doctorado de la Universidad París X Nanterre, y ha trabajado como jurista adjunto en el CIJ. Ha sido profesor visitante en el Institut des Hautes Études Internationales de la Université Panthéon-Assas Paris II, la Université Caen Basse-Normandie, la Université Paris-Ouest Nanterre la Défence y el Centro Lauterpacht de Derecho Internacional (Universidad de Cambridge, Reino Unido).

Edward Pérez

Abogado venezolano, egresado de la Universidad Católica Andrés Bello. LL.M. en derecho internacional de la Universidad de Cambridge, en Reino Unido, y Magíster en políticas públicas de la Universidad de los Andes, en Colombia. Actualmente se desempeña como asesor legal senior del Centro de Derechos Reproductivos y docente de la Universidad de los Andes. Fue abogado de la Secretaría de la Corte Interamericana de Derechos Humanos.

Katya Salazar

Directora Ejecutiva de la Fundación para el Debido Proceso (DPLF por sus siglas en inglés) organización regional dedicada a promover el Estado de derecho y los derechos humanos en América Latina. Antes de unirse a DPLF, fue Coordinadora Adjunta de la Unidad de Investigaciones Especiales de la Comisión de la Verdad de Perú, a cargo de la investigación de graves violaciones de derechos humanos ocurridas durante el conflicto armado interno en ese país. Previamente trabajó en la Adjuntía para los Derechos Humanos de la Defensoria del Pueblo de Perú y formó parte del equipo legal de la Coalición Contra la Impunidad (Alemania) que promovió el procesamiento penal en ese país de militares argentinos responsables de la desaparición de ciudadanos alemanes durante la dictadura argentina. Katya realizó sus estudios de derecho en la Pontifica Universidad Católica del Perú y de maestría en derecho internacional público en la Universidad de Heidelberg, Alemania.

Carlos Arturo Villagrán Sandoval

Experto afiliado al Constitution Transformation Network de la Universidad de Melbourne e investigador asociado de la Universidad Rafael Landívar de Guatemala. Doctor en Derecho por la Escuela de Derecho de la Universidad de Melbourne y una Maestria en Derecho Público e Internacional en esa misma casa de estudios, y una Licenciatura en Ciencias Jurídicas y Sociales de la Universidad Rafael Landívar. Tiene experiencia en gobierno, especificamente en negociacion de tratados y convenciones, litigio en instancias internacionales e implementacion de instrumentos en materia de derechos humanos, y como consultor para organismos financieros internacionales.

Salvador Herencia-Carrasco

Candidato a doctor por la Facultad de Derecho de la Universidad de Ottawa (Canadá). Director de la Clínica de Derechos Humanos del Centro de Investigación y Enseñanza en Derechos Humanos (HRREC) y profesor de la Sección de Derecho Civil de la Universidad de Ottawa. Anteriormente trabajó en la Comisión Andina de Juristas, el Tribunal Constitucional y el Ministerio de Justicia y Derechos Humanos del Perú. Sus áreas de investigación son el Sistema Interamericano, Empresas y Derechos Humanos, Derecho Penal Internacional, TWAIL y libertad académica. Integrante del Grupo de Estudios Latinoamericano sobre Derecho Penal Internacional de la Fundación Konrad Adenauer.

María Dolores Miño

Es abogada por la Universidad San Francisco de Quito, y tiene un LL.M. por el Washington College of Law de American University, con enfoque en Derecho Internacional de los Derechos Humanos. Es candidata para el título de Doctora en Derecho por la Universidad Externado de Colombia. Ha trabajado como especialista en la Relatoría Especial para la Libre Expresión de la CIDH, Fundamedios y la Dirección Nacional de DDHH en Ecuador. Actualmente, es Directora del Observatorio de Derechos y Justicia de Ecuador, docente en la Universidad Internacional del Ecuador, y socia fundadora de Gentium Law Consultores.

Alfonso Herrea

Doctor en Derecho por la Universidad Complutense de Madrid. Especialista en Derecho Constitucional por la Universidad Nacional Autónoma de México (UNAM), y en Derecho Constitucional y Ciencia Política por el Centro de Estudios Políticos y Constitucionales (Madrid). Licenciado en Derecho por la Universidad Autónoma de Guerrero (México). Es Investigador Nacional nivel I del Sistema Nacional de Investigadores del Consejo Nacional de Ciencia y Tecnología (CONACYT, México). En representación de México es miembro del Grupo de Justicia Constitucional y Derechos Fundamentales del Programa Estado de Derecho para Latinoamérica de la Fundación Konrad Adenauer.