ChatGPT con toga: perspectivas para el uso de IA en la justicia latinoamericana
3 de Diciembre de 2024
Recientemente, la Corte Constitucional de Colombia señaló en una sentencia que la IA podría ser útil en la justicia, y que idealmente la tecnología que se llegue a usar debería ser exclusiva de la Rama Judicial. ¿Es posible? Hay limitaciones.
En agosto de 2024, la Corte Constitucional de Colombia sentó un hito sobre el posible uso de la inteligencia artificial (IA) en los sistemas de justicia en la región. A través de la sentencia T-323 de 2024, entre otras cuestiones, el tribunal analizó el uso de IA, particularmente de la IA generativa a través de ChatGPT, por parte de un juez. La Corte señaló que, en tanto la IA había sido usada para fortalecer los fundamentos de la decisión judicial, pero no para tomarla, no se vulneraron derechos. Así mismo, señaló que la IA podría ser útil en la justicia, y que idealmente la tecnología que se usara debería ser exclusiva de la Rama Judicial, con algoritmos y procesos transparentes, para garantizar la seguridad de la información. ¿Es esto posible?
Desde que OpenAI lanzó ChatGPT a finales de 2022, la herramienta irrumpió el debate público. Con su difusión, el concepto de IA dejó de ser una fantasía de películas o libros y se transformó en una realidad, por lo mismo, más concreta y menos de ensueño. Aunque ChatGPT puede ser sorprendente, su alcance está lejos de la ficción tradicionalmente asociada a la IA. No se trata de la robot mucama Robotina en los Supersónicos o del simpático robot limpiador de basura Wall-E. Este desencuentro entre las ideas sobre la IA y la realidad de su funcionamiento podría estar sucediendo en el ámbito legal.
Aunque el uso de ChatGPT por parte de jueces puede verse como un acto pionero en la incorporación del uso de la IA en la justicia, la aplicación de tecnologías similares en el sector legal tiene otros antecedentes. En Colombia, por ejemplo, hay registro de dos herramientas de IA utilizadas en el sector justicia, PretorIA y Fiscal Watson. La primera es un sistema lanzado en el año 2020 por la Corte Constitucional para apoyar la selección de tutelas y el segundo, una herramienta lanzada en 2018 por la Fiscalía General, a través de la cual se podrían encontrar y asociar casos en las bases de datos del sistema penal. Aunque no existe información pública sobre su funcionamiento, ambas cuentan con funcionalidades muy concretas.
Además, el desarrollo de sistemas basados en modelos similares a los de ChatGPT y especializados en cuestiones legales también ha tenido avances claves para pensar el futuro de la IA en la justicia de la región. Las tecnologías que soportan herramientas como ChatGPT, los grandes modelos de lenguaje (LLM por su sigla en inglés), forman parte de una rama de las ciencias computacionales conocida como procesamiento de lenguaje natural (NLP por sus siglas en inglés). Este campo de desarrollo data de los años 50 y se centra en el uso de herramientas tecnológicas para aprender, entender y producir lenguaje en términos similares al humano y, recientemente, ha tenido desarrollos exponenciales a partir del uso de redes neuronales y de técnicas que permiten crear modelos de inteligencia artificial basados en bases de datos inmensas.
Dentro de los distintos usos que este tipo de tecnología puede tener, el sector legal es uno que ha contado con varias investigaciones. Quevedo y otros hicieron una revisión de los principales desarrollos en esta materia entre 2015 y 2022. Según ellos, algunos de los usos más útiles de NLP en el campo jurídico son:
Clasificación de Texto, que permite categorizar documentos legales en áreas de derecho o como categorías de documentos dentro de una área. Dentro de los ejemplos de uso hay predicciones de resultados en decisiones en el Tribunal Europeo de Derechos Humanos, o la asignación de casos en Brasil; Resumen, que sintetiza documentos extensos, como fallos judiciales, para facilitar su comprensión; Extracción de Información, que facilita la identificación de datos clave (nombres, fechas, conceptos) en documentos legales estructurados; Respuesta a Preguntas, que literalmente consiste en resolver dudas o consultas y suele aplicarse a través de chatbots; Recuperación de Información, que apoya la búsqueda de normas o documentos relevantes, acelerando la investigación necesaria para un caso.
No obstante el avance en la materia, es importante considerar las limitaciones en el uso de estas herramientas como elementos clave para aterrizar lo propuesto por la Corte Constitucional colombiana.
Existen ciertas barreras para que una herramienta de IA pueda desarrollar tareas complejas como las propuestas en la sentencia. Por un lado, los modelos necesitan una gran cantidad de documentos para entrenarse, esto resulta complicado en tanto los documentos legales son complejos per se, además de escasos, extensos con restricciones legales, y a menudo mal clasificados, como señalan Quevedo y otros. Un problema relevante para la región es que la mayoría de los recursos legales con los que se entrenan estos sistemas están en inglés, sin bases de datos multilingües, lo que dificulta contar con herramientas en otros idiomas. Finalmente, la ausencia de investigaciones para lograr la mitigación de sesgos que puedan tener estos sistemas es otro gran vacío.
Por otro lado, la Corte plantea que un aspecto crítico para el uso de la IA en el sector judicial es “evitar el uso de algoritmos de black box, respecto de los cuales se conocen los datos de entrada y el resultado, pero no la forma en la que la información es procesada”. Este limitante, debidamente fundamentado en preocupaciones de derechos humanos, puede cerrar el uso de herramientas NLP complejas como ChatGPT, pues los LLM tienen una naturaleza de black box. La forma en que se ha buscado atajar este asunto es aplicando metodologías para descifrar la forma en que se procesa la información, como aplicando técnicas de la neurociencia y logrando cierto grado de entendimiento sobre su funcionamiento.
Aunque enfrentándose a retos importantes, algunos de los desarrollos de uso de NLP en el ámbito legal parecen ofrecer potenciales desarrollos en el corto plazo. Por ejemplo, los sistemas de clasificación de textos y de respuesta a preguntas han alcanzado niveles de desarrollo prometedores para usuarios no técnicos, que requieren información menos compleja. Para que estos avances sean posibles, cuestiones como la extensión de las bases de datos que entrenen la IA y la revisión de cuestiones éticas son los principales retos. Por su parte, la elusión del uso de herramientas black box puede tener una aproximación gradual y cautelosa, acudiendo a estas en escenarios de bajo riesgo y a medida en que avance el entendimiento científico de su funcionamiento con metodologías como la mencionada.
Citación académica sugerida: Vargas, Emmanuel; y Yepes, Daniela. ChatGPT con toga: perspectivas para el uso de IA en la justicia latinoamericana. Agenda Estado de Derecho. 2024/12/03. Disponible en: https://agendaestadodederecho.com/chatgpt-con-toga/
Palabras clave: Inteligencia artificial, sistema judicial, ChatGPT, justicia, Colombia
Abogado y especialista en periodismo de la Universidad de los Andes. Es codirector de El Veinte, tiene una maestría en derecho de la información de la Universidad de Amsterdam y está haciendo un doctorado en Inteligencia Artificial en la Universidad de Örebro.
Abogada y magíster en derecho constitucional de la Universidad del Rosario (Bogotá, Colombia). Trabajó en litigio estratégico para los derechos humanos desde el movimiento clínico legal, actualmente trabaja con la Jurisdicción Especial para la Paz.
Comparte tu trabajo o perspectiva con nosotros, sigue las opciones dando clic en el siguiente botón.
Para saber a profundidad lo que pasa con los derechos humanos en América Latina y el Estado de Derecho suscríbete a nuestro boletín digital.
Abogada colombiana, LLM en International Legal Studies por la Universidad de Georgetown y Máster en Argumentación Jurídica por la Universidad de Alicante. Es candidata a Doctora en Derecho por la Universidad de Georgetown. Actualmente se desempeña como Directora Asociada en el O'Neill Institute for National and Global Health Law y es docente en la Universidad de Georgetown y en programas de especialización y maestría en diversas universidades de América Latina. Anteriormente trabajó en la Comisión Interamericana de Derechos Humanos donde tuvo varios cargos, principalmente como Coordinadora de la Sección de Casos a cargo de la etapa de fondo y del litigio ante la Corte Interamericana de Derechos Humanos.
Es profesora ayudante e investigadora predoctoral en el Departamento de Ciencia Política y Relaciones Internacionales de la Universidad Autónoma de Madrid (UAM). Tiene un Máster en Democracia y Gobierno, y un Máster en Gobernanza y Derechos Humanos, ambos de la UAM. Es licenciada en Comunicación Social por la Universidad Central de Venezuela. Es integrante del Lab Grupo de Investigación en Innovación, Tecnología y Gestión Pública de la UAM. Su tesis doctoral aborda la relación entre género, tecnologías y sector público, con un especial énfasis en la Inteligencia Artificial. También ha publicado sobre innovación pública y colaboración entre administraciones públicas y ciudadanía. Formó parte del equipo editorial de Agenda Estado de Derecho desde 2020 hasta febrero de 2022.
Abogada de la Universidad de Chile y Magíster en Derecho Internacional de la Universidad de Cambridge. En el ámbito profesional, se ha desempeñado en el extranjero como asistente legal en la Corte Internacional de Justicia y consultora para la International Nuremberg Principles Academy. En Chile, ha trabajado como abogada para el Comité para la Prevención de la Tortura, y actualmente se desempeña en la División de Derechos Humanos del Ministerio de Relaciones Exteriores de Chile. Asimismo, es académica de Derecho Internacional Público en la Universidad de Chile. Sus áreas de investigación incluyen el derecho internacional de los derechos humanos, la regulación de la actividad policial y su conformidad con estándares internacionales, el derecho internacional humanitario y el derecho penal internacional.
Ex Relator Especial para la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos (CIDH) hasta el 5 de octubre de 2020. Abogado y docente uruguayo egresado de la Facultad de Derecho de la Universidad de la República de Uruguay (Udelar). Actualmente es senior fellow en El Diálogo Interamericano (The Interamerican Dialogue) y consultor en libertades informativas de UNESCO y organizaciones de la sociedad civil. Se desempeña como Secretario de Relaciones Internacionales y Gobierno Abierto del Gobierno de Canelones (Uruguay).
Docente y conferenciasta en el campo de la libertad de expresión y el derecho a la información en prestigiosas universidades, entre ellas American University (Washington), Unam (México), Universidad Carlos III (España), Stanford (California), Universidad del Pacífico (Perú), UBA (Argentina) Universidad Diego Portales (Chile), Udelar (Uruguay) y Universidad de los Andes (Colombia). Periodista, columnista y colaborador asiduo en distintos medios de comunicación.
José Luis Caballero Ochoa es Licenciado en Derecho por el Tecnológico de Monterrey, Campus Chihuahua; Maestro en Derecho, por la Facultad de Derecho de la Universidad Nacional Autónoma de México, y Doctor en Derecho por la Universidad Nacional de Educación a Distancia (UNED) de España. Diplomado en derechos humanos y procesos de democratización por la Universidad de Chile. Pertenece al Sistema Nacional de Investigadores. Es académico – investigador en el Departamento de Derecho en la Universidad Iberoamericana, Ciudad de México, del que fue su Director por seis años. Actualmente es Comisionado de la Comisión Internacional de Juristas. Ha participado o participa en diversas comisiones o consejos públicos, ciudadanos y académicos en México, entre los que destacan: el Consejo de la Comisión de Derechos Humanos del Distrito Federal; la Junta Directiva del Instituto Federal de la Defensoría Pública; el Comité Consultivo del Centro de Estudios Constitucionales de la Suprema Corte de Justicia de la Nación; el Comité Académico y Editorial del Tribunal Electoral del Poder Judicial de la Federación la Comisión de Selección del Comité de Participación Ciudadana del Sistema Nacional Anticorrupción, entre otros. Docente en diversos programas académicos en materia de derecho constitucional y derechos humanos en centros de educación superior nacionales, y ponente en congresos y foros académicos especializados en México, Argentina, Brasil, Chile, Guatemala, Colombia, España, Estados Unidos y Perú. Su papel como consultor y especialista ha implicado la elaboración de proyectos de ley, dictámenes técnicos bajo la figura de amicus curiae y peritajes internacionales. Su obra publicada consiste en más de 80 capítulos de libros y artículos en revistas especializadas sobre derecho constitucional, derechos humanos y derecho internacional de los derechos humanos, así como algunos libros en estas materias.
Doctorando en Derecho por la Facultad de Derecho de la Universidad de Buenos Aires (Argentina); Master en Derecho Penal y Procesal Penal por Osgoode Hall Law School, Universidad de York (Canadá); Diplomado Latinoamericano sobre Reforma Procesal Penal por la Facultad de Derecho de la Universidad Diego Portales (Chile); Abogado con orientación en Derecho Penal por la Facultad de Derecho de la Universidad de Buenos Aires (Argentina). Actualmente es el Director de Relaciones Internacionales del Instituto de Estudios Comparados en Ciencias Penales y Sociales (INECIP). Durante 8 años fue el Director del Área de Capacitación del Centro de Estudios de Justicia de las Américas (CEJA), organismo internacional de la Organización de Estados Americanos (OEA), creado en 1999 por resolución de la Asamblea General de la OEA, con sede en Santiago de Chile.
Fiscal de la Procuración General de la Nación Argentina. Es abogada por la Universidad de Buenos Aires, donde se recibió con diploma de honor, Especialista en derecho penal y procesal penal por la Universidad Torcuato Di Tella y Máster en Derecho por la Universidad de Georgetown. Fue becaria de la Fundación Fulbright y perita de la Corte Interamericana de Derechos Humanos. Es profesora de Garantías Constitucionales del Derecho Penal Sustantivo y Procesal Penal de la Universidad de Buenos Aires, de Género y Derecho Penal en la Maestría en Derecho Penal de la Universidad de San Andrés y profesora invitada en distintas universidades, de grado y posgrado. Es autora de varios artículos en publicaciones académicas sobre temáticas de género y derecho penal y de garantías constitucionales en el proceso penal.
Abogado, Magíster en Derecho y Posgrado en Derecho Constitucional y Derechos Humanos por la Universidad de Palermo. Profesor en la Facultad de Derecho de la Universidad de Buenos Aires. Responsable del Programa para la Aplicación de Instrumentos de Derechos Humanos del Ministerio Público de la Defensa de la Nación. Integrante de la Red Latinoamericana de Académicas/os del Derecho - ALAS. Fue docente en diferentes universidades de Argentina, e investigador y docente en el Centro de Derechos Humanos de la Universidad de Chile. Sus temas de especialización son Derecho Internacional de los Derechos Humanos, Acceso a la Justicia y No Discriminación.
Director Ejecutivo de Fundación Ciudadanía y Desarrollo, contacto nacional de Transparencia Internacional en Ecuador. Abogado y máster en Dirección y Gestión Pública, así como en Acción Política, Fortalecimiento Institucional y Participación Ciudadana en el Estado de Derecho. Fue miembro suplente de la Asamblea Nacional Constituyente de Ecuador y asesor constitucional en el Consejo de Participación Ciudadana. Fellow del Centro para la Democracia, el Desarrollo y el Estado de Derecho de la Universidad de Stanford. Consultor para organizaciones nacionales e internacionales en temas de derechos humanos, libertad de expresión, acceso a la información, participación ciudadana, transparencia y lucha contra la corrupción.
Doctor en Ciencias Políticas de la Universidad de la República de Uruguay, magíster en Estudios Políticos por la Universidad Metropolitana de Venezuela y licenciado en Comunicación Social por la Universidad Santa María con especialización en Gobernabilidad y Gerencia Política por la Universidad Católica Andrés Bello y The George Washington University. Autor del libro «Venezolanos en el Uruguay» (2019). Trabaja como editor de la plataforma Diálogo Político y coordinador de proyectos del Programa Regional Partidos Políticos y Democracia en América Latina de la Fundación Konrad Adenauer.
Abogado egresado de la Universidad Francisco Marroquín de Guatemala y con un Máster en Economía de la Universidad Rey Juan Carlos de Madrid. En la actualidad, desempeña el cargo de Editor Asistente en el blog de la International Association of Constitutional Law (IACL) y es Director del área de Estudios Jurídicos en la Fundación Libertad y Desarrollo, un think tank basado en Ciudad de Guatemala. A nivel docente, ejerce como profesor tanto en la Universidad del Istmo como en la Universidad Francisco Marroquín de Guatemala. Adicionalmente, es columnista para el periódico guatemalteco La Hora. Sus principales áreas de investigación son el derecho constitucional y el derecho electoral.
Vicepresidenta de incidencia y litigio internacional del Robert F. Kennedy Human Rights. Baeyens lidera la estrategia de incidencia legal en derechos humanos de la organización, incluyendo el litigio de casos de alto impacto ante mecanismos de la ONU y sistemas regionales de protección, en temáticas relacionadas con la protección del espacio cívico y la lucha contra la discriminación, violencia e impunidad. Previamente se desempeñó como oficial de asuntos políticos en la ONU y como oficial de derechos humanos en la CIDH, donde también coordinó la Relatoría sobre personas defensoras. Es profesora adjunta de la Facultad de Derecho de la Universidad de Georgetown. Recibió su título de abogada de la Universidad de Ibagué, Colombia, y su LL.M en derecho internacional de los derechos humanos de la Universidad de Notre Dame, Estados Unidos.
Juez electo de la Corte Internacional de Justicia, además de profesor y director del Departamento de Derecho Público de la Universidad Federal de Minas Gerais (UFMG) y fundador del Centro de Derecho Internacional (CEDIN) y del Anuario Brasileño de Derecho Internacional. Tiene un máster de la UFMG y un doctorado de la Universidad París X Nanterre, y ha trabajado como jurista adjunto en el CIJ. Ha sido profesor visitante en el Institut des Hautes Études Internationales de la Université Panthéon-Assas Paris II, la Université Caen Basse-Normandie, la Université Paris-Ouest Nanterre la Défence y el Centro Lauterpacht de Derecho Internacional (Universidad de Cambridge, Reino Unido).
Abogado venezolano, egresado de la Universidad Católica Andrés Bello. LL.M. en derecho internacional de la Universidad de Cambridge, en Reino Unido, y Magíster en políticas públicas de la Universidad de los Andes, en Colombia. Actualmente se desempeña como asesor legal senior del Centro de Derechos Reproductivos y docente de la Universidad de los Andes. Fue abogado de la Secretaría de la Corte Interamericana de Derechos Humanos.
Directora Ejecutiva de la Fundación para el Debido Proceso (DPLF por sus siglas en inglés) organización regional dedicada a promover el Estado de derecho y los derechos humanos en América Latina. Antes de unirse a DPLF, fue Coordinadora Adjunta de la Unidad de Investigaciones Especiales de la Comisión de la Verdad de Perú, a cargo de la investigación de graves violaciones de derechos humanos ocurridas durante el conflicto armado interno en ese país. Previamente trabajó en la Adjuntía para los Derechos Humanos de la Defensoria del Pueblo de Perú y formó parte del equipo legal de la Coalición Contra la Impunidad (Alemania) que promovió el procesamiento penal en ese país de militares argentinos responsables de la desaparición de ciudadanos alemanes durante la dictadura argentina. Katya realizó sus estudios de derecho en la Pontifica Universidad Católica del Perú y de maestría en derecho internacional público en la Universidad de Heidelberg, Alemania.
Experto afiliado al Constitution Transformation Network de la Universidad de Melbourne e investigador asociado de la Universidad Rafael Landívar de Guatemala. Doctor en Derecho por la Escuela de Derecho de la Universidad de Melbourne y una Maestria en Derecho Público e Internacional en esa misma casa de estudios, y una Licenciatura en Ciencias Jurídicas y Sociales de la Universidad Rafael Landívar. Tiene experiencia en gobierno, especificamente en negociacion de tratados y convenciones, litigio en instancias internacionales e implementacion de instrumentos en materia de derechos humanos, y como consultor para organismos financieros internacionales.
Candidato a doctor por la Facultad de Derecho de la Universidad de Ottawa (Canadá). Director de la Clínica de Derechos Humanos del Centro de Investigación y Enseñanza en Derechos Humanos (HRREC) y profesor de la Sección de Derecho Civil de la Universidad de Ottawa. Anteriormente trabajó en la Comisión Andina de Juristas, el Tribunal Constitucional y el Ministerio de Justicia y Derechos Humanos del Perú. Sus áreas de investigación son el Sistema Interamericano, Empresas y Derechos Humanos, Derecho Penal Internacional, TWAIL y libertad académica. Integrante del Grupo de Estudios Latinoamericano sobre Derecho Penal Internacional de la Fundación Konrad Adenauer.
Es abogada por la Universidad San Francisco de Quito, y tiene un LL.M. por el Washington College of Law de American University, con enfoque en Derecho Internacional de los Derechos Humanos. Es candidata para el título de Doctora en Derecho por la Universidad Externado de Colombia. Ha trabajado como especialista en la Relatoría Especial para la Libre Expresión de la CIDH, Fundamedios y la Dirección Nacional de DDHH en Ecuador. Actualmente, es Directora del Observatorio de Derechos y Justicia de Ecuador, docente en la Universidad Internacional del Ecuador, y socia fundadora de Gentium Law Consultores.
Abogada costarricense, Máster en Derecho Internacional y Resolución de Conflictos por la Universidad para la Paz de las Naciones Unidas. Actualmente se desempeña como Directora Legal para América Latina en Women’s Link Worldwide, desde donde ejerce como estratega legal, líder de iniciativa y abogada litigante, con una gran responsabilidad para diseñar y liderar complejos proyectos legales, asimismo, es docente en la Universidad para la Paz, y en diversas universidades de Costa Rica. Anteriormente trabajó en el Centro por la Justicia y el Derecho Internacional (CEJIL) como Directora del Programa para Centroamérica y México, en la Secretaría General de la Facultad Latinoamericana de Ciencias Sociales (FLACSO) y como consultora internacional. Marcia se especializa en el litigio estratégico con enfoque de género e interseccional.
Doctor en Derecho por la Universidad Complutense de Madrid. Especialista en Derecho Constitucional por la Universidad Nacional Autónoma de México (UNAM), y en Derecho Constitucional y Ciencia Política por el Centro de Estudios Políticos y Constitucionales (Madrid). Licenciado en Derecho por la Universidad Autónoma de Guerrero (México). Es Investigador Nacional nivel I del Sistema Nacional de Investigadores del Consejo Nacional de Ciencia y Tecnología (CONACYT, México). En representación de México es miembro del Grupo de Justicia Constitucional y Derechos Fundamentales del Programa Estado de Derecho para Latinoamérica de la Fundación Konrad Adenauer.
