Estos son solo algunos ejemplos de sistemas más o menos automatizados que comienzan a ser implementados en la región. Otros más, como PRISMA de la Fiscalía colombiana (que busca hacer predicciones en reincidencia penal), o Expertius en México (que hace análisis en juicios de alimentos), también pueden ser mencionados. A pesar de la diversidad de las iniciativas, es posible observar algunas tendencias en la región, que señalan a algunos desafíos comunes que, creo, merecen mayor atención de la que están recibiendo.

Es importante considerar el contexto social en el que los sistemas son adoptados. En términos generales, la presentación y recepción en medios de comunicación de los mismos ha sido caracterizada por cierto optimismo tecnológico, el cual ya ha sido objeto de lecturas críticas, por ejemplo, en el caso de la presentación de Prometea en Colombia, y respecto a otras iniciativas de legal tech en el mundo. Se trata, en esencia, de resistir la narrativa de que las soluciones tecnológicas están desconectadas de la realidad social que las define y que, en consecuencia, pueden solucionar graves problemas sociales, como el acceso a la justicia en América Latina, sin considerar las causas subyacentes del problema que el sistema busca solucionar.

Por este motivo, todas las fases de desarrollo de estas soluciones deben ser transparentes, y estar acompañadas por la sociedad civil. Así, en el contexto de la justicia, es importante que todo programa pueda ser probado por pares externos a la institución judicial que busca implementarlo. 

La transparencia es, en ese sentido, fundamental, no solo en el diseño del sistema, como ya vimos, sino respecto a cada una de las decisiones que tome el mismo. No deben existir resultados que no sean explicables, o verificables por terceros, en la automatización de la justicia en América Latina. Aquí, por supuesto, hay una diferencia respecto a si el proveedor de la solución es público o privado: en el caso de los desarrollos logrados con recursos públicos y que son aplicados a la administración de justicia (como es el caso de todos los ejemplos mencionados), no hay razón para que no haya completo acceso al código por parte del público, y para que puedan darse tests de reproducibilidad de resultados por parte de organizaciones de la sociedad civil o expertos independientes. De similar forma, en los casos en que las instituciones judiciales contraten con proveedores privados, deberán tener como prioridad que los derechos de propiedad intelectual no sean un obstáculo para la transparencia en el proceso de administración de justicia, como hizo evidente el caso de Loomis en Estados Unidos, referido al sistema de predicción de reincidencia COMPAS.

La transparencia protege el debido proceso en el proceso judicial. Aquí el desafío es tanto jurídico, como conceptual. De una parte, la automatización de ciertos momentos procesales implica reconocer recursos jurídicos a los afectados que probablemente no existían antes, para que sea posible cuestionar ciertas clasificaciones automáticas. Por ejemplo, VICTOR, el sistema de Brasil, no da un recurso en contra de una verificación del requisito de repercusión general que el afectado considere incorrecta, ni se informa al usuario que su petición fue objeto de decisión automática, y no de un funcionario judicial. Adicionalmente, aún si la decisión final no es tomada por el sistema, como sería el caso de Prometea, es necesario considerar el problema del sesgo de automatización; esto es, el instinto humano a ser deferente respecto a la decisión tomada por una máquina. Así, aún si existe la posibilidad de que el humano contradiga la decisión del sistema, la realidad es que la presunción tiende a ser a favor de confirmarla, y solo en casos extremos el humano la contradice. En el contexto de la administración de justicia, será necesario integrar al diseño del sistema y del derecho procesal ciertos mecanismos de control de este sesgo, de tal forma que se proteja el debido proceso en esta zona de decisión previa.

Como puede verse, la automatización en ciertos procesos de administración de justicia es ya una realidad en América Latina, y probablemente seguirá creciendo. Este giro debe ser bienvenido, pues tiene la potencialidad de resolver ciertos cuellos de botella documentales que crean congestión judicial. Abundan, sin embargo, los desafíos logísticos en términos de digitalización de documentos y operatividad de los sistemas. Para bien o para mal, la justicia en América Latina es todavía una justicia que se tramita en papel, y esto hace que muchas de estas iniciativas de automatización no sean escalables. Pero, aun cuando sean implementadas, es necesario involucrar a la sociedad civil e insertar mecanismos de protección al debido proceso desde el diseño mismo del sistema, y no como una corrección posterior. Sólo así las maquinas nos ayudarán a traer más justicia a la región.