Algoritmos y Derechos Humanos

28 de Mayo del 2021
Algoritmos y Derechos Humanos

Palabras clave: Algoritmos, Covid-19, derechos humanos, inteligencia artificial.

Con motivo de la pandemia del Covid-19, desde el 2020 en el mundo se ha incrementado el uso del internet, debido a que millones de personas han debido guardar cuarentenas obligatorias y/o voluntarias en casa. Con las consecuencias que la pandemia ha tenido en la vida laboral, comercial, educativa, recreativa, y sanitaria, entre otras, se ha incrementado el uso de las computadoras, portátiles, tabletas y celulares inteligentes; para buscar, registrar, procesar, recibir y transmitir información. 

Estas circunstancias han estrechado la relación de las personas con sus equipos tecnológicos, generando un impacto en el mercado de las nuevas tecnologías por el desarrollo de nuevos equipos, programas y servicios informáticos, como por el alza de la demanda de plataformas, programas y conectividad. Como consecuencia de ello, las personas en sus relaciones con el mercado y el Estado han registrado cada vez más sus datos personales de forma electrónica y/o biométrica, para obtener un documento de identidad, un pasaporte, proceder a pagar impuestos, interponer una demanda judicial, realizar una compra online o solicitar un servicio de taxi por aplicativos, entre otras.

El desarrollo de estos y demás servicios se basa en la inteligencia artificial que permite que un algoritmo se exprese en un lenguaje de programación para realizar esas actividades registradas y procesadas por máquinas inteligentes –computadoras, Smartphone, tablets, etc.-. Es decir que una máquina reemplaza las funciones cognitivas de los funcionarios del Estado o los empleados de las empresas maximizando sus objetivos y tareas. Así, en este proceso, las máquinas inteligentes sustituyen a las capacidades humanas para percibir, razonar, decidir, aprender y resolver problemas; interpretando adecuadamente los datos captados y procesados. 

El peligro para el Estado de Derecho y los derechos humanos es que el proceso de recolección, procesamiento y resultado de datos, se ajustan únicamente a criterios tecnológicos, sin considerar el marco constitucional e internacional de los derechos humanos. De allí que, se vengan produciendo afectaciones y violaciones a los derechos fundamentales en el mundo –como en los casos que se comentan más adelante-, en la medida que no existen fundamentos      y/o límites al desarrollo tecnológico y en particular de los algoritmos. Pero, en el fondo no son los algoritmos en sí mismos, sino los procesos de toma de decisiones en torno a los algoritmos los que deben ser analizados en términos de cómo afectan los derechos fundamentales.

Por ello, en un Estado de Derecho el uso de los algoritmos, en el marco del desarrollo de la inteligencia artificial, debe contar con una regulación básica para cautelar los derechos humanos. Así, en Australia y Nueva Zelanda se ha establecido que las “máquinas tragamonedas” deben contender algoritmos «justos, seguros y auditables»; de modo que, los desarrolladores de tales máquinas deben enviar sus sistemas algorítmicos a los reguladores antes de que puedan ser presentados a los consumidores.

En los Estados Unidos en el caso State v. Loomis , 2016, la Corte Suprema de Wisconsin revisó la sentencia condenatoria de seis años de prisión de Loomis, por cuanto el juzgado aplicó referencialmente una herramienta basada en algoritmos para la evaluación de riesgos en base a  perfiles de gestión de delincuentes correccionales para sanciones alternativas (Correctional Offender Management Profiling for Alternative Sanct –COMPAS–), por su participación en un tiroteo. Si bien la Corte  confirmó la sentencia, señaló en relación al uso de dicho sistema COMPAS que: 1. Se desconocían los factores de riesgo exactos utilizados; 2. La identificación de los grupos de alto riesgo no brinda un perfil determinante para individuos específicos; 3. Algunos datos podrían tener prejuicios raciales; 4. No había sido validado o normalizado en una muestra de Wisconsin; y 5. No había sido desarrollado para su uso en una sentencia.

En China, los algoritmos se vienen implementando a través de las “Cortes de Internet” con el uso de jueces robots diseñados con inteligencia artificial para resolver disputas sobre comercio electrónico y propiedad intelectual, mediante el uso de la tecnología del blockchain      que almacena evidencia segura y evita el uso del papeleo. Lo anterior, bajo la premisa de que la justicia demorada es justicia negada”. Más aún, un Tribunal de Nanshan de la provincia de Guangzhou reconoció derechos de autor a un artículo escrito por un algoritmo dreamwritter de inteligencia artificial  desarrollado por la empresa Tencen y, la Corte de Internet de Beijing reconoció el derecho de propiedad intelectual a la “creación” de un software hecho por inteligencia artificial gracias a la  información acumulada en bases de datos.

En Holanda, un tribunal de La Haya dictó un fallo en el 2020, anulando la recopilación de datos y la elaboración de perfiles de riesgo de ciudadanos para detectar fraudes a la seguridad social a través de SyRI (System Risk Indication). Este instrumento legal se usa para combatir el fraude en áreas como la seguridad social y los impuestos; para lo cual recopila datos sobre ingresos, pensiones, seguros, tipo de vivienda, impuestos, multas, integración, educación, deudas o prestación por desempleo de los contribuyentes para luego calcular, con base en      algoritmos, quién tiene más probabilidades de defraudar a la Administración

Estos perfiles de riesgo de los ciudadanos se obtienen      a través      de algoritmos. En otras palabras, el sistema va delineando qué ciudadanos tienen más probabilidades de cometer fraude. Ahora bien, el tribunal de La Haya señaló que el sistema de SyRI no cumplía con los requisitos del artículo 8, párrafo 2 del Convenio Europeo de Derechos Humanos sobre el respeto de la privacidad, para justificar la recopilación e intercambio mutuo de datos personales.

Un tribunal italiano de Bolonia en el 2019 determinó que el algoritmo utilizado por la aplicación europea de entrega de alimentos Deliveroo para clasificar y ofrecer turnos a los trabajadores temporales era discriminatorio. Lo anterior, por cuanto el algoritmo determinaba la «confiabilidad» de un ciclista que trabaja para la empresa, con fundamento en la existencia o no de cancelaciones de turnos previamente reservados a través de la aplicación al menos 24 horas, sin considerar que podía deberse a una emergencia o enfermedad grave, en cuyo caso tendrían menos oportunidades de trabajo en el futuro. El hecho de que el algoritmo no tenga en cuenta los motivos de una cancelación equivale a una discriminación y penaliza injustamente a los trabajadores con motivos legalmente legítimos para no trabajar; por eso, el tribunal y ordenó a Deliveroo pagar 50.000 € a los demandantes.

Los derechos humanos son universales, indivisibles, interdependientes e interrelacionados;      pero, en la actualidad se ven potencialmente desintegrados por el uso de tecnologías en particular algorítmicas. Ello debido a que, la inteligencia artificial involucra tecnología que percibe elementos de su propio entorno humano –incluidos los valores y prejuicios-, con la esperanza de lograr con éxito algún objetivo específico, generalmente a través de la réplica de al menos una de las cuatro nociones de inteligencia: desempeño humano, razonamiento, procesos de pensamiento o en la búsqueda de una noción idealizada de racionalidad.     

Por eso, el Estado de Derecho como garante del interés general, sin perjuicio de los legítimos intereses de los Estados y de las empresas proveedoras de plataformas digitales, debe asegurar tanto las creaciones y el desarrollo del internet en beneficio de todos, como también,      regular los algoritmos en aras de proteger los derechos de la persona humana y el respeto de su dignidad. 

Citación académica sugerida: Landa, César: Algoritmos y Derechos Humanos, Agenda Estado de Derecho, 2021/05/28, https://agendaestadodederecho.com/algoritmos-y-derechos-humanos

Comparte este artículo en...
Facebook
Twitter
LinkedIn
WhatsApp
ACERCA DEL AUTOR
César Landa

Ex Presidente del Tribunal Constitucional del Perú. Profesor de Derecho Constitucional en la Pontificia Universidad Católica del Perú.

Artículos Relacionados

Marcia Aguiluz

Abogada costarricense, Máster en Derecho Internacional y Resolución de Conflictos por la Universidad para la Paz de las Naciones Unidas. Actualmente se desempeña como Directora Legal para América Latina en Women’s Link Worldwide, desde donde ejerce como estratega legal, líder de iniciativa y abogada litigante, con una gran responsabilidad para diseñar y liderar complejos proyectos legales, asimismo, es docente en la Universidad para la Paz, y en diversas universidades de Costa Rica. Anteriormente trabajó en el Centro por la Justicia y el Derecho Internacional (CEJIL) como Directora del Programa para Centroamérica y México, en la Secretaría General de la Facultad Latinoamericana de Ciencias Sociales (FLACSO) y como consultora internacional. Marcia se especializa en el litigio estratégico con enfoque de género e interseccional.

Mauricio Alarcón

Director Ejecutivo de Fundación Ciudadanía y Desarrollo, contacto nacional de Transparencia Internacional en Ecuador. Abogado y máster en Dirección y Gestión Pública, así como en Acción Política, Fortalecimiento Institucional y Participación Ciudadana en el Estado de Derecho. Fue miembro suplente de la Asamblea Nacional Constituyente de Ecuador y asesor constitucional en el Consejo de Participación Ciudadana. Fellow del Centro para la Democracia, el Desarrollo y el Estado de Derecho de la Universidad de Stanford. Consultor para organizaciones nacionales e internacionales en temas de derechos humanos, libertad de expresión, acceso a la información, participación ciudadana, transparencia y lucha contra la corrupción.

Ariana Guevara Gómez

Es profesora ayudante e investigadora predoctoral en el Departamento de Ciencia Política y Relaciones Internacionales de la Universidad Autónoma de Madrid (UAM). Tiene un Máster en Democracia y Gobierno, y un Máster en Gobernanza y Derechos Humanos, ambos de la UAM. Es licenciada en Comunicación Social por la Universidad Central de Venezuela. Es integrante del Lab Grupo de Investigación en Innovación, Tecnología y Gestión Pública de la UAM. Su tesis doctoral aborda la relación entre género, tecnologías y sector público, con un especial énfasis en la Inteligencia Artificial. También ha publicado sobre innovación pública y colaboración entre administraciones públicas y ciudadanía. Formó parte del equipo editorial de Agenda Estado de Derecho desde 2020 hasta febrero de 2022.

Catalina Fernández Carter

Abogada de la Universidad de Chile y Magíster en Derecho Internacional de la Universidad de Cambridge. En el ámbito profesional, se ha desempeñado en el extranjero como asistente legal en la Corte Internacional de Justicia y consultora para la International Nuremberg Principles Academy. En Chile, ha trabajado como abogada para el Comité para la Prevención de la Tortura, y actualmente se desempeña en la División de Derechos Humanos del Ministerio de Relaciones Exteriores de Chile. Asimismo, es académica de Derecho Internacional Público en la Universidad de Chile. Sus áreas de investigación incluyen el derecho internacional de los derechos humanos, la regulación de la actividad policial y su conformidad con estándares internacionales, el derecho internacional humanitario y el derecho penal internacional.

Edison Lanza

Ex Relator Especial para la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos (CIDH) hasta el 5 de octubre de 2020. Abogado y docente uruguayo egresado de la Facultad de Derecho de la Universidad de la República de Uruguay (Udelar). Actualmente es senior fellow en El Diálogo Interamericano (The Interamerican Dialogue) y consultor en libertades informativas de UNESCO y organizaciones de la sociedad civil. Se desempeña como Secretario de Relaciones Internacionales y Gobierno Abierto del Gobierno de Canelones (Uruguay).

Docente y conferenciasta en el campo de la libertad de expresión y el derecho a la información en prestigiosas universidades, entre ellas American University (Washington), Unam (México), Universidad Carlos III (España), Stanford (California), Universidad del Pacífico (Perú), UBA (Argentina) Universidad Diego Portales (Chile), Udelar (Uruguay) y Universidad de los Andes (Colombia). Periodista, columnista y colaborador asiduo en distintos medios de comunicación.

José Luis Caballero Ochoa

José Luis Caballero Ochoa es Licenciado en Derecho por el Tecnológico de Monterrey, Campus Chihuahua; Maestro en Derecho, por la Facultad de Derecho de la Universidad Nacional Autónoma de México, y Doctor en Derecho por la Universidad Nacional de Educación a Distancia (UNED) de España. Diplomado en derechos humanos y procesos de democratización por la Universidad de Chile. Pertenece al Sistema Nacional de Investigadores. Es académico – investigador en el Departamento de Derecho en la Universidad Iberoamericana, Ciudad de México, del que fue su Director por seis años. Actualmente es Comisionado de la Comisión Internacional de Juristas. Ha participado o participa en diversas comisiones o consejos públicos, ciudadanos y académicos en México, entre los que destacan: el Consejo de la Comisión de Derechos Humanos del Distrito Federal; la Junta Directiva del Instituto Federal de la Defensoría Pública; el Comité Consultivo del Centro de Estudios Constitucionales de la Suprema Corte de Justicia de la Nación; el Comité Académico y Editorial del Tribunal Electoral del Poder Judicial de la Federación la Comisión de Selección del Comité de Participación Ciudadana del Sistema Nacional Anticorrupción, entre otros. Docente en diversos programas académicos en materia de derecho constitucional y derechos humanos en centros de educación superior nacionales, y ponente en congresos y foros académicos especializados en México, Argentina, Brasil, Chile, Guatemala, Colombia, España, Estados Unidos y Perú. Su papel como consultor y especialista ha implicado la elaboración de proyectos de ley, dictámenes técnicos bajo la figura de amicus curiae y peritajes internacionales. Su obra publicada consiste en más de 80 capítulos de libros y artículos en revistas especializadas sobre derecho constitucional, derechos humanos y derecho internacional de los derechos humanos, así como algunos libros en estas materias.

Leonel González

Doctorando en Derecho por la Facultad de Derecho de la Universidad de Buenos Aires (Argentina); Master en Derecho Penal y Procesal Penal por Osgoode Hall Law School, Universidad de York (Canadá); Diplomado Latinoamericano sobre Reforma Procesal Penal por la Facultad de Derecho de la Universidad Diego Portales (Chile); Abogado con orientación en Derecho Penal por la Facultad de Derecho de la Universidad de Buenos Aires (Argentina). Actualmente es el Director de Relaciones Internacionales del Instituto de Estudios Comparados en Ciencias Penales y Sociales (INECIP). Durante 8 años fue el Director del Área de Capacitación del Centro de Estudios de Justicia de las Américas (CEJA), organismo internacional de la Organización de Estados Americanos (OEA), creado en 1999 por resolución de la Asamblea General de la OEA, con sede en Santiago de Chile.

María Luisa Piqué

Fiscal de la Procuración General de la Nación Argentina. Es abogada por la Universidad de Buenos Aires, donde se recibió con diploma de honor, Especialista en derecho penal y procesal penal por la Universidad Torcuato Di Tella y Máster en Derecho por la Universidad de Georgetown. Fue becaria de la Fundación Fulbright y perita de la Corte Interamericana de Derechos Humanos. Es profesora de Garantías Constitucionales del Derecho Penal Sustantivo y Procesal Penal de la Universidad de Buenos Aires, de Género y Derecho Penal en la Maestría en Derecho Penal de la Universidad de San Andrés y profesora invitada en distintas universidades, de grado y posgrado. Es autora de varios artículos en publicaciones académicas sobre temáticas de género y derecho penal y de garantías constitucionales en el proceso penal.

Mariano Fernández Valle

Abogado, Magíster en Derecho y Posgrado en Derecho Constitucional y Derechos Humanos por la Universidad de Palermo. Profesor en la Facultad de Derecho de la Universidad de Buenos Aires. Responsable del Programa para la Aplicación de Instrumentos de Derechos Humanos del Ministerio Público de la Defensa de la Nación. Integrante de la Red Latinoamericana de Académicas/os del Derecho - ALAS. Fue docente en diferentes universidades de Argentina, e investigador y docente en el Centro de Derechos Humanos de la Universidad de Chile. Sus temas de especialización son Derecho Internacional de los Derechos Humanos, Acceso a la Justicia y No Discriminación.

Silvia Serrano

Abogada colombiana, LLM en International Legal Studies por la Universidad de Georgetown y Máster en Argumentación Jurídica por la Universidad de Alicante. Es candidata a Doctora en Derecho por la Universidad de Georgetown. Actualmente se desempeña como Directora Asociada en el O'Neill Institute for National and Global Health Law y es docente en la Universidad de Georgetown y en programas de especialización y maestría en diversas universidades de América Latina. Anteriormente trabajó en la Comisión Interamericana de Derechos Humanos donde tuvo varios cargos, principalmente como Coordinadora de la Sección de Casos a cargo de la etapa de fondo y del litigio ante la Corte Interamericana de Derechos Humanos.

María Dolores Miño

Es abogada por la Universidad San Francisco de Quito, y tiene un LL.M. por el Washington College of Law de American University, con enfoque en Derecho Internacional de los Derechos Humanos. Es candidata para el título de Doctora en Derecho por la Universidad Externado de Colombia. Ha trabajado como especialista en la Relatoría Especial para la Libre Expresión de la CIDH, Fundamedios y la Dirección Nacional de DDHH en Ecuador. Actualmente, es Directora del Observatorio de Derechos y Justicia de Ecuador, docente en la Universidad Internacional del Ecuador, y socia fundadora de Gentium Law Consultores.

Ángel Arellano

Doctor en Ciencias Políticas de la Universidad de la República de Uruguay, magíster en Estudios Políticos por la Universidad Metropolitana de Venezuela y licenciado en Comunicación Social por la Universidad Santa María con especialización en Gobernabilidad y Gerencia Política por la Universidad Católica Andrés Bello y The George Washington University. Autor del libro «Venezolanos en el Uruguay» (2019). Trabaja como editor de la plataforma Diálogo Político y coordinador de proyectos del Programa Regional Partidos Políticos y Democracia en América Latina de la Fundación Konrad Adenauer.

Angelita Baeyens

Vicepresidenta de incidencia y litigio internacional del Robert F. Kennedy Human Rights. Baeyens lidera la estrategia de incidencia legal en derechos humanos de la organización, incluyendo el litigio de casos de alto impacto ante mecanismos de la ONU y sistemas regionales de protección, en temáticas relacionadas con la protección del espacio cívico y la lucha contra la discriminación, violencia e impunidad. Previamente se desempeñó como oficial de asuntos políticos en la ONU y como oficial de derechos humanos en la CIDH, donde también coordinó la Relatoría sobre personas defensoras. Es profesora adjunta de la Facultad de Derecho de la Universidad de Georgetown. Recibió su título de abogada de la Universidad de Ibagué, Colombia, y su LL.M en derecho internacional de los derechos humanos de la Universidad de Notre Dame, Estados Unidos.

Leonardo Nemer Caldeira Brant

Juez electo de la Corte Internacional de Justicia, además de profesor y director del Departamento de Derecho Público de la Universidad Federal de Minas Gerais (UFMG) y fundador del Centro de Derecho Internacional (CEDIN) y del Anuario Brasileño de Derecho Internacional. Tiene un máster de la UFMG y un doctorado de la Universidad París X Nanterre, y ha trabajado como jurista adjunto en el CIJ. Ha sido profesor visitante en el Institut des Hautes Études Internationales de la Université Panthéon-Assas Paris II, la Université Caen Basse-Normandie, la Université Paris-Ouest Nanterre la Défence y el Centro Lauterpacht de Derecho Internacional (Universidad de Cambridge, Reino Unido).

Edward Pérez

Abogado venezolano, egresado de la Universidad Católica Andrés Bello. LL.M. en derecho internacional de la Universidad de Cambridge, en Reino Unido, y Magíster en políticas públicas de la Universidad de los Andes, en Colombia. Actualmente se desempeña como asesor legal senior del Centro de Derechos Reproductivos y docente de la Universidad de los Andes. Fue abogado de la Secretaría de la Corte Interamericana de Derechos Humanos.

Katya Salazar

Directora Ejecutiva de la Fundación para el Debido Proceso (DPLF por sus siglas en inglés) organización regional dedicada a promover el Estado de derecho y los derechos humanos en América Latina. Antes de unirse a DPLF, fue Coordinadora Adjunta de la Unidad de Investigaciones Especiales de la Comisión de la Verdad de Perú, a cargo de la investigación de graves violaciones de derechos humanos ocurridas durante el conflicto armado interno en ese país. Previamente trabajó en la Adjuntía para los Derechos Humanos de la Defensoria del Pueblo de Perú y formó parte del equipo legal de la Coalición Contra la Impunidad (Alemania) que promovió el procesamiento penal en ese país de militares argentinos responsables de la desaparición de ciudadanos alemanes durante la dictadura argentina. Katya realizó sus estudios de derecho en la Pontifica Universidad Católica del Perú y de maestría en derecho internacional público en la Universidad de Heidelberg, Alemania.

Carlos Arturo Villagrán Sandoval

Experto afiliado al Constitution Transformation Network de la Universidad de Melbourne e investigador asociado de la Universidad Rafael Landívar de Guatemala. Doctor en Derecho por la Escuela de Derecho de la Universidad de Melbourne y una Maestria en Derecho Público e Internacional en esa misma casa de estudios, y una Licenciatura en Ciencias Jurídicas y Sociales de la Universidad Rafael Landívar. Tiene experiencia en gobierno, especificamente en negociacion de tratados y convenciones, litigio en instancias internacionales e implementacion de instrumentos en materia de derechos humanos, y como consultor para organismos financieros internacionales.

Salvador Herencia-Carrasco

Candidato a doctor por la Facultad de Derecho de la Universidad de Ottawa (Canadá). Director de la Clínica de Derechos Humanos del Centro de Investigación y Enseñanza en Derechos Humanos (HRREC) y profesor de la Sección de Derecho Civil de la Universidad de Ottawa. Anteriormente trabajó en la Comisión Andina de Juristas, el Tribunal Constitucional y el Ministerio de Justicia y Derechos Humanos del Perú. Sus áreas de investigación son el Sistema Interamericano, Empresas y Derechos Humanos, Derecho Penal Internacional, TWAIL y libertad académica. Integrante del Grupo de Estudios Latinoamericano sobre Derecho Penal Internacional de la Fundación Konrad Adenauer.

Alfonso Herrea

Doctor en Derecho por la Universidad Complutense de Madrid. Especialista en Derecho Constitucional por la Universidad Nacional Autónoma de México (UNAM), y en Derecho Constitucional y Ciencia Política por el Centro de Estudios Políticos y Constitucionales (Madrid). Licenciado en Derecho por la Universidad Autónoma de Guerrero (México). Es Investigador Nacional nivel I del Sistema Nacional de Investigadores del Consejo Nacional de Ciencia y Tecnología (CONACYT, México). En representación de México es miembro del Grupo de Justicia Constitucional y Derechos Fundamentales del Programa Estado de Derecho para Latinoamérica de la Fundación Konrad Adenauer.