Voluntad humana y margen de oportunidad en decisiones de IA en la Administración Pública
2 de Octubre de 2024
¿Inteligencia artificial en la administración pública? ¿Cómo implementarla de forma ética y en respeto de los derechos humanos?
La generación de imágenes y audios, la elaboración de textos, las sugerencias en las plataformas de entretenimiento y la predicción en los buscadores en Internet con base en la Inteligencia Artificial (IA), son signos de la época actual. La IA es una tecnología que funciona a través de aparatos, máquinas y dispositivos electrónicos, para analizar, imitar y aprender del pensamiento y comportamiento inteligente, a partir del manejo e interpretación de datos, con el objetivo de decidir o ayudar a decidir.
En el Estado contemporáneo, la Administración Pública no ha podido escapar a ese fenómeno y probablemente no podrá hacerlo. Por ello, es necesario determinar su alcance e implementar dicha tecnología con responsabilidad, cumpliendo con ciertos estándares éticos y respetando los derechos humanos.
La IA se aplica en la Administración Pública de diversos países a los fines de optimizar recursos y automatizar procesos. Por ejemplo, en España se utiliza la IA en la protección de la salud en el ámbito del diagnóstico por imagen y las universidades e institutos de investigación de ese país participan activamente en el desarrollo de soluciones sanitarias basadas en tal tecnología.
Para analizar ese tema, desde el punto de vista de la garantía de la voluntad y el margen de oportunidad para la elección humana en las decisiones adoptadas por sistemas de IA en la Administración Pública, en este texto se utilizará como fundamento la Carta Iberoamericana de Inteligencia Artificial en la Administración Pública (la Carta).
Este documento proviene del Centro Latinoamericano de Administración para el Desarrollo y fue aprobado por unanimidad el 20 de noviembre de 2023, durante la LIII reunión de su Consejo Directivo. Su propósito es promover un marco compartido de desarrollo de la IA desde y en las Administraciones Públicas del ámbito iberoamericano (número 1.2, del Capítulo 1). Debe precisarse que la Carta es un instrumento de soft law, de naturaleza orientativa, la cual se encuentra estructurada en cinco capítulos, a su vez, divididos en literales y numerales.
La garantía de la voluntad de oponerse a las decisiones adoptadas por sistemas algorítmicos forma parte del principio de equidad, inclusividad y no discriminación, previsto en la Carta (literal i, del Capítulo 3). Dicho principio implica garantizar una distribución igualitaria de riesgos y beneficios en la utilización de sistemas de IA en la Administración Pública.
Por otro lado, el margen de oportunidades para la elección humana en las decisiones adoptadas por sistemas algorítmicos, confluye con el principio de autonomía humana contemplado en la Carta (literal a, del Capítulo 3). Este último principio significa que la adopción de la IA en el sector público debe garantizar que las personas puedan mantener en todo momento el control y el contexto en que los datos sean utilizados, así como la capacidad para modificar estos aspectos. Ello, aunado a que los sistemas de IA deben potenciar las capacidades de los seres humanos y deben permitir el mayor margen posible de oportunidades para la elección humana.
Asimismo, la Carta establece una estrategia nacional de IA en la Administración Pública, conformada por un conjunto de elementos clave (numeral 4.1, del Capítulo 4). Entre ellos, conviene resaltar los siguientes: el entrenamiento apropiado de dispositivos inteligentes (robots, drones, etc.) que puedan llegar a interactuar con los seres humanos en la prestación de servicios públicos; y la preparación de la relación digital con la ciudadanía, por medio, entre otras cosas, de la automatización de diferentes actividades antes realizadas por personal público.
La garantía a la autonomía de la voluntad humana es un elemento básico del derecho al libre desarrollo de la personalidad, reconocido en los instrumentos internacionales de derechos humanos a nivel universal y regional, así como en las constituciones estatales. Sobre este particular, la Primera Sala de la Suprema Corte de Justicia de la Nación de México destacó que el principio de autonomía de la voluntad constituye una facultad inherente al ser humano para decidir libremente sobre sí mismo y sobre las condiciones en que desea realizar su propia vida, abarcando todos los ámbitos de su existencia.
Dado que las determinaciones adoptadas por la Administración Pública pueden afectar situaciones jurídicas que involucran derechos o intereses particulares, es fundamental que, en el uso de la IA para el ejercicio de sus competencias, se garantice la voluntad y el margen de oportunidad de los administrados. Esto implica que las personas deben ser informadas sobre el empleo de esos sistemas tecnológicos y, en su caso, tener la posibilidad de oponerse a su utilización.
La Administración Pública en la realización de su actividad puede adoptar decisiones que implican el ejercicio de potestades regladas o potestades discrecionales. Por ejemplo, las primeras pueden consistir en imponer una sanción al cumplirse todos los supuestos; y las segundas pueden concretarse en la designación de un funcionario o el otorgamiento de una autorización ambiental, siempre que exista un margen de apreciación o pueda elegirse entre diversas alternativas.
Para las decisiones adoptadas por la Administración Pública que involucren el uso de la IA, se debe preservar la dignidad y libertad de cada persona. Esto significa, entre otras cosas, asegurar el respeto a la voluntad humana en el sentido de informar de manera oportuna al administrado sobre la aplicación de estas tecnologías en la gestión de los asuntos. De este modo, si el interesado lo desea, podrá optar porque su caso sea resuelto mediante esta herramienta o por una persona física.
Además, la adopción de los sistemas de IA en el ámbito público decisorio debe llevarse a cabo de manera progresiva. En una fase inicial, su aplicación puede resultar compatible con la adopción de actos reglados, donde la decisión se basa en verificar si una información (incluso almacenada en las bases de datos de la Administración Pública) cumple con los requisitos establecidos por la ley.
De esta manera, no sólo se cumplirá con los principios de eficacia y eficiencia de la Administración Pública, sino que también fomentará una mayor confianza por parte de la ciudadanía en estos sistemas. Esto, sin perjuicio de que puedan irse diseñando y desarrollando algoritmos con estándares normalizados de calidad que minimicen riesgos de posibles resoluciones discriminatorias, sesgadas o incorrectas, para que, a mediano plazo, puedan ser empleados en decisiones que entrañen un ámbito de discrecionalidad.
Las Administraciones Públicas de los países hispano hablantes deben ajustar sus mecanismos al momento de implementar la IA en el proceso de toma de decisiones. Si esas organizaciones deciden utilizar dicha tecnología para adoptar actos en ejercicio de potestades regladas, no resultan perceptibles complicaciones significativas.
Empero, si tales Administraciones pretenden usar la IA para adoptar actos en ejercicio de potestades discrecionales, es necesario elevar la precaución para prevenir una alteración al derecho, la violación de derechos humanos o simplemente decisiones incorrectas.
Dicha situación puede resultar más difícil si se trata de actos que se dictan en conjunto o que pertenecen a una misma edición, donde las Administración Públicas resuelven múltiples asuntos que comparten los mismos supuestos fácticos.
En consecuencia, en el marco de la actividad administrativa de los países iberoamericanos y bajo la influencia de la Carta, se presentan dos desafíos relevantes: comunicar a las personas la resolución de asuntos específicos por esa vía, para asegurar un margen de oportunidad; y conservar la posibilidad de oponerse, así como la facultad de decidir si el acto debe ser adoptado por una persona física, como expresión de la garantía de la voluntad.
Citación académica sugerida: García, José Rafael y Sánchez Lora, Juan Carlos. Voluntad humana y margen de oportunidad en decisiones de IA en la Administración Pública. Agenda Estado de Derecho. 2024/10/02. Disponible en: https://agendaestadodederecho.com/voluntad-humana-y-decisiones-de-ia/
Palabras clave: IA, administración pública, Latinoamérica
¿Es importante profundizar sobre este tema?
Escribe tu artículo/respuesta sobre este tema y déjanos tu texto siguiendo las siguientes instrucciones
Doctor en Derecho con la calificación Sobresaliente Cum Laude por la Universidad Complutense de Madrid (España). Especialista en Derecho Administrativo por la Universidad Católica Andrés Bello (Venezuela). Abogado con la distinción Magna Cum Laude por la Universidad de Los Andes (Venezuela). Docente-investigador en la Academia Interamericana de Derechos Humanos de la Universidad Autónoma de Coahuila (México).
Doctor en Derecho con la calificación Sobresaliente Cum Laude y mención internacional, así como Maestro en Derecho Constitucional por la Universidad de Sevilla (España). Maestro en Ciencias Políticas y Derecho Constitucional por el Centro de Estudios Políticos y Constitucionales de Madrid (España), y Magister en Derecho Internacional y Relaciones Internacionales por la Universidad Complutense de Madrid (España). Abogado por la Universidad Católica Andrés Bello (Venezuela).
Comparte tu trabajo o perspectiva con nosotros, sigue las opciones dando clic en el siguiente botón.
Para saber a profundidad lo que pasa con los derechos humanos en América Latina y el Estado de Derecho suscríbete a nuestro boletín digital.
Abogada colombiana, LLM en International Legal Studies por la Universidad de Georgetown y Máster en Argumentación Jurídica por la Universidad de Alicante. Es candidata a Doctora en Derecho por la Universidad de Georgetown. Actualmente se desempeña como Directora Asociada en el O'Neill Institute for National and Global Health Law y es docente en la Universidad de Georgetown y en programas de especialización y maestría en diversas universidades de América Latina. Anteriormente trabajó en la Comisión Interamericana de Derechos Humanos donde tuvo varios cargos, principalmente como Coordinadora de la Sección de Casos a cargo de la etapa de fondo y del litigio ante la Corte Interamericana de Derechos Humanos.
Es profesora ayudante e investigadora predoctoral en el Departamento de Ciencia Política y Relaciones Internacionales de la Universidad Autónoma de Madrid (UAM). Tiene un Máster en Democracia y Gobierno, y un Máster en Gobernanza y Derechos Humanos, ambos de la UAM. Es licenciada en Comunicación Social por la Universidad Central de Venezuela. Es integrante del Lab Grupo de Investigación en Innovación, Tecnología y Gestión Pública de la UAM. Su tesis doctoral aborda la relación entre género, tecnologías y sector público, con un especial énfasis en la Inteligencia Artificial. También ha publicado sobre innovación pública y colaboración entre administraciones públicas y ciudadanía. Formó parte del equipo editorial de Agenda Estado de Derecho desde 2020 hasta febrero de 2022.
Abogada de la Universidad de Chile y Magíster en Derecho Internacional de la Universidad de Cambridge. En el ámbito profesional, se ha desempeñado en el extranjero como asistente legal en la Corte Internacional de Justicia y consultora para la International Nuremberg Principles Academy. En Chile, ha trabajado como abogada para el Comité para la Prevención de la Tortura, y actualmente se desempeña en la División de Derechos Humanos del Ministerio de Relaciones Exteriores de Chile. Asimismo, es académica de Derecho Internacional Público en la Universidad de Chile. Sus áreas de investigación incluyen el derecho internacional de los derechos humanos, la regulación de la actividad policial y su conformidad con estándares internacionales, el derecho internacional humanitario y el derecho penal internacional.
Ex Relator Especial para la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos (CIDH) hasta el 5 de octubre de 2020. Abogado y docente uruguayo egresado de la Facultad de Derecho de la Universidad de la República de Uruguay (Udelar). Actualmente es senior fellow en El Diálogo Interamericano (The Interamerican Dialogue) y consultor en libertades informativas de UNESCO y organizaciones de la sociedad civil. Se desempeña como Secretario de Relaciones Internacionales y Gobierno Abierto del Gobierno de Canelones (Uruguay).
Docente y conferenciasta en el campo de la libertad de expresión y el derecho a la información en prestigiosas universidades, entre ellas American University (Washington), Unam (México), Universidad Carlos III (España), Stanford (California), Universidad del Pacífico (Perú), UBA (Argentina) Universidad Diego Portales (Chile), Udelar (Uruguay) y Universidad de los Andes (Colombia). Periodista, columnista y colaborador asiduo en distintos medios de comunicación.
José Luis Caballero Ochoa es Licenciado en Derecho por el Tecnológico de Monterrey, Campus Chihuahua; Maestro en Derecho, por la Facultad de Derecho de la Universidad Nacional Autónoma de México, y Doctor en Derecho por la Universidad Nacional de Educación a Distancia (UNED) de España. Diplomado en derechos humanos y procesos de democratización por la Universidad de Chile. Pertenece al Sistema Nacional de Investigadores. Es académico – investigador en el Departamento de Derecho en la Universidad Iberoamericana, Ciudad de México, del que fue su Director por seis años. Actualmente es Comisionado de la Comisión Internacional de Juristas. Ha participado o participa en diversas comisiones o consejos públicos, ciudadanos y académicos en México, entre los que destacan: el Consejo de la Comisión de Derechos Humanos del Distrito Federal; la Junta Directiva del Instituto Federal de la Defensoría Pública; el Comité Consultivo del Centro de Estudios Constitucionales de la Suprema Corte de Justicia de la Nación; el Comité Académico y Editorial del Tribunal Electoral del Poder Judicial de la Federación la Comisión de Selección del Comité de Participación Ciudadana del Sistema Nacional Anticorrupción, entre otros. Docente en diversos programas académicos en materia de derecho constitucional y derechos humanos en centros de educación superior nacionales, y ponente en congresos y foros académicos especializados en México, Argentina, Brasil, Chile, Guatemala, Colombia, España, Estados Unidos y Perú. Su papel como consultor y especialista ha implicado la elaboración de proyectos de ley, dictámenes técnicos bajo la figura de amicus curiae y peritajes internacionales. Su obra publicada consiste en más de 80 capítulos de libros y artículos en revistas especializadas sobre derecho constitucional, derechos humanos y derecho internacional de los derechos humanos, así como algunos libros en estas materias.
Doctorando en Derecho por la Facultad de Derecho de la Universidad de Buenos Aires (Argentina); Master en Derecho Penal y Procesal Penal por Osgoode Hall Law School, Universidad de York (Canadá); Diplomado Latinoamericano sobre Reforma Procesal Penal por la Facultad de Derecho de la Universidad Diego Portales (Chile); Abogado con orientación en Derecho Penal por la Facultad de Derecho de la Universidad de Buenos Aires (Argentina). Actualmente es el Director de Relaciones Internacionales del Instituto de Estudios Comparados en Ciencias Penales y Sociales (INECIP). Durante 8 años fue el Director del Área de Capacitación del Centro de Estudios de Justicia de las Américas (CEJA), organismo internacional de la Organización de Estados Americanos (OEA), creado en 1999 por resolución de la Asamblea General de la OEA, con sede en Santiago de Chile.
Fiscal de la Procuración General de la Nación Argentina. Es abogada por la Universidad de Buenos Aires, donde se recibió con diploma de honor, Especialista en derecho penal y procesal penal por la Universidad Torcuato Di Tella y Máster en Derecho por la Universidad de Georgetown. Fue becaria de la Fundación Fulbright y perita de la Corte Interamericana de Derechos Humanos. Es profesora de Garantías Constitucionales del Derecho Penal Sustantivo y Procesal Penal de la Universidad de Buenos Aires, de Género y Derecho Penal en la Maestría en Derecho Penal de la Universidad de San Andrés y profesora invitada en distintas universidades, de grado y posgrado. Es autora de varios artículos en publicaciones académicas sobre temáticas de género y derecho penal y de garantías constitucionales en el proceso penal.
Abogado, Magíster en Derecho y Posgrado en Derecho Constitucional y Derechos Humanos por la Universidad de Palermo. Profesor en la Facultad de Derecho de la Universidad de Buenos Aires. Responsable del Programa para la Aplicación de Instrumentos de Derechos Humanos del Ministerio Público de la Defensa de la Nación. Integrante de la Red Latinoamericana de Académicas/os del Derecho - ALAS. Fue docente en diferentes universidades de Argentina, e investigador y docente en el Centro de Derechos Humanos de la Universidad de Chile. Sus temas de especialización son Derecho Internacional de los Derechos Humanos, Acceso a la Justicia y No Discriminación.
Director Ejecutivo de Fundación Ciudadanía y Desarrollo, contacto nacional de Transparencia Internacional en Ecuador. Abogado y máster en Dirección y Gestión Pública, así como en Acción Política, Fortalecimiento Institucional y Participación Ciudadana en el Estado de Derecho. Fue miembro suplente de la Asamblea Nacional Constituyente de Ecuador y asesor constitucional en el Consejo de Participación Ciudadana. Fellow del Centro para la Democracia, el Desarrollo y el Estado de Derecho de la Universidad de Stanford. Consultor para organizaciones nacionales e internacionales en temas de derechos humanos, libertad de expresión, acceso a la información, participación ciudadana, transparencia y lucha contra la corrupción.
Doctor en Ciencias Políticas de la Universidad de la República de Uruguay, magíster en Estudios Políticos por la Universidad Metropolitana de Venezuela y licenciado en Comunicación Social por la Universidad Santa María con especialización en Gobernabilidad y Gerencia Política por la Universidad Católica Andrés Bello y The George Washington University. Autor del libro «Venezolanos en el Uruguay» (2019). Trabaja como editor de la plataforma Diálogo Político y coordinador de proyectos del Programa Regional Partidos Políticos y Democracia en América Latina de la Fundación Konrad Adenauer.
Abogado egresado de la Universidad Francisco Marroquín de Guatemala y con un Máster en Economía de la Universidad Rey Juan Carlos de Madrid. En la actualidad, desempeña el cargo de Editor Asistente en el blog de la International Association of Constitutional Law (IACL) y es Director del área de Estudios Jurídicos en la Fundación Libertad y Desarrollo, un think tank basado en Ciudad de Guatemala. A nivel docente, ejerce como profesor tanto en la Universidad del Istmo como en la Universidad Francisco Marroquín de Guatemala. Adicionalmente, es columnista para el periódico guatemalteco La Hora. Sus principales áreas de investigación son el derecho constitucional y el derecho electoral.
Vicepresidenta de incidencia y litigio internacional del Robert F. Kennedy Human Rights. Baeyens lidera la estrategia de incidencia legal en derechos humanos de la organización, incluyendo el litigio de casos de alto impacto ante mecanismos de la ONU y sistemas regionales de protección, en temáticas relacionadas con la protección del espacio cívico y la lucha contra la discriminación, violencia e impunidad. Previamente se desempeñó como oficial de asuntos políticos en la ONU y como oficial de derechos humanos en la CIDH, donde también coordinó la Relatoría sobre personas defensoras. Es profesora adjunta de la Facultad de Derecho de la Universidad de Georgetown. Recibió su título de abogada de la Universidad de Ibagué, Colombia, y su LL.M en derecho internacional de los derechos humanos de la Universidad de Notre Dame, Estados Unidos.
Juez electo de la Corte Internacional de Justicia, además de profesor y director del Departamento de Derecho Público de la Universidad Federal de Minas Gerais (UFMG) y fundador del Centro de Derecho Internacional (CEDIN) y del Anuario Brasileño de Derecho Internacional. Tiene un máster de la UFMG y un doctorado de la Universidad París X Nanterre, y ha trabajado como jurista adjunto en el CIJ. Ha sido profesor visitante en el Institut des Hautes Études Internationales de la Université Panthéon-Assas Paris II, la Université Caen Basse-Normandie, la Université Paris-Ouest Nanterre la Défence y el Centro Lauterpacht de Derecho Internacional (Universidad de Cambridge, Reino Unido).
Abogado venezolano, egresado de la Universidad Católica Andrés Bello. LL.M. en derecho internacional de la Universidad de Cambridge, en Reino Unido, y Magíster en políticas públicas de la Universidad de los Andes, en Colombia. Actualmente se desempeña como asesor legal senior del Centro de Derechos Reproductivos y docente de la Universidad de los Andes. Fue abogado de la Secretaría de la Corte Interamericana de Derechos Humanos.
Directora Ejecutiva de la Fundación para el Debido Proceso (DPLF por sus siglas en inglés) organización regional dedicada a promover el Estado de derecho y los derechos humanos en América Latina. Antes de unirse a DPLF, fue Coordinadora Adjunta de la Unidad de Investigaciones Especiales de la Comisión de la Verdad de Perú, a cargo de la investigación de graves violaciones de derechos humanos ocurridas durante el conflicto armado interno en ese país. Previamente trabajó en la Adjuntía para los Derechos Humanos de la Defensoria del Pueblo de Perú y formó parte del equipo legal de la Coalición Contra la Impunidad (Alemania) que promovió el procesamiento penal en ese país de militares argentinos responsables de la desaparición de ciudadanos alemanes durante la dictadura argentina. Katya realizó sus estudios de derecho en la Pontifica Universidad Católica del Perú y de maestría en derecho internacional público en la Universidad de Heidelberg, Alemania.
Experto afiliado al Constitution Transformation Network de la Universidad de Melbourne e investigador asociado de la Universidad Rafael Landívar de Guatemala. Doctor en Derecho por la Escuela de Derecho de la Universidad de Melbourne y una Maestria en Derecho Público e Internacional en esa misma casa de estudios, y una Licenciatura en Ciencias Jurídicas y Sociales de la Universidad Rafael Landívar. Tiene experiencia en gobierno, especificamente en negociacion de tratados y convenciones, litigio en instancias internacionales e implementacion de instrumentos en materia de derechos humanos, y como consultor para organismos financieros internacionales.
Candidato a doctor por la Facultad de Derecho de la Universidad de Ottawa (Canadá). Director de la Clínica de Derechos Humanos del Centro de Investigación y Enseñanza en Derechos Humanos (HRREC) y profesor de la Sección de Derecho Civil de la Universidad de Ottawa. Anteriormente trabajó en la Comisión Andina de Juristas, el Tribunal Constitucional y el Ministerio de Justicia y Derechos Humanos del Perú. Sus áreas de investigación son el Sistema Interamericano, Empresas y Derechos Humanos, Derecho Penal Internacional, TWAIL y libertad académica. Integrante del Grupo de Estudios Latinoamericano sobre Derecho Penal Internacional de la Fundación Konrad Adenauer.
Es abogada por la Universidad San Francisco de Quito, y tiene un LL.M. por el Washington College of Law de American University, con enfoque en Derecho Internacional de los Derechos Humanos. Es candidata para el título de Doctora en Derecho por la Universidad Externado de Colombia. Ha trabajado como especialista en la Relatoría Especial para la Libre Expresión de la CIDH, Fundamedios y la Dirección Nacional de DDHH en Ecuador. Actualmente, es Directora del Observatorio de Derechos y Justicia de Ecuador, docente en la Universidad Internacional del Ecuador, y socia fundadora de Gentium Law Consultores.
Abogada costarricense, Máster en Derecho Internacional y Resolución de Conflictos por la Universidad para la Paz de las Naciones Unidas. Actualmente se desempeña como Directora Legal para América Latina en Women’s Link Worldwide, desde donde ejerce como estratega legal, líder de iniciativa y abogada litigante, con una gran responsabilidad para diseñar y liderar complejos proyectos legales, asimismo, es docente en la Universidad para la Paz, y en diversas universidades de Costa Rica. Anteriormente trabajó en el Centro por la Justicia y el Derecho Internacional (CEJIL) como Directora del Programa para Centroamérica y México, en la Secretaría General de la Facultad Latinoamericana de Ciencias Sociales (FLACSO) y como consultora internacional. Marcia se especializa en el litigio estratégico con enfoque de género e interseccional.
Doctor en Derecho por la Universidad Complutense de Madrid. Especialista en Derecho Constitucional por la Universidad Nacional Autónoma de México (UNAM), y en Derecho Constitucional y Ciencia Política por el Centro de Estudios Políticos y Constitucionales (Madrid). Licenciado en Derecho por la Universidad Autónoma de Guerrero (México). Es Investigador Nacional nivel I del Sistema Nacional de Investigadores del Consejo Nacional de Ciencia y Tecnología (CONACYT, México). En representación de México es miembro del Grupo de Justicia Constitucional y Derechos Fundamentales del Programa Estado de Derecho para Latinoamérica de la Fundación Konrad Adenauer.
