Por primera vez, la ONU adopta resolución para regular la inteligencia artificial
21 de Agosto de 2024
La intención de la Asamblea General de las Naciones Unidas es prevenir que los derechos humanos sean vulnerados por cuenta de la inteligencia artificial y asegurar que solo se use para beneficiar a las personas.
El 21 de marzo de 2024 la Asamblea General de las Naciones Unidas adoptó por aclamación una resolución histórica sobre la promoción de sistemas de inteligencia artificial seguros, protegidos y fiables. Esta resolución marca un antes y después en la regulación global de la inteligencia artificial (IA). A continuación, se presenta un análisis de la resolución que destaca la necesidad de regular la IA para, por un lado, prevenir violaciones a derechos humanos como la discriminación y afectaciones a la privacidad y al debido proceso y, por otro, asegurar que esta tecnología se utilice en beneficio de las personas.
La inteligencia artificial es parte de la conversación pública. Prácticamente ninguna área le es ajena. Por ejemplo, el ejercicio del derecho está siendo influenciado por los sistemas basados en IA. Es común encontrar ejemplos del uso ChatGPT en la función judicial. Algunos poderes judiciales empiezan a incorporar la IA a su práctica cotidiana como sucede con Prometea en Argentina y PretorIA en Colombia. Por ello, hay diferentes esfuerzos para reglamentar el uso de la IA por actores públicos y privados. El documento vinculante más importante al respecto es la Ley de la Inteligencia Artificial de la Unión Europea (Ley de IA). La prioridad de la Ley de IA es garantizar que los sistemas de IA sean seguros, transparentes, trazables, no discriminatorios y que respeten el medio ambiente. Además, deben ser supervisados por personas. Un aporte central de la legislación europea es establecer diferentes niveles de riesgo de los sistemas de IA. En el nivel más alto de riesgo (riesgo inaceptable) se colocan los sistemas de puntuación social y el reconocimiento facial en tiempo real y a distancia.
En ese ambiente surgió la resolución de la ONU que reconoce el rápido avance de la IA y su impacto potencial en la aceleración de los Objetivos de Desarrollo Sostenible (ODS). Al mismo tiempo, resalta los riesgos asociados con su uso incorrecto o malicioso, que podrían dificultar estos avances y perpetuar desigualdades, sesgos estructurales y discriminación. El organismo internacional enfatiza la necesidad de un consenso global sobre sistemas de IA seguros, protegidos y fiables, promoviendo la cooperación internacional inclusiva y la creación de marcos normativos globales.
Como cualquier tecnología, la IA presenta oportunidades y riesgos. Por ello, la resolución de la ONU aboga por marcos regulatorios y de gobernanza nacionales que promuevan la innovación y la inversión responsable en sistemas de IA seguros, protegidos y fiables. Esta regulación, de acuerdo con lo señalado por la ONU, debe incluir, entre otros elementos, la promoción de una mayor comprensión en la opinión pública respecto al funcionamiento de la IA; mecanismos de protección de la privacidad y de los datos personales; salvaguardias para proteger la seguridad de los sistemas de IA; evaluaciones de riesgo y de impacto; mecanismos de retroalimentación, medidas para identificar y corregir vulnerabilidades y resultados sesgados o discriminatorios así como la aplicación de salvaguardias para respetar la propiedad intelectual incluyendo los derechos de autor.
Al respecto, la resolución alienta a los Estados miembros a “lograr un equilibrio y abordar los posibles beneficios y los riesgos relacionados con el papel de los sistemas de inteligencia artificial”.
Desde una perspectiva de derechos humanos, la resolución subraya que los sistemas de IA deben estar centrados en las personas, ser éticos e inclusivos, y respetar plenamente la promoción y protección de los derechos humanos y el derecho internacional. Reconoce que un uso inapropiado de la IA puede socavar los derechos humanos, reforzar sesgos estructurales y aumentar la discriminación. Por lo tanto, insta a los Estados Miembros a abstenerse de utilizar sistemas de IA que no puedan operar de acuerdo con el derecho internacional o que representen riesgos indebidos para los derechos humanos.
Uno de los riesgos más destacados de la IA es su potencial para perpetuar y amplificar la discriminación. La resolución insta a los Estados Miembros y a otras partes interesadas a desarrollar marcos normativos que incluyan salvaguardias contra la discriminación y el sesgo de los algoritmos. Esto implica analizar y mitigar el sesgo contenido en los conjuntos de datos y luchar contra la discriminación en los algoritmos. Además, alienta la promoción de la diversidad lingüística y cultural en los datos utilizados para entrenar los sistemas de IA.
La resolución destaca la importancia de cerrar la brecha digital entre los países y dentro de ellos. Además, insta a los Estados miembros a cooperar con los países en desarrollo para asegurar un acceso inclusivo y equitativo a los beneficios de la transformación digital y de los sistemas de IA. Esto incluye mejorar la conectividad de la infraestructura digital y promover la alfabetización digital.
La resolución reconoce que existe una brecha digital de género por lo que llama a los Estados miembros a adoptar medidas específicas para cerrar la brecha digital de género. Asimismo, llama a “incorporar una perspectiva que tenga en cuenta las cuestiones de discapacidad, género e igualdad racial en las decisiones políticas y los marcos que las orienten” cuando se emplean los sistemas de inteligencia artificial.
Además, los insta a promover la supervisión humana del funcionamiento de los sistemas basados en IA mediante el examen de las decisiones automatizadas. Incluso, promueve que existan medios de reparación y de rendición de cuentas para quienes sean afectados por decisiones automáticas.
Finalmente, alienta a que los Estados desarrollen herramientas como las marcas de agua o el etiquetado que permita a los usuarios distinguir el origen del contenido digital auténtico del contenido generado por inteligencia artificial o manipulado.
La adopción de esta resolución representa un paso significativo hacia la promoción de sistemas de IA que sean seguros, protegidos y fiables. Al poner un fuerte énfasis en los derechos humanos y el desarrollo sostenible, la resolución busca equilibrar los beneficios potenciales de la IA con los riesgos asociados, promoviendo una innovación responsable y asegurando que nadie quede atrás en la era digital.
La resolución llega en un momento crucial dado el creciente uso de la inteligencia artificial en el mundo y especialmente en las Américas. Por ejemplo, en países como Brasil, México y Colombia ha proliferado el uso de sistemas de reconocimiento facial que incorporan inteligencia artificial. En algunos países como Uruguay y Chile se han hecho ensayos con sistemas que protegen predecir delitos. Dada la posible afectación a derechos como la libertad, la privacidad, la igualdad y no discriminación y el debido proceso al usar dichos sistemas, resulta fundamental regular el uso de la IA bajo un enfoque de derechos humanos. Esta resolución es un paso en el sentido correcto.
Citación académica sugerida: : Tapia, Luis. Por primera vez, la ONU adopta resolución para regular la inteligencia artificial. Agenda Estado de Derecho. 2024/08/21. Disponible en: https://agendaestadodederecho.com/por-primera-vez-la-onu-adopta-resolucion-para-regular-la-inteligencia-artificial/
Palabras clave: Inteligencia artificial, regulación, derechos humanos, sesgos y discriminación, supervisión humana de la inteligencia artificial, desarrollo sostenible, riesgos y oportunidades.
¿Es importante profundizar sobre este tema?
Escribe tu artículo/respuesta sobre este tema y déjanos tu texto siguiendo las siguientes instrucciones
Abogado y profesor mexicano. Es maestro en Derecho Internacional de los Derechos Humanos y Derecho Internacional Humanitario por la American University Washington College of Law.
Comparte tu trabajo o perspectiva con nosotros, sigue las opciones dando clic en el siguiente botón.
Para saber a profundidad lo que pasa con los derechos humanos en América Latina y el Estado de Derecho suscríbete a nuestro boletín digital.
Abogada colombiana, LLM en International Legal Studies por la Universidad de Georgetown y Máster en Argumentación Jurídica por la Universidad de Alicante. Es candidata a Doctora en Derecho por la Universidad de Georgetown. Actualmente se desempeña como Directora Asociada en el O'Neill Institute for National and Global Health Law y es docente en la Universidad de Georgetown y en programas de especialización y maestría en diversas universidades de América Latina. Anteriormente trabajó en la Comisión Interamericana de Derechos Humanos donde tuvo varios cargos, principalmente como Coordinadora de la Sección de Casos a cargo de la etapa de fondo y del litigio ante la Corte Interamericana de Derechos Humanos.
Es profesora ayudante e investigadora predoctoral en el Departamento de Ciencia Política y Relaciones Internacionales de la Universidad Autónoma de Madrid (UAM). Tiene un Máster en Democracia y Gobierno, y un Máster en Gobernanza y Derechos Humanos, ambos de la UAM. Es licenciada en Comunicación Social por la Universidad Central de Venezuela. Es integrante del Lab Grupo de Investigación en Innovación, Tecnología y Gestión Pública de la UAM. Su tesis doctoral aborda la relación entre género, tecnologías y sector público, con un especial énfasis en la Inteligencia Artificial. También ha publicado sobre innovación pública y colaboración entre administraciones públicas y ciudadanía. Formó parte del equipo editorial de Agenda Estado de Derecho desde 2020 hasta febrero de 2022.
Abogada de la Universidad de Chile y Magíster en Derecho Internacional de la Universidad de Cambridge. En el ámbito profesional, se ha desempeñado en el extranjero como asistente legal en la Corte Internacional de Justicia y consultora para la International Nuremberg Principles Academy. En Chile, ha trabajado como abogada para el Comité para la Prevención de la Tortura, y actualmente se desempeña en la División de Derechos Humanos del Ministerio de Relaciones Exteriores de Chile. Asimismo, es académica de Derecho Internacional Público en la Universidad de Chile. Sus áreas de investigación incluyen el derecho internacional de los derechos humanos, la regulación de la actividad policial y su conformidad con estándares internacionales, el derecho internacional humanitario y el derecho penal internacional.
Ex Relator Especial para la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos (CIDH) hasta el 5 de octubre de 2020. Abogado y docente uruguayo egresado de la Facultad de Derecho de la Universidad de la República de Uruguay (Udelar). Actualmente es senior fellow en El Diálogo Interamericano (The Interamerican Dialogue) y consultor en libertades informativas de UNESCO y organizaciones de la sociedad civil. Se desempeña como Secretario de Relaciones Internacionales y Gobierno Abierto del Gobierno de Canelones (Uruguay).
Docente y conferenciasta en el campo de la libertad de expresión y el derecho a la información en prestigiosas universidades, entre ellas American University (Washington), Unam (México), Universidad Carlos III (España), Stanford (California), Universidad del Pacífico (Perú), UBA (Argentina) Universidad Diego Portales (Chile), Udelar (Uruguay) y Universidad de los Andes (Colombia). Periodista, columnista y colaborador asiduo en distintos medios de comunicación.
José Luis Caballero Ochoa es Licenciado en Derecho por el Tecnológico de Monterrey, Campus Chihuahua; Maestro en Derecho, por la Facultad de Derecho de la Universidad Nacional Autónoma de México, y Doctor en Derecho por la Universidad Nacional de Educación a Distancia (UNED) de España. Diplomado en derechos humanos y procesos de democratización por la Universidad de Chile. Pertenece al Sistema Nacional de Investigadores. Es académico – investigador en el Departamento de Derecho en la Universidad Iberoamericana, Ciudad de México, del que fue su Director por seis años. Actualmente es Comisionado de la Comisión Internacional de Juristas. Ha participado o participa en diversas comisiones o consejos públicos, ciudadanos y académicos en México, entre los que destacan: el Consejo de la Comisión de Derechos Humanos del Distrito Federal; la Junta Directiva del Instituto Federal de la Defensoría Pública; el Comité Consultivo del Centro de Estudios Constitucionales de la Suprema Corte de Justicia de la Nación; el Comité Académico y Editorial del Tribunal Electoral del Poder Judicial de la Federación la Comisión de Selección del Comité de Participación Ciudadana del Sistema Nacional Anticorrupción, entre otros. Docente en diversos programas académicos en materia de derecho constitucional y derechos humanos en centros de educación superior nacionales, y ponente en congresos y foros académicos especializados en México, Argentina, Brasil, Chile, Guatemala, Colombia, España, Estados Unidos y Perú. Su papel como consultor y especialista ha implicado la elaboración de proyectos de ley, dictámenes técnicos bajo la figura de amicus curiae y peritajes internacionales. Su obra publicada consiste en más de 80 capítulos de libros y artículos en revistas especializadas sobre derecho constitucional, derechos humanos y derecho internacional de los derechos humanos, así como algunos libros en estas materias.
Doctorando en Derecho por la Facultad de Derecho de la Universidad de Buenos Aires (Argentina); Master en Derecho Penal y Procesal Penal por Osgoode Hall Law School, Universidad de York (Canadá); Diplomado Latinoamericano sobre Reforma Procesal Penal por la Facultad de Derecho de la Universidad Diego Portales (Chile); Abogado con orientación en Derecho Penal por la Facultad de Derecho de la Universidad de Buenos Aires (Argentina). Actualmente es el Director de Relaciones Internacionales del Instituto de Estudios Comparados en Ciencias Penales y Sociales (INECIP). Durante 8 años fue el Director del Área de Capacitación del Centro de Estudios de Justicia de las Américas (CEJA), organismo internacional de la Organización de Estados Americanos (OEA), creado en 1999 por resolución de la Asamblea General de la OEA, con sede en Santiago de Chile.
Fiscal de la Procuración General de la Nación Argentina. Es abogada por la Universidad de Buenos Aires, donde se recibió con diploma de honor, Especialista en derecho penal y procesal penal por la Universidad Torcuato Di Tella y Máster en Derecho por la Universidad de Georgetown. Fue becaria de la Fundación Fulbright y perita de la Corte Interamericana de Derechos Humanos. Es profesora de Garantías Constitucionales del Derecho Penal Sustantivo y Procesal Penal de la Universidad de Buenos Aires, de Género y Derecho Penal en la Maestría en Derecho Penal de la Universidad de San Andrés y profesora invitada en distintas universidades, de grado y posgrado. Es autora de varios artículos en publicaciones académicas sobre temáticas de género y derecho penal y de garantías constitucionales en el proceso penal.
Abogado, Magíster en Derecho y Posgrado en Derecho Constitucional y Derechos Humanos por la Universidad de Palermo. Profesor en la Facultad de Derecho de la Universidad de Buenos Aires. Responsable del Programa para la Aplicación de Instrumentos de Derechos Humanos del Ministerio Público de la Defensa de la Nación. Integrante de la Red Latinoamericana de Académicas/os del Derecho - ALAS. Fue docente en diferentes universidades de Argentina, e investigador y docente en el Centro de Derechos Humanos de la Universidad de Chile. Sus temas de especialización son Derecho Internacional de los Derechos Humanos, Acceso a la Justicia y No Discriminación.
Director Ejecutivo de Fundación Ciudadanía y Desarrollo, contacto nacional de Transparencia Internacional en Ecuador. Abogado y máster en Dirección y Gestión Pública, así como en Acción Política, Fortalecimiento Institucional y Participación Ciudadana en el Estado de Derecho. Fue miembro suplente de la Asamblea Nacional Constituyente de Ecuador y asesor constitucional en el Consejo de Participación Ciudadana. Fellow del Centro para la Democracia, el Desarrollo y el Estado de Derecho de la Universidad de Stanford. Consultor para organizaciones nacionales e internacionales en temas de derechos humanos, libertad de expresión, acceso a la información, participación ciudadana, transparencia y lucha contra la corrupción.
Doctor en Ciencias Políticas de la Universidad de la República de Uruguay, magíster en Estudios Políticos por la Universidad Metropolitana de Venezuela y licenciado en Comunicación Social por la Universidad Santa María con especialización en Gobernabilidad y Gerencia Política por la Universidad Católica Andrés Bello y The George Washington University. Autor del libro «Venezolanos en el Uruguay» (2019). Trabaja como editor de la plataforma Diálogo Político y coordinador de proyectos del Programa Regional Partidos Políticos y Democracia en América Latina de la Fundación Konrad Adenauer.
Abogado egresado de la Universidad Francisco Marroquín de Guatemala y con un Máster en Economía de la Universidad Rey Juan Carlos de Madrid. En la actualidad, desempeña el cargo de Editor Asistente en el blog de la International Association of Constitutional Law (IACL) y es Director del área de Estudios Jurídicos en la Fundación Libertad y Desarrollo, un think tank basado en Ciudad de Guatemala. A nivel docente, ejerce como profesor tanto en la Universidad del Istmo como en la Universidad Francisco Marroquín de Guatemala. Adicionalmente, es columnista para el periódico guatemalteco La Hora. Sus principales áreas de investigación son el derecho constitucional y el derecho electoral.
Vicepresidenta de incidencia y litigio internacional del Robert F. Kennedy Human Rights. Baeyens lidera la estrategia de incidencia legal en derechos humanos de la organización, incluyendo el litigio de casos de alto impacto ante mecanismos de la ONU y sistemas regionales de protección, en temáticas relacionadas con la protección del espacio cívico y la lucha contra la discriminación, violencia e impunidad. Previamente se desempeñó como oficial de asuntos políticos en la ONU y como oficial de derechos humanos en la CIDH, donde también coordinó la Relatoría sobre personas defensoras. Es profesora adjunta de la Facultad de Derecho de la Universidad de Georgetown. Recibió su título de abogada de la Universidad de Ibagué, Colombia, y su LL.M en derecho internacional de los derechos humanos de la Universidad de Notre Dame, Estados Unidos.
Juez electo de la Corte Internacional de Justicia, además de profesor y director del Departamento de Derecho Público de la Universidad Federal de Minas Gerais (UFMG) y fundador del Centro de Derecho Internacional (CEDIN) y del Anuario Brasileño de Derecho Internacional. Tiene un máster de la UFMG y un doctorado de la Universidad París X Nanterre, y ha trabajado como jurista adjunto en el CIJ. Ha sido profesor visitante en el Institut des Hautes Études Internationales de la Université Panthéon-Assas Paris II, la Université Caen Basse-Normandie, la Université Paris-Ouest Nanterre la Défence y el Centro Lauterpacht de Derecho Internacional (Universidad de Cambridge, Reino Unido).
Abogado venezolano, egresado de la Universidad Católica Andrés Bello. LL.M. en derecho internacional de la Universidad de Cambridge, en Reino Unido, y Magíster en políticas públicas de la Universidad de los Andes, en Colombia. Actualmente se desempeña como asesor legal senior del Centro de Derechos Reproductivos y docente de la Universidad de los Andes. Fue abogado de la Secretaría de la Corte Interamericana de Derechos Humanos.
Directora Ejecutiva de la Fundación para el Debido Proceso (DPLF por sus siglas en inglés) organización regional dedicada a promover el Estado de derecho y los derechos humanos en América Latina. Antes de unirse a DPLF, fue Coordinadora Adjunta de la Unidad de Investigaciones Especiales de la Comisión de la Verdad de Perú, a cargo de la investigación de graves violaciones de derechos humanos ocurridas durante el conflicto armado interno en ese país. Previamente trabajó en la Adjuntía para los Derechos Humanos de la Defensoria del Pueblo de Perú y formó parte del equipo legal de la Coalición Contra la Impunidad (Alemania) que promovió el procesamiento penal en ese país de militares argentinos responsables de la desaparición de ciudadanos alemanes durante la dictadura argentina. Katya realizó sus estudios de derecho en la Pontifica Universidad Católica del Perú y de maestría en derecho internacional público en la Universidad de Heidelberg, Alemania.
Experto afiliado al Constitution Transformation Network de la Universidad de Melbourne e investigador asociado de la Universidad Rafael Landívar de Guatemala. Doctor en Derecho por la Escuela de Derecho de la Universidad de Melbourne y una Maestria en Derecho Público e Internacional en esa misma casa de estudios, y una Licenciatura en Ciencias Jurídicas y Sociales de la Universidad Rafael Landívar. Tiene experiencia en gobierno, especificamente en negociacion de tratados y convenciones, litigio en instancias internacionales e implementacion de instrumentos en materia de derechos humanos, y como consultor para organismos financieros internacionales.
Candidato a doctor por la Facultad de Derecho de la Universidad de Ottawa (Canadá). Director de la Clínica de Derechos Humanos del Centro de Investigación y Enseñanza en Derechos Humanos (HRREC) y profesor de la Sección de Derecho Civil de la Universidad de Ottawa. Anteriormente trabajó en la Comisión Andina de Juristas, el Tribunal Constitucional y el Ministerio de Justicia y Derechos Humanos del Perú. Sus áreas de investigación son el Sistema Interamericano, Empresas y Derechos Humanos, Derecho Penal Internacional, TWAIL y libertad académica. Integrante del Grupo de Estudios Latinoamericano sobre Derecho Penal Internacional de la Fundación Konrad Adenauer.
Es abogada por la Universidad San Francisco de Quito, y tiene un LL.M. por el Washington College of Law de American University, con enfoque en Derecho Internacional de los Derechos Humanos. Es candidata para el título de Doctora en Derecho por la Universidad Externado de Colombia. Ha trabajado como especialista en la Relatoría Especial para la Libre Expresión de la CIDH, Fundamedios y la Dirección Nacional de DDHH en Ecuador. Actualmente, es Directora del Observatorio de Derechos y Justicia de Ecuador, docente en la Universidad Internacional del Ecuador, y socia fundadora de Gentium Law Consultores.
Abogada costarricense, Máster en Derecho Internacional y Resolución de Conflictos por la Universidad para la Paz de las Naciones Unidas. Actualmente se desempeña como Directora Legal para América Latina en Women’s Link Worldwide, desde donde ejerce como estratega legal, líder de iniciativa y abogada litigante, con una gran responsabilidad para diseñar y liderar complejos proyectos legales, asimismo, es docente en la Universidad para la Paz, y en diversas universidades de Costa Rica. Anteriormente trabajó en el Centro por la Justicia y el Derecho Internacional (CEJIL) como Directora del Programa para Centroamérica y México, en la Secretaría General de la Facultad Latinoamericana de Ciencias Sociales (FLACSO) y como consultora internacional. Marcia se especializa en el litigio estratégico con enfoque de género e interseccional.
Doctor en Derecho por la Universidad Complutense de Madrid. Especialista en Derecho Constitucional por la Universidad Nacional Autónoma de México (UNAM), y en Derecho Constitucional y Ciencia Política por el Centro de Estudios Políticos y Constitucionales (Madrid). Licenciado en Derecho por la Universidad Autónoma de Guerrero (México). Es Investigador Nacional nivel I del Sistema Nacional de Investigadores del Consejo Nacional de Ciencia y Tecnología (CONACYT, México). En representación de México es miembro del Grupo de Justicia Constitucional y Derechos Fundamentales del Programa Estado de Derecho para Latinoamérica de la Fundación Konrad Adenauer.
