Ante este nuevo horizonte que ya cuenta con algunos hechos conocidos a nivel internacional (como la incidencia en procesos electorales o la manipulación de vídeos pornográficos con mujeres famosas del mundo del cine y la música como Taylor Swift, Rosalía, Emma Watson, Scarlett Johansson por citar algunas), resulta imprescindible articular una respuesta integral. Los deepfakes no deben entenderse solo como fenómeno tecnológico, sino también cultural, legal y ético.

Latinoamérica se encuentra en una etapa incipiente de la regulación de IA en la que, lejos de una estrategia conjunta, la realidad normativa está individualizada por países a distintas velocidades. No se dispone de un tratado internacional sobre IA ni tampoco en materia de protección de datos. No obstante, este vacío legal puede ser interpretado como una oportunidad para procurar que la IAG sea incorporada en los textos jurídicos.      

Así, podrían anticiparse algunos de los obstáculos que ya se han identificado en el marco europeo y que han dado lugar a la primera Ley de Inteligencia Artificial del mundo tras el acuerdo provisional alcanzado por parte del Parlamento y el Consejo el pasado 9 de diciembre (la entrada en vigor se prevé para el año 2026). Dicha norma incluye un nuevo concepto, el de modelos fundacionales, que se corresponde con la IAG. Ésta se define como “un avance reciente en el que se desarrollan modelos de IA a partir de algoritmos diseñados para optimizar la generalidad y versatilidad de la información de salida”.

Pese a que no han ido considerados como sistemas de alto riesgo (lo son, a modo de ejemplo, los destinados a utilizarse por parte de las autoridades judiciales para la evaluación de la fiabilidad de las pruebas durante la investigación o para las evaluaciones de riesgos individuales de personas físicas con el objetivo de determinar la probabilidad de comisión de infracciones penales o reincidencias, así como el riesgo para las potenciales víctimas de delitos), sí deben cumplir determinados requisitos de transparencia: revelar que el contenido ha sido generado por IA y no por seres humanos y diseñar el modelo para evitar que genere contenidos que vulneren el Derecho de la Unión o la normativa sobre derechos de autor.

Con esta norma, la Unión Europea toma la iniciativa respecto a la regulación de la IA desde un prisma que valora los beneficios en términos de eficiencia y eficacia de los modelos inteligentes, pero estableciendo líneas rojas que atienden a la protección de derechos garantizando una IA segura y fiable. Esto se consigue clasificando los sistemas en función del nivel de riesgo y exigiendo una serie de medidas para cada tipología, pudiendo alcanzarse un nivel inaceptable que conlleva la prohibición de la práctica con IA. Esta vía intermedia (que no peca de optimismo tecnológico, pero tampoco de fobia), podría servir de hoja de ruta para los Estados del continente Latinoamericano. Tomando las palabras de la Presidenta de la Comisión Europea, Ursula von der Leyen, “la Ley de Inteligencia Artificial de la UE es el primer marco jurídico global sobre Inteligencia Artificial en todo el mundo”.

La regulación de la IA deberá ir acompañada de los mecanismos necesarios para su control y, en este sentido, cabría examinar si la Administración de Justicia dispone de los medios suficientes para identificar deepfakes, un interrogante que conecta directamente con la valoración de pruebas creadas con una IAG. Su evaluación precisará, posiblemente, de un peritaje judicial avanzado, sofisticado e hiperexperto (haciendo uso incluso de la propia IA y de otros recursos técnicos como la huella digital permanente). A lo anterior debería sumarse una mejora en competencias digitales de las autoridades judiciales.

Los desafíos no se circunscriben al ámbito de la justicia, sino que permean el sistema social. En el contexto latinoamericano, siete de cada diez habitantes desconocen lo que son los deepfakes, lo cual demuestra su clara exposición a consumir contenido falso. La ignorancia acerca de esta innovación tecnológica puede generar una sensación de escepticismo generalizado que debilite la cohesión social y la democracia. De este modo, convendría anticipar este escenario promulgando desde las instituciones una cultura fuerte del manejo de la información y una sana sospecha crítica sobre las fuentes informativas que invite a contrastar los datos.