Imagínate un video viral en RRSS que luce completamente auténtico: una autoridad anuncia una medida impopular, su voz y sus gestos son inconfundibles. Horas más tarde, el propio personaje desmiente la declaración: todo fue un deepfake, una falsificación artificial/sintética creada con inteligencia artificial (IA) capaz de engañar a miles de personas en segundos.
Esa distancia, casi invisible, entre lo real y lo simulado es hoy uno de los mayores desafíos para la confianza democrática, la privacidad y la seguridad digital. Chile, inmerso en la cuarta revolución industrial, no puede esperar a que la tecnología marque la agenda: debe regular con decisión, aprendiendo de quienes van un paso adelante.
En noviembre de 2024, senadores republicanos y demócratas presentaron el “TAKE IT DOWN Act”. El proyecto tipifica como delito federal la difusión intencional de imágenes íntimas deepfake sin consentimiento y ordena a las plataformas retirar el contenido en un máximo de 48 horas desde la denuncia, exigiendo además que se eliminen las copias espejo. La propuesta combina:
(i) Sanción penal: de hasta 3 años de cárcel si la víctima es menor de edad y hasta 2 si es adulta, junto con multas y decomiso de ganancias ilícitas.
(ii) Obligación de “notificación y retirada”, es decir, cualquier persona afectada o su representante puede exigir la baja inmediata en el repositorio en que se encuentra.
(iii) Disclaimer de responsabilidad civil: se les libera de responsabilidad siempre que actúen “de buena fe” para bloquear el material, incentivando la colaboración.
La lógica estadounidense es clara: disuasión mediante el riesgo penal y agilidad para minimizar el daño reputacional y psicológico. El Congreso aún debate la norma, pero el mensaje político es potente: el deepfake sexual no es una broma tecnológica; es una forma de violencia digital.
En el otro extremo del Atlántico, la Unión Europea abrazó un enfoque más sistémico. El “Reglamento de Inteligencia Artificial (RIA)” clasifica las deepfakes como “riesgo limitado”, pero impone una “obligación horizontal de transparencia”: toda imagen, audio o video generado o manipulado artificialmente debe llevar un etiquetado visible que advierta al público. Para las grandes plataformas en línea (VLOPs), el etiquetado es ineludible y debe acompañarse de herramientas que permitan a los usuarios verificar la autenticidad de la fuente. Esta opción se sostiene en dos premisas elementales:
(i) No todo deepfake es dañino. Existen usos legítimos en cine, publicidad o accesibilidad (por ejemplo, doblaje automático).
(ii) La mejor defensa del ciudadano es el conocimiento. Un aviso claro de “contenido sintético” reduce la probabilidad de engaño y facilita la trazabilidad.
La transparencia, sin embargo, no agota el debate. El RIA reconoce que los Estados miembros pueden dictar normas penales complementarias cuando el deepfake se use para acoso, fraude o desinformación electoral. El enfoque europeo, por tanto, prefiere un paraguas regulatorio que combine obligaciones técnicas ex ante con sanciones ex post cuando sea necesario.
¿Dónde está Chile? Nuestro país carece hoy de una ley específica sobre deepfakes. El Código Penal sanciona la injuria, la usurpación de identidad y la producción de pornografía infantil, pero ninguno de esos tipos aborda la creación de contenidos sintéticos que parezcan reales. La Ley 19.733 sobre Libertades de Opinión y Ejercicio del Periodismo tampoco prevé la manipulación audiovisual con IA. Mientras tanto, aparecen en redes videos falsos de figuras públicas, anuncios apócrifos de inversiones y montajes de carácter íntimo que se viralizan sin freno.
A partir de las lecciones de EE. UU. y la UE, Chile debiera plantear un proyecto de ley que combine diversos componentes, tales como:
- Concepto amplio o flexible de deepfake: “video o imagen generada o modificada mediante técnicas de aprendizaje automático para imitar la apariencia o conducta de una persona, incluyendo audio artificial o sintético”. La flexibilidad evita que la norma quede obsoleta por avances futuros.
- Etiquetado obligatorio de contenido artificial, como el artículo 52.3 del RIA: cualquier creador o distribuidor debe indicar, de forma legible y persistente, que la pieza es generada por IA.
- Exenciones para parodia o uso artístico, siempre que el contexto sea evidente.
- Tipificación penal: la difusión no consentida de deepfakes íntimos, con penas mayores si la víctima es menor, siguiendo la graduación estadounidense.
- Responsabilidad solidaria de quien crea, encarga o difunde el montaje, salvo que acredite haber actuado con diligencia (ej. medios que verificaron y corrigieron).
- Fiscalización administrativa: dotar a la Subsecretaría de Telecomunicaciones o a la reciente Agencia de Protección de Datos Personales de facultades para fiscalizar el etiquetado y aplicar sanciones administrativas.
Regular los deepfakes es proteger la dignidad de las personas, blindar la integridad de la democracia y fomentar una economía digital confiable. Estados Unidos enseña la fuerza disuasoria de la sanción penal y la rapidez de la gestión; la Unión Europea muestra que la transparencia preventiva quita poder al engaño. Chile, con su tradición de equilibrio entre derechos individuales y libre emprendimiento, puede diseñar un modelo híbrido que integre ambos enfoques. Si esperamos a que el próximo montaje viral arruine una reputación o altere un plebiscito, llegaremos tarde. La innovación se celebra, pero nunca a costa de la verdad ni de la dignidad humana. Porque en la era de la inteligencia artificial, la confianza es nuestro recurso más escaso y valioso. Protejámosla.
