En un mundo que se vacía de cosas y se llena de información en cantidades colosales, la digitalización pareciera desmaterializar, desinformar y descorporeizar la realidad, tal como lo describe Byung-Chul Han en su análisis de las «no-cosas» que quiebran al mundo de hoy. Frente a la distopía de la automatización digital, la búsqueda por recuperar la esencia de lo tangible transita irremediablemente por la autopista de la transparencia. Sin embargo, al examinar el artículo 50 recientemente en vigor del Reglamento (UE) 2024/1689 en materia de inteligencia artificial del Parlamento Europeo y del Consejo, se observa que las nuevas exigencias aplicables a proveedores y responsables del despliegue de la IA sólo garantizan el derecho de acceso a la información en un primer nivel.
Esta transparencia inicial es crucial para que, en palabras de Kafka, «los fantasmas no logren su victoria final contra la humanidad». Entendiendo por «fantasmas» a los algoritmos—que retozan en la red sin que nada alcance a materializarse de forma tangible. La transparencia no es una exigencia aislada, sino un conjunto de obligaciones de niveles diferenciados que aportan trazabilidad en medio de un enjambre legislativo que, de lo contrario, haría un flaco favor a esos fantasmas. Concebida así, permite abrir los algoritmos que deciden sobre temáticas con alto impacto en la vida de las personas, incluida la distribución de servicios esenciales.
En medio de una frondosidad normativa que hemos denominado enjambre de leyes, la Unión Europea apuesta por cuatro obligaciones clave en materia de transparencia algorítmica, exigibles tanto al desarrollador como al responsable del despliegue del sistema: (1) informar a las personas de que están interactuando con una IA (artículo 50, apartado 1), (2) la Identificación del contenido sintético generado por IA (artículo 50, apartado 2), (3) divulgación del reconocimiento de emociones y la clasificación biométrica (artículo 50, apartado 3) y (4) etiquetar deepfakes y de textos de interés público generados por IA (artículo 50, apartado 4).
Con estas cuatro obligaciones se espera hacer frente a la desmaterialización de la información digital creada con IA y que circula en la infoesfera (ed. retozan en la red), sin dar cuenta de su origen. En otras palabras, se traslada al consumidor de esta información la autonomía de escrutar y contradecir imponiendo la obligación de etiquetar -visible y criptográficamente- todo material generado por algoritmos. Esto incluye a los sistemas de IA de propósito general que generen contenidos sintéticos de audio, imagen, vídeo o texto, los cuales deberán garantizar que los resultados sean legibles por máquina y detectables como manipulados artificialmente. Surge entonces la pregunta obligada para evaluar el impacto regulatorio: si las aplicaciones de la IA son colosalmente grandes y dinámicas, ¿de qué sirve ponerle una «marca de agua» a un mar de agua?
Esta obligación de etiquetado contemplada en el artículo 50 exime, sin embargo, a aquellos escenarios donde el contenido haya sido sometido a un proceso de revisión humana o control editorial, siempre que una persona física o jurídica asuma la responsabilidad de la publicación. La norma exige que dichas comprobaciones sean sustantivas y no se limiten a cuestiones superficiales o a una aprobación somera.
Es decir, la ley deposita en la reserva de humanidad la garantía de los derechos de las personas en entornos digitales, al permitir exigir responsabilidad a sujetos corpóreos por los impactos de la información incorpórea que circula en la infoesfera. No obstante, esta salvaguarda adopta la forma de una garantía ex post: un mecanismo reactivo que opera cuando el daño ya se ha producido, con el fin de exigir responsabilidades y buscar la no repetición.
En tiempos de inmaterialidad, cabe preguntarse hasta qué punto el mero derecho a saber que se interactúa con una IA puede hacer frente a los deepfakes o al uso no autorizado de creaciones artísticas. Esto contrasta con una regulación preventiva que, en lugar de perseguir al responsable tras el daño, exige mecanismos de responsabilidad proactiva y somete el sistema a auditorias y escrutinio humano desde su propio diseño.
En este escenario, la excepción de la «responsabilidad editorial» deja abierta la puerta a las «revisiones humanas de fachada» (rubber-stamping) similar a lo acontecido en los comités de ética o plataformas digitales, donde un usuario firma unilateralmente sin auditar el contenido o suprime contenidos. Para evitar que la supervisión se reduzca a una traba administrativa, es indispensable que la norma avance hacia una garantía real de reserva de humanidad ante decisiones automatizadas que impacten derechos fundamentales.
El punto central radica en comprender que la verdadera garantía de humanidad no es un individuo aislado frente a una pantalla decida qué es verdad y qué no, sino una comunidad deliberativa. Respaldar una transparencia algorítmica de segundo nivel exige reinstitucionalizar procesos de evaluación por pares, coevaluaciones, código de buenas prácticas, y sellos de cumplimiento por comités de área que revivan el diálogo socrático, Solo a través de estos espacios de discusión colegiada, la revisión humana deja de ser una traba burocrática y se convierte en un filtro ético y científico efectivo.
En consecuencia, el etiquetado de contenido sintético es solo un primer paso que no debe verse como un freno al progreso técnico. Es en esencia, la primera línea de defensa para responder a la pregunta clave: ¿con quién estoy interactuando? En un mundo que se vacía y se desmaterializa llenándose de «no-cosas» que alimentan lo algorítmico, saber si quien nos habla o nos informa es una máquina o un ser humano deja de ser un detalle técnico para convertirse en un derecho fundamental de la sociedad digital.
