En la antesala del seminario “Moderación de contenidos en redes sociales: derechos, riesgos y gobernanza democrática”, Ignacia Gutiérrez, abogada de la Universidad de Chile y codirectora ejecutiva de Confianza Digital, analizó en conversación con Actualidad Jurídica, el blog de DOE, los desafíos jurídicos y democráticos que plantea la regulación de contenidos en plataformas digitales.

Las redes sociales se han convertido en uno de los principales espacios para el debate público, pero también para la circulación de contenidos dañinos, desinformación y discursos problemáticos. ¿Por qué hoy resulta relevante abrir una discusión jurídica sobre moderación de contenidos?

Abrir una discusión jurídica sobre moderación de contenidos es relevante por varias razones.

En primer lugar, porque en otros países ya se observan avances judiciales importantes en torno a la regulación de las plataformas digitales. Por ejemplo, en Estados Unidos se han desarrollado discusiones sobre la responsabilidad de empresas tecnológicas frente a los efectos que el diseño de sus plataformas puede tener en los usuarios, especialmente en jóvenes.

También existe una situación de desprotección frente al uso indiscriminado de datos personales con fines publicitarios y comerciales. A ello se suman otros debates que, si bien tienen una dimensión jurídica, deben ir acompañados de avances en políticas públicas, especialmente en materia de seguridad digital para niños, niñas y adolescentes, y respecto de la posibilidad de que se cometan delitos en estos espacios.

¿Qué motivó la organización del seminario “Moderación de contenidos en redes sociales: derechos, riesgos y gobernanza democrática” y qué vacío busca abordar esta instancia en el debate público y académico?

La principal motivación fue dar un primer paso para conversar sobre estos temas, compartir ideas y articular el trabajo entre distintas organizaciones y colectivos que estamos abordando los derechos digitales.

También buscamos trazar líneas de trabajo conjuntas para el futuro. Existe mucho desconocimiento sobre la moderación de contenidos, muchas veces por desinterés o por la idea de que no es un tema que impacte directamente a cada persona que utiliza redes sociales.

Otro objetivo importante es comenzar a hablar de regulación con los distintos poderes del Estado, porque se trata de una discusión que no puede quedar restringida únicamente a las plataformas o a ciertos espacios técnicos.

Uno de los grandes desafíos en esta materia es equilibrar la libertad de expresión con la necesidad de enfrentar contenidos ilícitos o perjudiciales. ¿Cómo se puede avanzar en ese equilibrio sin afectar derechos fundamentales?

Se puede avanzar de varias formas que no implican censura.

Una de ellas es reforzar las responsabilidades ulteriores, tanto en sede judicial como aquellas que puedan establecerse dentro de las propias plataformas. También es necesario exigir mayor claridad en los términos de uso y contar con canales de apelación efectivos cuando existan problemas como eliminación de contenido o bloqueo de cuentas.

Además, es fundamental abordar el uso de redes sociales por parte de menores de edad y avanzar en educación digital. La regulación no puede pensarse solo desde la sanción, sino también desde la prevención y la formación de usuarios más conscientes de sus derechos y riesgos.

Actualmente, muchas decisiones sobre moderación de contenidos son adoptadas por plataformas digitales mediante reglas internas y sistemas automatizados. ¿Qué riesgos plantea esto para la transparencia, la rendición de cuentas y el debido proceso de los usuarios?

El principal riesgo es que la relación asimétrica entre plataformas y usuarios se acrecienta.

Cuando las posibilidades de reclamar o denunciar son pocas y poco efectivas, esa asimetría se profundiza aún más. Las plataformas adquieren mayor poder para actuar de forma discrecional, adoptando decisiones sin basarse necesariamente en evidencia suficiente.

Eso impacta directamente en la transparencia, la rendición de cuentas y el debido proceso de los usuarios, porque muchas veces las personas no tienen claridad sobre por qué se eliminó un contenido, por qué se bloqueó una cuenta o qué mecanismos reales existen para impugnar esas decisiones.

Desde la organización del seminario, ¿por qué era importante reunir distintas miradas para abordar este tema y qué dimensiones del debate consideran más urgentes: jurídicas, tecnológicas, políticas o democráticas?

La interdisciplinariedad es fundamental en este tipo de instancias, porque si queremos avanzar hacia políticas públicas necesitamos incorporar distintas miradas técnicas.

También es importante considerar que cada organización trabaja desde un foco específico. Por eso, reunir a distintos actores permite construir una conversación más amplia y completa sobre los desafíos que presenta la moderación de contenidos.

En cuanto a las dimensiones más urgentes, las jurídicas y político-democráticas son especialmente relevantes y van de la mano. La dimensión tecnológica también debe ser abordada, pero se trata de un ámbito sumamente técnico y que avanza a una velocidad desbordante.

Además, no podemos olvidar que buena parte de la regulación ocurre dentro de plataformas que funcionan sobre estructuras tecnológicas complejas. Por eso, cualquier discusión seria debe considerar tanto el marco jurídico como el funcionamiento real de estos espacios digitales.

¿Qué expectativas tienen para esta jornada y qué esperan que se lleven quienes participen del encuentro?

Estamos muy contentos porque ya hay más de 200 personas inscritas.

Esperamos que sea un espacio de debate para analizar el estado actual de la materia, conocer lo que ha trabajado cada organización y compartir ideas para comenzar a plantear estos temas en distintos espacios políticos y sociales.

Para nosotros es primordial que las personas se lleven conocimiento, pero también ganas de aportar en esta tarea. Siempre pueden ser parte de las organizaciones como voluntarios y sumarse al trabajo que se está desarrollando en torno a los derechos digitales.