A propósito de su participación en el seminario “Moderación de contenidos en redes sociales: derechos, riesgos y gobernanza democrática”, Danny Rayman, Director de Incidencia y Políticas Públicas de Wikimedia Chile, analizó en conversación con Actualidad Jurídica, el blog de DOE, los desafíos que plantea la regulación de plataformas digitales. En particular, abordó la necesidad de distinguir entre distintos tipos de plataformas, los riesgos asociados al poder de las grandes empresas tecnológicas y los aprendizajes que pueden entregar modelos basados en comunidad, transparencia y derechos humanos.

En el seminario “Moderación de contenidos en redes sociales: derechos, riesgos y gobernanza democrática”, usted abordó la necesidad de distinguir entre distintos tipos de plataformas digitales. ¿Por qué es importante no tratar a todas las plataformas bajo una misma lógica regulatoria?

Existe una gran variedad de plataformas digitales: redes sociales, educativas, culturales, de apuestas en línea, de pornografía en línea, entre otras.

La importancia está en entender que cada una de estas plataformas presenta niveles de riesgo distintos, relacionados con quienes son sus propietarios, sus modelos de negocio, las personas usuarias que las utilizan, sus características y funcionalidades. Por eso, necesariamente, las regulaciones deben considerar medidas diferenciadas.

Vinculado a esto, no debemos olvidar que muchas de estas plataformas también contribuyen a garantizar el ejercicio de nuestros derechos fundamentales en línea.

Una regulación demasiado general puede terminar afectando garantías básicas, como el acceso a la información, el acceso a la cultura, la libertad de expresión, de asociación y de reunión, entre otras.

Durante su intervención señaló que las grandes plataformas concentran un poder enorme debido a sus economías de red y a la cantidad de usuarios que reúnen. ¿Cómo incide esa concentración de poder en la forma en que se toman decisiones sobre moderación de contenidos?

La concentración de poder tiene una estrecha relación con la influencia que puede existir en la toma de decisiones sobre la regulación de plataformas.

Mi comentario se basa en el trabajo de organizaciones como SOMO, de Países Bajos, y en investigaciones periodísticas de medios reconocidos que han expuesto cómo empresas de grandes plataformas digitales han sido eficaces en sus actividades de lobby, al punto de moldear, retrasar o incluso evitar que regulaciones que pretendían afectar sus intereses de negocio vieran la luz.

Esto es particularmente delicado cuando se habla de regulaciones que buscan generar obligaciones, garantizar la seguridad, establecer mecanismos preventivos y de mitigación de amenazas a los derechos humanos, o cuando se plantean regímenes de responsabilidad que obligan a estas empresas a responder por los daños que facilitan.

La verdad es que esto no es algo que debamos ver como una realidad ajena. Por el contrario, es necesario estar alerta a este tipo de situaciones.

Por eso se agradece el trabajo de periodistas y actores de la sociedad civil que alertan sobre reuniones con autoridades no registradas conforme a la Ley de Lobby, ya que eso da luces sobre los puntos en que debemos estar pendientes para exigir mayor transparencia en la toma de decisiones que involucran a estas empresas.

Usted planteó que los efectos de la moderación no deben mirarse solo desde casos individuales, sino también desde sus impactos colectivos y sociales. ¿Qué riesgos genera esto para la libertad de expresión, el acceso a información y la calidad de las democracias?

Más allá de los casos puntuales que muchas veces conocemos sobre restricciones de contenidos legítimos en redes sociales, que afectan a quienes los comparten, el punto es que existe una afectación que impide a la sociedad en su conjunto acceder a información relevante para el debate público.

Esto ha ocurrido con información sobre salud reproductiva, cambio climático, verificación de información y situaciones en contextos de movilizaciones políticas, entre otras.

Entonces, cada vez que en plataformas de redes sociales u otras se restringen esos contenidos, o no se toman medidas frente a quienes atacan a las personas usuarias que intentan expresarlos, las plataformas fallan en asegurar un entorno digital seguro y que habilite efectivamente el ejercicio de derechos.

Eso impacta tanto desde una dimensión individual como social, afectando la libertad de expresión, el acceso a la información, la calidad del debate público y, con ello, los pilares de un Estado democrático.

En relación con las decisiones de remover, reducir, etiquetar o priorizar contenidos, usted sostuvo que no basta con entregar esa responsabilidad únicamente a las empresas. ¿Qué límites o condiciones deberían observar las plataformas al adoptar estas decisiones?

En mi opinión, la autorregulación y la voluntariedad, sobre todo en el caso de las grandes empresas tecnológicas, han terminado consolidando modelos de negocio que rara vez se cuestionan, se fiscalizan o se ven obligados a responder por sus fallas.

Por eso creo que las plataformas digitales, sin perjuicio de la necesidad de diferenciarlas, requieren marcos claros y compartidos, coherentes con los derechos humanos.

Si se les otorga el poder de remover, reducir, etiquetar o priorizar contenidos, esas decisiones no pueden quedar entregadas a la libertad de criterios internos y opacos. Deben ajustarse a reglas claras y transparentes, que permitan entender por qué se adoptan e informar a las personas que puedan verse afectadas.

Si bien hay casos de especial gravedad, como aquellos relacionados con material de abuso sexual infantil, discursos de odio o contenidos que incitan a la autolesión, que exigen decisiones rápidas, existen muchas otras decisiones que dependen del contexto, admiten más de una interpretación y pueden afectar directamente la libertad de expresión, el derecho de asociación y el derecho de reunión, entre otros.

En esos casos, la rapidez no puede imponerse por sobre garantías básicas como la transparencia en la toma de decisiones, la proporcionalidad, la notificación a la persona afectada, el derecho a reclamar y a que la decisión sea revisada.

En ese sentido, los Principios de Santa Clara y las directrices de la UNESCO para la gobernanza de plataformas digitales entregan lineamientos clave para abordar adecuadamente los desafíos de la regulación de plataformas.

También se refirió a la necesidad de modelos regulados de diligencia, responsabilidad, fiscalización y supervisión, pero evitando caer en la sobrerregulación. ¿Cómo podría construirse un modelo equilibrado de gobernanza para plataformas digitales?

Desde nuestra perspectiva, regular plataformas exige distinguir entre sus distintos tipos y objetivos. No todas hacen lo mismo, no todas monetizan ni operan con modelos de negocio que pueden llegar a ser extractivistas.

A eso me refería con la sobrerregulación. Por eso creo que lo correcto es buscar un equilibrio, que no pasa por regular menos, sino por regular con proporción: exigir más a quien concentra más riesgo y más poder, y no cargar del mismo modo a quien no opera bajo esas lógicas.

Así, por ejemplo, no se debe regular ni exigir a Wikimedia y sus plataformas educativas y culturales de la misma forma en que se debe obligar y exigir, mediante regulaciones, a las empresas de plataformas de redes sociales.

Aquellas plataformas que, por sus características, conlleven riesgos y deban ser reguladas, conviene abordarlas no solo desde las directrices de la UNESCO y los Principios de Santa Clara, sino también desde los Principios Rectores sobre Empresas y Derechos Humanos de Naciones Unidas.

Es decir, el Estado, en su deber de proteger, debe exigirles que respeten los derechos humanos, que tengan mecanismos de reparación cuando su actividad genere daños y que sean responsables de cumplirlo.

Un buen modelo exige, de forma diferenciada y según el riesgo, medidas de debida diligencia y mecanismos de reparación, judiciales o no judiciales, que funcionen y se articulen con una institucionalidad que supervise y fiscalice, sin que todo dependa de la buena voluntad de estas empresas.

Y algo clave: quienes deben adoptar las medidas de prevención y mitigación son, en primer lugar, las plataformas, no las personas usuarias. La falta de proactividad de una plataforma no puede terminar trasladándose a quienes debía proteger, ni mucho menos generar la exclusión de esas personas de espacios en línea porque no son seguros para ellas.

Un ejemplo de este riesgo son los proyectos de ley que hoy buscan regular el uso de plataformas por parte de niños, niñas y adolescentes. Aunque invocan la Convención sobre los Derechos del Niño, terminan estableciendo medidas que no parecen diseñarse desde el interés superior de niños, niñas y adolescentes, sin evaluaciones de impacto ni consultas situadas sobre cómo usan realmente estas plataformas, con qué beneficios y qué riesgos. En los hechos, pueden limitar de forma desproporcionada el ejercicio de sus derechos.

A fin de cuentas, lo importante es que una regulación no se quede en declaraciones bonitas, sino que ponga en el centro a las personas y a los grupos vulnerabilizados que suelen quedar fuera de esa conversación.

Por eso es clave escuchar a la sociedad civil. Hace solo unas semanas, Wikimedia Chile, Digital Action, ONG Amaranta y otras 14 organizaciones firmamos una declaración de alerta sobre las medidas de verificación de edad de niños, niñas y adolescentes en plataformas digitales, llamando a un diálogo que integre al Gobierno, al Congreso, la academia, las comunidades educativas, la sociedad civil y a los propios niños, niñas y adolescentes, para construir políticas y regulaciones participativas, transparentes e informadas.

Desde la experiencia de Wikimedia, usted mencionó que existen modelos alternativos basados en comunidad, transparencia y principios de derechos humanos. ¿Qué aprendizajes pueden entregar estos modelos frente a plataformas cuyo negocio se basa principalmente en la retención de audiencias y la maximización de utilidades?

Desde la experiencia de Wikimedia, el principal aprendizaje es que muchos de los daños que atribuimos a “las plataformas digitales” no vienen de la tecnología en sí misma, sino de un modelo de negocio basado en retener la atención y monetizar los datos.

Wikipedia opera a escala global sin publicidad y sin explotar los datos de sus usuarios. Al no tener ese incentivo, tampoco tiene la presión por amplificar contenidos nocivos ni por diseñar mecanismos adictivos.

De ahí se derivan principios que sí pueden exigirse a cualquier plataforma, como transparencia y trazabilidad en sus reglas de funcionamiento y en sus decisiones, ya que todo queda registrado en el historial de cada contenido.

Además, la moderación de contenidos en Wikimedia ha funcionado de forma descentralizada y con participación de la comunidad. Es la comunidad la que ha decidido sus normas, con principios como el debido proceso, la notificación, la motivación y la apelación.

Otro aspecto importante es que la implementación de inteligencia artificial se ha promovido como una herramienta de apoyo al funcionamiento y a la toma de decisiones de las plataformas, no como algo que busque reemplazarlas.

Sabemos que no se les puede exigir a todas las empresas que cambien sus finalidades u objetivos para replicar los proyectos de la Fundación Wikimedia. Pero sí es necesario tener en consideración que existen otras formas de operar en Internet, acordes con los principios de derechos humanos, y que pueden constituir un estándar aplicable a todas las demás plataformas digitales.