En el marco del seminario “Moderación de contenidos en redes sociales: derechos, riesgos y gobernanza democrática”, Lucía Camacho, coordinadora de políticas públicas de Derechos Digitales, abordó los impactos individuales, colectivos y democráticos de las decisiones de moderación adoptadas por grandes plataformas digitales. En conversación con Actualidad Jurídica, el blog de DOE, analizó los riesgos que estas prácticas pueden generar para la libertad de expresión, el acceso a la información, la participación ciudadana y la regulación del entorno digital en América Latina.

En el seminario “Moderación de contenidos en redes sociales: derechos, riesgos y gobernanza democrática”, usted planteó que esta discusión no puede abordarse únicamente desde la afectación de derechos individuales. ¿Por qué es necesario ampliar la mirada hacia los impactos colectivos y democráticos de la moderación de contenidos?

La moderación de contenido tiene, por su naturaleza, un alcance masivo, un impacto colectivo y efectos sistemáticos.

En contextos críticos, como los de protesta social, esas condiciones salen a flote cuando cientos de cuentas o contenidos son retirados de manera injusta. También se observan frente al cambio de sensibilidad política de plataformas alineadas ahora a la ultraderecha, donde cuentas y contenidos sobre derechos sexuales y reproductivos, por ejemplo, reciben menos eco, son eliminados o suspendidos sin justificación, debido proceso ni mecanismos efectivos de apelación o respuesta.

Aunque se trata de problemas que impactan inmediatamente a individuos y derechos como la libertad de expresión y el acceso a la información, pensar la moderación solo desde esa óptica deja a las personas usuarias afectadas en un escenario de desprotección que deben enfrentar en solitario, mediante acciones judiciales, administrativas o mecanismos privados, frente al silencio de las grandes plataformas.

Este escenario genera dos efectos preocupantes. Por un lado, dificulta identificar y dar cuenta de los patrones históricos y defectos de la moderación a escala, tanto en situaciones críticas como de normalidad. Por otro, desplaza la atención sobre el impacto que la moderación tiene en la protección de derechos colectivos, como el derecho a la democracia o el derecho a la participación ciudadana.

No podemos seguir pensando las afectaciones que trae consigo la moderación en la libertad de expresión sin preguntarnos por el impacto de esa afectación individual en la protección de valores y derechos colectivos, como la pluralidad y la participación.

El derecho a la democracia, en tanto derecho colectivo, se ve impactado más allá de los contextos electorales, donde las campañas coordinadas de desinformación impulsadas por actores públicos y privados son un problema crítico y sin respuesta sistemática en nuestra región.

La moderación de contenido a escala tiene el potencial de degradar también el debate público, afectar o minar el trabajo de las instituciones democráticas y poner en riesgo a grupos sociales que se convierten en objetivo de discursos violentos y de odio, como ocurre con grupos defensores de derechos ambientales o con mujeres periodistas y candidatas.

Por eso, nuestro llamado es a adquirir una mirada global sobre el impacto colectivo de la moderación de contenidos. Esa mirada debe permitirnos reclamar, en las conversaciones sobre gobernanza de plataformas y moderación de contenidos, la implementación de mecanismos de protección para las personas, pero también para los procesos de participación y valores democráticos como la pluralidad y la diversidad, esenciales en la esfera pública.

Uno de los puntos que abordó fue el impacto de ciertas prácticas de moderación sobre información vinculada a derechos sexuales y reproductivos. ¿Cómo pueden fenómenos como el shadow banning o las denuncias coordinadas afectar el acceso a contenidos especialmente sensibles para la ciudadanía?

La moderación de contenidos se operacionaliza en la práctica a través de decisiones diversas, que en ocasiones varían según la plataforma.

Cuando se aplica sobre contenidos o cuentas de personas y organizaciones que difunden información sobre derechos sexuales y reproductivos en América Latina, el impacto no solo afecta el acceso a información pública, sino también el ejercicio de la toma de decisiones informadas que buscan garantizar la libertad sexual.

En Derechos Digitales hemos identificado que la moderación que afecta este tipo de contenido es particularmente restrictiva y se impone sin rigor, mediante una aplicación inconsistente de las políticas existentes en las plataformas.

Vemos con preocupación que la aplicación de esas políticas se basa, en esencia, en el derecho doméstico norteamericano, en un contexto de progresiva y severa restricción en la entrega de información sobre prestaciones como el aborto o sobre el uso de anticonceptivos, incluso respecto de personas usuarias de plataformas digitales fuera de Estados Unidos.

La moderación exacerbada y con efectos limitadores sobre el discurso relativo a derechos sexuales y reproductivos no solo se propaga en redes sociales. También se observa en contenidos restringidos cuando se consulta a modelos de lenguaje de acceso gratuito en el mercado, como Meta AI o ChatGPT, que entregan información muy limitada o no contextualizada geográficamente al país de América Latina en que se encuentra la persona que consulta.

Una experiencia significativa en esta materia es la moderación aplicada por Meta. En múltiples decisiones, su Junta Asesora o Consejo Asesor ha determinado que, cuando la plataforma aplica sus políticas de moderación sobre contenidos en que aparecen imágenes de pezones con fines de salud pública, existen excepciones a la política de desnudez que, pese a estar reconocidas, no se aplican de manera consistente.

También se ha evidenciado cómo diversos contenidos sobre salud femenina son moderados mediante políticas preexistentes que, al ser leídas integralmente, pueden resultar incompatibles entre sí o requerir una revisión cuidadosa caso a caso, algo impracticable en la moderación a escala.

Además, el chatbot de IA de Meta censura la entrega de información sobre salud sexual y reproductiva a menores de edad que realizan consultas sobre enfermedades de transmisión sexual, anticonceptivos o aborto, sin importar la localización geográfica ni el tratamiento legal de esos asuntos en la jurisdicción donde se encuentra la persona usuaria.

La restricción a contenidos sobre derechos sexuales y reproductivos se ha intensificado negativamente en los últimos años en plataformas de Meta y en X, a raíz del giro de las políticas de moderación y de la menor sensibilidad de esas redes sociales frente a contenidos y cuentas que difunden información sobre temas de género. Eso pone en serio peligro el ejercicio de derechos en línea y fuera de ella.

En relación con la gobernanza democrática de las redes sociales, usted sostuvo que en América Latina no existe una falta de propuestas regulatorias, sino dificultades políticas para avanzar en ellas. ¿Cuál es hoy el principal obstáculo para regular de manera efectiva a las grandes plataformas?

Uno de los principales obstáculos es, sin duda, el lobby a favor de las grandes empresas tecnológicas, facilitado por corporaciones privadas de lobbistas o por el gobierno de Estados Unidos, que beneficia en condiciones de inmunidad regulatoria sus operaciones en países de América Latina.

El lobby es una actividad poco regulada en la región y busca, en esencia, debilitar regulaciones sobre las operaciones de las Big Tech, bajo narrativas que plantean falsas dicotomías entre la protección de la innovación mediante la no regulación o la desregulación, y la regulación como una medida enfocada en asfixiarla.

Cuando este lobby está articulado por el gobierno norteamericano, hemos identificado que recientemente se instrumentaliza a través de Acuerdos de Comercio Recíproco, suscritos hasta ahora con países como Ecuador, Argentina, El Salvador, Nicaragua y Guatemala. Estos acuerdos demandan de países latinoamericanos inmunidad legislativa para las Big Tech en asuntos como transparencia algorítmica o no regulación, por considerarla “discriminatoria” contra empresas norteamericanas.

Experiencias de lobby de este tipo han frenado, por ejemplo, la discusión del proyecto de ley de inteligencia artificial en Brasil, debilitaron el proyecto que hoy es ley de salud mental de las infancias en entornos digitales, y han impactado en la flexibilización reciente de normas sobre licenciamiento ambiental para centros de datos en Chile, entre otros casos.

Los efectos del lobby, así como la caja de herramientas de los lobistas, también deben estar en el centro de la conversación cuando abordamos los problemas de gobernanza.

Sin reconocer y acusar la influencia regulatoria indebida de estas grandes plataformas, y la seductora puerta giratoria que ofrecen a reguladores que luego pasan a conformar sus filas, estaremos prolongando el estado de parálisis regulatoria sobre la rendición de cuentas de las plataformas en temas urgentes y que generan consensos fáciles por ahora, como la protección de las infancias en línea.

Desde la experiencia de la sociedad civil en estos debates, ¿qué condiciones institucionales se requieren para que la discusión sobre moderación de contenidos incorpore voces diversas y no quede concentrada entre gobiernos, plataformas y grandes actores privados?

Se requieren mecanismos y metodologías institucionales que faciliten la participación significativa y plural, no solo de gobiernos, plataformas y empresas tecnológicas, sino también de personas usuarias que experimentan a diario los impactos de la moderación de contenidos.

Esa participación es clave para identificar las brechas que existen entre la operacionalización de la moderación, las políticas de las plataformas y el derecho local.

La participación significativa requiere que la institucionalidad tome decisiones activas enfocadas en ofrecer vías y recursos para que organizaciones y personas usuarias puedan tomar vocería y estar representadas en las discusiones.

También exige metodologías que den espacio, voz y voto a sus intervenciones, acciones y liderazgos, además de medidas orientadas a transparentar el poder de influencia de otros actores con mayor poder y resonancia en las discusiones sobre moderación, como las Big Tech.