Manipulación de la información

Según el Dangerous Speech Project, el “discurso peligroso” es toda forma de expresión (habla, texto o imágenes) que puede incrementar el riesgo de que su público apruebe o participe en la violencia cometida contra miembros de otro grupo”. Este concepto brinda un marco constructivo con que reflexionar acerca de los discursos de odio que es probable provoquen violencia. Las señales de un discurso peligroso incluyen la deshumanización (referirse a la gente como insectos, bacterias, etc.) y decirles que enfrentan una amenaza mortal proveniente de un grupo minoritario desfavorecido.

el término “fake news” (noticias falsas) no cuenta con una definición aceptada y es empleado erróneamente como un sinónimo de desinformación. Se ha popularizado en los últimos años y a menudo se le usa para desacreditar la información que uno encuentra desfavorable independientemente de su veracidad. Así, los términos “misinformación”, “desinformación” o “mal-información” debieran usarse en lugar de “fake news”.

Astroturfing: el intento de dar la impresión de un difundido apoyo o interés de base a una política o idea usando cuentas falsas en línea, como redes de bots o grupos de presión falsos.

Bots: un bot es un programa de software que efectúa tareas automatizadas y repetitivas. En el caso de los medios sociales, un bot podría referirse a una cuenta automatizada en dichos medios.

Click Bait: el título sensacionalista o engañoso de un artículo, enlace o thumbnail (miniatura), diseñado para hacer que los usuarios vean el contenido.

Ciberviolencia y ciberbullying: la ciberviolencia se refiere a actos de abuso usando medios digitales. El ciberbullying se refiere a la ciberviolencia que es recurrente y que está caracterizada por una dinámica de poder desbalanceada.

Deepfake: fotografías o videos que han sido alterados o fabricados íntegramente mediante aprendizaje automático para crear una falsa representación de algo, como un político que hace una declaración imaginada. El uso de deepfakes para confundir a los votantes durante los periodos electorales fabricando declaraciones de los candidatos y funcionarios electorales, es un excelente ejemplo de manipulación de la información.

Doxxing: la publicación de información privada o identificadora de una persona en línea con intención maliciosa, en especial la información personal sensible.

Information Warfare: el uso de las TIC como los medios sociales para influir o debilitar a un contrincante, lo que incluye el uso de la desinformación y la propaganda.

Trolling: la creación intencional de discordia en un espacio de discusión en línea comenzando peleas entre los usuarios, o molestando en general a la gente publicando mensajes inflamatorios, insultando o dando mensajes fuera de tema.

Filtros de subir archivos: programas de computadora automatizados que escanean los contenidos subidos a una plataforma en línea antes de que sean publicados. Estos filtros los usan las plataformas de medios sociales para identificar contenidos que violan los términos de servicio de las compañías, como materiales de abuso sexual infantil (CSAM).

Contenidos generados por usuarios (UGC): todo contenido como imágenes, videos, textos y audios que han sido publicados por los usuarios en plataformas en línea.

Viralidad: la tendencia de una imagen, video o nota de información a circular rápida y ampliamente en las plataformas en línea. Cuando el contenido se hace “viral” a menudo se pierde el importante contexto que rodea a la información como su fuente, autor y fecha de publicación (lo que se conoce como “colapso del contexto”), distorsionando potencialmente la forma en que la información es recibida e interpretada por quienes la ven.

Para definiciones adicionales véase el glosario de desinformación, del Disinfo Lab de la UE, que es una colección de 150+ términos con que entender el desorden de la información.

La incontrolada propagación de mis-información y desinformación, discursos de odio y acoso en las plataformas de los medios sociales han colocado los reflectores sobre sus políticas y procedimientos de moderación de contenidos, que a menudo se implementan con poca o ninguna supervisión. Las plataformas de los medios sociales han sido criticadas por retirar demasiado contenido, por no retirar suficiente contenido, por preparar algoritmos que no logran detectar los matices de los discursos de odio y la misinformación, y por emplear moderadores humanos que sufren por su baja paga, malas condiciones laborales, y el trauma inducido por el nocivo contenido que revisan. En medio de una cacofonía de voces con opiniones sobre qué contenidos debieran y no debieran permitirse en las plataformas, las compañías de medios sociales luchan por encontrar el equilibrio correcto entre la libre expresión absoluta y la protección de los usuarios de la manipulación de la información. Leyes como la Ley de servicios digitales la Unión Europea da a los legisladores una herramienta con que hacer que las plataformas sean responsables por su papel en facilitar la manipulación de la información, y presenta “una nueva forma de pensar acerca de la moderación de contenidos que es particularmente valiosa para la comunidad contra la desinformación”.

Para mayor información sobre la moderación de contenidos véase el recurso Medios sociales^[8].

La publicidad digital ha hecho posible el autofinanciamiento de páginas web y blogs que comparten contenidos detestables, incendiarios y/o engañosos. La publicidad programática, que depende de tecnología automatizada y herramientas algorítmicas para comprar y vender avisos, es especialmente problemática porque los anunciantes podrían terminar financiando estos canales sin ser jamás conscientes de que sus avisos aparecen en ellos.

El movimiento en línea Sleeping Giants surgió para abordar este problema, alertando a las compañías cuando su publicidad aparece junto a contenidos inflamatorios o controversiales. Check My Ads es otro recurso que ofrece servicios para ayudar a prevenir que las marcas queden asociadas con la desinformación o con discursos peligrosos. La Ads for News initiative apoya al periodismo local brindando a las marcas y compradores de medios una lista curada de inclusión global, con páginas web de noticias confiables a las cuales se ha filtrado para excluir las desinformación y otros contenidos no idóneos para las marcas.

Para mayor información sobre la publicidad digital véase el recurso de medios sociales^[9].

El uso estratégico de información falsa, exagerada o contradictoria durante las elecciones es una poderosa herramienta con la que socavar los principios democráticos. La frontera deliberadamente desdibujada entre la verdad y la ficción amplifica la confusión de los votantes y devalúa el debate político basado en hechos. Los rumores, habladurías y acoso en línea se utilizan para dañar reputaciones políticas, exacerbar las divisiones sociales, movilizar partidarios, marginar mujeres y grupos minoritarios, y minar el impacto de los agentes de cambio.

Los contenidos que buscan desalentar o impedir que los ciudadanos voten pueden tomar el aspecto de información imprecisa acerca de la fecha de una elección, o de intentos de persuadir a la gente de que una elección está arreglada y de que su voto no importa. Los contenidos de supresión de votantes que cuestionan la legitimidad de los procesos electorales o la seguridad de los sistemas de votación, pueden también sentar las bases para cuestionar los resultados electorales puesto que la manipulación de la información degrada la confianza en los cuerpos que manejan las elecciones. Estos contenidos no necesitan de intención maliciosa alguna pues por ejemplo, alguien que comparte inadvertidamente información incorrecta acerca de la fecha límite para la inscripción de los votantes, podría también confundir a otros ciudadanos e impedir que sean capaces de votar en la elección.

Distintos actores tienen distintos objetivos para influir las narrativas en el transcurso de una elección. Por ejemplo, los partidos y campañas políticos pueden usar la mis-información, desinformación, mal-información o propaganda para desacreditar a la oposición o manipular el discurso político de tal modo que sirva a su agenda de campaña, en tanto que un adversario extranjero podría buscar influir en el resultado electoral, promover intereses nacionales o sembrar el caos. Una campaña coordinada de manipulación de la información en WhatsApp —que incluyó fotografías alteradas, clips de audio manipulados y falsas “verificaciones de hechos” que desacreditaban a noticias auténticas— tuvo un papel preocupante en impulsar al candidato de extrema derecha Jair Bolsonaro a la presidencia del Brasil en 2018 (para mayor información acerca del papel de la manipulación de la información en el Brasil véase la sección de estudios de caso).

En última instancia, las campañas de manipulación de la información pueden desestabilizar entornos políticos, exacerbar la posible violencia relacionada con las elecciones, pervertir la voluntad de los votantes, afianzar a los autoritarios y minar la confianza más en general en los sistemas democráticos. En muchas democracias frágiles, las instituciones democráticas vigorosas que podrían ayudar a contrarrestar el impacto de las noticias falsas y las campañas más amplias de manipulación de la información, como unos medios fuertes e independientes, partidos políticos ágiles y sofisticadas organizaciones de la sociedad civil, siguen en estado emergente.

Una herramienta que los periodistas, investigadores y la sociedad civil pueden usar para contrarrestar la manipulación de la información es la verificación de los hechos, esto es el proceso de comprobar la información y brindar análisis precisos y no sesgados de una afirmación. En los últimos años han surgido cientos de iniciativas de verificación de los hechos en la sociedad civil en torno a puntos críticos específicos, siendo las lecciones aprendidas así como la infraestructura construida en torno a dichos puntos críticos aplicada luego a otros problemas que impactan estos mismos ecosistemas informativos. Durante las elecciones generales mexicanas de 2018, la iniciativa Verificado 2018 de la sociedad civil se asoció con Pop-Up News, Animal Político, AJ+ Español y 80 otros socios para verificar los hechos y distribuir información relacionada con las elecciones, especialmente entre los jóvenes. Otras iniciativas exitosas de verificación de hechos en todo el mundo son Africa Check, el Cyber News Verification Lab de Hong Kong, BOOM en la India, Checazap en Brasil, la Fact Check archive del Centre for Democracy and Development en África occidental, y la iniciativa Check de Meedan en Ucrania.

Las compañías de medios sociales también han invertido en equipos y tecnologías de verificación de hechos, y han construido sociedades con agencias noticiosas para responder a los bulos, teorías de la conspiración, rumores y propaganda que circulan en sus plataformas.

La verificación de los hechos o “debunks” (desmentidos) son eficaces, pero tienden a tener un uso intensivo de trabajo y no son leídas por todos. El “prebunking” (desmentido preventivo) es un enfoque alternativo basado en la idea de vacunar a la gente en contra de información falsa o engañosa mostrándole ejemplos de manipulación de la información, de modo tal que en el futuro estarán mejor equipados para identificarlas y cuestionarlas. Según First Draft hay tres tipos principales de prebunks:

1. Basados en hechos: corrigen una afirmación o narrativa específica falsa
2. Basados en la lógica: explican las tácticas de manipulación usadas
3. Basados en fuentes: señalan las fuentes de información malas

En 2022, Google lanzó una campaña de prebunking en Polonia, la República Checa y Eslovaquia para diseccionar distintas afirmaciones falsas acerca de los refugiados ucranianos. Los investigadores también han creado juegos en línea que permiten a los jugadores simular ser trols que propagan fake news, con miras a mejorar la comprensión que la gente tiene de cómo se construyen las campañas de manipulación de la información, incrementando finalmente su escepticismo para con ellas.

Los programas de educación mediática pueden ayudar a incrementar la capacidad de los ciudadanos para distinguir contenidos factuales y falsos o engañosos, alentando su uso de habilidades de pensamiento crítico, al mismo tiempo que consumen contenidos de medios tradicionales y en línea. Estos programas pueden también elevar la conciencia de que la manipulación de la información daña de modo desproporcionado a las mujeres y grupos marginados. La educación mediática es un proceso que dura toda la vida, y debiera no ser sino una parte de un equipo de herramientas completo para responder a la manipulación de la información.

La iniciativa Learn to Discern (L2D) de IREX busca construir la resiliencia de las comunidades a la desinformación, la propaganda y los discursos del odio en los medios tradicionales y en línea. Luego de pilotear un currículo de educación mediática en salones de clase, bibliotecas y centros comunitarios en Ucrania, L2D fue extendida a otros países, entre ellos Serbia, Túnez, Jordania e Indonesia. Las iniciativas globales como el marco Web Literacy de la Fundación Mozilla, y la biblioteca de educación digital de Meta, brindan acceso a materiales de educación mediática, y ofrecen una oportunidad para que los usuarios aprendan cómo navegar de modo eficaz el mundo virtual.

Las plataformas pueden aprovechar las características de diseño para ayudar a mitigar la manipulación de la información. Por ejemplo, algunas plataformas envían estratégicamente artículos con información correctiva a los usuarios que comparten contenidos falsos. Durante la pandemia de COVID-19, Facebook mostraba mensajes a los usuarios que interactuaban con contenidos falsos, y también los redirigía a fuentes autorizadas como la Organización Mundial de la Salud (OMS) o los Centros para el Control y Prevención de las Enfermedades (CDC). Estas intervenciones, conjuntamente con las políticas y elementos diseñados para limitar la remisión de contenidos virales, buscan aminorar el impacto de la manipulación de la información.

La inteligencia de fuentes abiertas es un método de recolección de datos e información de fuentes públicamente disponibles, entre ellas medios sociales, páginas web y artículos de noticias. La recolección y el análisis de información transparente, liderada por voluntarios y colectiva (crowdsourced) puede contribuir al desmentido de falsedades y mitos, lo que incluye a contextos como la guerra ruso-ucraniana. El grupo de periodismo investigativo Bellingcat se ha establecido como un líder en el uso de OSINT para reportar acerca de conflictos y abusos de derechos humanos, como el uso de armas químicas en la guerra civil de Siria.

El contradiscurso por lo general incluye toda respuesta directa al lenguaje de odio o dañino y busca socavarlo. Según el Dangerous Speech Project, hay dos tipos de contradiscurso: campañas organizadas de contra-mensajes y respuestas orgánicas espontáneas. El contradiscurso puede a veces buscar educar al perpetrador del contenido nocivo, pero usualmente busca más bien reconfigurar la discusión en línea para los espectadores, cambiar el tono en los espacios públicos en línea, y desplazar los contenidos nocivos con mensajes positivos e inclusivos. Un ejemplo del contradiscurso en acción es #jagärhär (#Iamhere), un grupo de Facebook de unas 75,000 personas con sede fundamentalmente en Suecia, que se ha movilizado para agregar notas positivas en las secciones de comentarios en donde estaban propagándose el odio y la misinformación.

Reality Built on Lies: 100 Days of Russia’s War of Aggression in Ukraine
(La realidad construida sobre mentiras: 100 días de la guerra de agresión rusa en Ucrania)

“Tal vez la característica más significativa de la campaña de desinformación y manipulación de la información del Kremlin, que tiene como objetivo a Ucrania en la guerra de agresión rusa, es su adaptabilidad a nuevas realidades. En otras palabras, a lo largo de los últimos cien días, el Kremlin ha ido desplazando constantemente las metas de su desinformación, en un intento de redefinir cuáles son los objetivos de la ‘operación especial’ y qué podría ser un ‘éxito’ para las fuerzas armadas rusas que han invadido Ucrania… Además de ir desplazando las metas del éxito, los canales de desinformación controlados por el Estado ruso también postulan activamente unas falsas narrativas ‘humanitarias’ con otra finalidad. A medida que el mundo inevitablemente se enteraba de las insensatas atrocidades que Rusia cometía en Ucrania, que cada vez más venían a ser crímenes de guerra, el ecosistema de desinformación pro-Kremlin trabajaba a toda máquina para negar, confundir, distraer, consternar y echarle la culpa a otros”.

Monetizando la misoginia

La iniciativa global #ShePersisted entrevistó a más de cien dirigentes y activistas políticas mujeres de todo el mundo, en un intento de comprender los patrones, el impacto y el modus operandi de las campañas de desinformación de género contra las mujeres en la política. Los estudios de caso sobre Brasil, Hungría, India, Italia y Túnez exploran cómo la desinformación con género ha sido usada por los movimientos políticos, y a veces por el mismo gobierno, para socavar la participación política de las mujeres, así como para debilitar las instituciones democráticas y los derechos humanos. La investigación crucialmente también examinó las responsabilidades y respuestas que tanto los actores estatales como las plataformas digitales tomaron para abordar este problema, o, más a menudo, que no tomaron.

Disinfodemic: Deciphering COVID-19 Disinformation(Desinfodemia: descifrando la desinformación del COVID-19)

“Al contaminar la comprensión pública de distintos aspectos de la pandemia y sus efectos, la desinformación en torno al COVID-19 aprovechó una amplia gama de formatos. Muchos fueron perfeccionados en el contexto de las campañas antivacunas y de la desinformación política. Frecuentemente meten falsedades de contrabando en la conciencia de la gente al concentrarse en las creencias antes que en la razón, y en los sentimientos en lugar de la deducción. Dependen de los prejuicios, la polarización y la política de identidad, así como de la credulidad, el cinismo y la búsqueda de las personas de una simple explicación ante la gran complejidad y el cambio. La contaminación se propaga en textos, imágenes, videos y sonidos”.

Is China Succeeding at Shaping Global Narratives about COVID-19?(¿Está China teniendo éxito en moldear las narrativas globales acerca del COVID-19?)

“Ante las críticas a su manejo de la pandemia, el gobierno chino y sus agentes aprovecharon los medios sociales, Twitter en particular, para propagar sus narrativas y propaganda en el extranjero… A comienzos de 2021, los medios chinos difundieron afirmaciones según las cuales las vacunas de Pfizer y Moderna eran riesgosas y hasta letales, resaltando las extremadamente raras muertes o enfermedad repentinas de personas que habían recibido la vacuna en Francia, Alemania, México, Noruega y Portugal… Taiwán fue otro blanco importante de las tácticas de desinformación chinas del Covid-19: algo nada sorprendente dado el persistente uso que Beijing hace de la desinformación contra la isla. China buscó repetidas veces poner en duda el éxito de Taipéi en restringir la propagación del virus… Además de criticar y propagar desinformación acerca del manejo que otros países hicieron de la pandemia, los medios de comunicación y diplomáticos chinos amplificaron las teorías conspirativas infundadas de que el SARS-CoV-2 se originó fuera de China”.

Los Eco-Ilógicos

Green Latinos, con el respaldo de Friends of the Earth, le encargó a Graphika que estudiara cómo era que las narrativas falsas y engañosas del cambio climático llegaban a las comunidades hispano hablantes. El análisis buscaba entender cómo era que estas narrativas se propagaban a través del ecosistema en línea de los usuarios hispano hablantes de internet, los grupos y personas que las siembran y difunden, y las tácticas que estos actores emplean. Con su análisis, Graphika identificó una extendida red de usuarios en América Latina y España que consistentemente amplifican las narrativas de desinformación climática en español. Aunque algunas de estas cuentas se concentraban específicamente en conversaciones relacionadas con el clima, la mayoría promovía narrativas ideológicamente de derecha, algunas de las cuales tocaban el cambio climático. Muchas de las narrativas identificadas también se superponían con las conversaciones en línea ya existentes que no guardaban relación con el cambio climático, como la misinformación en torno al COVID-19 o las teorías de la conspiración acerca de una organización gobernante secreta de unas elites globales totalitarias.

Fact from Fiction: Curbing Mis/disinformation in African Elections(Separando la realidad de la ficción: conteniendo la mis/desinformación en las elecciones africanas)

“La misinformación y desinformación relacionadas con las elecciones buscan fundamentalmente manipular la toma de decisión de los electorados, sembrar dudas acerca del proceso electoral y deslegitimar el resultado de las elecciones. Esta es una tendencia peligrosa, particularmente en democracias frágiles en donde esto es capaz de incitar el odio y provocar los estallidos de violencia. La misinformación y la desinformación fueron factores importantes en la escalada de la violencia postelectoral en Kenia tras las elecciones generales de 2017. De igual modo en 2020, la República Centroafricana experimentó una letal violencia postelectoral debido a una elección cuestionada, los esfuerzos de desinformación focalizada y un lenguaje divisivo. Lo mismo sucedió en Costa de Marfil, en donde 50 personas fueron muertas en la violencia política e intercomunal que estalló durante la elección presidencial del 31 de octubre de 2020”.

Para un contexto adicional consúltese también el informe The Disinformation Landscape in West African and Beyond, publicado por el Atlantic Council en junio de 2023.