Aos Fatos eleva nivel del fact-checking con Radar, una herramienta de inteligencia artificial para combatir la desinformación

Aos Fatos eleva nivel del fact-checking con Radar, una herramienta de inteligencia artificial para combatir la desinformación

Con un sistema que monitorea información engañosa en tiempo real, el medio fortaleció su modelo de negocio y duplicó su redacción, al tiempo que impacta en la agenda política de su país.

Radar Aos Fatos analiza un promedio de 90 mil publicaciones semanales.
César López Linares

En abril de 2020, los principales medios informativos de Brasil dieron a conocer una lista de los congresistas de ese país que más estaban diseminando desinformación sobre la pandemia de COVID-19 en Twitter. Los reportes mencionaban los nombres de los legisladores, el partido al que pertenecían, la cantidad de tuits engañosos publicados y el número de interacciones que estos recibieron.

Esta información revelaba cómo los parlamentarios desde redes sociales se encargaban de crear un ambiente de desinformación sobre un tema del que ya de inicio existía mucha incertidumbre a nivel mundial. 

El origen de esos reportes fue el medio especializado en verificación de datos Aos Fatos, el cual, gracias a una novedosa herramienta, había detectado cientos de tuits con información engañosa sobre la pandemia en Brasil.

La herramienta lleva por nombre Radar Aos Fatos (Radar a los hechos). Se trata de un proyecto de monitoreo de campañas de desinformación que gracias al trabajo de un equipo multidisciplinario y al uso de tecnologías de inteligencia artificial, ha logrado en menos de un año elevar el nivel de la verificación de datos en Brasil y ha tenido un impacto significativo en la agenda política de ese país.

Las consecuencias de los reportes sobre los congresistas que desinforman no se hicieron esperar. El legislador señalado como el principal diseminador de información engañosa perdió su nominación al cargo de Ministro de Salud de Brasil. Pero para el medio, el impacto más importante de su proyecto fue que la sociedad y los medios de comunicación comenzaron a exigir a los políticos hacerse responsables de sus dichos y reclamarles el uso de información falsa.

“El impacto puede ser medido de formas muy diferentes para cada historia, pero esta tuvo mucha repercusión”, dijo a Fundación Gabo Tai Nalon, directora ejecutiva y cofundadora de Aos Fatos. “No es bueno ser señalado como el principal distribuidor de desinformación. Es bueno ver este tipo de impacto”.

Radar era un proyecto que Aos Fatos planeaba lanzar en agosto de 2020 para fortalecer su cobertura sobre las elecciones locales en Brasil. Sin embargo, ante la llegada del nuevo coronavirus a ese país, adelantaron su publicación para marzo de ese año. El proyecto no solo ha traído reconocimientos para el medio, como el reciente Premio Gabo 2020 en la categoría de Innovación, sino que también representó un crecimiento exponencial y un cambio en su modelo de negocio.

Una herramienta en constante evolución

La desinformación y su impacto en la vida política y social de Brasil se han hecho más evidentes a partir de las elecciones presidenciales de 2018, en las que resultó vencedor Jair Bolsonaro. 

La campaña del entonces candidato estuvo caracterizada por constantes ataques a los medios de información y campañas masivas de noticias falsas diseminadas principalmente a través de WhatsApp, plataforma que solo en Brasil tiene 99 millones de usuarios, un número solo superado por los usuarios que tiene en India, de acuerdo con eMarketer.

Una vez en el poder, Bolsonaro y sus aliados continuaron la estrategia de distribuir información falsa o engañosa en redes sociales. Aos Fatos se dio cuenta de que Brasil enfrentaba un problema de desinformación de tal magnitud que verificar discursos o desmentir noticias falsas ya no era suficiente.

“Teníamos la sensación de que únicamente verificando declaraciones estábamos perdiendo el enfoque”, dijo Nalon. “El principal problema era la cantidad masiva de desinformación y no solo en temas específicos. Era algo que necesitábamos vigilar para elegir qué debíamos investigar y analizar el impacto de la desinformación en la opinión pública en Brasil”.

Con Radar Aos Fatos, el medio fue capaz de entender el problema de forma más amplia, yendo a los orígenes de las campañas de desinformación. La herramienta detecta contenido potencialmente engañoso que está circulando en redes sociales sobre un tema. Algoritmos adaptados a cada red social “barren” cientos de publicaciones y mapean patrones de lenguaje que son jerarquizados de acuerdo con su calidad informativa. Radar analiza un promedio de 90 mil publicaciones semanales con una metodología que combina lingüística, estadística y periodismo.

Dada la naturaleza de la desinformación, Aos Fatos tuvo que crear un equipo que fuera más allá del ámbito de la comunicación y el periodismo de datos. El medio reclutó a lingüistas, científicos de datos y desarrolladores que se encargan de limpiar y actualizar cada semana los criterios que sigue Radar a la hora de localizar rastros de desinformación. 

Ese trabajo continuo convierte a la herramienta en un mecanismo vivo que evoluciona a la par del problema al que combate. Y esto cobra especial relevancia cuando se cubre un fenómeno tan cambiante e incierto como lo es una emergencia de salud.

“Cuando cubres una crisis en tiempo real como una pandemia, la información cambia mucho, porque estás tratando con ciencia”, dijo Nalon. “Algunos consensos que se tenían al inicio de la pandemia, dos meses después son diferentes, y por eso es un reto”.

El proyecto cuenta con una página web en la que el usuario puede ver el contenido analizado por red social (Twitter, Facebook, Instagram, WhatsApp y YouTube) o por tema (coronavirus o información judicial). El portal califica el contenido con un sistema de colores, en el que el rojo indica lo más engañoso y el verde, lo menos engañoso.

El sitio también incluye una sección en la que explica al usuario su metodología de forma sencilla, con el apoyo de infografías. La metodología completa está también a disposición para quienes deseen conocer a fondo el funcionamiento de los algoritmos.

Desde su lanzamiento en marzo, Radar Aos Fatos ha sido fuente para al menos 40 historias periodísticas, casi una por semana, las cuales se han encargado de probar que los poderosos son los principales responsables de la desinformación en Brasil.

“La desinformación sigue creciendo y a veces empeora, pero creo que Radar es una forma en la que la gente puede ver que este no es solo un problema de boomers que no saben usar WhatsApp o de gente que no sabe cómo manejar información en internet”, dijo Nalon. “Es una forma de probar que los principales diseminadores de desinformación son políticos con poder que, cuando dicen algo que es falso, tienen mucho más impacto que si lo dijera una persona común”.

Inteligencia artificial que genera ingresos

Al ser un proyecto desarrollado por un equipo multidisciplinario de expertos y que requiere elementos de inteligencia artificial, así como un constante trabajo de mantenimiento, Radar Aos Fatos resulta un producto que sería imposible de pagar para la mayoría de los medios independientes.

Aos Fatos pudo financiar el 50 por ciento este proyecto gracias al apoyo recibido por parte de Google News Initiative, a través del Google Innovation Challenge 2019, del cual resultaron ganadores.

 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

A post shared by Aos Fatos (@aosfatos)

Una de las condiciones del premio fue que el proyecto de innovación en periodismo a desarrollar tenía que impactar en el modelo de negocio del medio para poder sostenerse en el tiempo. De esa forma, Radar Aos Fatos se ha convertido en una entidad dentro del medio que genera sus propios ingresos a través de servicios a terceros, principalmente a instituciones que trabajan escenarios de riesgo y demandan un entendimiento de quién influye en las opiniones en redes sociales.

“Radar es ahora una entidad en Aos Fatos que paga por sí misma”, dijo Nalon. “Provee a investigadores, empresas e instituciones de inteligencia sobre campañas de desinformación. Es información muy relevante porque sabemos a ciencia cierta que la desinformación juega un rol en la opinión pública”.

La transformación en Aos Fatos a partir de este proyecto también impactó en su staff. La compleja operación de Radar implicó que a su redacción tuvieran que sumarse de forma permanente programadores, estadísticos y lingüistas, con lo que el equipo pasó de tener 10 a 20 miembros en menos de un año.

“Necesitábamos gente especializada en machine learning y en patrones de lenguaje para poder construir filtros y data scrapers que pudieran analizar masivamente altas cantidades de contenido en cualquier plataforma”, dijo Nalon. “Ahora no solo tenemos una redacción para el fact-checking, sino también una redacción de inteligencia para combatir campañas de desinformación”.

El precio de combatir la desinformación

En una sociedad polarizada como la de Brasil, el precio que un medio paga por develar la verdad puede llegar a ser muy alto. Señalar a funcionarios públicos como diseminadores de desinformación le ha costado a Aos Fatos enfrentar procesos legales y campañas de odio digitales que se han convertido en formas de intimidación para obstaculizar su trabajo.

El medio fue demandado por al menos tres funcionarios públicos (dos legisladores y un procurador) a raíz de las investigaciones derivadas de Radar. Si bien las demandas no han procedido judicialmente, el equipo de Aos Fatos las considera un intento de censura.

“Ellos pueden interponer recursos muchas veces y podrían litigar por siempre, y eso es perjudicial porque por supuesto que es muy caro. Tenemos que pagar abogados para defendernos por algo que está garantizado en nuestra constitución, que es el periodismo”, dijo Nalon.

Al asedio judicial y a las campañas de odio se ha sumado el impacto de la pandemia en las redacciones. A la par del lanzamiento de Radar, el medio tuvo que cerrar sus oficinas para trabajar desde casa, lo cual ha resultado todo un reto por la naturaleza del proyecto.

“Cuando trabajas con gente de tan diferentes disciplinas es más difícil de comunicarse cuando todos están en diferentes lugares. Parte del pensamiento creativo se pierde”, dijo Nalon. “Creo que hicimos un trabajo maravilloso, pero por supuesto que sería mejor si estuviéramos en condiciones normales”.

Un factor que también dificultó el desarrollo del monitor de desinformación fue el idioma. Al no ser el portugués un idioma dominante, las tecnologías de análisis de patrones de lenguaje tuvieron que desarrollarse desde cero. No obstante, sus creadores creen que por esa misma razón, Radar Aos Fatos está abriendo importantes caminos para los medios en ese idioma.

Muchos de los mecanismos automatizados para detectar desinformación, explicó Nalon, se basan en patrones de lenguaje. “Si habláramos inglés o español tendríamos acceso a más tecnologías que los países hablantes de español o inglés ya tienen”.

El factor humano hace la diferencia

Los expertos consideran que para asegurar buenos resultados periodísticos de las herramientas de inteligencia artificial, el uso de estas tecnologías debe ir acompañada de una vigilancia humana muy minuciosa. Uno de ellos es Emilia Díaz-Struck, editora del ICIJ, quien hizo parte del jurado que eligió a Radar Aos Fatos ganador en la categoría de Innovación del Premio Gabo 2020.

“Hay modelos que son supervisados, en los que el algoritmo tiene input humano, en el que humanos van verificando lo que el algoritmo aprende y determina si aprendió bien o no”, dijo Díaz-Struck. “En la medida que tienes más precisión en las normas y que hay un modelo supervisado tienes más claridad al final, cuando tienes los resultados”.

El equipo de Aos Fatos está consciente que señalar a figuras públicas como diseminadores de información y verificar discursos de funcionarios conlleva una gran responsabilidad y que su trabajo no puede basarse únicamente en los algoritmos, por muy exactos que estos sean.

“Aunque usamos recursos como la inteligencia artificial y el machine learning, no hay forma de pasar por alto el poder humano”, dijo Nalon. “Las máquinas no pueden analizar el contexto, no pueden predecir lo que ocurrirá; solo pueden entender patrones. Solo los periodistas y los científicos de datos tienen ese nivel de visión y creatividad”.

La periodista dijo que los tuits que son señalados por sus algoritmos como potencialmente engañosos son analizados y verificados manualmente por sus reporteros con técnicas tradicionales de verificación y basándose en fuentes confiables. Entre los profesionales que analizan los datos, la mirada de los periodistas es la que le da especial importancia al trabajo de la herramienta.

“Los ojos de los periodistas son muy importantes, porque están entrenados para ver dónde están las noticias, para ubicar lo que es de interés periodístico y que puede tener un verdadero impacto”, dijo.

Para Aos Fatos, la verdadera innovación y valor de Radar es justamente cómo sus periodistas transforman los datos que la herramienta arroja en piezas de buen periodismo al servicio de la gente.

“La gente puede ver con visualizaciones, con un monitor de datos y con artículos semanales quiénes son los que más engañan, cuál es el principal tema de desinformación esa semana, cuáles son las conductas y los patrones a largo plazo. Esta es una muy buena forma de combatir la desinformación”, dijo Nalon.

Tres hallazgos de Radar Aos Fatos

Semana tras semana, Radar arroja información que los periodistas de Aos Fatos analizan y ponen en contexto. Entre los descubrimientos a los que estos análisis han llevado al medio, destacan los siguientes:

  • Las declaraciones del presidente Jair Bolsonaro amplificaron significativamente la viralización de los reportes de que la hidroxicloroquina era la solución contra el coronavirus, como sucedió en Estados Unidos con Donald Trump.

“Fuimos los primeros que pudimos probar que sus declaraciones amplificaron esta desinformación y llevaron a consecuencias muy serias. También mapeamos a los aliados de Bolsonaro en Twitter y Facebook para ver quiénes de ellos eran los desinformadores más predominantes y vimos que eran políticos con poder”, dijo Nalon.

Al respecto, el medio publicó una historia sobre cómo la desinformación sobre esta sustancia se multiplicó en internet luego del respaldo de Bolsonaro y Trump.

  • Las plataformas digitales no aplican en otros países los mismos criterios que aplican en Estados Unidos para penalizar la desinformación.

“Vimos que Facebook no usa el mismo marco para Brasil que el que usa en los Estados Unidos u otros países. Uno puede hablar sobre locas teorías de conspiración en portugués libremente, pero si hicieras eso en Estados Unidos, te suspenden tu cuenta”.

Aos Fatos ilustra este hallazgo en una historia sobre cómo al menos 95 páginas brasileñas de Facebook que publicaban información sobre la teoría de conspiración conocida como QAnon permanecían activas, al tiempo que la red social anunciaba la suspensión de miles de cuentas y grupos que compartían esa desinformación en Estados Unidos.

  • En procesos electorales, los desinformadores usan las mismas técnicas y narrativas adaptadas a la situación de cada país.

“Primero reportamos que distintos grupos de WhatsApp participaban en campañas de desinformación sobre la elección de Estados Unidos. Y semanas después, reportamos que gente en WhatsApp estaba involucrándose en desinformación sobre un fraude electoral en Brasil, y los patrones y la narrativa eran prácticamente los mismas que los usados en Estados Unidos”.

El sitio publicó a principios de noviembre una historia sobre grupos de WhatsApp brasileños que compartieron teorías de la conspiración sobre la elección en Estados Unidos. Y semanas después, otra sobre cómo desinformadores usaron técnicas similares para diseminar información falsa sobre las elecciones en Brasil.

 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

A post shared by Aos Fatos (@aosfatos)

Sobre este proyecto

La Fundación Gabo en alianza con Google News Initiative buscan descubrir, analizar y presentar las más valiosas iniciativas de innovación periodística que se están produciendo en Iberoamérica.

Puedes conocer más sobre esta iniciativa y compartir tus casos de innovación a través de este formulario

La selección de casos que se publican en este espacio está a cargo de Ismael Nafría (España), director de la revista National Geographic España, y Olga Lucía Lozano (Colombia), directora de En Modo P. La coordinación del proyecto desde la Fundación Gabo está a cargo de Karen De la Hoz, directora de comunicaciones.

 

©Fundación Gabo 2019 - Todos los derechos reservados.