Mariluz Congosto Martínez
mariluz.congosto@uc3m.es
Mariluz Congosto es Doctora en Telemática por la Universidad Carlos III y Licenciada en Informática por la UPM. Actualmente es profesora Honorífica del DIT de la Universidad Carlos III. Desde el año 2008 es investigadora de datos sociales.
INTRODUCCIÓN
Desde el tímido nacimiento de las redes sociales en el año 2006 hasta su omnipresencia en los tiempos que corren, gracias a los teléfonos inteligentes, hemos ido quemando etapas, no siempre para mejor.
En sus inicios aportaban cosas tan positivas cómo conectarnos con parientes que vivían en países lejanos, encontrar antiguos compañeros de estudios o descubrir a personas con las mismas afinidades. En resumen, mantenían y ampliaban nuestra red de contactos analógicos.
Estos contactos virtuales fueron tejiendo redes por las cuales era muy fácil transmitir información, convirtiéndose en canales de comunicación. En sus inicios fluían informaciones personales, dando un giro cuando el activismo descubrió que era una vía para recabar el apoyo a sus causas. Se fueron incorporando los medios de comunicación junto a los periodistas, los partidos políticos y sus líderes, las religiones y sus guías espirituales, los deportes… hasta que no quedó ningún colectivo por unirse.
Hoy día permanecemos mucho tiempo dentro de las redes sociales informándonos e interactuando. Tenemos la percepción que tienen más efectos positivos que negativos, siendo conscientes del daño social que causan con la desinformación y la polarización como muestra este informe del Pew Research Center (2022).
LA PROLIFERACIÓN DE LAS FUENTES DE INFORMACIÓN
La multiplicación de las fuentes tiene su origen en lo que se llamó la web 2.0, una conjunción tecnológica y social. La tecnología proporcionaba, con muy bajo costo, gestores de contenidos que permitían a los autores publicar sin necesidad de tener conocimientos técnicos de la web.
Por otra parte, se extendió una tendencia social de compartir experiencias personales y conocimiento. Esto llevó a la creación de blogs o bitácoras, algunas veces sobre temas personales y otras sobre especializados.
Los blogs encontraron en las redes sociales una manera muy eficaz de dar visibilidad a sus contenidos. En épocas tempranas de las redes sociales, los blogs superaron en menciones a los medios convencionales en la movilización del 15M (Congosto M, 2011). A partir de ese momento, los medios perdieron fuerza en el establecimiento de la agenda.
Los blogs son publicaciones firmadas por un autor o por un grupo de autores, algunas veces amparados bajo un pseudónimo para disponer de más libertad de expresión. Una segunda ola de publicaciones fueron un tipo de periódicos digitales, que podemos calificar de ‘pseudomedios’, en los que la autoría desaparecía y cuyos contenidos estaban orientados a captar la atención con llamativos titulares.
Estas nuevas fuentes eran mucho más oscuras, alguna de ellas enfocadas a la desinformación. Durante la pandemia algunos de estos ‘pseudomedios’ aumentaron su visibilidad, llegando a audiencias mensuales entre cien mil y un millón de accesos (Cid, 2020).
Hoy día, han cambiado el tipo de contenidos, siendo las redes sociales de mayor crecimiento las que utilizan video. Los contenidos los generan una multitud de individuos, muchos de ellos jóvenes. Al igual que en los blogs, que comenzaron tratando temas personales para dar paso a contenidos informativos, las plataformas de vídeo han empezado a utilizarse para la difusión de noticias (Newman, 2022).
En la plataforma de vídeos TikTok existe una brecha generacional y otra geográfica para el consumo de noticias. Los jóvenes tienden a considerar TikTok como una fuente de información más que los adultos y el seguimiento de noticias por TikTok se está extendido preferentemente en Asia, Latinoamérica y África.
El escenario actual muestra una proliferación de fuentes multimedia a las que es muy complicado clasificar como fiables. La capacidad de manipulación ha crecido no sólo por la multiplicación de contenidos opacos, sino por la forma en que se viralizan.
LOS BOTS, LOS PERFILES FALSOS
Una de las características de las redes sociales es su capacidad para la difusión. De una forma natural, la propagación se va realizando entre las personas conectadas. Generalmente las noticias con titulares más llamativos tienen más probabilidades de difundirse, pero no siempre esto es suficiente. Cuando se tiene un interés especial en que una noticia llegue a mucha gente, se utilizan recursos artificiales de amplificación o de falsa realidad.
Una manera de amplificar artificialmente es mediante perfiles automatizados, llamados bots, que están programados para difundir los contenidos de ciertos perfiles o temas. Se agrupan en “granjas” que pueden llegar tener decenas de miles de bots y se les dota de un algoritmo que difunda de forma aleatoria para evitar ser detectados. Estas infraestructuras requieren de una gran inversión y sólo están al alcance de grandes agencias de comunicación o de estados.
A la amplificación artificial se le añade la falsa realidad, también llamado astroturfing, que consiste en la creación de perfiles falsos que se hacen pasar por reales. Su objetivo es hacer creer que una marca o una causa tiene más apoyo del que en realidad tiene. Detrás de ellos hay personas reales que pueden manejar entre cinco y veinte cuentas. Es un recurso con menos capacidad de amplificación que los bots, pero que puede tener mayor impacto cuando adquiere muchos seguidores y se conecta con redes de usuarios a los que puede manipular fácilmente.
En un principio utilizaban como avatar fotos de repositorios o imágenes robadas de otros usuarios. Cuando por este motivo fueron descubiertos, usaron las imágenes GAN (Generative Adversarial Networks), también detectadas.
Actualmente cuidan que la foto de perfil no pueda ser encontrada. Procuran que la fecha de creación no sea reciente, para no levantar sospechas de estar alineados a una campaña. Para ello reutilizan cuentas antiguas, borrándoles los mensajes, cambiándoles de nombre y avatar. Tras el cambio, suelen modificar las políticas de seguimiento, la actividad y la frecuencia de publicación.
Estos recursos son utilizados por agencias de comunicación para programas de telerrealidad, para campañas políticas o activismo. También puede haber detrás de ellos una persona que disponga de tiempo y que tenga una motivación ideológica. Hay varios casos de estos perfiles que llegaron a tener más de cincuenta mil seguidores como @anonymus_es un perfil de derecha radical, @superwoman_roja una activista pro-independentista, @Irinamar10, una activista pro-rusa.
Existe una conexión bidireccional entre campañas de programas de telerrealidad y política, de una se pasa a otra y viceversa. Por ejemplo @investidurapsoe y @patybooksreader pasaron de apoyar a personajes de la telerrealidad a la política, mientras @mei_rito lo hizo al revés.
Además de crear falsa realidad los perfiles falsos se utilizan para lanzar bulos o para ayudar a su difusión.
CREACIÓN DE BULOS Y SU DIFUSIÓN
Hay dos formas de generar bulos, planificándolos o improvisarlos. Los bulos planificados suelen ajustarse a una temática recurrente: inmigración, feminismo y LGTBI, conflictos bélicos o pandemias. En el caso de las pandemias pueden ser muy dañinos por atentar contra la salud, incitando a utilizar remedios de pseudociencia o a no vacunarse.
Estos bulos planificados se pueden generar desde ‘pseudomedios’ o diseñando mensajes con un contenido sugestivo. Generalmente utilizan vídeos descontextualizados o imágenes impactantes que no se corresponden a hechos descritos.
Los bulos improvisados se adaptan a un suceso reciente que esté captando mucha atención. Se aprovecha la ocasión para distorsionar y manipular. Los bulos pueden lanzarse desde perfiles falsos. Normalmente, no son cuentas con muchos seguidores, por el riesgo de sufrir una suspensión si son denunciados y perder un recurso valioso. Aunque el origen y las primeras difusiones no sean orgánicas, la difusión mayor se realiza por usuarios reales.
El bulo se lanza a un entorno receptivo, que se hará eco rápidamente, con un efecto multiplicador cuando los perfiles tengan muchos seguidores.
Los bulos planificados pueden partir de varios focos y lanzarse en varios países y en distintos idiomas. Son conocidos los bulos de sanitarios golpeados por inmigrantes, las teorías de la conspiración sobre Bill Gates, las muertes de personas vacunadas contra el Covid-19, etc. Monitorizar su alcance y su difusión es más complicado que en los bulos improvisados. Como la forma de operar es similar, aunque en menor escala, puede servir para ver su propagación en un bulo improvisado durante la crisis de la viruela del mono.
Cuando la viruela del mono acaparaba titulares de los medios, se lanzaron dos bulos en Twitter casi simultáneos. Uno publicado por un médico alertaba de un viajero del Metro de Madrid con viruela del mono. Adjuntaba una foto de sus piernas y relataba una conversación con él, indicándole lo contagiosa que era su enfermedad. Se difundió ampliamente, causando tanta alarma, que incluso el médico fue entrevistado en la televisión.
La persona fotografiada se reconoció en la foto y explicó que lo tenía era una enfermedad conocida como neurofibromatosis y que jamás había hablado con dicho médico.
Por otro lado, el perfil @mei_rito, posiblemente falso, publico un hilo en Twitter contando cómo se había contagiado de la viruela del mono tras comprar un monopatín en Wallapop. Alcanzó más de 25.000 retransmisiones a pesar de tener sólo 2.300 seguidores. Este perfil, que había sido utilizado para la política con varias identidades, se había transformado en un fan de los programas de telerrealidad.
El mensaje se distribuyó inicialmente entre un conjunto de cuentas que apoyaban a Rocío Carrasco. De este grupo saltó a divulgadores, que se limitaron a darle visibilidad sin verificarlo, alcanzando una red activismo político, donde se viralizó.
Los bulos se lanzan en distintas redes sociales y cuando se viralizan saltan a otras redes. Una vez que alcanzan un nivel de difusión, el impulso de la propagación se efectúa por personas normales que dan crédito al bulo.
LA DIFICULTAD DE ANALIZAR LOS BULOS DE LAS REDES SOCIALES
La obtención de los datos de las redes sociales se limita a las plataformas abiertas, es decir, aquellas cuyos mensajes pueden ser leídos por cualquier persona. Los bulos pueden circular por redes cerradas sin que se puedan rastrear hasta que afloran como mensajes públicos.
La capacidad de extracción de datos en las plataformas abiertas está en fuerte retroceso. Por un lado, dificultan la extracción automática de datos de sus webs (scraping). Por otro, los accesos vía API (interfaz de programación de aplicaciones) que eran gratuitos, ahora requieren elevadas cantidades fuera del alcance de los investigadores.
Twitter era la plataforma de referencia de los investigadores para extraer datos. Antes de su adquisición por Elon Musk, había una opción para académicos que ofrecía amplias posibilidades de descarga. Tras su compra, fueron progresivamente cerrándose los accesos para académicos y finalmente en diciembre de 2023, todos los accesos gratuitos.
En las condiciones actuales, es imposible analizar de forma automática la propagación de los bulos en Twitter. Sin embargo, en TikTok aún existe una API para académicos, pero limitada a dos años de uso.
LA NECESIDAD DE LA EXISTENCIA DE LOS VERIFICADORES
Los verificadores son un freno para la difusión de los bulos. Trabajan en dos frentes: la detección de los bulos y los desmentidos. Desafortunadamente, es imposible que puedan detectar todos los bulos, quedando limitados a los más difundidos. No obstante, realizan una función educadora a fuerza de mostrar los desmentidos sobre ciertos temas recurrentes.
Cuanto más rápido es el desmentido, más eficacia tiene. En el caso del audio falso en el que intentaban hacer creer que la ministra de Asuntos Exteriores, Arancha González Laya, había confundido a Joe Biden con Bin Laden en una entrevista, el desmentido fue tan rápido que el bulo apenas duró unas horas.
Para combatir la desinformación es crucial la concienciación de su existencia, la implicación ciudadana para denunciarla, evitar su difusión y difundir los desmentidos. Los verificadores tienen abiertos chats para denunciar los bulos que llegan por redes cerradas, los más difíciles de detectar, pero los bulos van a ser cada vez más difíciles de distinguir.
A QUÉ RETOS NOS ENFRENTAMOS
Nos adentramos en una oscuridad para el análisis de los contenidos de las redes sociales. Las plataformas han ido cerrando los accesos asequibles a los investigadores. La única esperanza es la ley europea The Digital Services Act (DSA, 2022) que obliga a las plataformas a dar acceso a investigadores acreditados, previa solicitud debidamente justificada de cumplir los requisitos de la ley.
Nos enfrentamos al despliegue de la Inteligencia Artificial (IA), que como toda tecnología puede usarse para bien o para mal. Puede servir tanto para detectar automáticamente los bulos como para generarlos de una manera más automatizada.
Con la IA se puede clonar una web en segundos, generar imágenes, audio y vídeo sintéticos cada vez más reales. El bajo costo y la rapidez de creación de este tipo de contenidos unido a una difusión con micro-segmentación, nos pone en el peor de los escenarios.
Durante el año 2024 están previstas elecciones importantes en más de cuarenta países. El informe de tendencias y predicciones de Reuters (Newman, 2024) dice:
Las grandes empresas de tecnología como Meta, Google y TikTok están reforzando sus defensas, exigiendo a los usuarios y partidos políticos que declaren cualquier uso de IA al cargar contenido, impulsando los equipos de integridad electoral y trabajando con verificadores de datos para identificar rápidamente contenido falso.
Según el informe de la European External Action Service (EEAS) sobre las amenazas manipulación e injerencia extranjeras (EEAS, 2024), la Inteligencia Artificial no es (todavía) la mayor amenaza según los casos analizados durante el año 2023. No obstante, en el año 2024 repleto de elecciones, entre ellas las de Estados Unidos, esto puede cambiar. Las elecciones presidenciales de USA siempre marcan las tendencias de la desinformación que luego se aplican a otros países.
Con este panorama tan poco prometedor, solo queda tomar conciencia de la situación y luchar desde las plataformas, los verificadores y los usuarios para que la manipulación no nos arrase como un tsunami. La divulgación y la educación digital son imprescindibles para sobrevivir a los peligros de la desinformación.
REFERENCIAS BIBLIOGRÁFICAS:
Cid, G. (2020). 1M de clics al mes por cabrearte: las webs de desinformación se disparan con el covid. https:// www.elconfidencial.com/tecnologia/2020-05-08/webs-desinformacion-trafico-bulos-extrema_2582735/
Congosto, M. (2011). Documentos 15M. http://www.barriblog.com/2011/06/documentos-15m/
DSA. (2022). The Digital Services Act (DSA), artículo 40, acerca de Data access and scrutiny. https:// www.eu-digital-services-act.com/Digital_Services_Act_Article_40.html
EEAS. (2024). 2nd EEAS Report on Foreign Information Manipulation and Interference Threats. https://www.eeas.europa.eu/sites/default/files/documents/2024/EEAS-2nd-Report%20on%20 FIMI%20Threats-January-2024_0.pdf
Newman, N. (2022). How publishers are learning to create and distribute news on TikTok. https:// reutersinstitute.politics.ox.ac.uk/how-publishers-are-learning-create-and-distribute-news-tiktok
Newman, N. (2024). Journalism, media, and technology trends and predictions 2024. https:// reutersinstitute.politics.ox.ac.uk/journalism-media-and-technology-trends-and-predictions-2024
Pew Research Center. (2022). Social Media Seen as Mostly Good for Democracy Across Many Nations, But U.S. is a Major Outlier. https://www.pewresearch.org/global/2022/12/06/social-media-seen-as- mostly-good-for-democracy-across-many-nations-but-u-s-is-a-major-outlier/