Según una investigación publicada este miércoles por una organización que monitorea el antisemitismo, el algoritmo de recomendaciones de Instagram puede fácilmente dirigir a los usuarios desde contenido popular de desarrollo personal hacia material antisemita virulento y propaganda nazi.
Para este proyecto, el Centro de Investigación sobre el Antisemitismo del Movimiento para Combatir el Antisemitismo (CAM) utilizó dos cuentas con perfiles neutrales que seguían a creadores populares en el ámbito del fitness y el bienestar, participando en tres sesiones diarias de 45 minutos en línea.
Para evitar sesgos algorítmicos, los investigadores observaron estrictamente las publicaciones sin dar “me gusta”, compartir ni comentar ninguna, según el informe.
También puede interesarte
Sin ninguna intención activa por parte del usuario, ambas cuentas recibieron rápidamente contenido que promovía teorías conspirativas y discursos de odio explícitos.
Al tercer día, el 31% del contenido de la cuenta de bienestar y el 18% del contenido de la cuenta de fitness consistían en antisemitismo explícito, según CAM.
Durante los tres días, el 32 % de los videos de bienestar y el 24 % de los videos de fitness contenían antisemitismo codificado o explícito.
«A pesar de partir de diferentes puntos de partida, ambas cuentas fueron dirigidas de forma independiente hacia los mismos patrones narrativos antisemitas, tropos, lógica de chivo expiatorio y, en varios casos, los mismos contenidos específicos», señala el informe. «Esto sugiere que el problema no es solo un fenómeno a nivel comunitario, sino una falla más profunda en la arquitectura algorítmica».
El informe se concibe como una «investigación exploratoria que genera hipótesis», no como una encuesta estadísticamente válida, y presenta varias limitaciones metodológicas, incluido el tamaño reducido de la muestra, según CAM.
Meta no respondió a la solicitud de comentarios antes de la publicación de este artículo.
Según el organismo de control, los temas se eligieron por su proximidad a narrativas antisistema o conspirativas.
Parte del ecosistema de redes sociales de bienestar se solapa con narrativas antisistema, como la desconfianza hacia las farmacéuticas y la idea de una “verdad oculta” en torno a la salud y la sociedad moderna.
Asimismo, el contenido sobre fitness y desarrollo personal suele coincidir con la idea de “escapar de la matrix” y los mensajes de la “manosfera”, centrados en la decadencia social y la pérdida de valores tradicionales, según el informe.
Entre los primeros vídeos mostrados a la cuenta de bienestar, había uno que sugería que los productos kosher son menos ultraprocesados que los no kosher, aparentemente debido a conspiraciones judías, y otro que sugería que la guerra entre Israel e Irán se utilizó para desviar la atención de un complot globalista para provocar alergia a la carne en los estadounidenses.
Dos días después, se mostraron vídeos más extremos en los que influencers hablaban de Hitler y acusaban a los judíos de controlar centralmente las instituciones.
“Estos temas pueden hacer que el contenido sea vulnerable a la vinculación algorítmica con narrativas conspirativas más extremistas”, concluye el informe.
El estudio identificó un claro “marco de escalada” de cinco niveles que llevó a los espectadores a pasar del contenido convencional a discursos antisistema, luego a contenido conspirativo, a narrativas antisemitas encubiertas y, finalmente, al antisemitismo explícito. El informe señala que varios “grupos narrativos” identificables, como la corrupción en las industrias alimentaria y médica, dirigen a los usuarios hacia tipos de contenido más extremos.
“No hace falta buscar contenido antisemita para encontrarlo en Instagram”, afirmó Oliver Marks, investigador asociado de CAM. “Cuando las plataformas optimizan la interacción sin las salvaguardas suficientes, pueden terminar amplificando el odio a un público masivo”.
Las organizaciones que vigilan el antisemitismo llevan años advirtiendo que las empresas de redes sociales no están haciendo lo suficiente para evitar que el contenido dañino llegue a los usuarios. En abril, la Liga Antidifamación informó que las redes supremacistas blancas, los simpatizantes de grupos terroristas y los vendedores de productos nazis han operado prácticamente sin control en Instagram desde que la empresa dejó de usar la automatización para detectar y eliminar el discurso de odio.
El mes pasado, CAM informó haber descubierto una red de más de 80 “rabinos” falsos generados por IA que se utilizaban para promover estereotipos antisemitas en Instagram, junto con redes similares en YouTube y TikTok. Meta, la empresa matriz de Instagram, cerró esa red tras el informe, según CAM, y espera que Meta vuelva a tomar medidas.
Reproducción autorizada con la mención siguiente: @EnlaceJudio
