La inteligencia artificial (IA) se ha convertido en una herramienta clave para generar contenido de alta interacción en redes sociales, especialmente aquel que provoca emociones intensas como la rabia. Esta estrategia busca monetizar la atención o exacerbar el malestar social, difundiendo desinformación y narrativas xenófobas sobre migrantes.
El impacto de la IA en la desinformación
El contenido generado con IA a menudo exagera la presencia de migrantes, los muestra cometiendo delitos o difunde falsas manifestaciones. Estos materiales deshumanizan y caricaturizan, logrando un impacto más potente que el texto.
Ejemplos en América Latina y Europa
En Argentina, imágenes de supuestas migrantes bolivianas embarazadas detenidas en la frontera generaron 6 mil millones de visualizaciones en un día. En México, circularon fotos de migrantes venezolanos saqueando y de una mujer cubana quemando una bandera.
En Alemania, se promovió un falso candidato musulmán a la alcaldía de Bielefeld con propuestas sobre refugiados; el candidato no existe y no hay elecciones hasta 2030. En Londres, videos con carteles en árabe o jóvenes amenazantes, e imágenes de una Londres distópica en 2050 por inmigración, también son generados con IA.
¿El poder de la IA en la desinformación?
La inteligencia artificial otorga nuevas características a la desinformación. Los videos con IA suelen ser caricaturescos y exagerados, deshumanizando y caricaturizando a "el otro" de manera más potente. La IA impulsa la creación de personajes sintéticos que fomentan el miedo y el descontento social, dando una apariencia de realidad a narrativas xenófobas, incluso si los relatos son inventados. Muchos usuarios perciben estos contenidos como reales.
Motivaciones y monetización
La motivación política es una explicación recurrente detrás de estos contenidos, pero los incentivos económicos también son centrales. "Fábricas de contenido basura" apuntan a grupos demográficos específicos por razones financieras. Para monetizar cuentas en redes sociales, se necesita el mayor número de interacciones. La rabia es un motor efectivo para generar reacciones, lo que llevó al concepto de ragebait a ser la palabra del año en 2025 según el Diccionario de Oxford. Algunas cuentas antiinmigrantes sobre Londres son gestionadas desde fuera del país con fines de lucro.
Avatares políticos y protestas falsas
En Brasil, el caso de Doña María reveló un avatar de IA criticando al gobierno de Lula Da Silva, manejado por una persona para un ingreso extra. El caso está en el Tribunal Superior Electoral. En Argentina, surgieron "influencers" políticas como Lucía Libertaria y Julia Riojana que difunden mensajes con IA.
A nivel global, cientos de videos de supuestas protestas son creaciones de IA diseñadas para lucrar con la polarización. Se detectaron más de 500 cuentas que publican estos contenidos, incluyendo videos de iraníes protestando o manifestantes británicos en marchas.
Chequeado
