Un video generado por IA muestra a un grupo de jóvenes, en su mayoría negros, con pasamontañas y chaquetas acolchadas, deslizándose por un tobogán hacia una piscina sucia con basura flotando en la superficie. El pie de foto describe la escena como un parque acuático financiado con fondos públicos en Croydon.
Estos videos falsos se han convertido en parte de una tendencia mucho más amplia: personas influyentes y creadores de contenido en línea retratan ciudades occidentales como Londres, Manchester, San Francisco o Nueva York como invadidas por inmigrantes y delincuencia.
Se le ha denominado «porno de la decadencia». Estas narrativas —a menudo exageradas o inventadas, algunas claramente satíricas— alimentan la ira y la reacción racista de algunos espectadores que las toman al pie de la letra.
La BBC localizó al creador de los videos de inteligencia artificial de Croydon para el nuevo podcast Top Comment , que investiga las historias detrás de nuestros feeds en redes sociales. Descubrimos una nueva clase de impostor en línea, que se nutre de la interacción y elude la responsabilidad de cómo el contenido puede usarse para impulsar narrativas políticas divisivas.
La vergüenza de publicar falsificaciones parece haber desaparecido por completo.
«Si la gente lo viera y supiera inmediatamente que es falso, simplemente se desplazarían. El atractivo de los modelos de IA generativa es que parecen reales», me cuenta RadialB por teléfono. Se niega a compartir su nombre real, pero revela que tiene veintitantos años y es del noroeste de Inglaterra. Nunca ha estado en Croydon.
Me cuenta que la creación del parque acuático, zoológico y acuario con IA en Croydon fue «solo parte de la progresión de las cosas, que se volvieron cada vez más divertidas o absurdas». Varios de los videos «surgieron», dice, porque eran muy gráficos y mostraban a gente volando por toboganes.
Los jóvenes que aparecen en sus videos son «roadmen», un término coloquial para referirse a la juventud urbana, a menudo asociado con el narcotráfico, dice, y son «arquetipos culturales» que presenta con frecuencia en sus videos. Una publicación que retrata a roadmen en el Parlamento recibió ocho millones de visitas en un día, afirma.
Cuando se le pregunta sobre el racismo que sus videos a veces provocan en los comentarios, dice: «No lo niego», pero añade que «los comentarios se filtran», lo que significa que las plataformas de redes sociales eliminan los comentarios racistas. TikTok, Instagram y X tienen políticas que prohíben el abuso racista.
RadialB dice que cuando genera el contenido de IA, no pretende que las personas retratadas sean de una determinada raza o etnia, sino que solo utiliza el mensaje «camioneros con chaquetas acolchadas, chándales y pasamontañas» porque eso crea los personajes «más divertidos».
Aunque niega cualquier intención política, sus vídeos retratan instalaciones absurdas «financiadas por los contribuyentes». Dice que «la política inglesa es una especie de cloaca parasitaria» y sugiere «sustituirlas a todas por vigilantes de carreteras».
Varios de los videos presentan pequeñas etiquetas que dicen que están «generados por IA» o que contienen «medios sintéticos», de acuerdo con las políticas de Tiktok, Instagram y X sobre medios de IA, pero algunas personas que dejaron comentarios nos dijeron que las publicaciones los habían convencido genuinamente.
RadialB reconoce que los videos provocan reacciones políticas: «Podría publicar algo y habría personas de 50 y 60 años en los comentarios, furiosas y diciendo tonterías políticas». Pero sugiere que algunos comentarios son irónicos.
Otros usuarios se han opuesto a esta oleada de vídeos basura de IA, considerándolos un estereotipo racial injusto de su barrio. Un usuario negro de TikTok de Croydon llamado C.Tino publicó una respuesta, afirmando que la tendencia retrataba erróneamente la zona como un «gueto».
«Estos vídeos están haciendo que la gente piense que esto es la vida real. Ya se está saliendo de control», dijo.
Distorsionar la realidad
RadialB afirma que pudo empezar a crear este contenido gracias al enorme avance en la calidad y disponibilidad de las herramientas de IA. Esto reduce enormemente las barreras de entrada para cualquiera que quiera crear contenido falso, afirma.
Dice que muchas de las cuentas que comparten sus publicaciones probablemente lo hagan para obtener vistas y clics, y en un esfuerzo por monetizar el contenido en otras plataformas como Facebook.
Usuarios de lugares tan lejanos como Israel y Brasil afirmaron haber compartido los videos para generar interés o sumarse a la tendencia. Otras cuentas que publican en árabe, y que parecen estar ubicadas en Oriente Medio, también han compartido múltiples videos sobre el declive de Londres, incluyendo los de Croydon.
También he encontrado varios perfiles de TikTok que pretenden ser cuentas de noticias británicas, que solo comparten este tipo de vídeos generados por IA sobre Londres u otro contenido negativo sobre ciudades del Reino Unido y los Estados Unidos.
Los deepfakes se inscriben en una tendencia existente de vídeos que presentan ciudades europeas y estadounidenses en decadencia urbana debido a la delincuencia y la inmigración. A veces muestran ejemplos reales de robo de teléfonos, personas sin hogar, grafitis o problemas de drogas, pero omiten cualquier contexto más amplio.
Pero cada vez más utilizan la IA para distorsionar la realidad.
El YouTuber sudafricano Kurt Caz ha conseguido una audiencia de más de cuatro millones de suscriptores publicando vídeos de viajes con títulos como «¡Atacado por ladrones en Barcelona!» y «¡Amenazado en la peor ciudad del Reino Unido!».
Pero después de publicar un video reciente, llamado «Evita este lugar en Londres», fue acusado de usar inteligencia artificial para manipular la miniatura y reforzar su descripción de la capital del Reino Unido como una de «las ciudades más desordenadas» en las que ha estado.