La ‘basura’ de la IA está transformando las redes sociales y se avecina una reacción negativa

Escuche a Joe leer este artículo

La imagen mostraba a dos niños del sur de Asia, demacrados y pobres. Por alguna razón, a pesar de sus rasgos infantiles, lucían barbas espesas. Uno de ellos no tenía manos y solo tenía un pie. El otro sostenía un cartel que anunciaba su cumpleaños y pedía «me gusta».

Inexplicablemente, están sentados en medio de una calle transitada bajo una lluvia torrencial con un pastel de cumpleaños. La imagen está llena de indicios de que fue creada con IA. Pero en Facebook se volvió viral con casi un millón de «me gusta» y emojis de corazón.

Algo se quebró en el interior de Théodore.

«Me dejó atónito. Las absurdas imágenes creadas por IA estaban por todo Facebook y generaban una enorme popularidad sin que nadie se enterara. Me pareció una locura», afirma este estudiante parisino de 20 años.

Comenzaron a aparecer temas comunes: religión, ejército o niños pobres haciendo cosas conmovedoras.

«Los niños del tercer mundo que hacen cosas impresionantes siempre son populares, como un niño pobre en África que construye una estatua increíble con basura. Creo que a la gente le parece sano, así que los creadores piensan: ‘Genial, inventemos más cosas así'», dice Théodore.

La cuenta de Théodore pronto creció hasta tener más de 133.000 seguidores.

La avalancha de contenido basura de IA —que él define como vídeos e imágenes falsos y poco convincentes, creados rápidamente— es imparable. Las empresas tecnológicas han adoptado la IA. Algunas afirman que están empezando a tomar medidas drásticas contra ciertas formas de «basura» de IA, aunque muchas redes sociales parecen seguir repletas de este contenido.

En tan solo un par de años, la experiencia de usar las redes sociales ha cambiado profundamente. ¿Cómo sucedió y qué efecto tendrá en la sociedad?

Y, quizás lo más urgente de todo: ¿cuánto les importa realmente a los miles de millones de usuarios de las redes sociales?

En octubre, durante otra jubilosa presentación de resultados, el director ejecutivo de Meta, Mark Zuckerberg, declaró felizmente que las redes sociales habían entrado en una tercera fase, que ahora se centra en la IA.

«Primero fue cuando todo el contenido provenía de amigos, familiares y cuentas que seguías directamente.

«La segunda fue cuando agregamos todo el contenido de los creadores. Ahora que la IA facilita la creación y remezcla de contenido, vamos a agregar otro enorme corpus de contenido», dijo a los accionistas.

Meta, que gestiona las redes sociales Facebook, Instagram y Threads, no solo permite publicar contenido generado por IA, sino que también ha lanzado productos para facilitar su creación. Generadores de imágenes y vídeos, así como filtros cada vez más potentes, se ofrecen ahora de forma generalizada.

Al ser contactado para obtener comentarios, Meta le indicó a la BBC la conferencia telefónica sobre resultados de enero. En dicha conferencia, el multimillonario afirmó que la empresa estaba apostando aún más por la IA y no mencionó ninguna medida drástica contra la basura.

«Pronto veremos una explosión de nuevos formatos de medios que son más inmersivos e interactivos, y sólo son posibles gracias a los avances en inteligencia artificial», dijo Zuckerberg.

El director ejecutivo de YouTube, Neal Mohan, escribió en su blog de visión para 2026 que solo en diciembre más de un millón de canales de YouTube utilizaron las herramientas de inteligencia artificial de la plataforma para crear contenido.

«Así como el sintetizador, Photoshop y CGI revolucionaron el sonido y las imágenes, la IA será una bendición para los creativos que estén listos para involucrarse», escribió.

El director ejecutivo también reconoció la creciente preocupación por el contenido de baja calidad, también conocido como basura de IA. Añadió que su equipo está trabajando para mejorar los sistemas para detectar y eliminar contenido repetitivo de baja calidad.

Pero también descartó emitir juicios sobre lo que debería o no permitirse. Señaló que contenidos que antes eran nicho, como el ASMR (sonidos relajantes diseñados para provocar un hormigueo en el cuero cabelludo) y los videojuegos en vivo, ahora son comunes.

Según una investigación de la empresa de inteligencia artificial Kapwing, el 20% del contenido que se muestra en una cuenta de YouTube recién abierta es ahora «vídeos de inteligencia artificial de baja calidad».

Los videos cortos en particular fueron un punto de interés: Kapwing descubrió que aparecían en 104 de los primeros 500 clips de YouTube Shorts mostrados a una nueva cuenta creada por los investigadores.

La economía de los creadores parece ser un gran impulsor, ya que las personas y los canales pueden generar ingresos a partir de la interacción y las visualizaciones. A juzgar por las visualizaciones en algunos canales y vídeos de IA, las personas se sienten atraídas por el contenido, o al menos, por los algoritmos que determinan lo que vemos.

Según Kapwing, el canal de inteligencia artificial con más visitas es Bandar Apna Dost de India, que tiene 2.070 millones de visitas y genera para sus creadores unas ganancias anuales estimadas en 4 millones de dólares (2,9 millones de libras esterlinas).

Pero también se está produciendo una reacción violenta.

Ahora es común ver una oleada furiosa de comentarios que critican el contenido detrás de muchos videos virales de IA.

Théodore, el estudiante parisino, contribuyó a impulsar esta reacción.

Usando su recién adquirida influencia en X, se quejó a los moderadores de YouTube sobre la avalancha de extrañas caricaturas de IA que obtenían muchísimas visualizaciones. En su opinión, eran perturbadoras y dañinas, y en algunos casos le parecían dirigidas a niños.

Los videos se llamaban cosas como «Mamá gata salva a gatito de parásitos intestinales mortales» y mostraban escenas sangrientas.

Otro clip corto mostró a una mujer en camisón que come un parásito y luego se convierte en un monstruo gigante y enojado que finalmente es curado por Jesús.

YouTube eliminó los canales, avisándonos que lo hicieron porque infringían las normas de su comunidad. Afirmaron que su objetivo es conectar a sus usuarios con contenido de alta calidad, independientemente de su origen, y que trabajan para reducir la difusión de contenido de baja calidad basado en IA.

Pero esa experiencia, y muchas otras similares, han desgastado a Théodore.

Incluso sitios de estilo de vida aparentemente acogedores como Pinterest (el foro de recetas e ideas de diseño de interiores) se han visto afectados.

Los usuarios se han sentido tan frustrados por la avalancha de basura generada por IA que la empresa introdujo un nuevo sistema de exclusión voluntaria para el contenido generado por IA, pero esto depende de que los usuarios admitan que sus imágenes de la casa perfecta están hechas por IA.

En mi feed (y soy consciente de que el feed de cada uno es diferente, incluidos los comentarios), la reacción contra las tonterías de la IA se ha vuelto incesante.

Ya sea TikTok, Threads, Instagram o X, parece haber un movimiento de poder popular contra este contenido.

A veces, la cantidad de «me gusta» en los comentarios sobre la reacción contra la IA supera con creces la publicación original. Tal es el caso de un video reciente que muestra a un snowboarder rescatando a un lobo de un oso. El video en sí tuvo 932 «me gusta», frente a los 2400 de un comentarista que escribió: «Levanten la mano si están cansados ​​de esta mierda de la IA».

Pero por supuesto todo esto alimenta a la bestia.

Toda interacción es buena para las plataformas de redes sociales, donde mantenernos navegando es clave.

Entonces, ¿realmente importa si el increíble, conmovedor o impactante vídeo en tu muro social es real o no?

Emily Thorson, profesora asociada de la Universidad de Syracuse en Estados Unidos, especializada en política, desinformación y percepciones erróneas, dice que depende de lo que la gente esté haciendo en la plataforma de redes sociales.

«Si una persona usa una plataforma de videos cortos solo para entretenerse, su criterio para determinar si algo vale la pena es simplemente ‘¿es entretenido?'», afirma. «Pero si alguien usa la plataforma para aprender sobre un tema o conectar con miembros de la comunidad, podría percibir el contenido generado por IA como más problemático».

Lo que la gente piensa sobre la basura de la IA también depende de cómo se comunica.

Si algo se presenta claramente como una broma, parece tomarse como tal. Pero cuando la basura de la IA se ha creado específicamente para engañar, puede enfadar a la gente.

Un video generado por IA que vi recientemente es emblemático: un video increíblemente realista, al estilo de la historia natural, de una asombrosa cacería de leopardo. En los comentarios, algunos espectadores se dejaron engañar; otros dudaron.

«¿De qué documental es?», preguntó un comentarista. «Por favor, es la única manera de demostrar que no hay IA».