La IA crea influencers falsas que lucran con la empatía en redes sociales

Uno de los casos analizados mostraba cinturones vendidos por cerca de 40 dólares que podían encontrarse por una cuarta parte del precio en Shein. Los videos acumulaban millones de visualizaciones y miles de comentarios de usuarios convencidos de que estaban apoyando a una emprendedora real.

Del influencer falso al "blackface digital"

The Verge cita específicamente a Cienna Davis, investigadora de la University of Pennsylvania especializada en raza, tecnología e inteligencia artificial, quien describió estas prácticas como una forma de "digital blackface", una práctica en la que identidades raciales son recreadas artificialmente para obtener beneficios económicos, y señaló que la utilización de avatares de mujeres negras responde a estereotipos que las presentan como figuras más auténticas, resilientes o dignas de confianza ante ciertas audiencias.

La estrategia suele acompañarse de lo que la investigadora denomina como "empathy bait", contenido diseñado para provocar respuestas emocionales intensas que impulsen la interacción y, posteriormente, la compra de productos.

Jeremy Carrasco, fundador de la organización especializada en detección de videos sintéticos Riddance.ai, aseguró que su equipo identifica hasta 100 cuentas de este tipo cada día, distribuidas entre TikTok, Instagram y Facebook.

La situación recuerda a la llamada "Estafa Shein", detectada por investigadores de Kaspersky en América Latina en 2023. En ese esquema, los delincuentes utilizaban anuncios pagados en Google y colaboraciones con influencers para convencer a las víctimas de que podían ganar dinero calificando productos de Shein. Para participar debían realizar depósitos que supuestamente serían reembolsados, pero el dinero nunca regresaba a sus cuentas.

De acuerdo con Kaspersky, el éxito de estas campañas radica en la construcción de confianza, pues los estafadores aprovechan marcas reconocidas, publicidad pagada e incluso figuras influyentes para hacer parecer legítimos sus esquemas fraudulentos.

La diferencia es que ahora los delincuentes ya no necesitan convencer a una persona real para promocionar un fraude. La inteligencia artificial les permite crear sus propios portavoces digitales en cuestión de minutos.

El auge de los influencers sintéticos

La aparición de influencers generados mediante inteligencia artificial no es nueva, desde hace algunos años, marcas y agencias experimentan con personajes virtuales capaces de producir contenido las 24 horas del día sin las limitaciones asociadas a los creadores humanos.

Un análisis de PwC señala que los influencers virtuales representan un modelo de negocio en crecimiento gracias a los avances en inteligencia artificial generativa, animación y producción de contenido multimodal. Para las empresas, estas figuras ofrecen ventajas como disponibilidad permanente, control total sobre el mensaje y reducción de costos operativos.

Sin embargo, el problema surge cuando la audiencia no sabe que está interactuando con una entidad artificial y a su uso indebido por estafadores, con en el caso que reportó The Verge.

Diversos estudios han advertido que los usuarios tienen dificultades para distinguir entre personas reales y avatares generados por IA, iProov refiere que solo el 0.1% de las personas son capaces de detectar con precisión las falsificaciones generadas por inteligencia artificial.

Según PwC, los marcos normativos actuales apenas comienzan a abordar cuestiones relacionadas con la transparencia, la identificación de contenido generado por inteligencia artificial y la responsabilidad legal detrás de los influencers virtuales.

Para los usuarios, la principal recomendación sigue siendo verificar antes de comprar. Especialistas en ciberseguridad sugieren desconfiar de historias excesivamente emotivas utilizadas para impulsar ventas, investigar la existencia real de los negocios detrás de las cuentas y comparar precios antes de realizar una compra.

También es recomendable revisar si los perfiles cuentan con información verificable fuera de las redes sociales y evitar decisiones impulsivas motivadas por sentimientos de solidaridad o urgencia.