Al descubierto un esquema que multiplica cuentas y pone en jaque la confianza: Influencers falsos de IA en redes vendían publicidad como personas reales.
Doublespeed: La fábrica de influencers quedó expuesta tras un hackeo que permitió el control de una granja de teléfonos con más de 1.100 dispositivos, revelando cómo se gestionan cuentas generadas por IA para promocionar productos en TikTok e Instagram sin la debida transparencia, demostrando que la potencia de la inteligencia artificial actualmente supera las expectativas del público general.
El ataque mostró el alcance operativo y las prácticas comerciales de la empresa. Un hacker anónimo denunció a la compañía y aseguró haber informado la vulnerabilidad el 31 de octubre y, según su relato, pudo acceder al backend (la plataforma tecnológica interna de la compañía), ver qué teléfonos estaban en uso, qué gestores (PC) controlaban cada dispositivo, las cuentas de redes sociales asignadas, los proxies y sus contraseñas, además de las tareas pendientes; en sus palabras: “Podía ver los teléfonos en uso, qué gestor tenían, qué cuentas de TikTok estaban asignadas, los proxies en uso (y sus contraseñas) y las tareas pendientes. También el enlace para controlar los dispositivos de cada gestor”. El acceso permitió comprobar que alrededor de 400 cuentas estaban vinculadas a la operación y que unas 200 promovían productos activamente, muchas veces sin etiquetar el contenido como publicidad ni que las personas eran influencers falsos de IA, en otro caso de desinformación apoyado por inteligencia artificial.
El caso plantea riesgos regulatorios y éticos sobre la proliferación de perfiles no auténticos. La investigación mostró ejemplos concretos de las prácticas de Doublespeed: Cuentas que difundían aplicaciones de aprendizaje de idiomas, apps de citas y religiosas, suplementos alimenticios, y hasta un masajeador; en algunos casos, las imágenes y textos en los productos eran claramente generados por IA, pero los más fotorrealistas eran indistinguibles a ojos del público. El hacker advirtió además la posibilidad técnica de usar los teléfonos para cómputo o spam y afirmó: “Podría haber usado sus teléfonos como recursos de cómputo, o tal vez para spam. Aunque son solo teléfonos, son alrededor de 1.100 con acceso a proxies, gratis”. TikTok reaccionó etiquetando algunas cuentas como generadas por IA tras ser alertada, pero la prácticas de masificación de contenido y actividad (click farms) sigue siendo un desafío para las plataformas debido a que se usan teléfonos reales con actividad simulada para falsificar un usuario humano.
El episodio obliga a repensar la regulación y la detección de influencers falsos de IA, como tambien a exigir mayor transparencia en la publicidad digital. Doublespeed, respaldada por el fondo de inversión a16z, mantiene planes de expansión de sus automatizaciones a otras redes como Reddit y X, lo que ilustra cómo la tecnología puede escalar campañas de publicidad tóxicas que vulneran políticas de identidad auténtica y etiquetado publicitario. Para anunciantes, plataformas y reguladores, la lección es clara: Se requieren controles técnicos más robustos, auditorías independientes y normas que obliguen a identificar contenido generado por IA, protegiendo así a usuarios y consumidores frente a prácticas que distorsionan la confianza en el ecosistema digital.
