Meta demanda a la aplicación Crush AI por publicidad engañosa
La empresa alegó que la app promocionó servicios de «desnudos falsos» en sus plataformas. Meta presentó una demanda en Hong Kong contra Joy Timeline HK, creadora de Crush AI, y anunció nuevas medidas para combatir este tipo de contenido.
«Publicidad engañosa y evasión de controles»
Meta acusó a Joy Timeline HK de sortear sus procesos de revisión para publicitar servicios de IA que generan imágenes sexuales falsas sin consentimiento. Según el blog de Meta, la empresa eliminó repetidamente los anuncios, pero la entidad «siguió colocando más publicidad».
La escala del problema
Según Alexios Mantzarlis, autor del boletín Faked Up, Crush AI ejecutó más de 8.000 anuncios en las primeras dos semanas de 2025. El 90% del tráfico de sus sitios web provenía de Facebook o Instagram. La app evadió controles creando cuentas con nombres variables como «Eraser Annyone’s Clothes» seguido de números.
El desafío de moderar la IA
Meta y otras plataformas como X o TikTok luchan por controlar el auge de apps que generan contenido explícito no consentido. Investigaciones revelaron que los enlaces a estas herramientas se dispararon en 2024. Meta ha prohibido búsquedas con palabras clave relacionadas, pero «eliminarlas por completo sigue siendo difícil».
Nuevas medidas tecnológicas
Meta desarrolló tecnología para identificar anuncios de servicios de «desnudos falsos», incluso sin mostrar nudismo. También amplió su lista de términos y emojis sospechosos. Desde enero de 2025, desarticuló cuatro redes que promocionaban estos servicios.
Un problema más allá de Meta
La compañía colabora con el programa Lantern (de Google, Snap y otras) para combatir la explotación infantil en línea. Además, apoya leyes como la Take It Down Act en EE.UU., que permite a los padres supervisar descargas de apps por menores.
Las plataformas en la mira
El caso refleja los retos de regular herramientas de IA generativa en redes sociales, especialmente para proteger a menores. Meta enfrenta presiones legales y sociales para garantizar seguridad sin sacrificar innovación.
Un largo camino por delante
La demanda marca un precedente en la lucha contra el mal uso de la IA, pero su efectividad dependerá de la cooperación entre empresas, legisladores y usuarios. Meta advierte que la batalla continúa.