Google y Apple retiraron decenas de aplicaciones de inteligencia artificial de sus tiendas oficiales luego de que una investigación del Tech Transparency Project (TTP) expusiera la presencia de herramientas capaces de generar desnudos y contenido sexual explícito. Estas prácticas contravienen las normas internas de ambas plataformas, que prohíben el material pornográfico o sexual sin consentimiento.
El informe de TTP identificó al menos 55 aplicaciones de este tipo disponibles en la Play Store y 47 en la App Store al momento del relevamiento. Tras la difusión de los hallazgos, Apple confirmó la eliminación de 28 apps, mientras que Google informó la suspensión de 31, según datos de la propia organización. Las aplicaciones permitían crear imágenes o videos manipulados mediante técnicas de deepfake, ya sea generando contenido desde cero o superponiendo rostros reales sobre cuerpos ajenos.
Uno de los aspectos más sensibles del informe es que varias de estas aplicaciones estaban disponibles para menores de edad. Algunas figuraban como aptas para mayores de 13 años en la Play Store y para mayores de 9 años en la App Store, lo que abría la posibilidad de que niños y adolescentes accedieran a herramientas para producir imágenes sexualizadas sin controles efectivos.
Entre las apps más populares mencionadas se encontraba DreamFace, con más de 10 millones de descargas. Aunque sus términos de uso prohíben explícitamente la creación de contenido sexual, TTP comprobó que la aplicación permitía generar videos con desnudos a partir de una imagen subida por el usuario, incluso en su versión gratuita y sin advertencias adicionales.
El informe también resaltó el impacto económico de este ecosistema: estas aplicaciones habrían acumulado unas 705 millones de descargas y generado alrededor de 117 millones de dólares en ingresos, de acuerdo con datos de AppMagic citados por TTP. Tras el reporte, ambas compañías solicitaron el listado detallado de apps señaladas y anunciaron revisiones adicionales, en un contexto de creciente preocupación global por el uso de la inteligencia artificial para generar contenido explícito y los riesgos que esto implica, especialmente para los menores.
.jpg)
.jpg)
.jpg)
