La búsqueda en la App Store sugiere e incluso promueve aplicaciones de «nudificación», según muestra un informe – MacMagazine

Una nueva encuesta de la Proyecto de Transparencia Tecnológica (TTP) mostró cómo la herramienta de búsqueda Tienda de aplicaciones ha estado dirigiendo a los usuarios a aplicaciones de inteligencia artificial capaces de “desnudar” fotografías de terceros sin consentimiento.

La organización, cabe recordar, ya había publicado a principios de año un estudio similar que identificaba nada menos que 47 apps de este tipo en la plataforma Apple, que prohíbe expresamente este tipo de recursos en sus directrices de revisión.

Además de quitar la ropa a personas (en la inmensa mayoría de los casos, mujeres) en las fotografías, algunas de estas apps también son capaces de generar vídeos pornográficos con profundo e incluso crear chatbots eróticos Basado en una persona real.

Más precisamente, términos como “desnudar” (“desnudar”), «desnudo» (“desnudarse”) y “desnudo profundo” estarían provocando que múltiples apps de esta naturaleza aparezcan sin ningún tipo de censura en las búsquedas, incluso como anuncios pagados, lo que complica aún más la situación para Apple.

Para probar las aplicaciones, TTP utilizó fotografías de mujeres falsas generadas por IA. Con aplicaciones que ofrecían edición de imágenes o generación de videos, TTP subió una foto de una mujer vestida y le indicó a la aplicación que la desnudara. Utilizando aplicaciones de intercambio de rostros, TTP subió una foto de una mujer vestida e indicó a la aplicación que intercambiara rostros con una mujer desnuda. TTP solo utilizó las funciones gratuitas disponibles en las aplicaciones. En algunos casos, las aplicaciones no tenían funciones gratuitas, pero TTP pudo ver que ofrecían modelos de inteligencia artificial para crear imágenes de mujeres desnudas o con poca ropa usando fotos cargadas.

Del 46 aplicaciones del tipo que apareció en la App Store, 18 de ellos (o 39,1%) eran capaces de nudificar o desnudar a las mujeres. Cuando sólo tomamos en cuenta el 10 mejores de resultados de búsqueda, 40% de ellos tenía la capacidad de generar contenido inapropiado.

Google Play, la principal tienda de Android del mundo, obtuvo un resultado ligeramente peor, mostrando 49 programas de este tipo. De ellos, 20 (o el 40,8%) tenían alguna de las funciones antes mencionadas.

Aún según la información, las aplicaciones identificadas por la encuesta fueron descargadas 438 millones de vecesademás de generar ingresos por 122 millones de dólares. Sin embargo, lo más alarmante tal vez sea el hecho de que 31 de las aplicaciones identificadas aparecían listadas como adecuado para menores.

Como destaca TTP, Apple prohíbe las aplicaciones que sean “ofensivas, insensibles, repugnantes, diseñadas para causar asco, de gusto extremadamente dudoso o simplemente atemorizantes”, así como aquellas que contengan “contenido pornográfico o exageradamente sexual”. Google, a su vez, prohíbe cualquier software que “contenga o promueva contenido sexual”, incluidas “poses sexualmente sugerentes en las que el sujeto esté desnudo, borroso o con poca ropa”.

Vale la pena señalar que esta encuesta se produce poco después de que una carta revelara que Apple amenazó con eliminar aplicaciones de X y Grok de la App Store precisamente porque son capaces de generar imágenes sexualizadas de terceros sin consentimiento.

Hablando de Grok, al ser interrogado por TTP, el desarrollador de una de las aplicaciones que aparecían en los resultados de búsqueda, Masaki Matsushita, dijo que su herramienta se basaba precisamente en la tecnología de Grok. xAI para generar imágenes de IA, pero que «no tenía idea de que fuera capaz de producir contenido tan extremo». Añadió: «Hemos reforzado la configuración de moderación para la generación de imágenes, por lo que no creo que se pueda generar más este tipo de contenido», aunque continúa usando Grok en su aplicación.

La extensa encuesta se puede ver íntegramente en esta página.