Encuentran y eliminan de la App Store aplicación que genera imágenes de desnudos – MacMagazine

Servicios que utilizan profundo crear imágenes de desnudos sin el consentimiento de terceros se están convirtiendo en un gran dolor de cabeza para la Manzana. Ayer, por ejemplo, comentábamos aquí que algunas de estas herramientas utilizaban el sistema de inicio de sesión de Apple en sus plataformas, a pesar de que la compañía lo prohibía.

Ahora le tocó el turno a un informe del 404 Medios arrojar luz sobre un problema muy similar e igualmente peligroso: la presencia de aplicaciones de este tipo en Tienda de aplicaciones. Apple, por supuesto, prohíbe el software que ofrece cualquier tipo de contenido pornográfico en su tienda, pero algunos de ellos han logrado pasar por alto su sistema de revisión, del cual la compañía está muy orgullosa, por cierto.

El periodista Emanuel Maiberg se topó con una de estas aplicaciones cuando se topó con un anuncio (vídeo) algo sospechoso en Reddit. La aplicación presentada incluso parecía inocente al principio, presentándose como una simple herramienta capaz de cambiar las caras de las personas en fotos y vídeos, a modo de broma. Algunas señales, sin embargo, delataban su verdadero propósito.

El anuncio presentaba un clip con mujeres jóvenes bailando y una persona que usaba la aplicación para intercambiar sus rostros basándose en imágenes de otras personas en su galería, lo que de por sí ya es bastante sospechoso. El problema, sin embargo, no termina ahí: en un momento, el anuncio destaca la capacidad de la aplicación para cambiar las caras de las personas en vídeos de plataformas de terceros, como YouTube e «incluso tus sitios web favoritos».

Es entonces cuando el anuncio muestra un sitio web sumamente similar a Pornhub, una de las plataformas de pornografía más grandes del mundo. Aunque el anuncio no menciona el nombre del sitio en ningún momento, queda bastante claro a qué tipo de audiencia intenta llegar el vídeo.

Obviamente, la aplicación no mencionó esta capacidad en su página de App Store; de lo contrario, ni siquiera sería aprobado en la tienda. Sin embargo, bastaron unos pocos toques para crear este tipo de contenido sin muchos problemas, una vez instalado en el iPhone. La aplicación, cabe destacar, tenía una suscripción un tanto salada. 20 dólares mensuales – otra pista de su verdadero propósito.

Maiberg denunció la aplicación a Reddit, que eliminó el anuncio, y a Apple, que la eliminó de su tienda, no sin antes pedir su enlace, lo que sólo demuestra que la empresa realmente no estaba al tanto de lo que estaba sucediendo. . Ambas empresas dijeron que prohíben este tipo de contenido en sus plataformas, y Maçã incluso citó la sección de sus directrices que aborda este tema. Preguntado sobre el estado de estas aplicaciones en la App Store, Apple no hizo comentarios.

EL 404 Mediossin embargo, escuchó Hany Faridprofesor especializado en imágenes manipuladas de la Universidad de California en Berkeley (Estados Unidos), y, según él, la única forma que tiene Apple de solucionar este problema es prohibir este tipo de aplicaciones de una vez por todasya que “la mayoría de los casos de uso [desse tipo de ferramenta] es crear imágenes sexuales no consentidas”. Farid, sin embargo, ofrece algunas alternativas para que Apple intente mitigar este problema (aunque no son fáciles de poner en práctica, es cierto):

Una aplicación podría mitigar esta aplicación dañina si, por ejemplo, simplemente te permitiera crear una profundo de tu propia cara, donde la aplicación te obliga a tomar una foto en vivo de ti mismo y verifica tu identidad. Señalaré que Apple prohíbe cualquier aplicación asociada con contenido para adultos, por lo que esto no sería una desviación demasiado grande de sus políticas de larga data. […] ellos [Apple] Ciertamente no pueden confiar en que los creadores simplemente no comercialicen explícitamente sus aplicaciones de esta manera.

Por ahora, Apple parece eliminar estas aplicaciones sólo cuando son denunciadas por usuarios o periodistas (cuando falla el sistema de revisión de la App Store, por supuesto). Sin embargo, con la popularización de las herramientas de inteligencia artificial capaces de generar imágenes cada vez más convincentes, este enfoque tendrá que cambiar.