Instagram y Facebook muestran anuncios pagos de aplicaciones que eliminan la ropa – Mundo Conectado

Las redes sociales Instagram y Facebook publicaron recientemente miles de anuncios pagados relacionados con aplicaciones que eliminan la ropa de mujer mediante IA. Si bien Meta prohíbe los desnudos en su plataforma, los responsables de las herramientas de manipulación de imágenes no tuvieron problemas para publicar su material en las plataformas.

De diciembre de 2023 a abril de 2024 se publicaron 1.400 anuncios en ambas redes sociales. De ellos, 150 se encuentran en Brasil. De este total, Meta sólo eliminó el 15%. El resto, que prometen crear “desnudos” sin el consentimiento de las personas, permanecen en línea.

Vea mas:

Es importante mencionar que Meta no divulga información pública sobre cuánto tiempo permanecieron los anuncios en Instagram y Facebook antes de ser eliminados de estas plataformas, así como el monto pagado por los responsables.

Meta afirmó a G1 que utiliza inteligencia artificial y profesionales humanos para monitorear contenidos y eliminar aquellos que violan sus reglas; sin embargo, a pesar de eliminar aquellos que fueron reportados por el informe del grupo Globo, varios otros fueron creados más tarde.

Según 404 Media, los anuncios de este género siguen un patrón de palabras clave como “eliminar cualquier ropa”, “desnudarse” y “desnudarse” dentro de Instagram y Facebook. A pesar de las promesas, de hecho muchas de ellas son aplicaciones de simulación de citas con inteligencia artificial, que no ofrecen el contenido que muchos buscaban.

En respuesta a G1, un representante de Meta habló sobre las acciones que están tomando en Instagram y Facebook para evitar un aumento de anuncios de este tipo.

Eliminamos los anuncios destacados en el informe por violar nuestras políticas. Revisamos el contenido a través de una combinación de tecnología de inteligencia artificial y equipos humanos, que nos ayudan a detectar, analizar y eliminar contenido que viola los Estándares de la comunidad de Facebook, los Lineamientos de la comunidad de Instagram y nuestros Estándares de publicidad. Siempre estamos mejorando nuestros esfuerzos para mantener nuestras plataformas seguras y también alentamos a las personas a denunciar contenido y cuentas que crean que violan nuestras políticas a través de las herramientas disponibles dentro de las propias aplicaciones.

El uso peligroso de estas aplicaciones y la IA

Con el uso de herramientas de inteligencia artificial, muchos están utilizando aplicaciones de este tipo para cometer delitos contra otros. En 2023, por ejemplo, más de 20 estudiantes de escuelas de Río de Janeiro fueron víctimas de montajes fotográficos de desnudos y los sospechosos son otros estudiantes que hicieron los cambios y compartieron el contenido con amigos.

Desde entonces se han visto casos similares, como el ocurrido en marzo de 2024 en una escuela de Rio Grande do Sul. Además de ser menores de edad, el contenido también viola las leyes sobre los derechos de imagen de las víctimas y puede provocar. a los responsables y quien guarde estas fotos va a la cárcel – según lo previsto en la Ley 13.718/2018.

Fuente: G1