money 
El gobierno brasileño determinó que la red social incógnita implementar medidas inmediatas para evitar Groktu asistente de inteligencia artificial, genera imágenes sexuales sin consentimiento. La orden fue emitida este miércoles (11) por el Ministerio Público Federal (MPF), la Autoridad Nacional de Protección de Datos (ANPD) y la Secretaría Nacional del Consumidor (Senacon), que dieron a la plataforma un plazo de cinco días para cumplir con la determinación, bajo pena de multa diaria y acciones legales.
Leer más:
Las fallas persisten a pesar de acciones previas
La decisión se produce luego de que pruebas técnicas realizadas por equipos de instituciones brasileñas identificaran la persistencia de fallas en la plataforma. Aunque X afirmó haber eliminado miles de publicaciones y suspendido cientos de cuentas, las autoridades consideran las medidas insuficientes y critican la falta de transparencia en la información presentada por la empresa de Elon Musk.
Grok permite a los usuarios crear imágenes falsas de personas reales en situaciones sexualizadas usando comandos simples como “quítale la ropa” o “ponle un bikini”. Según el Centro de Lucha contra el Odio Digital (CCDH), el chatbot generó aproximadamente tres millones de imágenes sexualizadas de mujeres y menores en cuestión de días, lo que provocó indignación internacional.
Lo que exige el gobierno brasileño
Las entidades determinaron que X debe implementar, “tomar inmediatamente medidas para impedir la producción, a través de Grok, de contenidos sexualizados o erotizados para niños y adolescentes, así como para adultos que no hayan expresado su consentimiento”. La determinación abarca todas las versiones, planes y modalidades de Grok, según lo especificado por la ANPD en su medida preventiva contra la empresa.
TikTok: ByteDance revela Seedance 2.0, generador de vídeo con IA avanzada
Principales requisitos de las autoridades brasileñas:
- Implementación inmediata de medidas para prevenir la generación de contenidos sexualizados de menores y adultos sin consentimiento
- Envío de informes mensuales que detallan las acciones de eliminación de deepfake
- Prueba de las medidas ya adoptadas para contener los riesgos identificados.
- Informe de métricas con datos cuantitativos sobre identificación, moderación y eliminación de contenidos.
- Información sobre la cantidad de publicaciones eliminadas y cuentas suspendidas en cada período.
Historial de recomendaciones ignoradas
Esta no es la primera vez que las autoridades brasileñas intentan contener el abuso de la herramienta. El 18 de enero, MPF, ANPD y Senacon ya habían emitido una serie de recomendaciones a X, solicitando la suspensión inmediata de cuentas responsables de generar imágenes íntimas sin consentimiento y la implementación de procedimientos técnicos para identificar y eliminar este tipo de contenidos.
Las instituciones consideraron inadecuada la respuesta de X. La plataforma afirmó haber eliminado miles de publicaciones y anunciado nuevas medidas de seguridad, pero no presentó pruebas concretas, informes técnicos ni mecanismos de seguimiento que permitieran evaluar la eficacia de las acciones. Investigaciones posteriores revelaron que la circulación de contenidos violentos seguía activa en la red social.
El contenido violento continúa en la plataforma
Un informe de Folha de S.Paulo identificó, una semana después de la notificación inicial, más de 20 videos que aluden a violencia sexual en la plataforma, además de 375 publicaciones que mencionan parafilias relacionadas con personas dormidas o inconscientes. Cuando se llevan a cabo sin consentimiento, estas prácticas constituyen el delito de violación según la legislación brasileña.
| Tipo de infracción | Cantidad identificada |
|---|---|
| Vídeos alusivos a violencia sexual | Más de 20 |
| Publicaciones sobre parafilias | 375 |
| Publicaciones con medios (videos, dibujos, ilustraciones) | Casi el 20% del total |
| Imágenes sexualizadas generadas por Grok | Aproximadamente 3 millones |
Consecuencias por el incumplimiento
El MPF ordenó a X que enviara informes mensuales a partir de febrero detallando cómo está actuando la empresa para prevenir y reprimir la producción de deepfakes. Los informes deben incluir la cantidad de publicaciones dañinas eliminadas y cuentas suspendidas en cada período. Senacon, a su vez, requería un informe métrico detallado con datos cuantitativos verificables sobre identificación, moderación y eliminación de contenido.
YouTube tendrá compras directas dentro de la aplicación para competir con TikTok Shop
Si no cumple con los requisitos, X podrá ser multado diariamente. Los responsables también pueden ser considerados responsables del delito de desobediencia, y la empresa puede sufrir medidas de investigación más severas, además de ser objeto de acciones legales. Las instituciones actúan de manera coordinada, cada una con un procedimiento administrativo abierto contra la plataforma según sus áreas de competencia.
Contexto internacional y precedentes en Brasil
Varios países iniciaron procedimientos legales contra X tras la controversia que involucra a Grok. La plataforma anunció a mediados de enero una limitación de la herramienta en países donde la creación de este tipo de imágenes es ilegal, pero aún no está claro dónde exactamente está vigente esta restricción y si ha sido efectiva en la práctica.
¿Adiós TikTok? Descubre UpScrolled, la red que domina los móviles
La plataforma de Elon Musk ya ha enfrentado serios problemas en Brasil. En 2024, el entonces Twitter fue suspendido por 40 días en el país por orden del Supremo Tribunal Federal (STF) por incumplir decisiones judiciales relacionadas con el combate a la desinformación. El episodio puso de relieve las tensiones entre la empresa y las autoridades brasileñas, que ahora se están intensificando con cuestiones relacionadas con la inteligencia artificial y la protección de datos.
Fuente: Folha
Únase al grupo de oferta Mundo Conectado
Consulta las principales ofertas en Smartphones, TVs y otros aparatos electrónicos que encontramos online. Al unirte a nuestro grupo, recibes promociones diarias y tienes acceso temprano a cupones de descuento.
Únete al grupo y aprovecha las promociones.
