Apple Intelligence es susceptible a ataques de inyección rápida, según una investigación – MacMagazine

Según investigadores de la Conferencia RSAC, el Inteligencia de Apple podría ser manipulado por hackers utilizando técnicas de inyección de inmediato.

En una investigación realizada por Petros Efstathopoulos, Laura Koetzle y Dario Pasquini, se descubrieron mecanismos para eludir los filtros de entrada y salida de Apple en relación con su modelo LLM local, probando las técnicas de ataque con 100 indicaciones aleatorizado; El 76% de los intentos tuvieron éxito..

Centrándose en los modelos de lenguaje que se ejecutan localmente en el sistema operativo, la principal técnica de ataque emprendida (llamada “Ejecutivo neuronal”) indujo la ejecución de acciones específicas de una manera consistente con LLM, de una manera que parecía sin sentido para los humanos, lo que garantiza a quien lleva a cabo los ataques el control del aporte y producción de Inteligencia de Apple.

Además de generar contenido textual que no cumple con los términos de Apple, Apple Intelligence tiene la capacidad de conectarse a aplicaciones de terceros a través de las API del sistema, lo que indica que las respuestas manipuladas pueden influir en el comportamiento de otras aplicaciones o incluso exponer datos confidenciales. La investigación estima que alrededor Es posible que entre 100.000 y 1 millón de usuarios ya se hayan visto afectados por aplicaciones potencialmente expuestas.

Los hallazgos se compartieron con Apple el 15 de octubre de 2025. Aunque la respuesta no se detalló oficialmente, Apple supuestamente reforzó sus protecciones con respecto a su solución de inteligencia artificial (IA) en las versiones 26.4 de iOS y macOS, al menos según RSAC.

vía AppleInsider