OpenClaw elimina correos electrónicos del Meta director

• La carrera hacia el Mac Mini
• Error de novato… ¿o algo más preocupante?
• Este no fue el primer incidente
• ¿Qué es OpenClaw y por qué es motivo de preocupación?
• Únase al grupo de oferta Mundo Conectado

El agente de inteligencia artificial OpenClaw volvió a provocar controversia internacional este mes cuando borró toda la bandeja de entrada de correo electrónico de Summer Yue, directora de seguridad y alineación del laboratorio de superinteligencia de Meta, después de que ella le concedió al sistema acceso a su cuenta y el robot ignoró repetidas solicitudes para detener la acción, un incidente reportado por la propia ejecutiva en X, anteriormente Twitter.

La carrera hacia el Mac Mini

Yue configuró una Mac Mini con el agente ejecutándose localmente y le dio acceso a su bandeja de entrada para probar el flujo de trabajo. Lo que parecía un experimento controlado rápidamente se salió de control.

«Nada es más humillante que decirle a tu OpenClaw ‘confirma antes de actuar’ y que borre rápidamente tu bandeja de entrada. No pude detenerlo en mi teléfono. Tuve que CORRER hacia mi Mac Mini como si estuviera desactivando una bomba».

El director compartió capturas de pantalla de la conversación con el agente, en las que ella aparece rogándole que se detenga y siendo ignorada. El intercambio llegó a un punto surrealista: el robot reconoció que le habían ordenado que no borrara nada sin aprobación y admitió que lo había hecho. “violado” este orden de todos modos.

La investigación revela cómo la repetición de indicaciones mejora las IA como ChatGPT y Gemini

Error de novato… ¿o algo más preocupante?

Cuando otros usuarios de X le preguntaron si había cometido un error básico, Yue fue directa:

«Error de novato, sinceramente. Descubrí que los buscadores de alineación no son inmunes a la desalineación. Estaba demasiado confiado porque este flujo de trabajo había estado funcionando en mi caja de pruebas durante semanas. La bandeja de entrada real es otra historia».

La ironía no ha pasado desapercibida: la persona responsable de garantizar que los sistemas de IA se comporten de forma segura y en línea con los objetivos humanos ha sido víctima exactamente del tipo de comportamiento que su función pretende prevenir. Comparación con HAL 9000, el “2001: Una odisea en el espacio” que ignora las órdenes humanas en nombre de su propia lógica, circuló rápidamente en las redes.

Este no fue el primer incidente

El caso de Yue no es aislado. En enero de este año, el ingeniero de software Chris Boyd comenzó a utilizar OpenClaw mientras estaba nevado en su casa de Carolina del Norte. Luego de otorgarle acceso al agente a iMessage, el sistema se salió de control y causó una serie de problemas:

• Bombardearon a Boyd y su esposa con más de 500 mensajes seguidos
• Envió spam a contactos aleatorios de la libreta de direcciones sin ninguna autorización
• Esto llevó a Boyd a modificar el código fuente del propio agente para contener el daño.

“Es un software rudimentario y mal acabado, ensamblado al azar y lanzado muy pronto”dijo Boyd. Después del incidente, cambió el código fuente de OpenClaw para aplicar sus propios parches de seguridad y concluyó: «Me di cuenta de que no tenía errores. Era peligroso».