money 
Este lunes (13), un pequeño grupo de manifestantes del movimiento PausaAI se reunieron frente a la sede del Departamento de Ciencia, Innovación y Tecnología en Londres, haciéndose eco de un clamor que resonó en protestas simultáneas en ciudades como San Francisco, Nueva York, Berlín, Roma y Ottawa.
¿El objetivo? Exigir una pausa en el desarrollo de grandes modelos de inteligencia artificial (IA) e impulsar regulaciones más estrictas antes de la Cumbre de IA en Seúl.
PauseAI busca consenso
Sin embargo, la falta de consenso sobre las mejores estrategias para lograr sus objetivos expone las divisiones internas del movimiento. Mientras que algunos miembros abogan por tácticas más disruptivas, como ocupaciones y manifestaciones frente a empresas de IA, otros prefieren un enfoque más moderado, buscando el diálogo y la presión política.
“La Cumbre de Seguridad de la IA del Reino Unido no dio lugar a regulaciones importantes“, critica Joep Meindertsma, fundador de PauseAI. “Necesitamos tratados internacionales vinculantes, no sólo declaraciones de intenciones.“
La principal demanda del grupo es una moratoria sobre el entrenamiento de sistemas de IA más potentes que GPT-4, implementada por todos los países, con especial atención a Estados Unidos, donde se encuentran la mayoría de los principales laboratorios de IA.
La propuesta también incluye un tratado internacional que establece una agencia de seguridad de IA, responsable de autorizar nuevos sistemas y entrenar grandes modelos.
La regulación global es posible
Meindertsma se muestra optimista sobre la posibilidad de lograr sus objetivos y cita ejemplos como el Protocolo de Montreal, que eliminó progresivamente los CFC, y los tratados que prohíben las armas láser cegadoras. Sin embargo, manifestantes como Oliver Chamberlain expresan dudas sobre la viabilidad de una pausa voluntaria por parte de las empresas, argumentando la necesidad de una regulación estricta.
La divergencia de opiniones también se manifiesta en la plataforma Discord del grupo, donde algunos miembros discuten la posibilidad de realizar protestas más disruptivas, como sentarse frente a la sede de los desarrolladores de IA o incluso encadenarse a las puertas.
ChatGPT: qué es, cómo funciona y cómo utilizarlo
Mientras tanto, Holly Elmore, directora estadounidense de PauseAI, aboga por un enfoque más amplio, buscando el apoyo de artistas, escritores y titulares de derechos de autor cuyo trabajo se ve amenazado por sistemas de inteligencia artificial capaces de imitar obras creativas.
PauseAI usa el libro como referencia
A pesar de los desacuerdos, el movimiento PauseAI tiene sus raíces en el libro “Superintelligence”, de Nick Bostrom, que popularizó la idea de que sistemas de IA muy avanzados podrían suponer un riesgo para la existencia humana. El lanzamiento del modelo de lenguaje Chat-GPT 3 en 2020 intensificó las preocupaciones de activistas como el organizador de protestas de Londres, Joseph Miller.
Anthropic lleva la inteligencia artificial de Claude al iPhone
Si bien muchos de los organizadores de PauseAI tienen sus raíces en el movimiento altruista efectivo, buscan ampliar el apoyo a su causa, yendo más allá de la filosofía y obteniendo la aceptación de diferentes sectores de la sociedad.
A medida que se acerca la Cumbre de IA de Seúl, el futuro del movimiento PauseAI sigue siendo incierto. La capacidad de superar sus divisiones internas y encontrar un camino unificado puede ser crucial para lograr sus objetivos e influir en el futuro de la inteligencia artificial.
Fuente: Cableado
