money 
El mismo día que el AbiertoAI presentó recomendaciones de políticas para garantizar que la inteligencia artificial (AI) beneficia a la humanidad, si superinteligencia se logra (aún no estamos ni remotamente cerca de eso), el La revista neoyorquina publicó una investigación sobre la confiabilidad del director ejecutivo (director ejecutivo) Sam Altman para cumplir las promesas de la empresa.
Empresa defiende supervisión y transparencia en escenarios extremos
EL AbiertoAI afirmó que planea abogar por políticas que mantengan a las personas como prioridad cuando el AI comienzan a superar a los humanos más inteligentes, incluso con la ayuda de la tecnología.
La empresa se comprometió a mantener un postura lúcida y transparente sobre los riesgos, lo que incluye el seguimiento de escenarios extremos como AI qué escapar del control humano o gobiernos que utilizan la tecnología para socavar la democracia.
Sin un control adecuado de estos peligros, AbiertoAI advirtió que la gente resultaría perjudicada. Luego, la compañía describió cómo se puede confiar en que defenderá un futuro en el que la superinteligencia signifique una mejor calidad de vida para todos.
La investigación señala contradicciones en el comportamiento de Altman
EL El neoyorquino entrevistado más de 100 personas familiarizado con cómo altman realiza negocios, además de revisar notas internas y entrevistar al ejecutivo más de 12 veces.
El informe ofrece un contrapunto a por qué el público podría tener dificultades para confiar en que el CEO de OpenAI controle el futuro de la IA, independientemente de cuán positiva sea la visión de la empresa.
Individuos cercanos a altman lo describió como un Complaciente con la gente que les dice a los demás lo que quieren oír. mientras busca el poder en un intento de ponerse siempre a sí mismo en primer lugar.
Uno miembro de la junta resumió que altman tiene dos rasgos casi nunca vistos en la misma persona: uno fuerte deseo de agradar y amado en cualquier interacción, combinada con una Falta de preocupación casi sociopática. con las consecuencias de engañar a alguien.
Ex dirigentes técnicos documentaron supuestas manipulaciones
Aunque el El neoyorquino no he encontrado uno prueba completasus reporteros analizaron mensajes del exjefe científico de OpenAI, Ilya Sutskevery el ex director de investigación, Dario Amodei.
Para complementar la controversia, amodei escribió que el problema con OpenAI es el propio Sam.
Los documentos mostraban una acumulación de supuestos engaños y manipulaciones. Muchos incidentes podrían ignorarse individualmente, pero cuando se analizaron juntos, ambos concluyeron que Altman no promovió un ambiente seguro para el desarrollo de IA avanzada.
Altman responde a las acusaciones y admite haber evitado conflictos
altman cuestionó las acusaciones del informe o afirmó haber olvidado ciertos hechos. Atribuyó algunas de sus narrativas cambiantes al panorama cambiante de la inteligencia artificial y admitió que en el pasado evitó los conflictos.
Su Las contradicciones aparentes son cada vez más difíciles de ignorar. como la investigacion sobre el AbiertoAI aumenta, y los gobiernos dependen cada vez más de sus modelos y procedimientos legales clasificar la tecnología como inseguro.
La empresa adopta el optimismo mientras el público muestra preocupación
EL El neoyorquino informó que Altman recientemente dejó de posicionar a OpenAI como un salvador que bloquea los escenarios apocalípticos de la IA, adoptando un tono de optimismo agitado. Las recomendaciones de política de la empresa reflejan este cambio en ocasiones.
Director de asuntos globales de OpenAI, Chris Lehaneconfirmó a The Wall Street Journal que la empresa está preocupada urgentemente por las opiniones negativas del público sobre la inteligencia artificial.
Al anunciar su Ideas para salvar a la humanidad de los peligros de la IA.el AbiertoAI También impulsó un programa piloto de becas y ayudas a la investigación enfocado hasta 100 mil dólares y hasta 1 millón de dólares en créditos interfaz de programación de aplicaciones (API) para un trabajo que se base en estas ideas políticas.
EL reportaje de revista plantea la posibilidad de que las recomendaciones fueran publicadas desviar la atención de los crecientes temores públicos sobre la seguridad infantil, la pérdida de empleos o los centros de datos que consumen mucha energía.
Las encuestas muestran los temores del público sobre el impacto de la IA
Una encuesta reciente realizada por Universidad de Harvard y el Instituto de Tecnología de Massachusetts (MIT) descubrió que la mayor preocupación de los estadounidenses es que el consumo de energía de la IA perjudique su calidad de vida, informó axios.
EL Diario de Wall Street señaló que estas preocupaciones podrían influir en los votos a favor demócratas y republicanos en las elecciones intermedias, como moratorias en centros de datos ganar fuerza. Las moratorias antes mencionadas podrían frenar el avance de la inteligencia artificial.
A altman y su empresa, convencer al público de Adopte su visión de IA En este momento crítico parece imprescindible. EL El neoyorquino señaló que la pérdida de control de la Congreso por el republicanos podría allanar el camino para leyes de seguridad de IA más estrictas, que Altman presionó En particular.
Sin confianza en el ejecutivo, la revista sugirió que es mucho más difícil convencer al público de que el AbiertoAI no se trata simplemente de decir lo que sea necesario para consolidar su propio dominio.
Las propuestas de OpenAI incluyen un fondo de riqueza pública y una semana de 32 horas
EL AbiertoAI afirmó que no tenía todas o incluso la mayoría de las respuestas. La empresa caracterizó su política industrial para la era de la inteligencia como ideas iniciales para mantener a la gente primero durante la transición a la superinteligencia.
pidiendo regulaciones de sentido común y asociaciones publico-privadasel AbiertoAI propuso ideas ambiciosas para garantizar que todos puedan acceder y beneficiarse de la inteligencia artificial.
La visión de la empresa reconoce que aspira a lograr lo que la sociedad nunca ha logrado: garantizar el acceso a internet y garantizar que la IA se implemente de manera justa a nosotros Estados Unidoscon todos capacitados para usarlo.
EL protección del trabajador es un foco del plan. Las recomendaciones incluyen involucrar a los empleados en discusiones sobre cómo funcionan los sistemas de inteligencia artificial para mejorar la productividad y la seguridad en el lugar de trabajo, así como cómo establecer límites claros a los usos nocivos de la tecnología.
EL AbiertoAI sugerido crear uno impuesto sobre el trabajo automatizado que podría financiar programas como Seguro de enfermedad, Programa de asistencia nutricional suplementaria (SNAP) y asistencia de vivienda ya que las empresas dependen menos del trabajo humano.
Entre otras ideas está un plan para alentar a los empleadores y sindicatos realizar pilotos semana laboral de 32 horas distribuido en 4 diassin pérdida de pago y manteniendo niveles constantes de producción y servicio.
Hacia horas recuperadas podría convertirse en una semana permanente más corta, tiempo libre remunerado rentable o ambas cosas.
Un poco más sobre las propuestas de OpenAI
EL AbiertoAI también propuso un fondo de riqueza pública que proporcione a todos los ciudadanos (incluidos aquellos que no invierten en los mercados financieros) una participación en el crecimiento económico impulsado por AI.
Tú retornos de fondos podría distribuirse directamente a los ciudadanos, permitiendo que más personas participen en los beneficios del crecimiento impulsado por la IA, independientemente de su riqueza inicial o su acceso al capital.
como el La IA asume más tareaslos seres humanos pueden recurrir al trabajo centrado en los cuidados. EL AbiertoAI Recomendó ideas de políticas para ayudar a los trabajadores desplazados a obtener capacitación para trabajar en el asistencia sanitaria, cuidado de personas mayores, guardería o servicios comunitarios.
Para garantizar que las personas se sientan atraídas por estos roles (históricamente infravalorados), la empresa ha sugerido iniciativas para ayudar a la sociedad a reconocer que el cuidado es un trabajo económicamente valioso. También se necesitarán trabajadores humanos para utilizar la IA y acelerar los avances científicos, según el AbiertoAI.
Empresa condiciona beneficios públicos a la construcción de una sociedad resiliente
La empresa afirmó que todos estos beneficios públicos Sólo puede lograrse si se construye una sociedad resiliente que pueda responder rápidamente a implementaciones riesgosas y mantener la IA seguracontrolable y alineado con los valores democráticos.
Este aspecto de la visión de la empresa requiere que las organizaciones, como el gigante mencionado aquí, desarrollen sistemas de seguridad eso ayudará a mejorar la confianza del público en la IA.
La empresa parece sugerir que el público debería confiar en que estos sistemas funcionarán y que sólo deberían intervenir cuando se acerquen peligros reales.
como hay progreso en hacia la superinteligenciaOpenAI opinó que puede llegar un punto en el que un conjunto restringido de modelos altamente capaces (particularmente aquellos que podrían avanzar materialmente riesgos quimicos, biológico, radiológico, nuclear o cibernético) requieren controles más estrictos.
Cuando llegue ese díadebe existir una red global para comunicar los riesgos emergentes. Sólo las empresas con los modelos más avanzados deberían someterse a auditorías rigurosas para que las empresas más pequeñas puedan seguir compitiendo.
Esta es la manera de garantizar que el No se abusa de la posición dominante de ninguna empresa. eliminar injustamente a los competidores o socavar los valores democráticos, dijo OpenAI, insistiendo en que el la contribución pública es vital para el éxito de la inteligencia artificial.
leer más
La historia de promesas incumplidas genera escepticismo
EL El neoyorquino informó que altman ya ha convencido a un público escéptico respecto de la tecnología de que sus prioridades, incluso cuando sean mutuamente excluyentes, también son sus prioridades.
Pero para el públicoque ya informa sobre presuntos daños causados por los modelos OpenAI, puede que sea cada vez más difícil aceptar ideas grandiosas de una empresa liderada por El mayor vendedor de su generación..
Un investigador de OpenAI dijo a la revista que las promesas de Altman a veces parecen una solución provisional para superar las críticas hasta que alcance el siguiente hito.
cuando se trata de superinteligenciaalgunos expertos optimistas creen que podría llevar dos años. Este periodo es más largo que el tiempo Elon Musk permaneció en AbiertoAI antes de criticar abiertamente el liderazgo de Altman y partir para fundar su propia empresa de inteligencia artificial.
Finalmente, el investigador afirmó que altman crea estructuras que, en el papel, te restringen en el futuro. Pero cuando llegue el futuro y el momento de ser restringido lo alcanza, simplemente actúa como le place (eliminando los obstáculos necesarios).
¿Y ahí? ¿Cuál es tu opinión al respecto? ¡Comparte tu punto de vista en esta publicación y continúa siguiendo Mundo Conectado!
Fuente: arsTechnica
