money 
OpenAI anunció el desarrollo de una nueva herramienta llamada CriticGPT. Está diseñado para detectar y corregir errores en la salida del código ChatGPT. La idea no es sólo aumentar la eficacia de las respuestas de ChatGPT, sino también proporcionar una ventaja significativa en el entrenamiento de modelos de inteligencia artificial (IA).
Lea mas
CriticGPT, basado en la arquitectura GPT-4, fue capacitado específicamente para identificar fallas en las respuestas generadas por ChatGPT. Según datos publicados por OpenAI, usarlo para revisar el código resultó en un rendimiento superior en el 60% de los casos, en comparación con aquellos que no utilizaron esta asistencia.
Se está iniciando la integración de modelos similares a CriticGPT en la rutina de entrenamiento de OpenAI, conocida como “Aprendizaje por refuerzo a partir de la retroalimentación humana” (RLHF). Así, esta metodología implica comparar las respuestas evaluadas por los formadores de IA, quienes determinan cuál es más efectiva y precisa.
CriticGPT llega para ayudar con las imprecisiones de ChatGPT
La implementación de CriticGPT representa un importante paso adelante en la mejora de RLHF. Esto se debe a que los errores cometidos por ChatGPT se vuelven más sutiles a medida que evoluciona el modelo. Esto dificulta que los formadores de IA identifiquen imprecisiones.
“Esto puede dificultar que los entrenadores de IA detecten imprecisiones cuando ocurren, lo que dificulta mucho más la tarea de comparación que impulsa RLHF. Esta es una limitación fundamental de RLHF y puede hacer que sea cada vez más difícil alinear los modelos a medida que gradualmente adquieren más conocimientos que cualquiera que pueda proporcionar comentarios”, dijo OpenIA.
Para abordar estos desafíos, OpenAI capacitó a CriticGPT para escribir críticas que destaquen las inconsistencias en las respuestas de ChatGPT. Esto no sólo mejora las capacidades de diagnóstico de los entrenadores, sino que también contribuye a un perfeccionamiento continuo de los criterios para evaluar los resultados de los sistemas avanzados de IA.
Fuente: OpenAI
Únase al grupo de oferta Mundo Conectado
Consulta las principales ofertas en Smartphones, TVs y otros aparatos electrónicos que encontramos online. Al unirte a nuestro grupo, recibes promociones diarias y tienes acceso temprano a cupones de descuento.
Únete al grupo y aprovecha las promociones.
