money 
ChatGPT, una herramienta de inteligencia artificial desarrollada por OpenAI, cuenta con mecanismos que impiden respuestas y muestran nombres bloqueados. Estos bloqueos ocurren debido a filtros diseñados para evitar errores potencialmente dañinos o confusión legal relacionada con las respuestas generadas por el modelo.
El problema salió a la luz cuando los usuarios notaron que nombres como Jonathan Turley y Jonathan Zittrain interrumpían automáticamente las conversaciones. El comportamiento fue confirmado por pruebas realizadas por el propio Mundo Conectado mientras se escribía este artículo.
De esta forma, se pudo observar que ChatGPT presentaba mensajes como “No se puede generar respuesta” o simplemente finalizaba la interacción al escribir el nombre. Curiosamente, el problema no ocurre cuando se utilizan las API de OpenAI o la herramienta OpenAI Playground.
leer más
Nombres bloqueados por ChatGPT
Los filtros parecen estar relacionados con casos anteriores. Un ejemplo ocurrió con Brian Hood, un político involucrado en una demanda por difamación contra OpenAI en 2023. La empresa fue acusada de generar respuestas falsas que alegaban delitos inexistentes. Después de las negociaciones, OpenAI implementó el bloqueo de nombres como solución temporal.
Sin embargo, la lista va más allá de Brian Hood y tiene otros nombres que tampoco responden a la petición del creador. Las pruebas realizadas por Mundo Conectado confirmaron cinco nombres que hacen que la plataforma no pueda ofrecer una respuesta: Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber y Guido Scorza.
Una lista anterior también señalaba que el nombre David Mayer también provocaba fallos en la generación de respuestas de inteligencia artificial. Sin embargo, una nueva prueba realizada por Mundo Conectado demostró que ChatGPT ahora es capaz de responder a información que contenga este nombre.
¿Por qué se bloquean los nombres?
Otro caso es el de Jonathan Turley, profesor universitario que también fue blanco de respuestas inexactas generadas por la IA. Así, denunció que la modelo había citado un supuesto escándalo, completamente inventado, en un reportaje ficticio en un reconocido diario.
Sin embargo, su caso es un poco diferente al de Brian Hood, por ejemplo. Esto se debe a que, aunque no inició acciones legales, el episodio provocó que su nombre fuera incluido en la lista de restricciones de ChatGPT.
Además, Jonathan Zittrain, profesor de una prestigiosa institución, experimentó problemas similares después de involucrarse en discusiones sobre la regulación de la IA. A pesar de que su nombre aparece en fuentes legítimas, las pruebas revelaron que sólo su nombre, entre otros mencionados en las mismas fuentes, provocaba fallos en el sistema.
Fuente: Arstechnica
Únase al grupo de oferta Mundo Conectado
Consulta las principales ofertas en Smartphones, TVs y otros aparatos electrónicos que encontramos online. Al unirte a nuestro grupo, recibes promociones diarias y tienes acceso temprano a cupones de descuento.
Únete al grupo y aprovecha las promociones.
