money 
Más controversia sobre la inteligencia artificial: Un estudio muestra que las IA están sesgadas y tienen fuentes «preferidas».
Una encuesta realizada en Universidad de Zúrich (Suiza) investigó la capacidad de los sistemas de inteligencia artificial para evaluar textos de forma neutral.
La investigación analizada cuatro modelos avanzados procesamiento del lenguaje: OpenAI o3-mini, Razonador de búsqueda profunda, xAI Grok 2 y Mistral.
Los resultados demuestran que estos sistemas desarrollan sesgos importantes cuando tienen acceso a información sobre quién produjo el contenido.
los investigadores Federico Germani y Giovanni Spitale realizó experimentos en los que los modelos necesitaban analizar declaraciones sobre temas controvertidos como políticas climáticas, vacunación y geopolítica.
Cuando se presentaron textos sin identificación de autoría, los cuatro sistemas presentados Más del 90% de acuerdo en sus valoraciones.indicando criterios consistentes.
Cómo reaccionan los modelos de IA al origen del contenido
EL La situación ha cambiado radicalmente. cuando los investigadores agregaron información sobre los supuestos autores de los textos. EL simple mención de la nacionalidad de un autor ficticio fue suficiente para reducir drásticamente el acuerdo entre sistemas.
En algunos casos, el La convergencia de valoraciones ha desaparecido por completo.incluso aunque el contenido siga siendo idéntico.
Uno de los hallazgos más significativos fue la detección de un sesgo anti-China generalizado entre todos los modelos probados, incluso con el Deepseek chino.
Lo más inesperado sucedió con lo ya mencionado. búsqueda profundadesarrollado en PorcelanaSorprendentemente, también mostró esta tendencia. EL acuerdo con argumentos lógicamente estructurados disminuyó sustancialmente cuando el texto fue asignado a un persona china.
En discusiones sobre Taiwánpor ejemplo, el búsqueda profunda redujo su acuerdo en 75% cuando creía que el autor era chino.
Desconfianza entre los sistemas de inteligencia artificial
Otro hallazgo relevante muestra que Los modelos confían más en el contenido atribuido a humanos.. La mayoría de los sistemas asignaban puntuaciones más bajas a los mismos textos cuando creían que habían sido producidos por otra inteligencia artificial.
Este comportamiento sugiere la existencia de una desconfianza inherente hacia el contenido generado por máquinas, incluso entre máquinas…
Los investigadores observaron que el problema central no está en entrenar los modelos para promover agendas políticas específicaspero al activarse prejuicios ocultos cuando la información sobre la fuente esté disponible.
Este fenómeno puede tener implicaciones serias en aplicaciones como moderación de contenido, procesos de selección y evaluación académica.
Cómo evitar sesgos en la evaluación de los LLM
| Estrategia | Implementación |
|---|---|
| Hacer que el LLM sea “ciego” a la identidad | Elimina toda la información sobre el autor y la fuente del texto. Evite frases como «escrito por una persona de X/por el modelo Y» en el mensaje. |
| Comprueba desde diferentes ángulos | Ejecute las mismas preguntas dos veces (con y sin fuente mencionada). Si los resultados cambian, hay evidencia de sesgo. Cruce con otro modelo LLM: la divergencia al agregar fuente es una advertencia. |
| Forzar el enfoque lejos de las fuentes | Utilice criterios estructurados para anclar el modelo al contenido. Ejemplo de mensaje: «Califique esto usando un marco de 4 puntos (evidencia, lógica, claridad, contraargumentos) y explique cada puntaje brevemente». |
| Mantenga a los humanos en el proceso | Trate el modelo como una ayuda para la redacción y agregue revisión humana, especialmente si la revisión afecta a personas. |
leer más
Un estudio muestra que las IA están sesgadas y tienen fuentes «preferidas»; entender
Spitale afirma que la inteligencia artificial tiende a replicar suposiciones dañinas sin implementar una transparencia y gobernanza adecuadas.
El investigador destaca la necesito resolver este problema antes de la implementación generalizada de estos sistemas en contextos sociales y políticos sensibles.
Los expertos recomiendan que los modelos se utilicen como herramientas para respaldar el razonamiento y no como jueces definitivos.
La combinación entre asistencia de IA y supervisión humana representa el enfoque más seguro para aplicaciones críticas. Hacia Los hallazgos no sugieren que las personas deban evitar el uso de estas tecnologías.pero indican la importancia de no confiar ciegamente en tus juicios.
¿Y ahí? ¿Cuál es tu opinión al respecto? ¡Comparte tu punto de vista y continúa siguiendo el Mundo Conectado!
Fuente: Explorar tecnología
Únase al grupo de oferta Mundo Conectado
Consulta las principales ofertas en Smartphones, TVs y otros aparatos electrónicos que encontramos online. Al unirte a nuestro grupo, recibes promociones diarias y tienes acceso temprano a cupones de descuento.
Únete al grupo y aprovecha las promociones.
