money 
Google, el gigante tecnológico, anunció el pasado jueves (30) que mejorará y reajustará los resúmenes de resultados de búsqueda generados por inteligencia artificial (IA). La decisión se tomó luego de que la herramienta presentara respuestas extrañas e inexactas, como sugerir el consumo de piedras o agregar cola a la salsa para pizza.
La compañía dijo que reducirá el alcance de las búsquedas que arrojan un resumen escrito por IA. Liz Reid, jefa de búsqueda de Google, dijo que la compañía ha agregado varias restricciones sobre los tipos de búsquedas que generan resultados de IA, además de limitar la inclusión de contenido satírico y humorístico.
Las búsquedas con IA de Google se convierten en una broma
La función “AI Overview”, lanzada en EE. UU. este mes, generó rápidamente ejemplos virales de malinterpretación de información y uso de fuentes satíricas, como The Onion y publicaciones de broma en Reddit, para generar respuestas. Los fallos de la IA de Google se han convertido en un meme, con capturas de pantalla falsas de respuestas absurdas y oscuras que circulan en las redes sociales.
Google promovió la función como uno de los pilares de su iniciativa para incorporar IA generativa en sus servicios principales, pero el lanzamiento resultó en otra vergüenza pública para la empresa. A principios de este año, Google enfrentó críticas y burlas después de que su herramienta de generación de imágenes colocara por error a personas negras en situaciones históricas inapropiadas.
Google se defiende de los fracasos
En su blog, Google resumió brevemente los problemas con la «Descripción general de IA» y defendió la función. Reid afirmó que muchas de las respuestas falsas fueron el resultado de lagunas en la información debido a búsquedas raras o inusuales, así como intentos intencionales de manipular la función para producir respuestas inexactas.
Muchas de las publicaciones virales provinieron de búsquedas extrañas, pero otras parecían provenir de consultas más razonables. Un experto en IA compartió una imagen de una «Resumen de IA» que afirmaba que Barack Obama fue el primer presidente musulmán de Estados Unidos, una teoría de conspiración común en la derecha.
“Al analizar ejemplos de las últimas semanas, pudimos determinar patrones en los que salimos mal e hicimos más de una docena de mejoras técnicas en nuestros sistemas.“ dijo Reid.
Aunque Google plantea los problemas como casos aislados, los expertos en IA comentan que los fallos indican problemas más amplios en la capacidad de la IA para evaluar la exactitud de los hechos y automatizar el acceso a la información.
Google ha declarado que los comentarios de los usuarios muestran una mayor satisfacción con los resultados de búsqueda debido a la «Descripción general de la IA», pero las implicaciones más amplias de sus herramientas de IA y los cambios en las funciones de búsqueda aún no están claras. A los propietarios de sitios web les preocupa que los resúmenes de IA sean desastrosos para los medios en línea, mientras que a los investigadores les preocupa que Google consolide aún más control sobre lo que el público ve en Internet.
Fuente: Google
