money 
Este viernes (25), Google lanzó SynthID: una herramienta capaz de identificar textos generados por LLM (Large Language Models). Según la empresa, la solución está disponible y puede implementarse en aplicaciones de terceros.
La división centrada en el desarrollo de inteligencia artificial, Google DeepMind, es responsable de la construcción de SynthID. La herramienta no se limita a analizar las palabras del texto, sino que es capaz de identificar la presencia de marcas de agua. El modelo de identificación digital puede estar presente en imágenes, audio, textos y vídeos.
El detector de texto generado por LLM ofrece el resultado en forma de probabilidad. En el ejemplo de Google (arriba), SynthID identificó la producción de texto con un 99% de posibilidades de tener una marca de agua. Según Google, la precisión aumenta a medida que aumenta el tamaño del texto.
Si el resultado fuera 0%, sería la señal de un texto sin la presencia de estos marcadores digitales. Destacamos que SynthID es una herramienta de análisis, dirigida a organizaciones y empresas.
SynthID promete hacer que las aplicaciones de IA sean más seguras
Google destacó cómo se verá SynthID «herramienta esencial para crear aplicaciones de IA más seguras“. El mecanismo es capaz de analizar, palabra por palabra, la probabilidad de que la frase haya sido generada artificialmente.
La herramienta resulta ser una opción de análisis interesante, pero todavía presenta algunos problemas. En primer lugar, la precisión disminuye drásticamente en oraciones cortas o respuestas directas. Asimismo, es poco probable que se evalúen correctamente los textos traducidos de otro idioma.
SynthID es el paso de Google hacia una IA más segura y puede ser implementado por diferentes organizaciones en aplicaciones. Aun así, necesitará pasar por varios procesos de evolución hasta que sea completamente fiable.
Recientemente, las Big Tech agregaron nuevas funciones de seguridad a Chrome, buscando mejorar la navegación web. La iniciativa formó parte del Mes de la Concientización sobre la Ciberseguridad y ofreció a los usuarios muchas funciones nuevas.
Entre ellas, mejores herramientas de inteligencia artificial capaces de combatir el malware y el phishing. Además, la actualización agregó la posibilidad de agregar PIN de inicio de sesión a los sitios web, con la intención de aumentar la privacidad de los dispositivos de quienes navegan por la red.
Fuente Deepmind.Google
Únase al grupo de oferta Mundo Conectado
Consulta las principales ofertas en Smartphones, TVs y otros aparatos electrónicos que encontramos online. Al unirte a nuestro grupo, recibes promociones diarias y tienes acceso temprano a cupones de descuento.
Únete al grupo y aprovecha las promociones.
