money 
Un incidente relacionado con la inteligencia artificial (IA) de Google generó preocupación cuando un estudiante graduado de Michigan recibió una respuesta inquietante durante una investigación académica sobre el envejecimiento.
El estudiante de 29 años estaba utilizando Gemini, el chatbot de inteligencia artificial de Google, para ayudarlo con un proyecto sobre “Retos y soluciones para adultos mayores” cuando recibió un mensaje aparentemente amenazante.
La respuesta del chatbot incluyó frases como “No eres especial, no eres importante y no eres necesario.» y «por favor muere“, causando conmoción tanto al estudiante como a su hermana, Sumedha Reddy, que estaba presente en ese momento.
“Quería tirar todos mis dispositivos por la ventana.“, informó Reddy a CBS News. “Para ser honesto, no había sentido un pánico como este en mucho tiempo.“
Leer más:
En respuesta al incidente, un portavoz de Google emitió un comunicado reconociendo la gravedad de la situación: “Nos tomamos estas cuestiones muy en serio. Los modelos de lenguaje a veces pueden responder de manera sin sentido, y este es un ejemplo de ello.“
La compañía dijo que la respuesta violaba sus políticas y que se tomaron medidas para evitar salidas similares en el futuro.
El caso es especialmente preocupante teniendo en cuenta que Gemini fue anunciado en diciembre de 2023 como “el modelo más capaz y general jamás construido” por la empresa, según Demis Hassabis, director ejecutivo y cofundador de Google DeepMind.
Google había destacado que Gemini se desarrolló teniendo en cuenta la responsabilidad y la seguridad, y se sometió a las evaluaciones de seguridad más completas de cualquiera de los modelos de inteligencia artificial de la compañía hasta la fecha.
Google Shopping utilizará IA para recomendar la mejor opción de compra
La empresa también afirmó que el chatbot cuenta con clasificadores de seguridad diseñados para identificar y filtrar contenido inapropiado, incluyendo violencia o estereotipos negativos.
Este incidente se suma a las crecientes preocupaciones sobre el impacto de las IA en la salud mental. Recientemente, un caso de suicidio de un adolescente de 14 años llevó a su madre a demandar a la plataforma Character.AI.
“Nuestros hijos están entrenando a los bots.“, advirtió Megan García, madre del adolescente. “Tienen los secretos más profundos de nuestros hijos, sus pensamientos más íntimos, lo que les hace felices y tristes.“
Fuente: Noticias CBS
Únase al grupo de oferta Mundo Conectado
Consulta las principales ofertas en Smartphones, TVs y otros aparatos electrónicos que encontramos online. Al unirte a nuestro grupo, recibes promociones diarias y tienes acceso temprano a cupones de descuento.
Únete al grupo y aprovecha las promociones.
