Meta AI ahora alerta a los padres de jóvenes sobre conversaciones que involucran suicidio – MacMagazine

Después de lanzar una función de protección parental contra el suicidio en Instagram, Meta anunció que comenzará a notificar a los padres si sus hijos adolescentes hablan de suicidio o autolesión con el Meta IAchatbot de empresa.

Meta dice que también está trabajando en una función para contactar a los servicios de emergencia si las conversaciones sugieren un riesgo inminente de suicidio. Cabe mencionar que la empresa ya adopta esta medida cuando alguien publica algo en Facebook o Instagram que sugiere riesgo, y ahora pretende extenderla también a su chatbot.

Entendemos lo angustiante que puede ser para los padres recibir estas alertas. Por lo tanto, a medida que mejoremos nuestras capacidades de detección, todas las conversaciones marcadas por la IA se someterán a una revisión manual antes de enviar cualquier alerta. Si la intención del adolescente no está clara, pecaremos de cautelosos y notificaremos a los padres. Si bien esto significa que a veces podemos notificar a los padres sin que haya un motivo real de preocupación, creemos que este es el punto de partida apropiado y continuaremos monitoreando la situación para asegurarnos de que estamos en el camino correcto.

Meta también anunció que su configuración de Contenido limitado, que permite a los padres establecer una experiencia más restrictiva para sus hijos adolescentes en Instagram, ahora también se aplica a Meta AI. El chatbot ya está entrenado para evitar conversaciones con adolescentes de carácter sexual o romántico, así como discusiones sobre alcohol; la configuración de Contenido limitado amplía estas protecciones, lo que hace que el chatbot rechace una gama más amplia de solicitudes.

Estas alertas ahora están disponibles para los padres que utilizan la herramienta de Supervisión Parental de Instagram en Australia, Canadá, Estados Unidos y el Reino Unido, y se espera una implementación global para finales de este año, según Meta.