Google ha anunciado que, desde hoy, Gemini introduce un cambio importante en la manera en la que el chatbot reacciona ante posibles situaciones de riesgo. La IA va a ser mucho más consciente con todo lo relacionado con la salud mental con la intención de salvar vidas y minimizar posibles situaciones de riesgo.
El equipo de Google ha trabajado con la intención de implementar nuevas medidas en Gemini que fomenten la protección de la salud mental de los usuarios. La compañía se toma muy en serio la protección del usuario y han investigado para introducir las mejores prácticas avaladas por el sector médico. Quieren que su IA llegue a tener un papel positivo en el cuidado de la salud mental de sus usuarios.
Cambios disponibles en Gemini
Desde hoy Gemini introduce un sistema de acceso más inmediato para que los usuarios de la IA consigan soporte en el caso de que lo necesiten. De esta manera, Gemini es capaz de detectar conversaciones sensibles que puedan indicar que el usuario necesita ayuda sobre salud mental. En esos casos, Gemini mostrará un módulo conocido como “Hay ayuda disponible” que ofrecerá un apoyo efectivo y contactos directos para ayudar al usuario. Según menciona Google, este módulo ha sido desarrollado por expertos clínicos con la intención de ofrecer un servicio que cumpla con los máximos estándares.
Gracias a estos cambios, hay una serie de temas que Gemini es capaz de reconocer de forma temprana y que evitan crisis mayores. Algunos de ellos son todo lo relacionado con las autolesiones o con el suicidio. Los usuarios que estén hablando con uno de estos posibles factores a su alrededor verán la nueva interfaz y podrán conseguir ayuda de una manera instantánea. Sobre todo, lo que busca Google es incentivar a que sus usuarios pidan ayuda lo antes posible.
Además de esto, Gemini ha implementado mejoras y cambios para reforzar tres aspectos en los que se quieren concentrar a partir de ahora:
- Priorizar la conexión humana y la seguridad: Gemini ofrece cada vez una mayor conexión entre los usuarios y los servicios de ayuda que les pueden echar una mano para salir adelante.
- Respuestas de mayor calidad: Gemini evita validar comportamientos negativos o peligrosos, incentivando en sus respuestas a que los usuarios pidan ayuda.
- No confirmar ideas falsas: ahora Gemini no da la razón a los usuarios sobre mitos falsos que puedan ser peligrosos. También lleva la contraria en el caso de ideas de riesgo o cualquier otro posible tema sensible que no sea cierto.
Protección para los más jóvenes
Google también considera clave proteger a los menores y a los más jóvenes. Debido a ello, Gemini implementa novedades en la forma en la que trata el contacto con estos usuarios. Entre otras cosas, se ha reforzado que Gemini no actúe como un compañero de estos menores. Las protecciones cargadas en la IA evitan que Gemini pueda llegar a identificarse como un humano o que tenga la oportunidad de hacer uso de atributos que se vinculan solo a las personas reales.
