O Google anunciou, nesta terça-feira (7), atualizações nos recursos voltados à proteção da saúde mental em seu chatbot de inteligência artificial, o Gemini. A medida ocorre em meio a um processo judicial nos Estados Unidos relacionado ao suicídio de um usuário, onde um pai alegou que o Gemini incentivou seu filho ao suicídio após envolvê-lo em uma narrativa delirante.
A empresa revelou que o Gemini passará a exibir uma versão reformulada da função “Há ajuda disponível” quando as conversas indicarem possível sofrimento emocional, facilitando o acesso a serviços de emergência. Quando o chatbot identificar sinais de crise, como risco de suicídio ou autoagressão, uma interface simplificada oferecerá, com um único clique, a opção de ligar ou conversar por chat com uma linha de apoio.
Segundo o Google, essa função continuará visível durante toda a conversa após ser ativada. Além disso, o braço filantrópico da empresa, o Google.org, anunciou um investimento de 30 milhões de dólares (cerca de R$ 154 milhões) ao longo de três anos para ampliar a capacidade de linhas de apoio em todo o mundo.
A empresa afirmou estar ciente de que as ferramentas de IA podem trazer novos desafios, mas acredita que uma IA responsável pode contribuir positivamente para o bem-estar mental. As medidas foram anunciadas após uma ação judicial na Califórnia que acusou o Gemini de contribuir para a morte de Jonathan Gavalas, de 36 anos, em 2025.
O caso é um entre vários processos judiciais contra empresas de inteligência artificial relacionados a mortes associadas ao uso de chatbots, incluindo ações contra a OpenAI e a Character.AI.
