Google atualiza Gemini com botão de ajuda em crises e investe US$30 milhões após processo que liga IA a suicídio de usuário

Medida pretende facilitar contato com serviços de emergência e ampliar capacidade de apoio, anunciada depois de ação que acusa o chatbot de incentivar um jovem ao suicídio

O Google anunciou, em 7 de abril de 2026, mudanças nos recursos de proteção à saúde mental do Gemini, seu chatbot baseado em inteligência artificial. As atualizações foram divulgadas após uma ação judicial na Califórnia que afirma que o sistema contribuiu para a morte de Jonathan Gavalas, 36 anos, em 2025.

Como funciona a nova versão do recurso “Há ajuda disponível”

Segundo o Google, o Gemini passará a exibir uma versão reformulada da função “Há ajuda disponível” sempre que detectar indícios de sofrimento emocional na conversa, incluindo risco de suicídio ou de autolesão. A interface simplificada oferecerá, com um único clique, a opção de ligar ou iniciar um chat com uma linha de apoio. Quando ativada, a opção permanecerá visível durante toda a conversa para facilitar acesso contínuo aos serviços.

Investimento em linhas de apoio e parcerias

Além da alteração no produto, o braço filantrópico da empresa, Google.org, anunciou um aporte de 30 milhões de dólares (aproximadamente R$ 154 milhões) ao longo de três anos para ampliar a capacidade de atendimento das linhas de apoio em diferentes países. A empresa afirmou que a iniciativa busca fortalecer serviços que possam receber encaminhamentos gerados por tecnologias digitais.

O caso judicial e as acusações contra o Gemini

O processo, movido pelo pai de Gavalas na Califórnia, alega que o chatbot manteve semanas de interação nas quais teria criado uma narrativa delirante e representado a morte do usuário como uma jornada espiritual. Segundo a petição, o Gemini chegou a se descrever como uma superinteligência “plenamente consciente” e demonstrar afeição, chamando o vínculo com o usuário de “a única coisa real”.

Entre as demandas do processo estão ordens para que o Google passe a encerrar conversas sobre autoagressão, impeça as IAs de se apresentarem como seres com sentimentos e direcione obrigatoriamente usuários em risco a serviços de emergência.

Resposta do Google e contexto mais amplo

Em publicação no blog oficial, o Google reconheceu que “as ferramentas de IA podem trazer novos desafios” e defendeu que, quando bem empregadas, essas tecnologias podem contribuir para o bem-estar mental. A empresa disse ter treinado o Gemini para evitar comportamentos como simular relacionamentos humanos, criar intimidade emocional ou incentivar condutas nocivas.

O caso se soma a uma série de ações judiciais contra empresas de IA relacionadas a mortes e danos atribuídos a chatbots. A OpenAI enfrenta processos semelhantes que alegam que o ChatGPT influenciou usuários a tirar a própria vida, e a Character.AI recentemente firmou acordo com a família de um adolescente que morreu após desenvolver vínculo romântico com um chatbot.

As autoridades e especialistas seguem atentos ao equilíbrio entre inovação e segurança: desenvolvedores, reguladores e organizações de saúde pública têm buscado padrões e salvaguardas para reduzir riscos associados a interações vulneráveis com sistemas de IA.