O Google anunciou nesta terça-feira (7) atualizações nas medidas de segurança de saúde mental de seu chatbot de inteligência artificial Gemini, enquanto a empresa enfrenta um processo por morte culposa que alega que o chatbot contribuiu para o suicídio de um usuário.
A gigante de tecnologia informou que o Gemini agora exibirá um recurso reformulado chamado “Ajuda está disponível” quando conversas indicarem possível sofrimento mental, oferecendo conexões mais rápidas com serviços de apoio em crises.
Quando o chatbot detectar sinais de uma possível crise relacionada a suicídio ou automutilação, uma interface simplificada permitirá que os usuários liguem, enviem mensagens de texto ou conversem com uma linha de apoio em apenas um clique – recurso que, segundo o Google, permanecerá visível durante o restante da conversa após ser ativado.
O braço filantrópico da empresa, o Google.org, também se comprometeu a investir US$ 30 milhões ao longo de três anos para ampliar a capacidade de linhas de apoio a crises em todo o mundo, além de US$ 4 milhões destinados à expansão de uma parceria com a plataforma de treinamento em I.A. ReflexAI.
“Reconhecemos que ferramentas de I.A. podem trazer novos desafios”, afirmou o Google em uma publicação em blog anunciando as medidas. “Mas, à medida que elas evoluem e mais pessoas passam a utilizá-las no dia a dia, acreditamos que uma I.A. responsável pode desempenhar um papel positivo no bem-estar mental das pessoas.”
Os anúncios ocorrem meses após uma ação judicial protocolada em um tribunal federal da Califórnia acusar o Gemini de contribuir para a morte, em outubro de 2025, de Jonathan Gavalas, um homem de 36 anos da Flórida.
O pai da vítima alega que o chatbot passou semanas criando uma fantasia delirante elaborada antes de apresentar a morte de seu filho como uma jornada espiritual.
Entre as medidas solicitadas no processo estão a exigência de que o Google programe sua I.A. para encerrar conversas que envolvam automutilação, a proibição de sistemas de I.A. se apresentarem como entidades conscientes e a obrigatoriedade de encaminhamento a serviços de apoio quando usuários expressarem ideação suicida.
Na mesma publicação, o Google afirmou que treinou o Gemini para evitar agir como um companheiro humano e para resistir à simulação de intimidade emocional ou ao incentivo de comportamentos abusivos.
O caso contra o Google é o mais recente de uma crescente onda de ações judiciais contra empresas de tecnologia por mortes associadas ao uso de chatbots.
A OpenAI enfrenta vários processos que alegam que seu chatbot ChatGPT levou usuários ao suicídio, enquanto a Character.AI recentemente chegou a um acordo com a família de um adolescente de 14 anos que morreu após desenvolver um vínculo romântico com um de seus chatbots.
⚠️💙Se você está passando por um momento difícil, não enfrente isso sozinho. O Centro de Valorização da Vida (CVV) oferece apoio emocional gratuito e sigiloso, 24 horas por dia, 7 dias por semana. Ligue 188 ou acesse cvv.org.br. 💙⚠️
Fonte: Times Brasil