A OpenAI anunciou uma atualização no ChatGPT, voltada a aprimorar as respostas em conversas sensíveis, especialmente em situações que envolvem sofrimento psicológico ou risco de suicídio.
Importância da Atualização
A melhoria foi feita principalmente para tornar o ChatGPT mais seguro em conversas relacionadas à saúde mental e crises emocionais.
Segundo dados divulgados pela própria OpenAI, cerca de 0,15% dos usuários semanais do ChatGPT demonstram sinais de intenção suicida ou sofrimento psicológico intenso. Isso representa mais de um milhão de pessoas por semana.
O uso inadequado da ferramenta como escuta emocional chama atenção do público médico e acadêmico.
Principalmente, pelos riscos: como a falha de encaminhamento e a dependência emocional que pode ser gerada aos usuários.
O que mudou no ChatGPT
A OpenAI implementou melhorias voltadas à detecção de sinais de angústia emocional e ao redirecionamento de respostas em tempo real.
A empresa contou com a colaboração de mais de 170 especialistas em saúde mental na reformulação do modelo, garantindo que o sistema reconheça contextos sensíveis e responda de forma mais segura.
Agora, em situações de risco, o ChatGPT é capaz de encaminhar o usuário para serviços de apoio, como linhas de prevenção ao suicídio e contatos de emergência.
OpenEvidence: inovação em IA médica
Enquanto discutimos os riscos e desafios do uso de IA em saúde mental, é importante também olhar para outros exemplos. A startup OpenEvidence, que desenvolve inteligência artificial para ajudar médicos a navegar na literatura científica, recentemente atingiu uma valorização de US$ 6 bilhões.
A startup OpenEvidence desenvolve inteligência artificial voltada a auxiliar médicos na navegação de literatura científica e atualização de evidências médicas. Segundo reportagem da Forbes, a empresa atingiu recentemente uma valorização de US$ 6 bilhões,
Esses números ilustram o crescimento econômico da startup e a forma como ferramentas de inteligência artificial estão sendo aplicadas no setor médico, destacando a expansão do investimento em tecnologias que auxiliam profissionais de saúde na tomada de decisão e atualização de evidências científicas.
