Resumo
- A OpenAI estima que “centenas de milhares” de usuários do ChatGPT podem apresentar sinais de crise mental grave em uma semana típica.
- O GPT-5 reduziu respostas inadequadas entre 39% e 52% em situações de risco de psicose e ideação suicida.
- A análise da OpenAI tem limitações devido à amostragem reduzida e à falta de consenso entre profissionais.
A OpenAI divulgou, pela primeira vez, uma estimativa sobre o número de usuários do ChatGPT que podem apresentar indícios de uma crise mental severa em uma semana típica: “centenas de milhares”. Segundo a empresa, o dado é fruto de uma parceria com especialistas em saúde mental de diversos países, que ajudaram a aprimorar o sistema para reconhecer melhor sinais de sofrimento psicológico e orientar os usuários a buscar ajuda profissional.
Nos últimos meses, o aumento de relatos sobre pessoas que teriam enfrentado consequências graves após interações intensas com o ChatGPT — incluindo internações e até mortes — acendeu o alerta entre especialistas. Psiquiatras e profissionais de saúde mental chamam o fenômeno de “psicose induzida por IA”.
O que a OpenAI descobriu?
Médicos e pesquisadores analisaram mais de 1,8 mil respostas do modelo em situações envolvendo risco de psicose, ideação suicida e apego emocional ao chatbot. O desempenho da versão mais recente, o GPT-5, foi comparado ao do GPT-4o, e o resultado apontou melhorias significativas. Segundo a OpenAI, o novo modelo reduziu respostas inadequadas em proporções que variam entre 39% e 52% em todas as categorias.
Johannes Heidecke, líder de sistemas de segurança da OpenAI, afirmou à revista Wired: “Agora, esperamos que muito mais pessoas que lutam contra essas condições ou que estão passando por emergências de saúde mental muito intensas possam ser encaminhadas para ajuda profissional e tenham mais chances de obter esse tipo de ajuda ou obtê-la mais cedo do que teriam de outra forma.”
Apesar dos avanços na segurança do ChatGPT, os dados compartilhados apresentam limitações significativas. A análise se baseia em uma amostragem reduzida e depende da interpretação de profissionais que nem sempre chegaram a um consenso sobre a gravidade das situações.
Além disso, os dados não refletem necessariamente o comportamento de todos os usuários da plataforma. Mesmo assim, a iniciativa representa um passo inédito para medir os impactos psicológicos de interações com chatbots avançados.