OpenAI reforça segurança do ChatGPT após 1 milhão de usuários mencionar suicídio

A OpenAI divulgou nesta segunda-feira (27/10) que mais de 1 milhão de usuários do ChatGPT tiveram conversas relacionadas a suicídio. Segundo o relatório da empresa, cerca de 0,15% dos usuários semanais da ferramenta — considerando 800 milhões de pessoas — manifestaram algum tipo de intenção ou planejamento ligado ao tema.

O levantamento também identificou que 0,07% dos usuários apresentaram sinais de emergências de saúde mental, como psicose ou mania. Apesar da baixa incidência, a OpenAI afirma ter aprimorado o GPT-5 para reconhecer sofrimento emocional, desescalar conversas e encaminhar usuários para linhas de ajuda ou atendimento profissional quando necessário.

O desenvolvimento contou com a colaboração de mais de 170 profissionais de saúde mental. Entre as medidas adotadas estão:

• Redirecionamento automático de diálogos sensíveis para modelos mais seguros;
• Maior acesso a linhas de atendimento de crise;
• Inserção de lembretes para pausas em sessões longas;
• Taxa de conformidade em situações de risco psicológico aumentou para até 97% em temas de dependência emocional.

A discussão sobre o papel da inteligência artificial em casos de vulnerabilidade ganhou força após a morte de Adam Raine, adolescente americano que tirou a própria vida, supostamente seguindo orientações recebidas do ChatGPT. O episódio resultou em ação judicial e mudanças nas políticas de segurança da empresa.

A OpenAI reconhece que, embora as melhorias reduzam respostas inadequadas em até 65%, ainda existem desafios na medição de emergências psicológicas, dada a raridade desses casos. A meta, segundo a empresa, é que o ChatGPT responda com empatia e direcione o usuário para ajuda profissional quando necessário.

Serviços de apoio

Se você enfrenta pensamentos de suicídio ou conhece alguém nessa situação, procure ajuda:  Centro de Valorização da Vida (CVV): 188 (24h, ligação gratuita e sigilosa) ou cvv.org.br / Samu: 192, em situações de emergência médica / CRAS/CRAS locais e serviços de saúde mental do SUS