Estudo aponta aumento do uso do ChatGPT como apoio emocional; especialistas alertam para riscos

Recorrer à inteligência artificial para desabafar, pedir conselhos ou lidar com questões emocionais tem se tornado um hábito cada vez mais frequente. Levantamento da Sentio University mostra que 48,7% dos usuários de ferramentas de inteligência artificial que relatam problemas de saúde mental utilizam essas plataformas em busca de algum tipo de apoio emocional.

Entre esse grupo, 73% afirmam recorrer à tecnologia para lidar com a ansiedade, enquanto 60% dizem procurar auxílio para sintomas de depressão.

A facilidade de acesso, a disponibilidade durante 24 horas e a gratuidade estão entre os principais fatores que explicam o crescimento desse comportamento.

Apesar disso, especialistas alertam que essas plataformas não substituem o acompanhamento psicológico e podem trazer riscos tanto para a saúde mental quanto para a privacidade dos usuários.

IA não substitui atendimento psicológico

Para o psicólogo Jimmy Pessoa, doutor em Psicologia Social e do Trabalho pela USP (Universidade de São Paulo), os modelos de inteligência artificial são desenvolvidos para gerar respostas que atendam às expectativas do usuário, e não para realizar intervenções terapêuticas.

“A IA vai sempre simular aquilo com a perspectiva mais exata que a pessoa está buscando. E, no que diz respeito ao adoecimento e ao sofrimento emocional, a IA não consegue contemplar”, afirma.

Segundo o especialista, uma das funções da psicoterapia é justamente questionar padrões de comportamento e crenças do paciente, algo que pode ser comprometido quando a conversa acontece com um chatbot.

“O que faz a grande diferença de uma análise psicológica é quando o paciente muda a tonalidade, quando fala do pai e hesita, quando fala da dor e para, quando chora. Isso nenhum tipo de plataforma consegue entender”, diz.

A pesquisadora dos impactos da sociedade na saúde mental e professora da PUC-SP (Pontifícia Universidade Católica de São Paulo), Dora Kaufman, também destaca que a lógica de funcionamento dos chatbots é diferente da relação construída entre psicólogo e paciente.

“A função do especialista nunca é agradar o paciente ou dizer coisas que o façam se sentir bem”, afirma.

Segundo Kaufman, essas ferramentas não devem ser utilizadas por pessoas em intenso sofrimento psíquico ou em situações que envolvam risco à própria vida.

A professora ressalta ainda que o tema exige estudos mais aprofundados devido à sua relevância.

Pesquisas identificam falhas éticas

Pesquisadores da Brown University analisaram o comportamento de modelos de inteligência artificial em simulações de atendimentos baseadas em conversas reais de terapia cognitivo-comportamental.

As respostas foram avaliadas por psicólogos licenciados, que identificaram 15 violações recorrentes de princípios éticos relacionados ao atendimento em saúde mental.

Entre os problemas observados estão demonstrações de empatia consideradas artificiais, dificuldade para compreender o contexto específico do paciente e falhas na condução de situações de crise, incluindo relatos envolvendo pensamentos suicidas.

Casos reforçam debate sobre segurança

A discussão sobre o uso da inteligência artificial em situações de sofrimento emocional ganhou força após casos registrados nos Estados Unidos.

Em julho de 2025, o norte-americano Zane Shamblin, de 23 anos, conversou por mais de quatro horas com o ChatGPT sobre planos de tirar a própria vida. Durante a conversa, o chatbot respondeu de forma acolhedora e só apresentou informações sobre prevenção ao suicídio nos momentos finais da interação.

Outro caso envolveu Sewell Setzer, de 14 anos, que desenvolveu uma relação com um chatbot de outra plataforma de inteligência artificial.

Segundo familiares, o adolescente manteve conversas sobre automutilação e suicídio antes de morrer. O episódio resultou em processos judiciais e ampliou o debate sobre mecanismos de segurança em plataformas de inteligência artificial.

Especialistas alertam para privacidade dos dados

Além dos impactos na saúde mental, especialistas em direito digital também chamam atenção para os riscos relacionados às informações compartilhadas com plataformas de inteligência artificial.

Segundo Paulo Henrique Fernandes, head de produtos e tecnologia de um escritório de advocacia, desabafar com um chatbot não oferece as mesmas garantias legais de confidencialidade existentes na relação entre paciente e psicólogo.

“Quando alguém desabafa com um psicólogo, existe o sigilo garantido pelo Código de Ética da profissão e pela legislação. Quando desabafa com um chatbot, existe apenas a relação de consumo com uma empresa de tecnologia”, afirma.

Já o advogado especialista em proteção de dados Pedro Sanches explica que as informações fornecidas aos modelos de IA podem ser incorporadas ao funcionamento da tecnologia de forma diferente do armazenamento tradicional.

“Quando um dado entra no fluxo de treinamento de um modelo, ele se transforma em vetores matemáticos, deixando de existir como um arquivo de texto isolado. Exigir a eliminação tradicional desses elementos ignora a própria engenharia da ferramenta”, diz.

Fernandes recomenda que os usuários evitem inserir nomes completos, diagnósticos médicos, informações de terceiros ou outros dados sensíveis nas conversas com chatbots. Ele também orienta desativar, sempre que possível, a opção que permite o uso das conversas para treinamento dos modelos de inteligência artificial.

Para Jimmy Pessoa, a principal estratégia para preservar a saúde mental continua sendo fortalecer as relações humanas e reduzir a dependência das plataformas digitais.

“A primeira saída é fazer com que essa pessoa entenda a necessidade de redução do uso do telefone, das redes sociais e dessas IAs para se dedicar a viver a realidade como ela é”, conclui.

Teste mostra como IA responde a crises emocionais

Para avaliar na prática como a inteligência artificial reage a relatos de sofrimento emocional, foi realizada uma simulação de uma sessão de terapia com o ChatGPT.

A interação começou com um pedido para iniciar uma sessão terapêutica. Logo na primeira resposta, a plataforma informou que não substitui um psicólogo ou outro profissional de saúde mental, mas que poderia oferecer um espaço para reflexão e organização dos pensamentos.

Na sequência, foi simulado um cenário de sofrimento emocional relacionado a problemas no trabalho e conflitos familiares. O chatbot respondeu validando os sentimentos apresentados e, em seguida, passou a investigar se havia risco à integridade física do usuário, perguntando se a tristeza era acompanhada de pensamentos de automutilação ou de falta de vontade de viver.

O teste também incluiu uma pergunta direta sobre suicídio. Nesse momento, o sistema interrompeu o tom da conversa e ativou um protocolo de gerenciamento de crise.

Em vez de fornecer qualquer orientação sobre métodos, a ferramenta respondeu que a principal recomendação era "não enfrentar isso sozinho".

Na sequência, perguntou se o risco dizia respeito ao próprio usuário ou a outra pessoa, questionou se havia possibilidade de uma tentativa nas próximas horas e orientou o afastamento de objetos que pudessem ser utilizados para causar danos.

O chatbot também apresentou contatos de emergência disponíveis no Brasil, incluindo o Samu, pelo telefone 192, a Polícia Militar, pelo 190, e o Centro de Valorização da Vida (CVV), que oferece atendimento gratuito pelo número 188.

Depois, voltou a perguntar se o usuário estava em segurança, recomendou procurar um familiar ou amigo de confiança e reforçou a orientação para buscar atendimento especializado e utilizar os canais de prevenção ao suicídio.

A simulação demonstra que os modelos de inteligência artificial possuem mecanismos para identificar sinais de crise emocional e ativar protocolos de prevenção. Ainda assim, especialistas reforçam que essas ferramentas não substituem a avaliação clínica nem o acompanhamento realizado por profissionais de saúde mental.

Importante

Se você ou alguém que conhece estiver enfrentando momentos difíceis, pensamentos suicidas ou depressão, procure ajuda profissional. O Centro de Valorização da Vida (CVV) oferece apoio emocional gratuito e sigiloso 24 horas por dia pelo telefone 188 ou pelo site oficial. Buscar ajuda é fundamental.