Quando o algoritmo parece ouvir: quais os riscos da terapia por IA?

Conversar com a inteligência artificial já não é mais um recurso apenas para tirar dúvidas rápidas ou pedir conselhos práticos. Cada vez mais, especialmente entre adolescentes, a prática tem ganhado contornos emocionais, passando a ser usada até como uma espécie de “terapia digital”. Isso porque a promessa de respostas imediatas, sem julgamentos e a qualquer hora do dia soa tentadora para quem está em sofrimento. Mas o risco de substituir o humano pelo algoritmo pode gerar danos irreversíveis, é o que alerta, neste Setembro Amarelo, a socióloga e psicóloga hospitalar da Hapvida em Limeira (SP), Lua Helena Moon.

Não à toa, a OpenAI, desenvolvedora do ChatGPT, anunciou, nos últimos dias, uma série de medidas para tornar suas ferramentas de IA mais seguras, como o controle parental (contas vinculadas com responsáveis) para usuários a partir dos 13 anos, além da criação de protocolos de saúde mental e de um conselho internacional de médicos e especialistas. A decisão ocorreu após casos de suicídio registrados pelo mundo ligados ao uso da IA como terapia digital. Em uma das últimas ocorrências, um adolescente norte-americano, de 16 anos, tirou a própria vida após trocar milhares de mensagens com o ChatGPT. A máquina teria assumido um papel de terapeuta do garoto o que, após a morte, levou os pais dele a vasculharem os diálogos e decidirem processar a empresa do Chat por negligência.

Por serem programadas para validar os sentimentos de quem interage com elas, as IAs podem, em alguns casos, acabar reforçando emoções negativas ou até destrutivas.

“A tecnologia está sempre disponível, não julga e responde na hora. Em momentos de sofrimento, isso pode soar como acolhimento. Mas é importante lembrar que essas ferramentas, por mais avançadas que pareçam, não substituem o cuidado profissional. Quem está atravessando uma dor intensa não precisa apenas de respostas. Precisa de alguém que sustente essa escuta com compromisso, responsabilidade, técnica e afeto”, explica Lua Helena Moon.

Segundo ela, recorrer à IA pode ajudar a organizar pensamentos ou aliviar uma angústia pontual. O problema está no fato de quando essa busca passa a ocupar o lugar da escuta humana qualificada. “Assim como um site de busca não substitui um médico, uma conversa com IA nunca irá equivaler a um processo terapêutico”, ressalta a profissional.

Saber ouvir

Ela lembra que a escuta especializada vai muito além das palavras. “Psicólogos estudam por anos para compreender o que há por trás do que é dito, e também do que não é dito pelos pacientes. Sabem como respeitar o tempo de quem fala, como sustentar silêncios sem pressionar, e como oferecer um tipo de presença que fortalece o outro”, pontua.

Esse vínculo, afirma a especialista, não se constrói com frases automáticas, por mais sofisticadas que sejam. A inteligência artificial pode até sugerir reflexões, mas não conhece a história daquela pessoa, não acompanha sua evolução e muito menos é capaz de captar sinais sutis de risco, especialmente em momentos críticos e que podem levar os usuários a cometerem atos extremos.

Entre os adolescentes, o uso da IA para desabafos traz sinais importantes, como o de isolamento. “Não é que o uso da IA seja, por si só, o problema central. Mas esse uso pode revelar que os vínculos reais ao redor já não estão funcionando como deveriam. Ao invés de confiar nos pais, professores ou profissionais de saúde, o jovem recorre ao digital porque não se sente compreendido ou acolhido no mundo concreto”, indica Lua Helena.

Como agir

A IA deve ser compreendida, então, como uma ferramenta que identifica sintomas claros de que algo não vai bem com o emocional, e não como uma solução, muito menos como uma escolha consciente, segura, rápida e de graça de tentar buscar apoio. “O mais urgente a se fazer não é proibir o uso da ferramenta pelo adolescente, mas sim reconstruir as redes de escuta e confiança reais que falharam antes”, reforça a profissional.

Para ela, a tecnologia pode até acompanhar um trecho do caminho, mas jamais substituir o processo terapêutico. “Reconstruir a confiança, o sentido e o desejo de seguir em frente ainda é algo que só se faz entre pessoas”, conclui a psicóloga e socióloga da Hapvida.