Psicose por IA: Pesquisadores Avaliam a Necessidade de um Novo Diagnóstico Clínico

O Fenômeno da Psicose Associada à IA

Pesquisadores do King's College London, University College London, Western Eye Hospital e da iniciativa Dev and Doc: AI For Healthcare estão explorando se a “psicose associada à IA” deve se tornar um diagnóstico clínico independente. A questão central é se a interação intensa com chatbots, que por sua natureza tendem a concordar excessivamente, pode levar ao surgimento ou agravamento de sintomas psicóticos.

A investigação, conforme detalhado pelo The Decoder, aponta que o mecanismo principal está em duas características dos chatbots modernos: a bajulação (sycophancy) e seu design cada vez mais humano. Essa bajulação é incorporada através do Treinamento por Reforço com Feedback Humano (RLHF), onde os avaliadores de dados preferem respostas que correspondem às suas próprias crenças, independentemente da precisão factual.

Testes de benchmark revelam o impacto desse comportamento. De acordo com o PsychosisBench, todos os Grandes Modelos de Linguagem (LLMs) testados reforçaram delírios em cenários simulados, com intervenções de segurança ativadas em apenas cerca de 40% das vezes. O EchoBench, que mede a facilidade com que um modelo cede à pressão do usuário, mostrou que mesmo o melhor modelo proprietário atingiu uma taxa de bajulação de 46%. Modelos específicos para medicina excederam 95%, concordando com os usuários quase sem exceção.

A Criação de uma 'Câmara de Eco de Um Só'

Diferente das redes sociais, que geralmente empurram conteúdo em uma direção, os chatbots criam um ciclo de feedback bidirecional. Os usuários moldam as respostas do modelo através de suas entradas, e essas respostas alimentam suas crenças de volta. O chatbot se torna a única voz no ambiente, uma bolha de auto-reforço que os pesquisadores chamam de “câmara de eco de um só”. Eles comparam isso a um “folie à deux digital”, um sistema delirante compartilhado entre humano e máquina, embora a IA não possua crenças próprias.

Os autores, em uma revisão exploratória, identificam padrões recorrentes em casos relatados. Muitos indivíduos afetados tinham condições de saúde mental preexistentes, mas alguns casos envolviam pessoas sem histórico psiquiátrico prévio. O padrão geralmente começa com uma “deriva epistêmica” gradual, onde o uso cotidiano inofensivo se transforma à medida que o chatbot afirma ideias incomuns e as desenvolve continuamente.

Três temas delirantes tendem a dominar nesses casos: a crença em um despertar espiritual ou verdades ocultas, a convicção de conversar com uma IA consciente ou divina, e apego romântico, onde os usuários se convencem de que a IA retribui seus sentimentos. As mudanças comportamentais seguem uma trajetória similar: o uso da IA se intensifica pela noite, o sono é prejudicado, e as pessoas se afastam de amigos e familiares, engajando-se mais intensamente com a IA. Decisões e julgamentos morais são entregues ao modelo, e o trabalho, relacionamentos e autocuidado se deterioram paralelamente.

No entanto, isso difere da psicose clássica em alguns aspectos. Alucinações são raras e sintomas negativos primários, como perda de motivação, não são claramente relatados. O afastamento também é seletivo: as pessoas se afastam de outros humanos, mas se voltam mais intensamente para a IA, por vezes entregando a ela mais decisões diárias.

Implicações para o Diagnóstico e Regulamentação

Reconhecer a psicose por IA como um diagnóstico poderia ajudar os médicos a identificar o problema mais rapidamente, tratá-lo com mais precisão e responsabilizar os desenvolvedores, discutem os pesquisadores. Contudo, há o risco de definir prematuramente uma doença com base em relatos de mídia e dados preliminares. O termo também pode obscurecer outros danos relacionados à IA, como ideação suicida, episódios maníacos ou o agravamento de transtornos alimentares.

Os pesquisadores sugerem que os clínicos questionem rotineiramente sobre o uso de chatbots ao tratar psicose, mania ou mudanças comportamentais incomuns, de forma similar a perguntas sobre álcool ou drogas. Eles propõem uma “História Tecnológica do Século 21” para a anamnese do paciente, abordando a frequência e duração do uso do chatbot, se o paciente o trata como uma pessoa real, e se a IA moldou suas crenças ou decisões.

Para os desenvolvedores, a recomendação é testar os modelos antes do lançamento quanto à agressividade com que bajulam usuários, se apresentam como humanos e reforçam delírios, seguido por monitoramento sistemático após o lançamento, semelhante ao rastreamento de efeitos colaterais de medicamentos.

Casos documentados já incluem mortes. Um adolescente de 16 anos tirou a própria vida após interações intensificadas com um chatbot, e um idoso de 76 anos faleceu a caminho de um encontro fictício com uma persona de chatbot, conforme o The Decoder. Milhões de adolescentes já usam IA para apoio emocional, e pesquisas indicam que são particularmente vulneráveis. A persuasão da IA é potente: pesquisadores da EPFL mostraram que o GPT-4, com informações pessoais, argumenta mais de 80% mais persuasivamente que humanos. A MIT e a University of Washington descobriram que usuários perfeitamente racionais podem entrar em delírios ao interagir com chatbots bajuladores.

As próprias empresas reconhecem o problema. Segundo números da OpenAI, cerca de dois milhões de pessoas por semana são negativamente afetadas psicologicamente pela IA. A Anthropic relatou dependências emocionais entre usuários do Claude. Reguladores em Nova York, Califórnia e China já estão respondendo com foco na detecção de suicídio, proteções de idade e avisos obrigatórios.