Uma nova tendência está surgindo em hospitais psiquiátricos. As pessoas em crise estão chegando com crenças falsas, às vezes perigosas, delírios grandiosos e pensamentos paranóicos. Um tópico comum os conecta: Conversas de maratona com AI Chatbots.
Wired conversou com mais de uma dúzia de psiquiatras e pesquisadores, que estão cada vez mais preocupados. Em São Francisco, o psiquiatra da UCSF Keith Sakata diz que contou uma dúzia de casos graves o suficiente para justificar a hospitalização este ano, casos em que inteligência artificial “Desempenhou um papel significativo em seus episódios psicóticos”. À medida que essa situação se desenrola, uma definição mais atraente decolou nas manchetes: “Ai psicose”.
Alguns pacientes insistem que os bots são sencientes ou giram novas teorias grandes da física. Outros médicos falam de pacientes travados em dias de vantagem com as ferramentas, chegando ao hospital com milhares e milhares de páginas de transcrições detalhando como os bots haviam apoiado ou reforçado pensamentos obviamente problemáticos.
Relatórios como esse estão se acumulando e as consequências são brutais. Usuários angustiados e familiares e amigos ter descrito espirais que liderado para empregos perdidos, relacionamentos rompidos, internações involuntárias, tempo de prisão e até morte. No entanto, os médicos dizem que a comunidade médica está dividida. Este é um fenômeno distinto que merece seu próprio rótulo, ou um problema familiar com um gatilho moderno?
A psicose da IA não é um rótulo clínico reconhecido. Ainda assim, a frase se espalhou nas notícias e nas mídias sociais como descritor de captura para algum tipo de crise de saúde mental após conversas prolongadas de chatbot. Até os líderes do setor o invocam para discutir os muitos problemas emergentes de saúde mental ligados à IA. Na Microsoft, Mustafa Suleyman, CEO da Divisão de AI da gigante da tecnologia, avisado em uma postagem no blog no mês passado do “risco de psicose”. Sakata diz que é pragmático e usa a frase com pessoas que já o fazem. “É útil como abreviação de discutir um fenômeno real”, diz o psiquiatra. No entanto, ele é rápido em acrescentar que o termo “pode ser enganoso” e “corre o risco de simplificar sintomas psiquiátricos complexos demais”.
Essa simplificação excessiva é exatamente o que diz respeito a muitos dos psiquiatras que começam a lidar com o problema.
A psicose é caracterizada como um afastamento da realidade. Na prática clínica, não é uma doença, mas uma complexa “constelação de sintomas, incluindo alucinações, transtorno de pensamento e dificuldades cognitivas”, diz James Maccabe, professor do Departamento de Estudos da Psicose no King’s College London. É frequentemente associado a condições de saúde como esquizofrenia e transtorno bipolar, embora os episódios possam ser desencadeados por uma ampla variedade de fatores, incluindo estresse extremo, uso de substâncias e privação do sono.
Mas, de acordo com Maccabe, os relatos de casos de psicose de IA se concentram quase exclusivamente em delírios – crentes denominadas, mas falsas que não podem ser abaladas por evidências contraditórias. Embora reconheça que alguns casos possam atender aos critérios de um episódio psicótico, Maccabe diz que “não há evidências” de que a IA tenha alguma influência nas outras características da psicose. “São apenas os ilusões que são afetados pela interação com a IA”. Outros pacientes que relatam problemas de saúde mental após se envolver com chatbots, MacCabe Notes, exibem delírios sem nenhuma outra característica da psicose, uma condição chamada transtorno ilusório.
