Escribas médicos com inteligência artificial (IA) foram criados para aliviar a carga de documentação (em inglês) que consome o tempo dos médicos. Eles são rápidos, eficientes e cada vez mais comuns. No entanto, esses sistemas às vezes geram conteúdo que parece clinicamente verdadeiro, mas é totalmente fabricado, um fenômeno conhecido como alucinação da IA. Isso faz com que os registros incluam diagnósticos inventados, exames que nunca aconteceram e medicamentos registrados para o paciente errado. É um risco com consequências graves para a segurança do paciente e para a confiança. Entenda a natureza das alucinações da IA e como evitar que elas atrapalhem seu fluxo de trabalho.
O que são alucinações da IA na documentação médica?
No contexto dos escribas médicos com IA, uma “alucinação” (em inglês) é a geração de conteúdo fabricado que soa gramaticalmente coerente e plausível do ponto de vista médico, mas não tem absolutamente nenhuma base na conversa real entre paciente e profissional de saúde. São afirmações clínicas estruturadas feitas para parecer legítimas, o que as torna especialmente perigosas no contexto da saúde.
Além dos “erros”
Para entender a gravidade, é preciso distinguir os erros comuns de transcrição das alucinações:
- Erro de transcrição: a IA ouve “Sicose” como “Psicose”, um erro claro e fácil de identificar.
- Alucinação: a IA registra um exame neurológico completo que o profissional de saúde nunca realizou nem solicitou, simplesmente porque o modelo decidiu que o registro “precisava” dessa informação para parecer completo.
Uma alucinação insere “fatos” totalmente novos no prontuário. Ela inventa exames físicos, fabrica históricos familiares ou cria perfis de sintomas. Como essas entradas parecem exatamente dados clínicos legítimos, são difíceis de identificar em uma revisão apressada do registro, mas passam a integrar de forma permanente o prontuário do paciente, com valor legal.
Como as alucinações acontecem
Os escribas médicos com IA funcionam com modelos de linguagem de grande porte (LLMs), mecanismos avançados de previsão estatística que operam por reconhecimento de padrões, e não por compreensão clínica. Eles não “sabem” medicina: preveem a próxima palavra mais provável em uma sequência com base em um enorme volume de dados de treinamento. Esse mecanismo cria três caminhos principais para as alucinações:
Interpretar mal o contexto (conversa informal vs. clínica)
O modelo muitas vezes tem dificuldade para diferenciar uma conversa social informal de sintomas clínicos. Por exemplo, se um paciente comenta de passagem “Andamos exaustos com as crianças ultimamente”, a IA pode prever estatisticamente que “fadiga” e “aumento do estresse” são termos clinicamente relevantes para registrar na queixa principal, transformando um comentário casual em um diagnóstico documentado.
Preencher lacunas (completar de forma plausível)
Quando a conversa não traz detalhes clínicos específicos, como um exame físico ou a revisão de sistemas, o modelo pode “preencher as lacunas” com os achados estatisticamente mais comuns em casos semelhantes. Ele gera um exame perfeitamente redigido e totalmente fabricado só para que o registro pareça estruturalmente completo.
Generalizar demais a partir de uma fala imprecisa
Se o paciente tem um sotaque forte, usa expressões incomuns ou tem um distúrbio da fala, o reconhecimento de padrões do modelo falha. Ele recorre ao texto médico “estatisticamente mais provável”, na prática adivinhando o conteúdo em vez de transcrevê‑lo com precisão.
Os riscos: por que as alucinações importam
Quando as alucinações entram no prontuário permanente de um paciente, os efeitos em cascata podem comprometer a segurança, expor os profissionais de saúde à responsabilização e aprofundar as desigualdades já existentes na saúde.
Segurança do paciente
Um achado fruto de alucinação pode influenciar decisões clínicas futuras.
Riscos clínicos para os pacientes
- Erros de medicação: alergias, doses ou prescrições registradas pela IA que nunca existiram podem levar a eventos adversos a medicamentos ou a interações medicamentosas perigosas.
- Sintomas omitidos ou alterados: quando a IA inventa sintomas que o paciente nunca relatou, pode desviar a atenção do profissional de saúde do problema real, atrasando um diagnóstico preciso.
- Falsa tranquilidade: uma revisão de sistemas gerada pela IA com aparência normal pode criar uma falsa sensação de segurança e levar o profissional de saúde a deixar passar sinais graves.
Riscos jurídicos e profissionais
Além da segurança do paciente, as alucinações criam problemas jurídicos para os profissionais de saúde. O prontuário é um documento legal, e o profissional que o assina responde integralmente por cada palavra, independentemente de ter sido gerada por uma IA.
- Descrição falsa do atendimento: um exame ou diagnóstico fabricado sugere que o profissional de saúde fez avaliações que nunca realizou, o que pode configurar fraude ou negligência em um processo por erro médico.
- Perda de confiança: quando os pacientes descobrem imprecisões nos próprios prontuários, a relação entre profissional de saúde e paciente é prejudicada e a confiança em toda a equipe de cuidado fica abalada.
Desigualdades na precisão
As alucinações não afetam todos os pacientes da mesma forma. Isso se deve a conjuntos de dados enviesados que refletem perfis demográficos específicos, e o desempenho desses sistemas piora significativamente com a variabilidade da fala e de quem fala.
- Viés de sotaque e dialeto: pacientes com sotaques fora do padrão ou dialetos regionais têm mais chance de provocar erros de previsão, porque o modelo recorre ao texto médico estatisticamente “comum” em vez de fazer uma transcrição precisa.
- Distúrbios da fala: pacientes com disartria, afasia ou outros distúrbios da fala podem ter taxas de alucinação mais altas.
- Desigualdades demográficas: vieses nos dados de treinamento podem resultar em documentação de pior qualidade para pacientes de grupos minoritários, intensificando as desigualdades já existentes na saúde.
Como mitigar as alucinações
Uma abordagem em várias camadas pode reduzir significativamente os riscos, com a segurança como prioridade.
Boas práticas para profissionais de saúde
O profissional de saúde carrega toda a responsabilidade, e adotar fluxos de trabalho disciplinados é essencial para identificar as alucinações antes que entrem no prontuário permanente.
Ações para o profissional de saúde
- Trate cada resultado da IA como um primeiro rascunho: nunca assine um registro sem revisá-lo linha por linha.
- Revise o registro anterior: sempre compare o novo registro gerado pela IA com o do atendimento anterior. Mudanças repentinas e sem explicação em diagnósticos, medicamentos ou achados de exame são sinais de alerta de possíveis alucinações.
- Obtenha o consentimento informado do paciente: os pacientes têm o direito de saber que a IA está sendo usada no cuidado deles. Explique o que a tecnologia faz e quais são seus limites, e dê a eles a opção de recusar.
- Complemente a IA com seu próprio julgamento clínico: acrescente manualmente suas observações e impressões. A IA não enxerga sinais não verbais, como expressões faciais, desconforto físico ou sinais clínicos sutis, que embasam uma documentação precisa.
- Sinalize e comunique erros: quando identificar uma alucinação, comunique-a à sua instituição e ao fornecedor da IA. O retorno contínuo é fundamental para melhorar o desempenho do sistema.
Conclusão
Os escribas com IA prometem um futuro livre da sobrecarga de documentação. Mas esse futuro precisa ser construído sobre a precisão, não sobre a conveniência. As alucinações nos lembram que as ferramentas de IA não entendem medicina: elas apenas preveem palavras e servem para facilitar o fluxo de trabalho do profissional de saúde. Com uma revisão disciplinada pelo profissional, a IA pode ser uma ferramenta poderosa. Mas a última medida de precaução contra as alucinações é o profissional de saúde que lê, verifica e assume a responsabilidade por cada palavra que assina.
