À medida que os escribas médicos com IA que acompanham o atendimento se tornam mais comuns nos ambientes clínicos, por trás dessa eficiência há uma preocupação urgente: estamos digitalizando, nos prontuários dos pacientes, desigualdades históricas em saúde? Pesquisas mostram que esses sistemas apresentam disparidades significativas de desempenho entre grupos raciais e linguísticos. Este artigo de pesquisa investiga como um escriba médico com IA pode, sem querer, absorver e amplificar o viés dos profissionais de saúde, levando a diagnósticos errados, dados omitidos e perda da confiança do paciente.
O que é viés algorítmico na IA em saúde?
O viés algorítmico na IA em saúde (em inglês) ocorre quando o sistema produz resultados sistematicamente injustos ou imprecisos para determinados grupos de pessoas. Nos escribas médicos com IA, esse viés aparece nos registros clínicos que eles geram.
Ao contrário do erro humano, que costuma ser variável, o viés algorítmico é sistemático e aplicado de forma consistente. Quando um escriba com IA tem desempenho pior com um determinado grupo demográfico, isso acontece com todos os pacientes desse grupo. Assim, vieses humanos isolados se transformam em desigualdades sistêmicas embutidas no processo de documentação.
As três fontes de viés
O viés nos escribas médicos com IA não vem de uma única fonte. Ele é introduzido em vários pontos do ciclo de vida da IA, do desenvolvimento inicial até a implementação no mundo real.
1. Viés nos dados de treinamento
Os escribas com IA funcionam com grandes modelos de linguagem treinados em grandes volumes de prontuários médicos e outros dados de texto. A qualidade e a representatividade desses dados de treinamento determinam diretamente o desempenho do sistema. Sem transparência sobre os dados com que esses modelos aprendem, é impossível avaliar se eles vão ter um desempenho equitativo em populações diversas de pacientes (em inglês). Quando desigualdades históricas em saúde ficam codificadas nos prontuários, e esses prontuários são usados para treinar a IA, a tecnologia aprende e perpetua essas mesmas desigualdades.
2. Disparidades no reconhecimento de fala
Antes de resumir uma conversa clínica, um escriba médico com IA precisa transcrever o que foi dito. Os sistemas de reconhecimento automático de fala (em inglês) (ASR, na sigla em inglês) que fazem essa transcrição não têm a mesma precisão para todas as pessoas.
Um estudo de 2025 (em inglês) publicado na revista npj Digital Medicine observou que os sistemas de reconhecimento de fala usados pelos escribas com IA são menos precisos ao transcrever a fala de pacientes negros do que a de pacientes brancos.
Mas o problema vai além da raça. Sotaques, dialetos e estilos culturais de comunicação podem desafiar até os modelos mais bem treinados. Pacientes com sotaques do inglês fora do padrão, distúrbios da fala ou dialetos correm mais risco de erros de transcrição.
3. Amplificação algorítmica
Mesmo quando não há vieses individuais dos profissionais de saúde, os sistemas de IA podem amplificá‑los por meio de processos algorítmicos.
- Como a amplificação funciona: enquanto o viés dos profissionais de saúde não se repete de maneira uniforme em um sistema de saúde, o viés algorítmico é aplicado de forma consistente a cada interação com pacientes. Um modelo enviesado produzirá resultados enviesados para todos os pacientes do grupo afetado, não apenas para os atendidos por profissionais com vieses.
Além da raça: todo o espectro do viés
Embora as disparidades raciais no reconhecimento de fala mereçam atenção, o viés nos escribas com IA afeta várias dimensões da identidade do paciente.
- Viés de gênero: pesquisas (em inglês) constataram que modelos de IA em todo o setor de saúde podem minimizar os sintomas de mulheres e de minorias étnicas, reforçando padrões de subtratamento que já existem em diferentes grupos.
- Viés linguístico: como mencionado acima, pacientes com sotaques de falantes não nativos de inglês, distúrbios da fala ou dialetos diversos enfrentam taxas de erro mais altas. Em contextos multilíngues, escribas com IA treinados com dados em inglês não estão preparados para funcionar de forma adequada e precisa.
- Viés geográfico e cultural: um estudo de 2026 (em inglês) aborda o problema de que modelos treinados com dados de países de alta renda podem não funcionar da mesma forma em países de baixa e média renda, onde as normas diagnósticas, os formatos de prontuário e a comunicação clínica variam. Isso cria o risco de colonialismo digital (em inglês), em que tecnologias desenvolvidas em um contexto são implementadas integralmente em sistemas diferentes, sem a adaptação adequada.
O risco sistêmico: por que o viés precisa ser enfrentado
Entender as fontes do viés é importante, mas a maior preocupação está nos riscos sistêmicos que elas criam. Quando escribas com IA enviesados são implementados em larga escala, eles basicamente embutem a desigualdade no registro clínico.
As consequências são estas:
- Decisões clínicas são tomadas com base em documentação incompleta ou imprecisa.
- Perfis de risco são construídos com dados enviesados.
- Algoritmos preditivos treinados com esses registros herdam e amplificam os mesmos vieses.
- As desigualdades em saúde são reforçadas em vez de reduzidas.
As evidências: o que as pesquisas mostram
Embora as primeiras evidências mostrem ganhos de eficiência, um conjunto crescente de pesquisas revela padrões preocupantes de viés, imprecisão e consequências clínicas não intencionais.
Disparidades raciais e étnicas no desempenho
Talvez as evidências mais preocupantes venham de estudos que examinam como o desempenho dos escribas com IA varia conforme o perfil demográfico dos pacientes. Os resultados são contundentes e consistentes: os escribas com IA têm, de forma sistemática, desempenho pior com pacientes negros e outros grupos minoritários.
O estudo de 2025 (em inglês) citado acima, liderado por pesquisadores da Universidade Columbia, revelou que ferramentas de documentação com IA usadas por 30% dos consultórios médicos estão produzindo erros perigosos, incluindo diagnósticos inventados e sintomas deixados de fora, com taxas de erro significativamente mais altas para pacientes negros. Esses escribas com IA podem alucinar exames físicos que nunca aconteceram e têm, de forma sistemática, desempenho pior com pacientes com proficiência limitada em inglês.
Além disso, notícias recentes indicam que a adoção de modelos de IA em todo o setor de saúde pode levar a decisões médicas enviesadas, reforçando padrões de subtratamento que já existem em diferentes grupos nas sociedades ocidentais. Constatou‑se que ferramentas de IA minimizam os sintomas de mulheres e de minorias étnicas (em inglês), e grandes modelos de linguagem (LLMs, na sigla em inglês) que refletem vieses levam a orientações médicas piores para pacientes do sexo feminino, negros e asiáticos. Essas disparidades mostram a necessidade urgente de conjuntos de dados de treinamento mais diversos e de maior sensibilidade a dialetos.
O problema das alucinações
Os escribas com IA tendem a gerar conteúdo totalmente inventado, que parece clinicamente plausível, mas não tem base na realidade.
Por exemplo, uma avaliação recente (em inglês) de registros gerados por IA ambiente encontrou conteúdo alucinado em 31% dos registros redigidos por IA, contra erros humanos em 20% dos registros escritos por médicos.
Modos de falha da documentação
Os escribas médicos com IA que usam grandes modelos de linguagem apresentam taxas de erro gerais mais baixas, mas com modos distintos de falha na documentação (em inglês), a saber:
- Alucinações da IA: conteúdo que parece plausível, mas não tem base na realidade.
- Omissões: informações clinicamente relevantes que se perdem.
- Atribuição incorreta: atribuir declarações ou achados ao paciente errado.
- Interpretações erradas do contexto: não entender o contexto clínico.
Viés de automação
Os riscos dos escribas médicos com IA vão além da precisão dos próprios registros e alcançam a forma como os profissionais de saúde interagem com o conteúdo gerado por IA e são influenciados por ele.
O viés de automação ocorre, basicamente, quando um médico tende a adotar às cegas as recomendações do sistema ou a ser influenciado de forma desproporcional pela presença de previsões da IA, mesmo quando elas estão erradas. Isso significa que, mesmo quando revisam registros gerados por IA, os profissionais de saúde podem aceitar informações incorretas sem perceber, porque a sugestão da IA cria uma “âncora cognitiva” que influencia o raciocínio clínico.
Como isso enfraquece o raciocínio clínico
Um estudo de 2026 publicado na revista JAMA Psychiatry (em inglês) que analisou mais de 20 mil check‑ups anuais constatou que os escribas com IA registraram sintomas neuropsiquiátricos com mais frequência do que os escribas humanos. Em média, os profissionais de saúde que usavam escribas com IA tinham menos probabilidade de fazer um diagnóstico de depressão ou uma intervenção, e as consultas que incorporaram um escriba com IA ambiente foram associadas a taxas mais baixas de diagnósticos de depressão, de encaminhamentos para cuidados em saúde mental e de prescrições de inibidores seletivos da recaptação de serotonina (ISRS).
Os pesquisadores observaram que “esse aumento da documentação não se traduziu em mais atenção aos sintomas depressivos” e acrescentaram que “automatizar a documentação leva os profissionais de saúde a serem menos ativos em geral, de forma análoga à redução de proficiência observada em pilotos após o surgimento do piloto automático”.
O contraponto: escribas com IA podem superar os humanos
É importante reconhecer que nem todas as evidências apontam para a inferioridade da IA. Um estudo comparativo de 2026 (em inglês) constatou que registros gerados por IA superaram a documentação humana em vários domínios de qualidade. Os escribas com IA mais bem avaliados tiveram pontuações mais altas do que os humanos em completude, precisão e ausência de viés.
A constatação de que escribas com IA podem superar a documentação humana em ambientes controlados não anula as evidências de viés na implementação no mundo real. Ela sugere que, com design, supervisão e personalização adequados, os escribas médicos com IA têm potencial para melhorar a qualidade da documentação, mas só se os riscos de viés forem enfrentados ativamente.
Saiba mais sobre o impacto dos escribas médicos com IA em 2026 (em inglês).
As consequências: como o viés afeta o cuidado ao paciente
Os vieses documentados nos escribas médicos com IA se traduzem em danos reais para pacientes, profissionais de saúde e sistemas de saúde. Quando uma documentação falha entra no prontuário, as consequências se espalham por todos os aspectos do cuidado.
Segurança do paciente comprometida
Uma documentação clínica imprecisa coloca os pacientes em risco.
Erros de diagnóstico e atraso no tratamento
Quando os escribas com IA inventam exames físicos, deixam passar sintomas críticos ou atribuem achados de forma incorreta, os profissionais de saúde tomam decisões com base em informações incompletas ou incorretas.
Esses erros podem levar a:
- Prescrições de medicamentos inadequadas, que podem causar interações prejudiciais com os medicamentos que o paciente já usa.
- Sinais de alerta de condições graves que passam despercebidos.
- Procedimentos ou exames desnecessários.
- Deixar de intensificar o cuidado quando necessário.
Reforço das desigualdades em saúde
Os escribas com IA não apenas refletem as disparidades existentes, como também as amplificam.
- Codificação do viés histórico: ao aprender com prontuários que contêm décadas de desigualdades em saúde, os modelos de IA perpetuam e muitas vezes amplificam esses vieses.
- Isso cria um ciclo de retroalimentação: registros enviesados orientam decisões clínicas futuras, que geram mais registros enviesados, que por sua vez treinam a próxima geração de sistemas de IA.
- O efeito do subtratamento: já se demonstrou que modelos de IA que refletem vieses produzem orientações médicas piores para minorias, reforçando padrões como:
- Sintomas de saúde das mulheres têm mais chance de ser minimizados (em inglês).
- A dor de pacientes de grupos minoritários tem mais chance de ser subtratada.
- Certas populações recebem recomendações de cuidado de qualidade inferior.
Perda da confiança do paciente
A confiança é a base da relação entre paciente e profissional de saúde, e a documentação enviesada gerada por IA a enfraquece.
- Descoberta de erros: quando os pacientes leem seus registros clínicos e encontram descrições imprecisas ou enviesadas, a confiança se perde.
- A questão do consentimento: mesmo escribas com IA relativamente simples podem levantar questões importantes sobre consentimento. Os pacientes podem não ser informados de que uma IA está ouvindo a conversa, registrando seus sintomas e gerando um prontuário médico permanente. Quando descobrem isso, principalmente se os registros resultantes tiverem erros, podem se sentir enganados, desrespeitados ou prejudicados.
As consequências de escribas com IA enviesados representam uma ameaça sistêmica à segurança do paciente, à equidade em saúde, à integridade da documentação, ao raciocínio clínico e à confiança do paciente. À medida que a adoção se acelera, as organizações de saúde precisam reconhecer que a pergunta não é se o viés vai afetar seus pacientes, mas quais pacientes serão afetados e em que grau.
As pesquisas são claras: sem controle, escribas médicos com IA enviesados vão amplificar as desigualdades em saúde. Enfrentar essas consequências exige esforço intencional, supervisão e compromisso com a equidade em todas as etapas do ciclo de vida da IA.
O que pode ser feito: estratégias para reduzir o viés
Enfrentar o viés nos escribas médicos com IA exige uma abordagem em várias camadas, que envolva organizações de saúde, profissionais de saúde, desenvolvedores de IA e órgãos reguladores.
As estratégias abaixo partem do reconhecimento de que reduzir o viés é uma responsabilidade compartilhada ao longo de todo o ciclo de vida da IA.
Para organizações de saúde: governança, contratação e monitoramento
As decisões das organizações de saúde sobre quais fornecedores escolher, como implementar a tecnologia e que mecanismos de supervisão adotar determinam se os escribas com IA vão intensificar ou reduzir as disparidades.
1. Estabeleça uma estrutura de governança de IA
Antes de implementar qualquer escriba com IA, as organizações precisam ter estruturas abrangentes de governança e responsabilização de IA.
Elementos-chave de uma estrutura de governança eficaz:
- Um comitê de governança de IA dedicado, com representantes das áreas clínica, jurídica, de privacidade, de TI e de ética.
- Integração com as estruturas de governança existentes.
- Responsabilização clara pelo desempenho do escriba com IA, com pessoas designadas para o monitoramento e o escalonamento de problemas.
- Políticas de acesso e correção de registros gerados por IA, que permitam aos pacientes revisar e solicitar correções.
2. Avalie os fornecedores
As organizações precisam fazer avaliações de fornecedores abrangentes e baseadas em evidências.
O que exigir dos fornecedores:
- Transparência sobre os dados de treinamento.
- Dados de desempenho por grupo demográfico.
- Resultados de auditorias de viés.
- Taxas de erro e protocolos de correção.
- Protocolos de privacidade de dados e de consentimento.
3. Implemente monitoramento e auditoria contínuos
Os escribas com IA devem passar por monitoramento contínuo de desempenho, viés e questões de segurança, e poder ser desativados se forem detectados resultados prejudiciais.
Boas práticas de monitoramento:
- Acompanhe as taxas de erro por perfil demográfico dos pacientes: isso exige coletar e analisar dados de raça/cor, etnia, idioma e outras características relevantes dos pacientes.
- Auditorias regulares: faça auditorias independentes periódicas dos resultados do escriba com IA.
- Retorno contínuo: crie espaços para que os profissionais de saúde relatem resultados enviesados ou imprecisos. Esses relatos devem ser analisados e gerar ações.
- Melhoria contínua: ao detectar um viés, os sistemas devem ser retreinados ou ajustados.
4. Garanta o consentimento informado do paciente
Os pacientes têm o direito de saber quando a IA está sendo usada no seu cuidado.
Requisitos do consentimento:
- Explique a finalidade do escriba com IA: os pacientes devem entender por que a IA está sendo usada e como ela funciona.
- Informe o uso dos dados: os pacientes precisam ser informados sobre como seus dados serão usados e armazenados, e se serão usados para treinar a IA.
- Documente o consentimento: seja verbal ou por escrito, ele precisa ficar documentado. Antes de gravar, informe a pessoa atendida e verifique os consentimentos e as regras aplicáveis à sua profissão. Consulte nosso guia sobre LGPD e conselhos profissionais, incluindo a restrição à gravação de telenutrição com dados pessoais ou sensíveis. Na psicoterapia realizada por psicólogos, a gravação exige consentimento livre, prévio, informado e por escrito, finalidade justificada e garantia de sigilo.
- Respeite as recusas: a decisão dos pacientes que optarem por não participar deve ser respeitada.
- Mantenha a transparência contínua: as organizações devem manter uma comunicação clara sobre as limitações do sistema e oferecer contatos preparados para responder a dúvidas.
Para profissionais de saúde: vigilância, autoria e envolvimento ativo
Embora os escribas com IA possam reduzir a carga de documentação, eles não substituem o julgamento clínico.
1. Mantenha a autoria clínica
Todo registro gerado por IA precisa ser devidamente revisado, editado e assinado por um profissional de saúde.
Boas práticas na revisão dos registros:
- Leia cada registro antes de assinar.
- Verifique as informações críticas.
- Corrija os erros imediatamente.
- Procure sinais de viés.
- Documente a sua revisão.
2. Diga tudo em voz alta
Os escribas com IA só conseguem documentar o que ouvem. Os profissionais de saúde podem melhorar a precisão dizendo explicitamente em voz alta suas observações e seu raciocínio.
O que dizer em voz alta:
- Observações não verbais: se você perceber que o paciente parece ansioso, com dor ou angustiado, diga isso em voz alta.
- Achados do exame físico: descreva o que você encontra durante o exame físico, em vez de contar com a IA para deduzir.
- Raciocínio clínico: diga em voz alta seu diagnóstico diferencial, suas impressões clínicas e seu processo de decisão.
- O plano: resuma em voz alta o plano de cuidado, para melhorar tanto a documentação do escriba quanto a compreensão do paciente.
3. Invista em letramento em IA e capacitação
O letramento em IA e o uso seguro devem se tornar uma obrigação educacional.
A formação dos profissionais de saúde deve abordar:
- Como os escribas com IA funcionam: suas capacidades e limitações.
- Modos de falha da documentação, como alucinações, omissões e viés.
- Como identificar e corrigir resultados enviesados ou imprecisos.
- A importância do consentimento informado e da comunicação com o paciente.
- Responsabilidades legais e éticas no uso de ferramentas de IA.
Capacitar os profissionais de saúde por meio de educação continuada e de liderança no desenvolvimento, na implementação e na auditoria dos modelos é importante para garantir uma integração segura e equitativa.
Para desenvolvedores e órgãos reguladores: design, padrões e supervisão
Desenvolvedores e órgãos reguladores têm a responsabilidade principal de garantir que os escribas com IA sejam seguros, justos e transparentes.
Aumente a diversidade dos dados de treinamento
O viés nos escribas com IA muitas vezes se origina em dados de treinamento enviesados ou pouco representativos. Os desenvolvedores precisam tomar medidas intencionais para resolver isso.
Boas práticas para os dados de treinamento:
- Inclua vozes diversas: os dados de treinamento precisam incluir falantes com sotaques, dialetos e origens linguísticas variados.
- Enfrente os vieses históricos: os prontuários usados no treinamento refletem décadas de desigualdades em saúde. Os desenvolvedores precisam corrigir ativamente esses vieses, em vez de perpetuá-los.
- Garanta a representação demográfica: os dados de treinamento devem ter representação adequada de raça/cor, etnia, gênero, idade e nível socioeconômico.
Conclusão
Os escribas médicos com IA, apesar de transformadores, trazem riscos documentados de viés que ameaçam a segurança do paciente e a equidade em saúde. Das disparidades sistemáticas de desempenho entre grupos raciais e linguísticos às alucinações clinicamente relevantes e ao menor envolvimento dos profissionais de saúde, essas ferramentas refletem e amplificam os vieses embutidos nos seus dados de treinamento e no seu design. A solução é a vigilância contínua. As organizações de saúde precisam implementar estruturas de governança; os profissionais de saúde precisam manter a autoria ativa e a supervisão; e os desenvolvedores precisam priorizar dados de treinamento diversos e transparência.
A equidade precisa ser a base de como desenvolvemos, implementamos e monitoramos escribas médicos com IA. Só assim essas ferramentas poderosas vão cumprir a promessa de reduzir a carga de documentação e, ao mesmo tempo, promover um cuidado equitativo para todos os pacientes.