OpenEvidence: Quando a IA deixa de buscar respostas e passa a reorganizar a medicina baseada em evidências

Durante décadas, formamos médicos para memorizar, reconhecer padrões, construir hipóteses e, quando necessário, consultar fontes confiáveis para reduzir incertezas. Agora, com a chegada de ferramentas de inteligência artificial voltadas à prática clínica, a pergunta deixou de ser apenas “a IA acerta ou erra?” e passou a ser muito mais profunda: quem organiza o acesso à evidência, em que contexto, com quais critérios e sob qual responsabilidade?

Esse foi o tema central do episódio 42 do podcast NEJM AI Grand Rounds, do NEJM AI, intitulado “The OpenEvidence Episode: Dr. Travis Zack on the Future of Clinical Evidence”. O convidado foi o Dr. Travis Zack, Chief Medical Officer da OpenEvidence, uma das empresas que mais rapidamente ganhou espaço entre médicos nos Estados Unidos ao propor uma interface de IA voltada à busca, interpretação e síntese de evidências clínicas. Mais do que uma conversa sobre produto, o episódio levanta uma discussão sobre o futuro da decisão médica em um ambiente de excesso informacional.

A tese mais relevante trazida por Zack é que o problema da IA na medicina não é simplesmente “dar a resposta correta”. Em medicina, a resposta correta depende do paciente, do momento, do contexto, da disponibilidade terapêutica, da qualidade da evidência, da data da pergunta e das restrições do sistema. Por isso, ele enfatiza algo essencial: antes de responder, uma IA clínica precisa recuperar as referências certas. Parece um detalhe técnico, mas é uma mudança epistemológica. A medicina baseada em evidências sempre dependeu da qualidade das fontes; agora, depende também da qualidade da camada algorítmica que seleciona, prioriza e sintetiza essas fontes.

Essa distinção é decisiva porque muitos modelos generalistas de linguagem foram treinados para produzir fluência, não necessariamente confiabilidade clínica. Eles podem soar convincentes mesmo quando estão errados, incompletos ou desatualizados. Zack chama atenção para falhas que vão além da alucinação óbvia, como inventar uma referência inexistente.

O risco mais sofisticado, e talvez mais perigoso, é o modelo recuperar um artigo real, mas interpretar mal o que ele diz; ou ainda sintetizar múltiplas fontes de forma logicamente sedutora, porém clinicamente incorreta.

Na prática, a nova fronteira da segurança não é apenas impedir que a IA “invente”, mas garantir que ela raciocine corretamente a partir de evidências reais.

No mundo real, isso muda a forma como o médico lida com a incerteza. Ferramentas como OpenEvidence não substituem o julgamento clínico, mas podem alterar profundamente a ergonomia cognitiva da medicina. Antes, o médico precisava navegar por diretrizes, revisões, estudos originais, consensos, tabelas e experiências acumuladas. Agora, parte dessa navegação pode ser intermediada por uma IA. Isso pode ser extraordinário quando amplia o acesso à evidência certa no momento certo. Mas também pode ser perigoso se o médico terceirizar o juízo crítico para uma interface que entrega uma resposta com aparência de autoridade.

O impacto estratégico da OpenEvidence chama atenção porque ela parece ter entendido algo que muitas healthtechs ignoraram: médicos adotam ferramentas quando elas resolvem um problema real do fluxo de trabalho, não quando são impostas por um hospital, uma diretoria ou um projeto de transformação digital.

No episódio, Zack descreve uma trajetória de adoção direta pelo clínico, com feedback contínuo, crescimento acelerado e forte uso no ponto de cuidado. Esse é um contraste importante com a história tradicional da tecnologia hospitalar, marcada por vendas institucionais longas, sistemas pouco usáveis e baixa aderência de quem está na linha de frente.

Mas a velocidade de adoção também cria uma tensão. Quando uma ferramenta passa a ser usada por médicos antes que escolas médicas, residências, hospitais, conselhos profissionais e reguladores tenham elaborado uma resposta madura, a prática avança mais rápido que a governança. Isso já aconteceu com WhatsApp, prontuários eletrônicos, telemedicina e aplicativos de apoio diagnóstico. A diferença é que, agora, estamos falando de sistemas que participam diretamente da formação da pergunta clínica, da seleção da evidência e da construção da resposta. A governança da IA médica não pode ser pensada apenas como regulação de software; ela precisa ser pensada como regulação de influência cognitiva.

Para os sistemas de saúde, a discussão vai além da segurança individual. Uma IA clínica que sugere condutas com base em evidências de alta renda pode ser pouco útil, ou até inadequada, em contextos de recursos limitados. Zack menciona justamente o desafio de adaptar respostas para diferentes realidades, como países de baixa e média renda. Esse ponto é fundamental para o Brasil. Não basta perguntar qual é a melhor evidência global; precisamos perguntar qual é a melhor decisão possível dentro do SUS, da saúde suplementar, de hospitais regionais, de filas diagnósticas, de restrições orçamentárias e de desigualdades territoriais. Uma IA que ignora contexto pode aumentar a distância entre medicina ideal e medicina possível.

A reflexão mais importante, na minha visão, é que a IA está nos obrigando a revisitar o próprio conceito de medicina baseada em evidências. Durante anos, tratamos evidência como algo relativamente estático: um guideline, uma revisão sistemática, um artigo-chave, uma recomendação de sociedade. Mas a evidência clínica é viva, fragmentada, assimétrica e contextual. A IA pode transformar essa evidência em uma camada dinâmica, constantemente consultável e adaptável. Porém, isso exige critérios explícitos: quais fontes entram? Como são ranqueadas? Como conflitos entre estudos são resolvidos? Como a data da evidência pesa na resposta? Como o modelo reconhece incerteza? Como ele comunica limites?

Há aqui um ponto educacional que considero central. Zack argumenta que médicos não precisam necessariamente se tornar cientistas da computação, mas precisam entender a “fisiologia” e a “fisiopatologia” dos sistemas de IA. Essa metáfora é poderosa. Assim como não basta decorar a segunda linha de tratamento da hipertensão se o médico não entende o sistema renina-angiotensina-aldosterona, também não basta aprender “prompt engineering” se o médico não entende pré-treinamento, pós-treinamento, recuperação de informação, viés, alucinação, distribuição dos dados e limites de generalização. A educação médica precisa formar médicos capazes de supervisionar IA, não apenas usuários encantados por respostas rápidas.

Também não podemos ignorar os incentivos econômicos. Quando uma ferramenta de IA clínica é gratuita para médicos, é legítimo perguntar qual modelo de negócio sustenta sua operação, quais relações existem com editoras, indústria, sistemas de saúde ou publicidade, e como esses incentivos podem influenciar o produto. Isso não significa rejeitar a inovação; significa tratá-la com a maturidade que a medicina exige. A confiança em IA médica não virá apenas de performance técnica, mas de transparência sobre fontes, governança, validação, conflitos de interesse, privacidade, segurança e monitoramento pós-implantação.

O futuro da medicina não será decidido entre médicos humanos e máquinas inteligentes. Essa dicotomia é pobre. O verdadeiro debate será entre sistemas clínicos que usam IA para ampliar julgamento, evidência e equidade, e sistemas que usam IA para acelerar decisões frágeis, automatizar vieses e reduzir cuidado a uma resposta conveniente. O episódio do NEJM AI Grand Rounds com o Dr. Travis Zack é relevante justamente porque nos força a abandonar a pergunta superficial “a IA vai substituir o médico?” e encarar a pergunta que realmente importa: que tipo de medicina queremos construir quando a evidência passa a ser mediada por inteligência artificial?

Reforçando o assunto, os convido a assistir meu TED, com o tema "Quando a IA sabe mais que o médico: o começo de uma nova Era na medicina", do TEDx Faculdade Zarns Itumbiara. O episódio pode ser acesso em https://www.youtube.com/watch?v=MPLOm6ODl9U