A dimensão ausente da IA na clínica: Tornando visíveis os valores ocultos

A incorporação acelerada de sistemas de inteligência artificial na prática clínica vem sendo celebrada, com razão, por seus ganhos de escala, eficiência e capacidade analítica. Modelos de linguagem, sistemas preditivos e ferramentas de apoio à decisão já participam ativamente de escolhas diagnósticas, terapêuticas e organizacionais. Ainda assim, o artigo “The Missing Dimension in Clinical AI: Making Hidden Values Visible”, publicado no NEJM AI em 22 de janeiro de 2026 chama atenção para um ponto que permanece estruturalmente negligenciado: a IA clínica não é apenas técnica, estatística ou computacional; ela é, inevitavelmente, normativa. Ao decidir, a IA prioriza valores, mesmo quando isso não é explicitado.

O ponto de partida do artigo é simples, mas profundamente incômodo: decisões clínicas nunca são neutras. Mesmo quando sustentadas por evidências sólidas, elas envolvem escolhas entre princípios em tensão, como autonomia e beneficência, eficiência e equidade, custo e benefício, risco individual e impacto coletivo.

A medicina sempre conviveu com esses dilemas, mas desenvolveu mecanismos para torná-los explícitos: discussão clínica, diretrizes, consentimento informado, comitês de ética. A IA, ao contrário, tende a encapsular essas escolhas em modelos opacos, automatizando decisões morais sem o mesmo grau de transparência.

A verdadeira ruptura introduzida pela IA não está no fato de ela errar ou acertar mais do que humanos, mas na sua capacidade de institucionalizar preferências em escala.

Um sistema treinado ou ajustado para determinados incentivos passa a reproduzir, de forma silenciosa e consistente, uma determinada visão de mundo. O exemplo trazido no artigo (a recomendação de ressonância magnética vs conduta conservadora para lombalgia) ilustra com clareza como diferentes alinhamentos institucionais podem gerar recomendações distintas, ambas defensáveis do ponto de vista técnico, mas profundamente diferentes do ponto de vista ético, econômico e simbólico.

Nesse sentido, o texto acerta ao tratar sistemas de IA clínica como atores morais indiretos. Eles não possuem intenção própria, mas cristalizam escolhas feitas por desenvolvedores, financiadores, gestores e reguladores. Ao contrário das diretrizes clínicas, que são debatidas publicamente e revisadas periodicamente, os valores embutidos nos algoritmos raramente são discutidos de forma aberta.

Model cards, certificações regulatórias e avaliações técnicas concentram-se em desempenho, segurança e viés estatístico, mas quase nunca explicitam quais objetivos estão sendo priorizados quando há conflito.

Essa opacidade representa uma ruptura silenciosa com princípios centrais da ética médica. O consentimento informado, por exemplo, perde substância quando nem o médico nem o paciente conseguem compreender quais valores orientam a recomendação apresentada por um sistema de IA. A responsabilidade profissional também se dilui, já que o raciocínio subjacente à decisão não é plenamente acessível.

O artigo é particularmente feliz ao mostrar que esse problema não se limita a decisões dramáticas de fim de vida, mas permeia escolhas cotidianas de baixo risco aparente, onde incentivos institucionais costumam ter peso ainda maior.

Um mérito importante do texto é rejeitar a ideia simplista de que mais dados resolveriam o problema. O treinamento de modelos em grandes bases de prontuário eletrônico tende a reproduzir padrões históricos de prática, que refletem não apenas evidência científica, mas também pressões de produtividade, incentivos financeiros, desigualdades estruturais e lacunas de conhecimento.

Ao invés de corrigir distorções, a IA pode acabar legitimando-as com uma aura de neutralidade técnica.

Nesse ponto, o artigo dialoga com críticas já conhecidas à medicina baseada exclusivamente em dados, quando desconectada de julgamento clínico e contexto social.

Ao propor o framework “Values In the Model” (VIM), os autores oferecem uma contribuição conceitual relevante ao debate. A ideia de um rótulo que acompanhe sistemas de IA clínica, explicitando como eles se comportam diante de dilemas de valor, desloca o foco da arquitetura técnica para o alinhamento normativo. O VIM não pretende definir quais valores são corretos, mas tornar visível aquilo que hoje permanece implícito, permitindo escolhas mais conscientes por parte de sistemas de saúde, profissionais e pacientes.

O aspecto mais interessante do VIM não é sua função descritiva, mas sua capacidade de recolocar a deliberação ética no centro da adoção tecnológica. Ao explicitar se um sistema tende à intervenção precoce, à contenção de custos, à priorização da autonomia ou à maximização de desfechos populacionais, o VIM transforma a escolha de uma IA em uma decisão estratégica e moral, e não apenas técnica ou financeira. Isso é particularmente relevante em um momento em que a adoção de IA vem sendo impulsionada por promessas de eficiência, muitas vezes sem debate proporcional sobre consequências.

A proposta de benchmarks baseados em cenários clínicos onde valores entram em conflito é outro ponto forte do artigo. Ao invés de buscar uma resposta correta única, os autores defendem a construção de distribuições de decisões humanas, a partir da escuta de diferentes stakeholders. Esse modelo reconhece que a medicina não opera por verdades absolutas, mas por equilíbrios contextuais, e oferece uma base mais honesta para avaliar o alinhamento de sistemas algorítmicos.

Para gestores de saúde, essa abordagem tem implicações profundas. A escolha de um sistema de IA deixa de ser apenas uma decisão de custo, performance ou integração tecnológica e passa a ser uma declaração explícita de valores institucionais. Hospitais e operadoras precisam assumir, de forma transparente, se priorizam eficiência, equidade, autonomia ou sustentabilidade financeira em diferentes contextos. A IA, nesse cenário, deixa de ser um álibi técnico e passa a ser um espelho das escolhas organizacionais.

Do ponto de vista do médico, o VIM não enfraquece o julgamento clínico; ao contrário, pode fortalecê-lo. Ao compreender os valores embutidos na recomendação algorítmica, o profissional ganha ferramentas para contextualizar decisões, dialogar de forma mais honesta com o paciente e assumir responsabilidade consciente pelo uso da tecnologia. A IA deixa de ser uma autoridade implícita e passa a ser um interlocutor qualificado, mas limitado.

O debate proposto pelo artigo dialoga diretamente com os princípios do value-based healthcare, frequentemente invocados, mas nem sempre compreendidos em profundidade. Valor em saúde não se resume a desfechos clínicos ou redução de custos, mas àquilo que é relevante para o paciente.

Sem transparência normativa, há o risco de a IA reforçar uma lógica de volume ou eficiência operacional sob o discurso de valor, esvaziando o conceito em sua dimensão ética.

O texto também é realista ao reconhecer os limites institucionais para a implementação do VIM. Nenhuma organização hoje reúne, de forma isolada, a combinação necessária de expertise técnica, clínica, ética e legitimidade social. A proposta de projetos-piloto em sistemas de saúde de referência surge como um caminho pragmático, ainda que insuficiente para resolver, no curto prazo, os desafios de escala e governança.

Um risco que poderia ter sido explorado ainda mais é o da captura simbólica do VIM. Existe a possibilidade de que rótulos de valores se tornem instrumentos de marketing ou compliance superficial, sem impacto real na prática clínica. Tornar valores visíveis é apenas o primeiro passo; o desafio maior está em criar mecanismos de responsabilização quando esses valores entram em conflito com interesses econômicos ou políticos.

Outro ponto relevante é a relação entre o VIM e os debates sobre explicabilidade. O framework não responde à pergunta clássica de como o modelo chegou a uma determinada decisão, mas a uma questão talvez mais importante: com base em quais valores essa decisão foi tomada. Trata-se de uma mudança sutil, porém fundamental, do foco técnico para o foco moral da explicação.

A adoção de propostas como o VIM exige, inevitavelmente, uma transformação na formação médica e na capacitação de gestores. Alfabetização em IA não pode se restringir a conceitos técnicos ou estatísticos; precisa incluir ética, governança, economia da saúde e teoria da decisão. Sem isso, corremos o risco de formar profissionais capazes de operar sistemas complexos, mas incapazes de questionar seus pressupostos.

Ao afirmar que a medicina é não apenas uma ciência, mas uma prática fundamentalmente humana, o artigo toca em um ponto sensível do debate contemporâneo. A tecnologia não elimina dilemas morais; ela apenas os desloca. Quando esses dilemas deixam de ser discutidos explicitamente, perdem-se espaços de deliberação que sempre foram centrais à legitimidade da prática médica.

A relevância desse debate é ainda maior em países emergentes, como o Brasil, onde a importação de tecnologias desenvolvidas em outros contextos pode trazer consigo valores e prioridades desalinhados com as necessidades locais. Tornar explícitos os valores embutidos na IA é uma condição mínima para evitar a reprodução automática de desigualdades globais no cuidado em saúde.

No fim, “The Missing Dimension in Clinical AI: Making Hidden Values Visible” se destaca não por oferecer respostas definitivas, mas por formular a pergunta correta no momento certo. A questão não é se a IA será parte da prática clínica, mas sob quais valores ela operará. Tornar essas escolhas visíveis não é um luxo acadêmico, mas um requisito ético para preservar a autonomia profissional, a confiança do paciente e a legitimidade dos sistemas de saúde em uma era cada vez mais algorítmica.