A inteligência artificial autônoma não quer substituir o médico. Ela quer redesenhar o sistema em volta dele.

Recentemente, ouvi o episódio do NEJM AI Grand Rounds com Dr. Byron Crowe, Chief Medical Officer da Doctronic, que toca em um dos temas mais importantes, e mais mal compreendidos, da medicina contemporânea: a transição da inteligência artificial como ferramenta de apoio para a inteligência artificial como agente clínico operacional. A diferença é sutil, mas profundamente transformadora.

Até pouco tempo, discutíamos IA em saúde como algo que auxiliava o médico a escrever melhor, resumir prontuários, sugerir diagnósticos diferenciais ou acelerar buscas bibliográficas. Agora, começamos a discutir sistemas que podem executar partes delimitadas do cuidado, dentro de protocolos, com supervisão, rastreabilidade e governança. Essa passagem não é apenas tecnológica. É uma mudança de arquitetura assistencial.

A tese central do episódio, na minha leitura, é que a complexidade administrativa da medicina deixou de ser um incômodo operacional e se tornou uma barreira clínica real. Quando um paciente não consegue renovar uma medicação, quando uma mensagem fica dias parada no portal, quando uma equipe médica gasta horas processando tarefas repetitivas, não estamos falando apenas de burocracia. Estamos falando de interrupção terapêutica, piora de adesão, risco evitável e desperdício de capacidade médica. Em sistemas sobrecarregados, a demora administrativa vira evento clínico.

Essa é a provocação mais relevante: talvez parte da inovação em saúde não esteja em criar novos tratamentos, mas em remover os obstáculos que impedem tratamentos já indicados de acontecerem no tempo certo.

O caso discutido pelo Dr. Byron Crowe é aparentemente simples: renovação de prescrições. Mas é justamente aí que mora sua relevância. A medicina costuma se fascinar por aplicações sofisticadas de IA: diagnóstico raro, descoberta de fármacos, imagem médica, medicina personalizada, e negligencia fluxos cotidianos que consomem tempo, geram fricção e afetam milhões de pessoas. Renovar uma receita crônica pode parecer pouco nobre do ponto de vista acadêmico, mas é um dos pontos de contato mais frequentes entre paciente, médico, farmácia, prontuário e sistema de saúde. Se uma tecnologia consegue atuar com segurança nesse microprocesso, ela inaugura um novo modelo de desenho operacional da prática médica.

O raciocínio clínico por trás da proposta é importante. Iniciar uma medicação e renovar uma medicação são atos médicos diferentes. Prescrever apixabana pela primeira vez, por exemplo, exige avaliação de indicação, risco hemorrágico, função renal, interações, preferência do paciente e contexto clínico. Renovar uma apixabana já prescrita, em um paciente estável, exige outra lógica: confirmar uso atual, ausência de eventos adversos, ausência de contraindicações novas, continuidade da indicação e segurança mínima para evitar lacunas terapêuticas. Não é um ato trivial, mas também não é idêntico à decisão inaugural. Separar essas categorias é essencial para pensar autonomia progressiva em IA clínica.

Essa distinção entre complexidade, risco e repetibilidade deveria orientar toda a adoção de IA em saúde. Nem todo ato médico é igualmente automatizável. Nem toda decisão clínica exige o mesmo grau de julgamento humano imediato. Existem tarefas de alta variabilidade, alto risco e baixa previsibilidade, nas quais a presença médica direta é indispensável. Mas existem também tarefas altamente protocolizadas, recorrentes e baseadas em critérios objetivos, nas quais a IA pode atuar como camada de triagem, execução ou pré-decisão, desde que exista desenho seguro.

A pergunta não deve ser “a IA pode praticar medicina?”, porque essa formulação é ampla demais. A pergunta correta é: “qual parte do cuidado, para qual paciente, em qual contexto, com quais limites e sob qual governança?”.

O conceito de AI Native Care Delivery apresentado pela Doctronic é interessante porque não trata a IA como um enfeite acoplado ao consultório tradicional. Ele parte da premissa de que o cuidado pode ser redesenhado desde a origem com IA, combinando chat de saúde, consulta conduzida por IA, geração de nota clínica, apoio ao médico humano e, em alguns casos, cuidado autônomo delimitado. Essa arquitetura é diferente de simplesmente colocar um chatbot na frente do paciente. Ela sugere uma cadeia assistencial em camadas: interação, coleta estruturada, raciocínio, documentação, escalonamento e execução. O ponto crítico é que cada camada precisa ter limites claros, mecanismos de auditoria e critérios explícitos de transferência para o profissional humano.

Há uma analogia poderosa no episódio: tratar grandes modelos de linguagem como “mais um software” seria como tratar aviões como “carros que voam”. A analogia é útil porque mostra o erro de categoria em que muitos sistemas de saúde, reguladores e médicos ainda caem. LLMs não são apenas sistemas de informação com interface conversacional. Eles são sistemas cognitivos probabilísticos, capazes de interpretar linguagem, gerar hipóteses, simular raciocínio e interagir com humanos de forma flexível. Isso não significa que “pensam” como médicos, nem que merecem autonomia irrestrita. Significa apenas que seus riscos, capacidades e formas de supervisão não cabem perfeitamente nas categorias regulatórias herdadas do software tradicional.

Na prática, esse erro de categoria aparece quando tentamos enquadrar IA clínica apenas como prontuário eletrônico, apenas como ferramenta de produtividade, apenas como dispositivo médico ou apenas como telemedicina. Ela pode ter elementos de tudo isso, mas não é redutível a nenhum desses campos. Um sistema que conversa com o paciente, coleta sintomas, consulta histórico medicamentoso, aplica regras, decide elegibilidade, emite uma recomendação e envia uma renovação para a farmácia se aproxima de um fluxo assistencial completo. Nesse ponto, a discussão deixa de ser sobre tecnologia e passa a ser sobre escopo de prática, responsabilidade profissional, licenciamento, qualidade, segurança e confiança pública.

O sandbox regulatório de Utah representa exatamente essa tentativa de criar um espaço controlado para testar uma nova categoria de cuidado. A lógica do sandbox é importante: não se trata de liberar irrestritamente uma tecnologia para o mercado, mas de permitir experimentação sob condições delimitadas, com supervisão estatal, escopo restrito e coleta de evidências. Em teoria, esse é um caminho mais inteligente do que duas alternativas ruins: proibir por medo ou liberar por entusiasmo. A medicina precisa de modelos regulatórios capazes de aprender com a tecnologia em tempo real. A dificuldade é garantir que o sandbox seja realmente um ambiente de segurança e aprendizado, e não apenas uma brecha regulatória para antecipar mercado.

A escolha do caso de uso também revela maturidade estratégica. Começar com renovações, não prescrições novas; excluir substâncias controladas, antibióticos e categorias mais sensíveis; criar gatilhos de escalonamento; exigir verificação de identidade e histórico medicamentoso; manter médicos disponíveis para intervenção; e limitar a aplicação geograficamente são decisões que apontam para implantação gradual. Isso é muito diferente de entregar autonomia ampla para uma IA “médica” generalista. A inovação responsável em saúde não começa pelo cenário mais complexo. Ela começa no equivalente clínico da “rodovia” dos carros autônomos: fluxos mais padronizados, previsíveis, mensuráveis e passíveis de intervenção humana.

Mas mesmo nesse contexto, os riscos são relevantes. A renovação de uma medicação crônica pode parecer rotineira, mas doenças mudam, pacientes envelhecem, interações surgem, função renal se altera, eventos adversos são subnotificados e a adesão raramente é perfeita. Uma pergunta mal formulada pode perder um sinal de alerta. Um histórico incompleto pode gerar falsa segurança. Um paciente pode não entender a diferença entre “sem sintomas” e “sem sintomas importantes”. Um modelo pode operar bem na média e ainda falhar em subgrupos específicos.

Em saúde, segurança não é apenas taxa agregada de acerto. É capacidade de reconhecer exceções clinicamente perigosas.

Por isso, o desenho de guardrails deve ser entendido como engenharia de sistemas, não como simples prompt engineering. Guardrail não é dizer ao modelo “seja seguro”. Guardrail é separar funções, limitar escopo, criar checagens determinísticas, validar identidade, cruzar histórico medicamentoso, definir critérios de exclusão, registrar decisões, monitorar desvios, auditar casos, permitir contestação do paciente, envolver farmacêuticos e acionar médicos quando houver incerteza.

Em sistemas clínicos, segurança nasce de redundância. A medicina aprendeu isso em cirurgia, terapia intensiva, anestesia e aviação. A IA clínica precisa importar essa cultura de alta confiabilidade.

Este episódio do podcast também coloca sobre a mesa a questão da segurança cibernética e dos jailbreaks. Quando pesquisadores conseguem manipular um chatbot para gerar respostas absurdas, o problema não deve ser minimizado como “uso de má-fé”. Sistemas de saúde lidam continuamente com fraude, abuso, manipulação e erro humano. A diferença é que, com IA generativa, a superfície de ataque inclui linguagem natural. Um paciente, pesquisador ou agente malicioso pode tentar alterar contexto, injetar instruções, simular informações regulatórias ou forçar o modelo para fora de sua função. Portanto, segurança em IA médica não pode depender da boa intenção do usuário. Ela precisa pressupor adversarialidade.

Ao mesmo tempo, é preciso diferenciar o chatbot público de um backend clínico regulado. Essa separação é fundamental. Um sistema de conversação aberto, usado para perguntas gerais, não deveria ter a mesma autoridade de um sistema responsável por tomada de decisão medicamentosa. Misturar essas camadas seria uma falha grave de arquitetura. A ideia de “separação entre linguagem e ação” talvez seja um dos princípios mais importantes da IA clínica autônoma. Uma coisa é o modelo gerar texto. Outra é o sistema executar uma ação clínica. Entre uma e outra, devem existir filtros, regras, validações, logs, permissões, auditorias e, quando necessário, intervenção humana.

Para médicos, a grande provocação é repensar o próprio conceito de responsabilidade. Muitos profissionais reagem à IA autônoma perguntando: “se algo der errado, quem responde?”. A pergunta é legítima, mas não pode ser usada apenas como bloqueio. Ela precisa ser operacionalizada. Responsabilidade em IA clínica deve envolver fabricante, instituição, médico supervisor, regulador, farmacêutico, equipe de governança e o próprio desenho técnico do sistema. Em um cuidado mediado por IA, responsabilidade deixa de ser apenas individual e passa a ser distribuída. Isso não elimina o médico; pelo contrário, exige médicos mais preparados para desenhar, supervisionar e auditar sistemas.

A responsabilidade médica, nesse novo cenário, migra parcialmente da decisão caso a caso para a governança do processo. O médico continuará indispensável em situações complexas, ambíguas, emocionalmente carregadas ou de alto risco. Mas também será cada vez mais chamado a definir protocolos, validar fluxos, interpretar métricas, revisar exceções, treinar equipes, explicar limites ao paciente e decidir quando a automação deve parar. Esse é um novo tipo de competência clínica. O médico do futuro não será apenas usuário de IA. Será curador de sistemas clínicos inteligentes.

Há também um elemento de gestão em saúde que não pode ser ignorado. Se médicos gastam tempo relevante com tarefas repetitivas, e se parte dessas tarefas pode ser resolvida com segurança por sistemas autônomos ou semiautônomos, o impacto potencial é enorme. Não apenas em produtividade, mas em acesso, experiência do paciente e sustentabilidade operacional.

O objetivo não deveria ser “fazer o médico atender mais pacientes a qualquer custo”, mas liberar capacidade cognitiva para onde ela é mais necessária: diagnóstico difícil, tomada de decisão compartilhada, manejo de incerteza, comunicação, longitudinalidade e cuidado de maior complexidade.

Essa discussão conversa diretamente com o burnout médico. Muito do esgotamento contemporâneo não vem da medicina em si, mas da erosão da prática médica por tarefas administrativas fragmentadas. Mensagens, autorizações, renovações, formulários, documentação excessiva e retrabalho consomem energia que deveria estar direcionada ao raciocínio clínico e à relação médico-paciente.

Se a IA for usada apenas para aumentar volume e reduzir custo, ela pode aprofundar o problema. Mas, se for usada para redesenhar fluxos, remover fricções e devolver tempo clínico ao médico, pode ser uma das ferramentas mais importantes de reumanização da medicina.

O paciente, por sua vez, não deve ser tratado apenas como usuário final de um software. Ele é parte ativa da camada de segurança. Em renovações de prescrição, o paciente sabe se está usando o medicamento, se teve efeitos adversos, se interrompeu por conta própria, se mudou de dose, se teve sangramentos, tontura, hipoglicemia, sintomas depressivos, gravidez, nova medicação ou internação recente. A IA pode estruturar essa conversa de forma mais consistente do que muitos fluxos tradicionais de portal. Mas isso depende de linguagem clara, alfabetização em saúde, acessibilidade, design inclusivo e mecanismos fáceis para pedir ajuda humana.

A adoção dessas ferramentas também exigirá novas métricas. Não basta medir se a IA “acertou” em comparação com médicos. Precisamos medir eventos adversos, escalonamentos adequados, tempo até renovação, lacunas terapêuticas evitadas, satisfação do paciente, carga de trabalho médico, impacto em farmácias, equidade entre grupos populacionais, qualidade da documentação, taxa de contestação, custo por caso e desempenho longitudinal.

Em IA clínica, validação não é um estudo único. É vigilância contínua. Modelos mudam, pacientes mudam, protocolos mudam, padrões de uso mudam. A segurança precisa ser monitorada como processo vivo.

No Brasil, essa discussão ainda parece distante, mas não deveria. Nosso sistema convive com filas, descontinuidade terapêutica, subutilização de dados, sobrecarga da atenção primária, fragmentação entre público e privado e enorme variabilidade operacional. A renovação segura de receitas crônicas, a triagem de demandas administrativas, o acompanhamento remoto de pacientes estáveis e a identificação de sinais de alerta são áreas nas quais IA poderia gerar valor real. Porém, importar a tecnologia sem importar a governança seria um erro. Precisamos discutir regulação, responsabilidade, interoperabilidade, LGPD, prontuário, telessaúde, validação local e papel dos conselhos profissionais antes que o mercado avance mais rápido que as instituições.

Minha opinião é que a IA autônoma em saúde não deve ser celebrada ingenuamente nem rejeitada instintivamente. Ela deve ser disciplinada. O caso da Doctronic mostra que a fronteira está se deslocando: de sistemas que apenas respondem perguntas para sistemas que participam da execução do cuidado. Isso exige uma medicina mais sofisticada, não menos médica. Exige médicos que entendam ciência de dados, segurança do paciente, gestão de risco, desenho de processos, ética, regulação e comportamento humano. A IA não substitui a responsabilidade clínica. Ela torna essa responsabilidade mais sistêmica.

O maior risco da IA na saúde não é a máquina se tornar médica. O maior risco é continuarmos organizando a medicina como se a tecnologia fosse apenas um acessório, enquanto ela muda silenciosamente a estrutura do cuidado. A pergunta que fica após o episódio não é se teremos IA autônoma na prática clínica. Teremos. A pergunta é se ela será implementada como atalho comercial ou como infraestrutura clínica segura. A diferença entre uma coisa e outra será determinada por médicos, gestores, reguladores e pacientes capazes de entender que automação, em saúde, só faz sentido quando aumenta confiabilidade, acesso e qualidade, nunca quando reduz a medicina a um clique.

Para complementar a leitura, deixo também minha palestra no TEDx Faculdade Zarns Itumbiara com o tema "Quando a IA sabe mais que o médico: o começo de uma nova Era na medicina" - https://www.youtube.com/watch?v=MPLOm6ODl9U