The crystal ball problem: por que modelos de predição não garantem melhores desfechos | IA.med

Artigo

The crystal ball problem: por que modelos de predição não garantem melhores desfechos

Perspective do grupo de Leo Celi (MIT) argumentando que acurácia preditiva não estabelece benefício clínico: predição responde 'o que vai acontecer', mas a decisão exige inferência causal. Usando anticoagulação em ECMO, mostra o paradoxo do tratamento e propõe um estágio causal intermediário (target-trial emulation com g-methods) entre validação e trial de impacto prospectivo.

Referência

Autores: Celi LA, Yamamoto R, Fernandes C et al. (9 autores; correspondência: Melat Mezgebu Bawoke)
Ano: 2026
Venue: npj Artificial Intelligence (Perspective, Article in Press). Recebido 12/05/2026, aceito 01/10/2026
DOI / URL: https://doi.org/10.1038/s44387-026-00171-6

Problema e Contexto

A literatura vive uma "epidemia de predição": centenas de modelos por condição, poucos validados externamente e menos ainda adotados. O campo assume implicitamente que prever melhor leva a cuidar melhor, mas revisões não mostram ganho consistente de desfecho com CDS baseado em predição em cuidado agudo, e até alertas simples de LRA em dois RCTs não melhoraram desfechos (com sinal de maior mortalidade em hospitais não universitários).

Hipótese / Objetivo

Os autores argumentam que a premissa "predição acurada → intervenção precoce → melhor desfecho" não é só não comprovada, mas estruturalmente falha. Predição responde "o que é provável acontecer?"; a decisão exige a pergunta causal "o que aconteceria se agíssemos diferente?". O objetivo é mostrar, com um caso concreto, por que acurácia não estabelece benefício e como análise causal de dados existentes faz a ponte entre validação e trial de impacto.

Método

Perspective conceitual com estudo de caso: anticoagulação com heparina em ECMO (sangramento em 10-50%, hemorragia intracraniana 2-6%; alvo de TTPa definido diariamente no round).

Paradoxo do tratamento: no dado de treino, clínicos já ajustavam o alvo de TTPa usando as mesmas features do modelo (trajetória de TTPa, dose de heparina, hemoglobina). Pacientes julgados de baixo risco recebiam alvos mais altos e depois sangravam, então o modelo pode aprender a associação inversa da fisiologia e acabar desestimulando alvos altos justamente em quem tinha baixo risco basal.
Dois estágios antes do teste prospectivo: (1) predição: desenvolvimento e validação (discriminação, calibração, TRIPOD+AI), já desenhado pensando numa ação concreta; (2) causal: target-trial...