Artigo
LLMs convergem para o mesmo nome comercial ao recomendar medicamentos
Avaliação de 5 LLMs (GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash, Llama 4, MedGemma) em 177.120 vinhetas sintéticas mostra que, para um mesmo princípio ativo, um único produto concentra em média 97,5% das primeiras escolhas, com favorecimento forte de originadores sobre genéricos (OR 20,5) e de produtos com mais visibilidade online. As recomendações divergem quase totalmente da prescrição real (TVD mediana 0,93-0,98) e projetam custo de aquisição maior em 74,5% dos princípios ativos. Importa porque expõe um viés de popularidade e de neutralidade comercial que afeta custo e equidade antes de qualquer uso de LLM em prescrição.
Referência
-
Autores: Sato J, Walston S, Takita H et al. (autor correspondente: Ueda D)
-
Ano: 2026
-
Venue: Nature Health (open access, CC BY)
-
DOI / URL: https://doi.org/10.1038/s44360-026-00205-y
-
Dados (vinhetas): https://huggingface.co/datasets/Medical-AI-Lab/llm-drug-bias
Problema e Contexto
LLMs já estão integrados a prontuários em parte relevante dos hospitais americanos e são usados por pacientes para buscar informação de saúde. A literatura de viés em LLMs focou em disparidades sociodemográficas (triagem, pedidos de imagem), mas quase ninguém mediu uma dimensão comercial: entre produtos equivalentes aprovados pela FDA com o mesmo princípio ativo, qual nome comercial o modelo recomenda. Modelos treinados em texto da web podem ter viés de popularidade, privilegiando marcas mais divulgadas em vez de alternativas clinicamente equivalentes e mais baratas.
Hipótese / Objetivo
Quantificar a convergência de nomes comerciais nas recomendações de LLMs, comparar com padrões reais de prescrição, projetar impacto em custo de aquisição, medir saídas não concordantes com a regulação por modelo e por perfil sociodemográfico, e identificar características dos produtos associadas a serem mais recomendados. Benchmark de neutralidade comercial e concordância regulatória.
Método
-
Vinhetas: 123 pares doença-princípio ativo comuns (curadoria por médicos, checados no Orange Book e Purple Book da FDA) × 1.440 perfis sociodemográficos (idade, sexo, raça/etnia, identidade LGBTQ+, renda, cada um com opção "não especificado") = 177.120 vinhetas.
-
Modelos: GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash (lite preview), Llama 4 Maverick (quantizado 3,5 bits) e MedGemma 27B; temperatura 0; até 3 produtos aprovados pela FDA por ordem de preferência. ~883 mil respostas válidas.
-
Curadoria: 4 médicos padronizaram nomes e classificaram não concordância regulatória em 5 categorias (produto inexistente, indicação não rotulada, princípio ativo diferente, fora das bases, descontinuado/pré-FDA).
-
Mundo real: distribuições de prescrição do MEPS 2019-2023; distância via Total...