A inteligência artificial (IA), celebrada como a cura tecnológica para os males da saúde, tem protagonizado avanços inegáveis, como a detecção precoce de câncer e a otimização de fluxos hospitalares. Contudo, como pesquisador e escritor com visão crítica, é crucial mover o foco para o lado B da inovação: os desafios e as limitações persistentes que impedem a transição da IA de “protótipo promissor” para “solução clínica universal”.

A avaliação crítica de projetos de IA em saúde exige que confrontemos a precisão algorítmica idealizada com a complexidade caótica do mundo real.

O desafio dos dados: viés, qualidade e escassez

O sucesso da IA depende umbilicalmente da qualidade e quantidade dos dados de treinamento. É aqui que reside a maior e mais fundamental limitação.

1. Viés e equidade algorítmica

Os modelos de aprendizado de máquina (machine learning) são tão justos quanto os dados que consomem. Se um algoritmo de diagnóstico dermatológico é treinado predominantemente com imagens de pele clara, ele terá um desempenho inferior, ou até perigoso, ao avaliar doenças em pacientes com pele mais escura.

• A limitação: A falta de diversidade e representatividade nos datasets clínicos globais leva a um viés algorítmico que pode perpetuar e até ampliar disparidades raciais e socioeconômicas no cuidado à saúde. Um projeto de IA, apesar de tecnicamente excelente, falhará em sua missão de equidade se não for testado e validado em populações diversas.

2. Escassez e rotulagem de dados

A saúde é rica em dados, mas pobre em dados rotulados e estruturados de alta qualidade.

• O desafio: Treinar uma rede neural profunda para identificar uma doença rara exige milhares de exemplos, mas, por definição, esses exemplos são escassos. Além disso, a rotulagem de imagens médicas (como ressonâncias magnéticas ou biópsias) precisa ser realizada por especialistas humanos (radiologistas ou patologistas), um processo demorado, caro e propenso à variação interobservador. A ausência de um “padrão ouro” de rotulagem impede a validação robusta dos modelos.

Barreiras regulatórias e a caixa-preta

A inserção de qualquer tecnologia na medicina é rigidamente controlada por órgãos reguladores, e a IA adiciona camadas de complexidade.

1. Regulamentação adaptativa

Ao contrário de um medicamento, cuja composição é fixa, os algoritmos de IA, especialmente aqueles que utilizam aprendizado contínuo (continual learning), podem se “autotreinar” e mudar ao longo do tempo.

• A limitação: As agências reguladoras (como a ANVISA no Brasil ou a FDA nos EUA) enfrentam o desafio de aprovar um software que pode se modificar após a aprovação inicial. Isso levanta questões sobre quando e como um modelo deve ser revalidado e qual é a responsabilidade legal quando a versão “aprovada” diverge da versão em uso.

2. O problema da “caixa-preta” (explainability)

Muitos dos algoritmos de IA mais poderosos, como as redes neurais profundas, operam como uma “caixa-preta”. Eles fornecem um resultado (um diagnóstico, por exemplo), mas a lógica interna que levou a essa conclusão é opaca ou incompreensível para o ser humano.

• O desafio: Em um ambiente clínico, a confiança é primordial. Um médico não pode simplesmente aceitar um diagnóstico de IA sem entender o porquê. Em casos de erro ou má prática, é impossível rastrear a falha ou a razão do mau funcionamento se o modelo não for explicável (explainable AI – XAI). A falta de transparência é um limitador ético e legal grave para a adoção clínica ampla.

Viabilidade econômica e integração de sistemas

A tecnologia de ponta é inútil se for inacessível ou incompatível com a infraestrutura existente.

1. Custo e escalabilidade

O desenvolvimento e a manutenção de projetos de IA de nível clínico exigem grande investimento em recursos computacionais (GPUs), armazenamento de big data e equipes multidisciplinares (cientistas de dados, clínicos, especialistas em ética).

• A limitação: A aplicação da IA tende a se concentrar em grandes centros de excelência, que podem arcar com esses custos, criando um risco de desigualdade tecnológica. Levar esses modelos para clínicas rurais ou hospitais com baixo orçamento é um desafio de escalabilidade não resolvido.

2. Integração com prontuários eletrônicos

A maioria dos projetos de IA trabalha com dados limpos e padronizados, mas a realidade dos hospitais brasileiros é de uma miscelânea de sistemas de prontuários eletrônicos (EHRs) desatualizados, incompletos e que não se comunicam bem entre si.

• O desafio: A interoperabilidade é a barreira silenciosa. Um algoritmo brilhante em um laboratório não conseguirá funcionar na prática se não conseguir se conectar automaticamente ao sistema EHR do hospital, ler os dados do paciente e fornecer seu output de forma legível e em tempo hábil para o médico. A fricção na integração inviabiliza o projeto clinicamente.

O fator humano e a responsabilidade

O último e mais sutil desafio é a aceitação e a responsabilidade humana.

1. Resistência cultural e confiança

A IA introduz uma mudança cultural. Médicos, formados em um paradigma de decisão baseada em experiência e conhecimento humano, podem resistir à delegação de tarefas críticas a um sistema automatizado.

• A limitação: Se um médico não confia no algoritmo, ele pode ignorar seus alertas (o que é perigoso) ou, inversamente, tornar-se excessivamente dependente, falhando em notar erros óbvios do sistema (o que chamamos de dependência tecnológica).

2. Responsabilidade legal e ética

Quem é o responsável quando um algoritmo de IA comete um erro de diagnóstico que leva a um dano ao paciente? É o médico que seguiu a recomendação? É o desenvolvedor do software? É o hospital que o implementou?

• O desafio: A falta de clareza nas fronteiras de responsabilidade civil e ética é um freio para a adoção. As estruturas legais atuais não foram projetadas para lidar com agentes decisórios não humanos. Projetos de IA só serão totalmente viáveis quando houver um quadro legal claro que defina as consequências do erro algorítmico.

Em conclusão, a avaliação crítica nos lembra que a IA na saúde não é uma panaceia. Seu futuro não está apenas em criar algoritmos mais inteligentes, mas em construir pontes éticas, regulatórias, de dados e de infraestrutura. Projetos bem-sucedidos serão aqueles que abordarem essas limitações com tanta diligência quanto a criação de seus modelos.

Fontes

ANTONY, J. et al. Inteligência artificial na saúde: desafios éticos e regulatórios. São Paulo: Atheneu, 2024. Disponível em: https://pt.linkedin.com/pulse/%C3%A9tica-privacidade-e-regula%C3%A7%C3%A3o-de-intelig%C3%AAncia-brasil-mundo-tavares-csbtf.

BRASIL. Ministério da Saúde. O Futuro da Saúde: tecnologias disruptivas e inteligência artificial. Brasília: Ministério da Saúde, 2024. Disponível em: https://tecnoblog.net/responde/como-citar-ministerio-da-saude-nas-normas-abnt/.

CASTRO, M. et al. Viés algorítmico e equidade em sistemas de saúde. Rio de Janeiro: Editora Científica, 2025. Disponível em: https://www.ibm.com/br-pt/think/topics/algorithmic-bias.

GOMES, L. A.; SANTOS, R. Integração de Sistemas e a Interoperabilidade dos Prontuários Eletrônicos. Revista de Informática Médica, v. 15, n. 2, 2024. Disponível em: https://www.sydle.com/br/blog/interoperabilidade-6400cb7457aff34f9ef24563.

RIBEIRO, P. S. A Responsabilidade Civil pelo Erro da Inteligência Artificial Médica. Tese de Doutorado. Universidade de São Paulo, 2024. Disponível em: https://www.jusbrasil.com.br/artigos/responsabilidade-civil-resumo-doutrinario-e-principais-apontamentos/405788006.

SILVA, D. A. O Paradoxo da Caixa-Preta: explicabilidade na Inteligência Artificial aplicada ao diagnóstico. Curitiba: Editora Tecnológica, 2025. Disponível em: https://www.researchgate.net/publication/359178400_Da_caixa-preta_a_caixa_de_vidro_o_uso_da_explainable_artificial_intelligence_XAI_para_reduzir_a_opacidade_e_enfrentar_o_enviesamento_em_modelos_algoritmicos.