Em 2021, uma unidade da Johnson & Johnson anunciou um grande avanço: a adição de inteligência artificial (IA) a um dispositivo médico usado para tratar a sinusite crônica, uma inflamação dos seios da face. A Acclarent afirmou que o software de seu Sistema de Navegação TruDi agora utiliza um algoritmo de aprendizado de máquina para auxiliar otorrinolaringologistas em cirurgias.
O dispositivo já estava no mercado há cerca de três anos. Até então, a FDA (Food and Drug Administration, a Anvisa dos EUA) havia recebido relatos não confirmados de sete casos de mau funcionamento do dispositivo e outro relato de lesão a um paciente. Desde a incorporação da IA ao dispositivo, a FDA recebeu relatos não confirmados de pelo menos 100 casos de mau funcionamento e eventos adversos.
Segundo relatos, pelo menos dez pessoas ficaram feridas entre o final de 2021 e novembro de 2025. A maioria dos casos supostamente envolveu erros no sistema de navegação TruDi, que teria fornecido informações incorretas aos cirurgiões sobre a localização de seus instrumentos enquanto os utilizavam dentro da cabeça dos pacientes durante as cirurgias.
Em um dos casos relatados, houve vazamento de líquido cefalorraquidiano pelo nariz de um paciente. Em outro caso, um cirurgião perfurou acidentalmente a base do crânio de um paciente. Em outros dois casos, pacientes teriam sofrido AVC após uma lesão acidental em uma artéria principal.
Os relatórios da FDA sobre dispositivos médicos podem estar incompletos e não se destinam a determinar as causas de incidentes médicos, portanto, não está claro qual o papel que a IA pode ter desempenhado nesses eventos. As duas vítimas de AVC entraram com um processo no Texas alegando que a IA do sistema TruDi contribuiu para seus ferimentos. .
Questionada sobre os relatórios da FDA a respeito do dispositivo TruDi, a Johnson & Johnson encaminhou as perguntas à Integra LifeSciences, que em 2024 adquiriu a Acclarent e o Sistema de Navegação TruDi. A Integra LifeSciences afirmou que os relatórios “apenas indicam que um sistema TruDi estava em uso em uma cirurgia na qual ocorreu um evento adverso”. Acrescentou ainda que “não há evidências críveis que demonstrem qualquer relação causal entre o Sistema de Navegação TruDi, a tecnologia de IA e quaisquer lesões alegadas”.
A compreensão desses incidentes surge em um momento em que a IA começa a transformar o mundo da saúde. Os defensores preveem que a nova tecnologia ajudará a encontrar curas para doenças raras, descobrir novos medicamentos, aprimorar a habilidade dos cirurgiões e empoderar os pacientes.
No entanto, uma análise da agência de notícias Reuters de registros de segurança e jurídicos, bem como entrevistas com médicos, enfermeiros, cientistas e reguladores, documenta alguns dos riscos da IA na medicina, enquanto fabricantes de dispositivos, gigantes da tecnologia e desenvolvedores de software correm para implementá-la.
Pelo menos 1.357 dispositivos médicos que utilizam IA já foram autorizados pela FDA –o dobro do número permitido até 2022. O sistema TruDi não é o único questionado: a FDA recebeu relatos envolvendo dezenas de outros dispositivos com inteligência artificial, incluindo um monitor cardíaco que teria ignorado batimentos cardíacos anormais e um aparelho de ultrassom que supostamente identificou erroneamente partes do corpo fetal.
Pesquisadores das universidades Johns Hopkins, Georgetown e Yale descobriram recentemente que 60 dispositivos médicos autorizados pela FDA que utilizam inteligência artificial foram associados a 182 recalls de produtos, de acordo com um artigo de pesquisa publicado no JAMA Health Forum em agosto. A análise mostrou que 43% dos recalls ocorreram menos de um ano após a aprovação dos dispositivos. Isso representa aproximadamente o dobro da taxa de recall de todos os dispositivos autorizados sob regras semelhantes da FDA, conforme apontado no artigo.
O boom da IA representa um problema para a FDA, disseram à Reuters cinco cientistas da agência: a FDA está com dificuldades para acompanhar a avalanche de dispositivos médicos com IA que buscam aprovação, após a perda de funcionários importantes.
Outra forma de inteligência artificial, os chatbots de IA generativa, também está chegando à medicina. Muitos médicos agora usam IA para economizar tempo, por exemplo, na transcrição de prontuários de pacientes. Mas os médicos também dizem que muitos pacientes usam chatbots para autodiagnóstico ou para questionar conselhos profissionais, o que apresenta novos desafios e riscos.
A inteligência artificial tornou-se uma sensação nos negócios e na sociedade após o lançamento do ChatGPT há cerca de três anos. O ChatGPT e outros chatbots populares, como o Gemini do Google e o Claude da Anthropic, usam a chamada IA generativa para criar conteúdo.
Eles são construídos com base em grandes modelos de linguagem, ou LLMs, que são treinados com enormes conjuntos de texto e outros dados para entender e gerar linguagem humana. Essas ferramentas de IA estão sendo introduzidas em áreas médicas, como aplicativos de saúde para o consumidor.
‘PARTES DO CORPO ERRADAS’
A FDA alerta que os relatos de eventos adversos e mau funcionamento de dispositivos são limitados: muitas vezes carecem de detalhes, são editados para proteger segredos comerciais e não podem ser usados isoladamente para atribuir culpa. A agência também recebe, por vezes, múltiplos relatos para um único incidente.
A agência Reuters descobriu que pelo menos 1.401 dos relatórios enviados à FDA entre 2021 e outubro de 2025 dizem respeito a dispositivos médicos que constam de uma lista da FDA com 1.357 produtos que utilizam IA. A agência afirma que a lista não é exaustiva. Desses relatórios, pelo menos 115 mencionam problemas com software, algoritmos ou programação.
Um relatório da FDA de junho de 2025 alegou que um software de IA usado em ultrassonografias pré-natais estava identificando erroneamente partes do corpo do feto. Chamado Sonio Detect, ele usa técnicas de aprendizado de máquina para ajudar a analisar imagens fetais.
“O algoritmo de IA do software Sonio Detect é falho e rotula erroneamente estruturas fetais, associando-as a partes do corpo incorretas”, afirmou o relatório, que não menciona nenhum paciente que tenha sofrido danos. O Sonio Detect pertence à Samsung Medison, uma unidade da Samsung Electronics. A Samsung Medison declarou que o relatório da FDA sobre o Sonio Detect “não indica nenhum problema de segurança, nem a FDA solicitou qualquer ação da Sonio”.
O porta-voz do HHS não respondeu às perguntas sobre o Sonio Detect.
Pelo menos 16 relatos alegaram que monitores cardíacos com inteligência artificial, fabricados pela gigante de dispositivos médicos Medtronic, não reconheceram ritmos anormais ou pausas. Nenhum dos relatos mencionou lesões. A Medtronic informou à FDA que alguns dos incidentes foram causados por “confusão do usuário”.
Os algoritmos de IA da série LINQ de monitores cardíacos implantáveis da Medtronic são descritos como “inteligência artificial de aprendizado profundo”. Segundo o site da empresa, eles reduziram significativamente os falsos alarmes e mantiveram os alertas verdadeiros de eventos cardíacos. No entanto, a empresa também afirma em seu site e na documentação do produto que sua tecnologia de IA, AccuRhythm AI, pode classificar erroneamente ritmos cardíacos anormais ou pausas reais.
A Medtronic informou à agência Reuters que revisou todos os 16 episódios e concluiu que seu dispositivo só não detectou um evento de ritmo cardíaco anormal. “Nenhum desses relatos resultou em danos ao paciente”, afirmou a empresa. A Medtronic disse que alguns dos incidentes estavam relacionados a problemas com a exibição de dados, e não com a tecnologia de IA. A empresa se recusou a explicar detalhadamente o que deu errado em cada incidente.
O porta-voz do HHS disse que a agência não discute questões de conformidade, sejam elas possíveis ou em andamento.
Cortes orçamentários da FDA sob o governo Trump
Em entrevistas, cinco cientistas da FDA que analisaram dispositivos médicos com inteligência artificial disseram à Reuters que os órgãos reguladores federais estão agora menos preparados para lidar com a avalanche de novos dispositivos.
Há cerca de quatro anos, a FDA expandiu seu quadro de cientistas especializados em IA, particularmente para a avaliação de equipamentos de imagem médica e radiologia que utilizam essa tecnologia. Muitos dos recrutados foram alocados na Divisão de Imagem, Diagnóstico e Confiabilidade de Software (DIDSR). A unidade tornou-se o principal recurso da agência para avaliar a segurança da IA na medicina, conforme relataram à agência Reuters um funcionário atual e dois ex-funcionários da FDA.
Mas, no início do ano passado, o governo Trump começou a desmantelar a equipe de IA como parte da campanha de redução de custos de Elon Musk, o Departamento de Eficiência Governamental (DOGE). Cerca de 15 dos 40 cientistas de IA da unidade DIDSR foram demitidos ou optaram por sair, disseram fontes internas da FDA. Outra unidade que elaborava políticas sobre dispositivos que utilizam IA, o Centro de Excelência em Saúde Digital, perdeu cerca de um terço de sua equipe de aproximadamente 30 pessoas.
Andrew Nixon, porta-voz do Departamento de Saúde e Serviços Humanos (HHS), afirmou que a FDA está aplicando os mesmos padrões rigorosos a dispositivos médicos auxiliados por aprendizado de máquina e outras formas de inteligência artificial, assim como aplicaria a qualquer outro produto.
“A segurança do paciente é a maior prioridade da FDA e está na vanguarda do nosso trabalho para proteger e promover a saúde pública”, disse Nixon.
“A FDA vê um enorme potencial na área da saúde digital”, incluindo dispositivos com inteligência artificial e aprendizado de máquina, “para ajudar a diagnosticar e tratar uma série de doenças”.
Ele afirmou que a FDA continua a recrutar e desenvolver talentos com experiência em saúde digital, inteligência artificial e outras tecnologias emergentes.
Desde os cortes, a carga de trabalho quase dobrou para alguns analistas de dispositivos, disseram dois ex-funcionários.