Crescente Uso de IA em Ambientes Clínicos

A inteligência artificial está sendo cada vez mais integrada aos fluxos de trabalho médicos. A Open Evidence, uma ferramenta empregada por um grande número de médicos, se baseia em jornais médicos, rótulos da FDA dos EUA, diretrizes de saúde e revisões de especialistas para resumir históricos de pacientes e recuperar informações. Cada saída gerada por IA é acompanhada de uma citação à sua fonte, proporcionando transparência para os clínicos.

Abordando o Viés em IA Médica

O Google enfatizou que leva o viés do modelo "extremamente a sério" e está desenvolvendo técnicas de privacidade que podem sanear conjuntos de dados sensíveis enquanto protegem contra a discriminação. Pesquisadores sugerem que a redução do viés começa com a seleção cuidadosa de dados de treinamento, defendendo conjuntos de dados de saúde diversificados e representativos.

Iniciativas de Pesquisa em Grande Escala

A University College London e a King’s College London colaboraram com o Serviço Nacional de Saúde do Reino Unido para desenvolver um modelo de IA gerativo chamado Foresight. O modelo foi treinado em dados de pacientes anonimizados de dezenas de milhões de indivíduos, abrangendo registros de admissões hospitalares e vacinações contra a Covid-19. O pesquisador principal Chris Tomlinson observou que os dados em escala nacional "permitem que representemos o estado completo e kaleidoscópico da Inglaterra em termos de demografia e doenças", oferecendo uma base mais forte do que conjuntos de dados mais genéricos.

Cientistas europeus também criaram um modelo de IA chamado Delphi-2M, que prevê a suscetibilidade a longo prazo a doenças usando registros médicos anonimizados de centenas de milhares de participantes no UK Biobank.

Preocupações de Privacidade e Scrutínio Regulamentar

O projeto Foresight do NHS foi pausado para permitir que o Escritório do Comissário de Informações do Reino Unido considere uma reclamação de proteção de dados apresentada pela British Medical Association e pelo Royal College of General Practitioners. A reclamação destacou preocupações sobre o uso de dados de saúde sensíveis no treinamento do modelo.

Riscos de Alucinação e Impacto Clínico

Especialistas alertam que os sistemas de IA podem "alucinar" — produzir respostas fabricadas —, o que poderia ser especialmente prejudicial em contextos médicos. Apesar desses riscos, o pesquisador do MIT Ghassemi expressou otimismo, afirmando que a IA traz "benefícios enormes para a saúde" e deve se concentrar em abordar lacunas críticas de saúde em vez de apenas melhorar a performance marginal de tarefas.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas