A IA generativa está chegando para a saúde, mas nem todos estão felizes com isso

Créditos da imagem: Nadezhda Fedronova/Getty/Getty Images

A IA generativa, que pode criar e analisar imagens, textos, áudio, vídeos e muito mais, está cada vez mais a chegar aos cuidados de saúde, com o apoio tanto de grandes empresas tecnológicas como de startups.

O Google Cloud, divisão de serviços e produtos em nuvem do Google, está colaborando com a Highmark Health, uma empresa de saúde sem fins lucrativos com sede em Pittsburgh, em ferramentas generativas de IA projetadas para personalizar a experiência de admissão dos pacientes. A divisão AWS da Amazon afirma que está trabalhando com clientes não identificados em uma maneira de usar IA generativa para análise Bases de dados médicas para “determinantes sociais da saúde”. O Microsoft Azure está ajudando a construir um sistema generativo de IA para a Providence, a rede de saúde sem fins lucrativos, para classificar automaticamente as mensagens enviadas de pacientes para cuidadores.

Startups notáveis ​​de IA na área da saúde incluem Ambience Healthcare, que está desenvolvendo um aplicativo generativo de IA para médicos; Nabla, assistente de IA ambiental para profissionais; e Abridge, que cria ferramentas analíticas para documentação médica.

O entusiasmo generalizado pela IA generativa reflecte-se nos investimentos em esforços de IA generativa direccionados para os cuidados de saúde. Coletivamente, a IA generativa em startups de cuidados de saúde arrecadou dezenas de milhões de dólares em capital de risco até à data, e a grande maioria dos investidores na saúde afirma que a IA generativa tem sido um enorme sucesso. Fiquei muito afetado Suas estratégias de investimento.

Mas tanto os profissionais como os pacientes estão confusos sobre se a IA generativa focada na saúde está pronta para o horário nobre.

A IA generativa pode não ser o que as pessoas desejam

em A última pesquisa da Deloitte, apenas cerca de metade dos consumidores americanos (53%) disseram acreditar que a IA generativa pode melhorar os cuidados de saúde — por exemplo, tornando-os mais acessíveis ou reduzindo os tempos de espera nas consultas. Menos de metade disse esperar que a IA produtiva torne os cuidados médicos mais acessíveis.

Andrew Borkowski, diretor de inteligência artificial da Virginia Sunshine Healthcare Network, o maior sistema de saúde VA dos Estados Unidos, não acredita que este pessimismo seja injustificado. Borkowski alertou que a implantação de IA generativa pode ser prematura devido às suas limitações “significativas” – e às preocupações sobre a sua eficácia.

“Um dos principais problemas da IA ​​generativa é sua incapacidade de lidar com consultas médicas complexas ou situações de emergência”, disse ele ao TechCrunch. “A sua base de conhecimento limitada – isto é, a ausência de informações clínicas atualizadas – e a falta de experiência humana tornam-no inadequado para fornecer aconselhamento médico abrangente ou recomendações de tratamento.”

Muitos estudos indicam que esses pontos são válidos.

Em um artigo publicado na JAMA Pediatrics, o chatbot gerado por IA da OpenAI, ChatGPT, que algumas organizações de saúde têm testado para casos de uso limitados, Encontrado para cometer erros Diagnóstico de doenças infantis em 83% dos casos. E em Testes GPT-4 da OpenAI como assistente de diagnóstico, os médicos do Beth Israel Deaconess Medical Center, em Boston, observaram que o modelo classificou o diagnóstico errado como a primeira resposta quase duas em cada três vezes.

A IA generativa de hoje também enfrenta tarefas administrativas médicas que são parte integrante do fluxo de trabalho diário dos médicos. No benchmark da MedAlign para avaliar quão bem a IA pode fazer coisas como resumir registros de saúde de pacientes e pesquisar anotações, GPT-4 falha em 35% dos casos.

OpenAI e muitos outros fornecedores de IA generativa Eles alertam contra confiar em seus modelos para aconselhamento médico. Mas Borkowski e outros dizem que podem fazer mais. “Confiar apenas na IA generativa na área da saúde pode levar a diagnósticos falsos, tratamentos inadequados ou até mesmo situações de risco de vida”, disse Borkowski.

Jan Egger, que lidera terapias guiadas por IA no Instituto de Inteligência Artificial em Medicina da Universidade de Duisburg-Essen, e que estuda aplicações da tecnologia emergente no atendimento ao paciente, compartilha das preocupações de Borkowski. Ele acredita que atualmente a única maneira segura de usar IA obstétrica na área da saúde é sob a estreita supervisão e monitoramento de um médico.

“Os resultados podem estar completamente errados e fica mais difícil manter a consciência disso”, disse Egger. “Certamente, a IA generativa pode ser usada, por exemplo, para pré-escrever cartas de alta, mas os médicos têm a responsabilidade de verificar e tomar a decisão final.

A IA generativa pode perpetuar estereótipos

Uma forma particularmente prejudicial pela qual a IA generativa na saúde pode dar errado é perpetuando estereótipos.

Em um estudo de 2023 na Stanford Medicine, uma equipe de pesquisadores testou o ChatGPT e outros chatbots gerados por IA em questões sobre função renal, capacidade pulmonar e espessura da pele. Os co-autores descobriram que não apenas as respostas do ChatGPT estavam frequentemente erradas, mas as respostas também incluíam muitas crenças incorretas de longa data de que existem diferenças biológicas entre pessoas negras e brancas – falsidades que são conhecidas por levar os prestadores de serviços médicos a diagnosticarem problemas de saúde. .

A ironia é que os pacientes com maior probabilidade de serem discriminados pela IA generativa nos cuidados de saúde são também os que têm maior probabilidade de a utilizar.

Pessoas que não têm cobertura de saúde – Pessoas de cor, em grande parte, de acordo com um estudo da KFF – estão mais dispostos a experimentar a IA generativa para coisas como encontrar um médico ou apoio à saúde mental, mostrou uma pesquisa da Deloitte. Se as recomendações da IA ​​estiverem contaminadas por preconceitos, isso poderá exacerbar as desigualdades de tratamento.

No entanto, alguns especialistas argumentam que a IA generativa está a melhorar neste aspecto.

Em um estudo da Microsoft publicado no final de 2023, Os pesquisadores disseram que alcançaram 90,2% de precisão. Em quatro benchmarks médicos desafiadores usando GPT-4. Vanilla GPT-4 não conseguiu alcançar este resultado. Mas, dizem os pesquisadores, por meio de engenharia rápida – projetando vetores para o GPT-4 produzir resultados específicos – eles conseguiram aumentar o resultado do modelo em até 16,2 pontos percentuais. (Vale a pena notar que a Microsoft é uma grande investidora na OpenAI.)

Além dos chatbots

Mas fazer uma pergunta a um chatbot não é a única coisa para a qual a IA generativa é útil. Alguns pesquisadores dizem que as imagens médicas poderiam se beneficiar muito com o poder da IA ​​generativa.

Em julho, um grupo de cientistas revelou um sistema chamado cAdiamento do fluxo de trabalho clínico com base na integração (CoDoC), em estudo publicado na Nature. O sistema foi projetado para entender quando os profissionais de imagens médicas devem confiar na IA para diagnóstico em comparação com as técnicas tradicionais. O CoDoC teve um desempenho melhor do que os especialistas, com uma redução de 66% no fluxo de trabalho clínico, de acordo com os coautores.

E em novembro um Equipe de pesquisa experimental chinesa Panda, um modelo de inteligência artificial usado para detectar possíveis lesões pancreáticas em radiografias. a O estudo mostrou A PANDA deve ter muito cuidado na classificação destas lesões, que muitas vezes são descobertas tarde demais para intervenção cirúrgica.

Na verdade, Arun Thirunavukkarasu, pesquisador clínico da Universidade de Oxford, disse que “não há nada de único” na IA generativa que impeça a sua implantação em ambientes de saúde.

“Aplicações mais mundanas de tecnologia de IA generativa são possíveis em A curto e médio prazo, incluem correção de texto, documentação automática de notas e cartas e recursos de pesquisa aprimorados para melhorar os registros eletrônicos dos pacientes. “Não há razão para que a tecnologia de IA generativa – se for eficaz – não possa ser implementada.” em Esses tipos de funções estão corretos.

“ciência rigorosa”

Mas embora a IA generativa se mostre promissora em áreas específicas e restritas da medicina, especialistas como Borkowski apontam para obstáculos técnicos e de conformidade que devem ser superados antes que a IA generativa possa tornar-se útil — e fiável — como uma ferramenta auxiliar universal de cuidados de saúde.

“Preocupações significativas com privacidade e segurança cercam o uso de IA generativa na área da saúde”, disse Borkowski. “A natureza sensível dos dados médicos e o potencial de utilização indevida ou acesso não autorizado aos mesmos representa graves riscos para a confidencialidade dos pacientes e para a confiança no sistema de saúde. Além disso, o panorama regulamentar e jurídico em torno da utilização de IA generativa nos cuidados de saúde ainda está em evolução e permanecem questões relacionadas com a responsabilidade, a protecção de dados e a prática da medicina por entidades não humanas que precisam de ser resolvidas.

Até Thirunavkarasu, um optimista em relação à IA generativa nos cuidados de saúde, diz que deveria haver “ciência dura” por detrás das ferramentas voltadas para os pacientes.

“Especialmente sem supervisão médica direta, deve haver ensaios pragmáticos de controle randomizado que demonstrem benefícios clínicos para justificar a implantação de IA obstétrica voltada para os pacientes”, disse ele. “Avançar com uma governação sólida é essencial para superar quaisquer danos imprevistos resultantes de uma implantação em grande escala.”

A Organização Mundial da Saúde emitiu recentemente diretrizes apelando a este tipo de supervisão científica e humana da IA ​​generativa nos cuidados de saúde, bem como à introdução de auditoria, transparência e avaliações de impacto desta IA por terceiros independentes. O objetivo, que a Organização Mundial da Saúde descreve nas suas diretrizes, é incentivar a participação de um grupo diversificado de pessoas no desenvolvimento de IA generativa para os cuidados de saúde e a oportunidade de expressar preocupações e fornecer informações ao longo de todo o processo.

“Até que as preocupações sejam adequadamente abordadas e as salvaguardas apropriadas sejam implementadas, a implementação generalizada da IA ​​médica poderá ser… prejudicial para os pacientes e para o setor de saúde como um todo”, disse Borkowski.