.
Como residente de oftalmologia do quarto ano na Escola de Medicina da Universidade Emory, as maiores responsabilidades do Dr. Riley Lyons incluem a triagem: quando um paciente chega com uma queixa relacionada aos olhos, Lyons deve fazer uma avaliação imediata de sua urgência.
Ele muitas vezes descobre que os pacientes já recorreram ao “Dr. Google.” Online, disse Lyons, é provável que descubram que “uma série de coisas terríveis podem estar acontecendo com base nos sintomas que estão enfrentando”.
Então, quando dois colegas oftalmologistas de Lyons em Emory vieram até ele e sugeriram avaliar a precisão do chatbot de IA ChatGPT no diagnóstico de queixas relacionadas aos olhos, ele aproveitou a oportunidade.
Em junho, Lyons e seus colegas relataram no medRxiv, um editor on-line de estudos preliminares de ciências da saúde, que o ChatGPT se comparou muito bem com médicos humanos que analisaram os mesmos sintomas – e teve um desempenho muito melhor do que o verificador de sintomas no popular site de saúde WebMD. E apesar do muito divulgado problema de “alucinação” conhecido por afligir o ChatGPT – seu hábito de ocasionalmente fazer declarações falsas – o estudo Emory relatou que a versão mais recente do ChatGPT não fez nenhuma declaração “grosseiramente imprecisa” quando apresentada a um conjunto padrão de olhos. reclamações.
A relativa proficiência do ChatGPT, que estreou em novembro de 2022, foi uma surpresa para Lyons e seus coautores. O mecanismo de inteligência artificial “é definitivamente uma melhoria em relação a simplesmente colocar algo na barra de pesquisa do Google e ver o que você encontra”, disse o coautor Dr. Nieraj Jain, professor assistente do Emory Eye Center especializado em cirurgia e doenças vitreorretinianas.
Mas as descobertas ressaltam um desafio que o setor de saúde enfrenta ao avaliar as promessas e as armadilhas da IA generativa, o tipo de inteligência artificial usada pelo ChatGPT: a precisão das informações médicas fornecidas pelo chatbot pode representar uma melhoria em relação ao Dr. Ainda existem muitas questões sobre como integrar esta nova tecnologia nos sistemas de saúde com as mesmas salvaguardas historicamente aplicadas à introdução de novos medicamentos ou dispositivos médicos.
A sintaxe suave, o tom autoritário e a destreza da IA generativa atraíram uma atenção extraordinária de todos os setores da sociedade, com alguns comparando o seu impacto futuro ao da própria Internet. Na área da saúde, as empresas estão a trabalhar arduamente para implementar IA generativa em áreas como radiologia e registos médicos.
No entanto, quando se trata de chatbots de consumo, ainda há cautela, embora a tecnologia já esteja amplamente disponível – e seja melhor do que muitas alternativas. Muitos médicos acreditam que as ferramentas médicas baseadas em IA deveriam passar por um processo de aprovação semelhante ao regime da FDA para medicamentos, mas isso ainda levaria anos. Não está claro como tal regime pode se aplicar a IAs de uso geral como o ChatGPT.
“Não há dúvida de que temos problemas com o acesso aos cuidados de saúde e, quer seja ou não uma boa ideia implementar o ChatGPT para tapar as lacunas ou preencher as lacunas no acesso, isso vai acontecer e já está a acontecer”, disse Jain. “As pessoas já descobriram sua utilidade. Portanto, precisamos compreender as vantagens potenciais e as armadilhas.”
O estudo de Emory não é o único a ratificar a precisão relativa da nova geração de chatbots de IA. Um relatório publicado na Nature no início de julho por um grupo liderado por cientistas da computação do Google disse que as respostas geradas pelo Med-PaLM, um chatbot de IA que a empresa construiu especificamente para uso médico, “comparam-se favoravelmente com as respostas dadas pelos médicos”.
A IA também pode ter um comportamento melhor ao lado do leito. Outro estudo, publicado em abril no JAMA Internal Medicine, observou ainda que os profissionais de saúde classificaram as respostas do ChatGPT como mais empáticas do que as respostas de médicos humanos.
Na verdade, várias empresas estão a explorar como os chatbots poderiam ser usados para terapia de saúde mental, e alguns investidores nas empresas estão a apostar que pessoas saudáveis também poderão gostar de conversar e até de se relacionar com um “amigo” de IA. A empresa por trás do Replika, uma das mais avançadas do gênero, comercializa seu chatbot como “O companheiro de IA que se importa. Sempre aqui para ouvir e conversar. Sempre ao seu lado.”
“Precisamos que os médicos comecem a perceber que essas novas ferramentas vieram para ficar e oferecem novos recursos tanto para médicos quanto para pacientes”, disse James Benoit, consultor de IA.
Enquanto fazia pós-doutorado em enfermagem na Universidade de Alberta, no Canadá, ele publicou um estudo preliminar em fevereiro relatando que o ChatGPT superou significativamente os verificadores de sintomas online na avaliação de um conjunto de cenários médicos. “Eles são precisos o suficiente neste ponto para começar a merecer alguma consideração”, disse ele.
Ainda assim, mesmo os investigadores que demonstraram a relativa fiabilidade do ChatGPT são cautelosos ao recomendar que os pacientes depositem total confiança no estado atual da IA. Para muitos profissionais médicos, os chatbots de IA são um convite ao problema: citam uma série de questões relacionadas com privacidade, segurança, preconceito, responsabilidade, transparência e a atual ausência de supervisão regulamentar.
A proposta de que a IA deve ser adoptada porque representa uma melhoria marginal em relação ao Dr. Google não é convincente, dizem estes críticos.
“É um padrão um pouco decepcionante de se definir, não é?” disse o Dr. Mason Marks, professor especializado em direito da saúde na Florida State University. “Não sei até que ponto é útil dizer: ‘Bem, vamos usar esta IA de conversação como um penso rápido para compensar estas questões sistémicas mais profundas’”, disse ele numa entrevista.
O maior perigo, na sua opinião, é a probabilidade de os incentivos de mercado resultarem em interfaces de IA concebidas para orientar os pacientes para determinados medicamentos ou serviços médicos. “As empresas podem querer promover um determinado produto em detrimento de outro”, disse Marks. “O potencial de exploração de pessoas e de comercialização de dados não tem precedentes.”
A OpenAI, empresa que desenvolveu o ChatGPT, também pediu cautela.
“Os modelos da OpenAI não são ajustados para fornecer informações médicas”, disse um porta-voz da empresa. “Você nunca deve usar nossos modelos para fornecer serviços de diagnóstico ou tratamento para condições médicas graves.”
John Ayers, epidemiologista computacional da UC San Diego e principal autor do estudo JAMA Internal Medicine, disse que, como acontece com outras intervenções médicas, o foco deveria estar nos resultados dos pacientes.
“Se os reguladores dissessem que se você quiser fornecer serviços aos pacientes usando um chatbot, você tem que demonstrar que os chatbots melhoram os resultados dos pacientes, então ensaios clínicos randomizados seriam registrados amanhã para uma série de resultados”, disse Ayers.
Ele gostaria de ver uma postura mais urgente por parte dos reguladores.
“Cem milhões de pessoas têm ChatGPT em seus telefones”, disse Ayers, “e estão fazendo perguntas agora. As pessoas vão usar chatbots com ou sem nós.”
Actualmente, porém, há poucos sinais de que sejam iminentes testes rigorosos de segurança e eficácia das IAs. Em maio, o Dr. Robert Califf, comissário da FDA, descreveu “a regulamentação de grandes modelos de linguagem como crítica para o nosso futuro”, mas, além de recomendar que os reguladores sejam “ágeis” na sua abordagem, ofereceu poucos detalhes.
Enquanto isso, a corrida continua. Em julho, o Wall Street Journal informou que a Mayo Clinic estava fazendo parceria com o Google para integrar o chatbot Med-PaLM 2 em seu sistema. Em junho, a WebMD anunciou que estava fazendo parceria com uma startup sediada em Pasadena, HIA Technologies Inc., para fornecer “assistentes de saúde digitais” interativos. E a integração contínua da IA no Bing da Microsoft e no Google Search sugere que o Dr. Google já está a caminho de ser substituído pelo Dr.
Este artigo foi produzido por Notícias de saúde KFFque publica Linha de saúde da Califórniaum serviço editorialmente independente da Fundação de cuidados de saúde da Califórnia.
.
