.
Tchegada da inteligência artificial na área da saúde significa que um dia todos poderão ter um médico no bolso, mas o diretor de saúde do Google pediu cautela sobre o que a IA pode fazer e quais devem ser seus limites.
“Haverá uma oportunidade para as pessoas terem um acesso ainda melhor aos serviços [and] a serviços de grande qualidade”, disse a Dra. Karen DeSalvo ao Guardian Australia em uma entrevista na semana passada.
“Mas nós somos uma maneira de chegar lá. Temos muitas coisas para resolver para garantir que os modelos sejam restritos de forma adequada, que sejam factuais, consistentes e que sigam essas abordagens éticas e de equidade que queremos adotar – mas estou super empolgado com o potencial, mesmo como um documento.
DeSalvo, ex-oficial de saúde do governo Obama, chefia a divisão de saúde do Google desde 2021 e visitou a Austrália pela primeira vez em seu cargo na semana passada. Ela disse que a IA seria uma “ferramenta na caixa de ferramentas” para os médicos e poderia ajudar a solucionar problemas de escassez de força de trabalho e melhorar a qualidade dos cuidados prestados às pessoas. Isso preencheria as lacunas em vez de substituir os médicos, acrescentou ela.
“Às vezes, como médico, tenho que dizer: ‘Nossa, tem um novo estetoscópio na minha caixa de ferramentas chamado modelo de linguagem grande, e ele fará muitas coisas incríveis.’ Mas não vai substituir os médicos – acredito que seja uma ferramenta na caixa de ferramentas.”
Na semana passada, um estudo de pesquisa do Google publicado na Nature analisou como os modelos de linguagem grande (LLMs) poderiam responder a perguntas médicas, com seu próprio Med-PaLM LLM incluído no estudo.
Os LLMs receberam 3.173 das perguntas médicas mais comuns pesquisadas online, e os resultados mostraram que o sistema Med-PaLM gerou respostas equivalentes às respostas dos médicos em 92,9% das vezes. Respostas classificadas como potencialmente levando a resultados prejudiciais ocorreram a uma taxa de 5,8%. Os autores disseram que uma avaliação mais aprofundada era necessária.
DeSalvo disse que ainda está em uma “fase de teste e aprendizado”, mas os LLMs podem ser o melhor estagiário para um médico, colocando todos os livros didáticos do mundo ao seu alcance.
“Estou no campo de que há potencial aqui e devemos ser ousados ao pensar sobre quais poderiam ser os usos potenciais para ajudar as pessoas em todo o mundo.”
Mas nunca deve substituir os seres humanos no diagnóstico e tratamento de pacientes, disse ela, indicando que haveria preocupações sobre o potencial de erros de diagnóstico, com os primeiros LLMs propensos ao que foi chamado de “alucinações de IA” constituindo material de origem para atender a resposta necessária.
após a promoção do boletim informativo
“Uma das coisas em que estamos realmente focados no Google é o ajuste do modelo e a restrição do modelo de forma que ele se incline para os fatos”, disse ela. “Seja para um clínico ou para o paciente, você não quer um soneto sobre sua quimioterapia, você quer saber o que a literatura diz [and] Isso está certo?”
DeSalvo disse que o objetivo final é resolver o desequilíbrio de informações entre a indústria médica e o público e colocar o máximo de poder possível nas mãos dos pacientes.
“A informação é um determinante da saúde. E começa apenas com as pessoas entendendo e sabendo sobre a condição potencial … Queremos garantir que as pessoas tenham esse conhecimento e agência ”, disse ela.
“Quando eu estava praticando, adorava quando [patients] apareceu com as folhas impressas ou um caderno de espiral com todas as suas coisas de glicose escritas nas linhas, e poderíamos ter uma conversa real.
.
