.
Com longas listas de espera e custos crescentes em sistemas de saúde sobrecarregados, muitas pessoas estão recorrendo a chatbots de IA como ChatGPT para auto-diagnóstico médico. Cerca de um em cada seis adultos americanos já usam chatbots para conselhos de saúde pelo menos mensalmente, De acordo com uma pesquisa recente.
Mas depositar muita confiança nas saídas dos chatbots pode ser arriscado, em parte porque as pessoas lutam para saber quais informações dar chatbots para obter as melhores recomendações de saúde possíveis, De acordo com um estudo recente liderado por Oxford.
“O estudo revelou uma quebra de comunicação de mão dupla”, disse Adam Mahdi, diretor de estudos de pós-graduação do Oxford Internet Institute e co-autor do estudo, Strong The One. “Aqueles que usam [chatbots] Não tomou melhores decisões do que os participantes que confiaram em métodos tradicionais, como pesquisas on -line ou seu próprio julgamento. ”
Para o estudo, os autores recrutaram cerca de 1.300 pessoas no Reino Unido e deram a eles cenários médicos escritos por um grupo de médicos. Os participantes tiveram a tarefa de identificar possíveis condições de saúde nos cenários e usar chatbots, bem como seus próprios métodos, para descobrir possíveis cursos de ação (por exemplo, ver um médico ou ir ao hospital).
Os participantes usaram o modelo de IA padrão que alimenta ChatGPT, GPT-4O, bem como o comando r+ de coere e a llama 3 da Meta, que uma vez sustentou o assistente da Meta AI da empresa. Segundo os autores, os chatbots não apenas tornaram os participantes menos propensos a identificar uma condição de saúde relevante, mas também os tornou mais propensos a subestimar a gravidade das condições que eles identificaram.
Mahdi disse que os participantes geralmente omitiam detalhes importantes ao consultar os chatbots ou receberam respostas difíceis de interpretar.
““[T]as respostas que receberam [from the chatbots] frequentemente combinados recomendações boas e ruins “, acrescentou.” Métodos atuais de avaliação para [chatbots] Não reflita a complexidade de interagir com usuários humanos. ”
Evento do Strong The One
Berkeley, CA.
|
5 de junho
Reserve agora
As descobertas surgem quando as empresas de tecnologia pressionam cada vez mais a IA como uma maneira de melhorar os resultados da saúde. A Apple é segundo Desenvolvimento de uma ferramenta de IA que pode dispensar conselhos relacionados ao exercício, dieta e sono. A Amazon está explorando uma maneira baseada em IA de analisar bancos de dados médicos para “determinantes sociais da saúde”. E a Microsoft está ajudando a construir a IA para trocar mensagens para prestadores de cuidados enviados por pacientes.
Mas, como o Strong The One relatou anteriormente, profissionais e pacientes estão confusos sobre se a IA está pronta para aplicações de saúde de maior risco. A American Medical Association recomenda contra o uso médico de chatbots como o ChatGPT para obter assistência com decisões clínicas e grandes empresas de IA, incluindo o OpenAI, avisar contra o diagnóstico com base nos resultados de seus chatbots.
“Recomendamos confiar em fontes de informação confiáveis para decisões de saúde”, disse Mahdi. “Métodos de avaliação atuais para [chatbots] Não reflita a complexidade de interagir com usuários humanos. Como ensaios clínicos para novos medicamentos, [chatbot] Os sistemas devem ser testados no mundo real antes de serem implantados. ”
.
