.
Um novo estudo sugere que um efeito placebo está em jogo quando as pessoas esperam que seu desempenho seja aprimorado por tecnologias de aumento, como inteligência artificial (IA). Os pesquisadores descobriram que indivíduos com altas expectativas em relação a essas tecnologias se envolvem em tomadas de decisão mais arriscadas, o que pode ser um problema, pois as pessoas adotam essas tecnologias sem entender adequadamente seus benefícios e limites.
As tecnologias de aumento que aumentam nosso desempenho físico, cognitivo ou sensorial tornaram-se comuns. Alguns são tão amplamente usados que se tornaram invisíveis – verificação ortográfica, por exemplo – e novas tecnologias estão surgindo que podem levar nossas habilidades além dos limites humanos, como exoesqueletos e aprimoramento de visão baseado em IA. Mas o hype em torno dessas tecnologias também cria expectativas, o que pode levar as pessoas a mudar seu comportamento.
“Os indivíduos estão mais inclinados a correr riscos quando acreditam que são aprimorados por tecnologias de ponta, como IA ou interfaces cérebro-computador”, diz Robin Welsch, professor assistente da Aalto University. ‘Isso ocorre mesmo que nenhuma tecnologia de aprimoramento real esteja envolvida, indicando que se trata das expectativas das pessoas, e não de qualquer melhoria perceptível. As descobertas também indicam que uma forte crença na melhoria, baseada em um sistema falso, pode alterar a tomada de decisões.’
Não confie no processador
Juntamente com colegas da LMU Munich, HU Berlin e Aalto University, Welsch mediu a tomada de decisão e o comportamento de risco com um conhecido experimento psicológico, o Columbia Card Task. No experimento, os participantes ganham ou perdem pontos virando cartas com valores ocultos. Os 27 participantes foram levados a acreditar que uma interface cérebro-computador controlada por IA, o placebo, melhoraria suas habilidades cognitivas usando sons binaurais para rastrear os cartões de perda.
Mas o jogo foi manipulado – o aumento não forneceu nenhum benefício real e os participantes quase nunca encontraram uma carta perdida. Ainda assim, a maioria dos participantes achou que o aumento os ajudou a se sair melhor, e isso os fez assumir maiores riscos. Essas descobertas mostram como aprimoramentos cognitivos falsos podem ter efeitos reais na tomada de riscos.
“O hype em torno dessas tecnologias distorce as expectativas das pessoas”, diz Steeven Villa, pesquisador de doutorado da LMU Munich. ‘Isso pode levar as pessoas a tomar decisões mais arriscadas e avaliações favoráveis do usuário, o que pode ter consequências reais.’
A tecnologia nunca é neutra
Ferramentas modernas de aprimoramento da visão baseadas em IA estão se tornando disponíveis para os bombeiros verem através da fumaça, e os trabalhadores da fábrica já estão aproveitando os exoesqueletos para lidar com cargas que desafiam o físico humano. Os efeitos assustadores dos sistemas de IA generativos podem oferecer impulsos semelhantes aos trabalhadores do conhecimento. Os autores estão preocupados que profissões inteiras possam desenvolver um maior apetite por riscos, construído em expectativas equivocadas.
‘As tecnologias baseadas em IA que aprimoram os usuários são cada vez mais comuns e desempenham um papel nas decisões da vida real que afetam a vida, o bem-estar, a confiança e a segurança das pessoas.’ diz Thomas Kosch, professor da HU Berlin. ‘Para garantir a eficácia das novas tecnologias além do hype, estudos controlados por placebo são necessários para uma avaliação e validação precisas para diferenciar óleo de cobra de inovação real.’
.
