.
Em uma era em que a criação de imagens de inteligência artificial (IA) está ao alcance das massas, a capacidade de detectar imagens falsas — especialmente deepfakes de pessoas — está se tornando cada vez mais importante.
E daí se você pudesse saber apenas olhando nos olhos de alguém?
Essa é a descoberta convincente de uma nova pesquisa compartilhada no Encontro Nacional de Astronomia da Royal Astronomical Society, em Hull, que sugere que falsificações geradas por IA podem ser detectadas pela análise de olhos humanos, da mesma forma que astrônomos estudam imagens de galáxias.
O ponto crucial do trabalho, do estudante de mestrado da Universidade de Hull, Adejumoke Owolabi, é sobre o reflexo nos olhos de uma pessoa.
Se os reflexos forem iguais, a imagem provavelmente é de um humano real. Se não forem, provavelmente são deepfakes.
“Os reflexos nos globos oculares são consistentes para a pessoa real, mas incorretos (do ponto de vista da física) para a pessoa falsa”, disse Kevin Pimbblet, professor de astrofísica e diretor do Centro de Excelência em Ciência de Dados, Inteligência Artificial e Modelagem da Universidade de Hull.
Pesquisadores analisaram reflexos de luz nos globos oculares de pessoas em imagens reais e geradas por IA. Eles então empregaram métodos tipicamente usados em astronomia para quantificar os reflexos e verificaram a consistência entre os reflexos do globo ocular esquerdo e direito.
Imagens falsas geralmente não apresentam consistência nos reflexos entre cada olho, enquanto imagens reais geralmente mostram os mesmos reflexos em ambos os olhos.
“Para medir as formas das galáxias, analisamos se elas são centralmente compactas, se são simétricas e quão suaves elas são. Analisamos a distribuição de luz”, disse o Professor Pimbblet.
“Nós detectamos as reflexões de forma automatizada e executamos suas características morfológicas através do CAS [concentration, asymmetry, smoothness] e índices de Gini para comparar a similaridade entre os globos oculares esquerdo e direito.
“As descobertas mostram que os deepfakes apresentam algumas diferenças entre os dois.”
O coeficiente de Gini é normalmente usado para medir como a luz em uma imagem de uma galáxia é distribuída entre seus pixels. Essa medição é feita ordenando os pixels que compõem a imagem de uma galáxia em ordem crescente por fluxo e então comparando o resultado com o que seria esperado de uma distribuição de fluxo perfeitamente uniforme.
Um valor de Gini de 0 é uma galáxia na qual a luz é distribuída uniformemente por todos os pixels da imagem, enquanto um valor de Gini de 1 é uma galáxia com toda a luz concentrada em um único pixel.
A equipe também testou os parâmetros CAS, uma ferramenta originalmente desenvolvida por astrônomos para medir a distribuição de luz de galáxias e determinar sua morfologia, mas descobriu que ela não era um preditor eficaz de olhos falsos.
“É importante observar que isso não é uma solução mágica para detectar imagens falsas”, acrescentou o professor Pimbblet.
“Há falsos positivos e falsos negativos; não vai pegar tudo. Mas esse método nos fornece uma base, um plano de ataque, na corrida armamentista para detectar deepfakes.”
.
