.
Witthaya Prasongsin (Getty Images)
A OpenAI está testando sua versão multimodal do GPT-4 com suporte de reconhecimento de imagem antes de um amplo lançamento planejado. No entanto, o acesso público está sendo restringido devido a preocupações sobre sua capacidade de reconhecer indivíduos específicos, de acordo com um relatório do New York Times na terça-feira.
Quando a OpenAI anunciou o GPT-4 no início deste ano, a empresa destacou os recursos multimodais do modelo de IA. Isso significava que o modelo poderia não apenas processar e gerar texto, mas também analisar e interpretar imagens, abrindo uma nova dimensão de interação com o modelo de IA.
Após o anúncio, a OpenAI levou suas habilidades de processamento de imagem um passo adiante em colaboração com uma startup chamada Be My Eyes, que está desenvolvendo um aplicativo para descrever imagens para usuários cegos, ajudando-os a interpretar seus arredores e interagir com o mundo de forma mais independente.
A reportagem do New York Times destaca as experiências de Jonathan Mosen, um usuário cego do Be My Eyes da Nova Zelândia. Mosen gostou de usar o aplicativo para identificar itens em um quarto de hotel, como dispensadores de xampu, e interpretar imagens com precisão e suas mídias sociais. No entanto, Mosen expressou desapontamento quando o aplicativo recentemente parou de fornecer informações faciais, exibindo uma mensagem de que os rostos foram ocultados por motivos de privacidade.
Sandhini Agarwal, pesquisador de políticas da OpenAI, confirmou ao Times que as questões de privacidade são o motivo pelo qual a organização reduziu as habilidades de reconhecimento facial do GPT-4. Atualmente, o sistema da OpenAI é capaz de identificar figuras públicas, como aquelas com uma página da Wikipedia, mas a OpenAI está preocupada que o recurso possa infringir as leis de privacidade em regiões como Illinois e Europa, onde o uso de informações biométricas requer o consentimento explícito dos cidadãos.
Além disso, a OpenAI expressou preocupação de que o Be My Eyes pudesse interpretar ou deturpar aspectos dos rostos dos indivíduos, como gênero ou estado emocional, levando a resultados inadequados ou prejudiciais. O OpenAI visa navegar por essas e outras questões de segurança antes que os recursos de análise de imagem do GPT-4 se tornem amplamente acessíveis. Agarwal disse ao Times: “Queremos muito que esta seja uma conversa de mão dupla com o público. Se o que ouvimos é algo como ‘Na verdade, não queremos nada disso’, isso é algo com o qual concordamos muito.”
Apesar dessas precauções, também houve casos de confabulações ou identificações falsas do GPT-4, ressaltando o desafio de criar uma ferramenta útil que não forneça informações imprecisas aos usuários cegos.
Enquanto isso, a Microsoft, um grande investidor na OpenAI, está testando um lançamento limitado da ferramenta de análise visual em seu chatbot Bing com inteligência artificial, baseado na tecnologia GPT-4. O Bing Chat foi visto recentemente no Twitter resolvendo CAPTCHA testes projetados para filtrar bots, o que também pode atrasar o lançamento mais amplo dos recursos de processamento de imagem do Bing.
O Google também introduziu recentemente recursos de análise de imagem em seu chatbot Bard, que permite aos usuários fazer upload de imagens para reconhecimento ou processamento pela Bard. Em nossos testes do recurso, ele pode resolver CAPTCHAs baseados em palavras, embora nem sempre perfeitamente. Alguns serviços, como o Roblox, já usam CAPTCHAs muito difíceis, provavelmente para se manter à frente de melhorias semelhantes na visão computacional.
Esse tipo de visão computacional alimentada por IA pode chegar aos dispositivos de todos mais cedo ou mais tarde, mas também está claro que as empresas precisarão resolver as complicações antes que possamos ver lançamentos amplos com impacto ético mínimo.
.
