.
Difusão estável
Na quinta-feira, o presidente da Microsoft, Brad Smith, anunciou que sua maior apreensão sobre a IA gira em torno da crescente preocupação com deepfakes e mídia sintética projetada para enganar, relata a Reuters.
Smith fez suas observações ao revelar seu “projeto para a governança pública da IA” em um discurso no Planet World, um museu de artes da linguagem em Washington, DC. Suas preocupações surgem quando a conversa sobre os regulamentos de IA é cada vez mais comum, desencadeada em grande parte pela popularidade do ChatGPT da OpenAI e uma turnê política do CEO da OpenAI, Sam Altman.
Smith expressou seu desejo de urgência em formular maneiras de diferenciar entre fotos ou vídeos genuínos e aqueles criados por IA quando eles podem ser usados para fins ilícitos, especialmente para permitir a desinformação desestabilizadora da sociedade.
“Teremos que abordar as questões em torno de deepfakes. Teremos que abordar em particular o que nos preocupa sobre a maioria das operações de influência cibernética estrangeira, os tipos de atividades que já estão ocorrendo pelo governo russo, chinês, os iranianos”, disse Smith, segundo a Reuters. “Precisamos tomar medidas para proteger contra a alteração de conteúdo legítimo com a intenção de enganar ou fraudar as pessoas por meio do uso de IA”.
Smith também pressionou pela introdução de licenciamento para formas críticas de IA, argumentando que essas licenças deveriam acarretar obrigações de proteção contra ameaças à segurança, seja física, cibersegurança ou nacional. “Precisaremos de uma nova geração de controles de exportação, pelo menos a evolução dos controles de exportação que temos, para garantir que esses modelos não sejam roubados ou usados de maneira que viole os requisitos de controle de exportação do país”, disse ele.
Na semana passada, Altman compareceu ao Senado dos EUA e expressou suas preocupações sobre a IA, dizendo que a indústria nascente precisa ser regulamentada. Altman, cuja empresa OpenAI é apoiada pela Microsoft, defendeu a cooperação global em IA e incentivos para conformidade com a segurança.
Em seu discurso na quinta-feira, Smith ecoou esses sentimentos e insistiu que as pessoas devem ser responsabilizadas pelos problemas causados pela IA. Ele pediu que medidas de segurança fossem colocadas em sistemas de IA que controlam a infraestrutura crítica, como a rede elétrica e o abastecimento de água, para garantir a supervisão humana.
Em um esforço para manter a transparência em torno das tecnologias de IA, Smith pediu que os desenvolvedores desenvolvessem um sistema no estilo “conheça seu cliente” para ficar de olho em como as tecnologias de IA são usadas e informar o público sobre o conteúdo criado pela IA, facilitando a identificar o conteúdo fabricado. Nesse sentido, empresas como Adobe, Google e Microsoft estão trabalhando em maneiras de colocar marca d’água ou rotular o conteúdo gerado por IA.
Os deepfakes têm sido objeto de pesquisa na Microsoft há anos. Em setembro, o diretor científico da Microsoft, Eric Horvitz, escreveu um trabalho de pesquisa sobre os perigos dos deepfakes interativos e da criação de histórias sintéticas, assuntos também abordados em um artigo de 2020 na FastCompany por este autor, que também mencionou esforços anteriores da Microsoft na detecção de deepfakes .
Enquanto isso, a Microsoft está pressionando simultaneamente para incluir tecnologia de IA generativa baseada em texto e imagem em seus produtos, incluindo Office e Windows. Seu lançamento bruto de um chatbot do Bing incondicionado e subtestado (baseado em uma versão do GPT-4) em fevereiro estimulou reações profundamente emocionais de seus usuários. Também reacendeu temores latentes de que a superinteligência que domina o mundo pode estar chegando, uma reação que alguns críticos afirmam ser parte de uma campanha de marketing consciente dos fornecedores de IA.
Portanto, a questão permanece: o que significa quando empresas como a Microsoft estão vendendo exatamente o produto sobre o qual estão nos alertando?
.
