O início relâmpago da IA ​​- o que mudou de repente? Uma recapitulação de Ars Frontiers 2023

Na segunda-feira, a Strong The One sediou nossa conferência virtual Ars Frontiers. Em nosso quinto painel, cobrimos “O início relâmpago da IA ​​— o que mudou de repente?” O painel contou com uma conversa com Paige Bailey, gerente de produto principal para modelos generativos no Google DeepMind, e Haiyan Zhang, gerente geral de Gaming AI no Xbox, moderado pelo repórter de AI da Strong The One, Benj Edwards.

O painel originalmente foi transmitido ao vivo e agora você pode assistir a uma gravação de todo o evento no YouTube. A introdução da parte “Lightning AI” começa na marca de 2:26:05 na transmissão.

Sendo “IA” um termo nebuloso, com significados diferentes em contextos diferentes, começamos a discussão considerando a definição de IA e o que ela significa para os palestrantes. Bailey disse: “Gosto de pensar na IA como uma ajuda para derivar padrões de dados e usá-los para prever insights… nada mais é do que apenas derivar insights de dados e usá-los para fazer previsões e informações ainda mais úteis”.

Zhang concordou, mas do ponto de vista do videogame, ela também vê a IA como uma força criativa em evolução. Para ela, a IA não se trata apenas de analisar, encontrar padrões e classificar dados; também está desenvolvendo capacidades em linguagem criativa, geração de imagens e codificação. Zhang acredita que esse poder transformador da IA ​​pode elevar e inspirar a inventividade humana, especialmente em videogames, que ela considera “a expressão máxima da criatividade humana”.

Em seguida, mergulhamos na questão principal do painel: o que mudou que levou a essa nova era da IA? É tudo apenas hype, talvez baseado na alta visibilidade do ChatGPT, ou houve alguns grandes avanços tecnológicos que nos trouxeram essa nova onda?

Zhang destacou os desenvolvimentos nas técnicas de IA e as grandes quantidades de dados agora disponíveis para treinamento: “Vimos avanços na arquitetura do modelo para modelos de transformadores, bem como nos modelos de autoencoder recursivo e também na disponibilidade de grandes conjuntos de dados para então treinar esses modelos e acoplar isso com a disponibilidade de hardware como GPUs, MPUs para poder realmente levar os modelos para obter os dados e treiná-los em novos recursos de computação.”

Bailey ecoou esses sentimentos, acrescentando uma menção notável às contribuições de código aberto: “Também temos essa comunidade vibrante de criadores de código aberto que são modelos de código aberto, modelos como o LLaMA, ajustando-os com ajuste de instrução de alta qualidade e conjuntos de dados RLHF .”

Quando solicitado a detalhar a importância das colaborações de código aberto na aceleração dos avanços da IA, Bailey mencionou o uso generalizado de modelos de treinamento de código aberto como PyTorch, Jax e TensorFlow. Ela também afirmou a importância de compartilhar as melhores práticas, afirmando: “Eu certamente acho que esta comunidade de aprendizado de máquina só existe porque as pessoas estão compartilhando suas ideias, percepções e códigos”.

Quando questionado sobre os planos do Google para modelos de código aberto, Bailey apontou para os recursos existentes do Google Research no GitHub e enfatizou sua parceria com o Hugging Face, uma comunidade online de IA. “Não quero revelar nada que possa estar acontecendo”, disse ela.

IA generativa em consoles de jogos, riscos de IA

Como parte de uma conversa sobre os avanços no hardware de IA, perguntamos a Zhang quanto tempo levaria para que os modelos de IA generativos pudessem ser executados localmente nos consoles. Ela disse que estava animada com a perspectiva e observou que uma configuração de cliente de nuvem dupla pode vir primeiro: “Acho que será uma combinação de trabalhar na IA para fazer inferência na nuvem e trabalhar em colaboração com inferência local para nós para dar vida às melhores experiências do jogador.”

Bailey apontou para o progresso da redução do modelo de linguagem LLaMA da Meta para rodar em dispositivos móveis, sugerindo que um caminho semelhante pode abrir a possibilidade de rodar modelos de IA também em consoles de jogos: “Eu adoraria ter uma linguagem grande hiperpersonalizada modelo rodando em um dispositivo móvel, ou rodando em meu próprio console de jogos, que talvez possa criar um chefe que seja particularmente complicado para mim derrotar, mas que pode ser mais fácil para outra pessoa derrotar.”

Para acompanhar, perguntamos se um modelo generativo de IA é executado localmente em um smartphone, isso eliminará o Google da equação? “Acho que provavelmente há espaço para uma variedade de opções”, disse Bailey. “Acho que deveria haver opções disponíveis para que todas essas coisas coexistissem de maneira significativa”.

Ao discutir os riscos sociais dos sistemas de IA, como desinformação e deepfakes, os dois palestrantes disseram que suas respectivas empresas estavam comprometidas com o uso responsável e ético da IA. “No Google, nos preocupamos muito em garantir que os modelos que produzimos sejam responsáveis ​​e se comportem da maneira mais ética possível. E, na verdade, incorporamos nossa equipe de IA responsável desde o dia zero, sempre que treinamos modelos para a curadoria de nossos dados, garantindo que a combinação certa de pré-treino é criada”, explicou Bailey.

Apesar de seu entusiasmo anterior por modelos de IA de código aberto e executados localmente, Baily mencionou que os modelos de IA baseados em API que são executados apenas na nuvem podem ser mais seguros no geral: “Acho que há um risco significativo de modelos serem mal utilizados nas mãos de pessoas que podem não necessariamente entender ou estar cientes do risco. E isso também é parte do motivo pelo qual às vezes ajuda preferir APIs em vez de modelos de código aberto.”

Como Bailey, Zhang também discutiu a abordagem corporativa da Microsoft para IA responsável, mas também comentou sobre desafios éticos específicos de jogos, como garantir que os recursos de IA sejam inclusivos e acessíveis.