.
O CEO da OpenAI, empresa responsável pela criação do chatbot de inteligência artificial ChatGPT e do gerador de imagens Dall-E 2, disse que “a regulamentação da IA é essencial”, como testemunhou em sua primeira aparição no Congresso dos EUA.
Falando ao comitê judiciário do Senado na terça-feira, Sam Altman disse que apoia as proteções regulatórias para a tecnologia que permitiriam os benefícios da inteligência artificial, minimizando os danos.
“Achamos que a intervenção regulatória dos governos será crítica para mitigar os riscos de modelos cada vez mais poderosos”, disse Altman em seus comentários preparados.
Altman sugeriu que o governo dos EUA considere os requisitos de licenciamento e teste para o desenvolvimento e lançamento de modelos de IA. Ele propôs estabelecer um conjunto de padrões de segurança e um modelo de teste específico que teria que passar antes que eles pudessem ser implantados, além de permitir que auditores independentes examinassem os modelos antes de serem lançados. Ele também argumentou que estruturas existentes como a Seção 230, que isenta as plataformas de responsabilidade pelo conteúdo postado por seus usuários, não seriam a maneira certa de regular o sistema.
“Para uma tecnologia muito nova, precisamos de uma nova estrutura”, disse Altman.
Tanto Altman quanto Gary Marcus, professor emérito de psicologia e ciência neural na Universidade de Nova York, que também testemunhou na audiência, pediram uma nova agência reguladora para a tecnologia. A IA é complicada e se move rapidamente, argumentou Marcus, tornando crucial “uma agência cujo trabalho em tempo integral” é regulá-la.
Ao longo da audiência, os senadores traçaram paralelos entre a mídia social e a IA generativa, e as lições que os legisladores aprenderam com o fracasso do governo em agir na regulamentação das plataformas sociais.
No entanto, a audiência foi muito menos controversa do que aquelas em que o CEO da Meta, Mark Zuckerberg, testemunhou. Muitos legisladores deram crédito a Altman por seus pedidos de regulamentação e reconhecimento das armadilhas da IA generativa. Até mesmo Marcus, levado a fornecer ceticismo sobre a tecnologia, chamou o testemunho de Altman de sincero.
A audiência ocorreu quando renomados e respeitados especialistas em IA e especialistas em ética, incluindo o ex-pesquisador do Google Dr. Timnit Gebru, que co-liderou a equipe ética de IA da empresa, e Meredith Whitaker, soaram o alarme sobre a rápida adoção da IA generativa, argumentando que a tecnologia é superestimado. “A ideia de que isso se tornará magicamente uma fonte de bem social… é uma fantasia usada para comercializar esses programas”, disse recentemente Whitaker, agora presidente do aplicativo de mensagens seguras Signal, em entrevista no Conheça a Imprensa.
A IA generativa é uma máquina de probabilidade “projetada para cuspir coisas que parecem plausíveis” com base em “quantidades maciças de dados de vigilância eficazes que foram extraídos da web”, argumentou ela.
Os senadores Josh Hawley e Richard Blumenthal disseram que esta audiência é apenas o primeiro passo para entender a tecnologia.
Blumenthal disse reconhecer o que descreveu como as “promessas” da tecnologia, incluindo “curar o câncer, desenvolver novos entendimentos da física e da biologia ou modelar o clima e o tempo”.
Os riscos potenciais que Blumenthal disse estar preocupado incluem deepfakes, desinformação armada, discriminação de moradia, assédio de mulheres e fraudes de representação. “Para mim, talvez o maior pesadelo seja a iminente nova revolução industrial, o deslocamento de milhões de trabalhadores”, disse ele.
Altman disse que enquanto a OpenAI estava construindo ferramentas que um dia “abordar alguns dos maiores desafios da humanidade, como as mudanças climáticas e a cura do câncer”, os sistemas atuais ainda não eram capazes de fazer essas coisas.
Mas ele acredita que os benefícios das ferramentas implantadas até agora “superam amplamente os riscos” e disse que a empresa realiza testes extensivos e implementa sistemas de segurança e monitoramento antes de lançar qualquer novo sistema.
“O OpenAI foi fundado na crença de que a inteligência artificial tem a capacidade de melhorar quase todos os aspectos de nossas vidas, mas também cria sérios riscos que precisamos trabalhar juntos para gerenciar”, disse Altman.
Altman disse que a tecnologia afetará significativamente o mercado de trabalho, mas acredita que “haverá empregos muito maiores do outro lado disso”.
“Os empregos vão melhorar”, disse ele. “Acho importante pensar no GPT como uma ferramenta, não como uma criatura… O GPT 4 e ferramentas semelhantes são bons para realizar tarefas, não trabalhos. Acho que o GPT 4 automatizará totalmente alguns trabalhos e criará novos que acreditamos que serão muito melhores.”
Altman também disse estar muito preocupado com o impacto que os grandes serviços de modelos linguísticos terão nas eleições e na desinformação, principalmente antes das primárias.
“Há muito que podemos fazer e fazer”, disse Altman em resposta a uma pergunta da senadora Amy Klobuchar sobre um tweet criado pelo ChatGPT que listava locais de votação falsos. “Tem coisas que o modelo não vai fazer e tem monitoramento. Em escala… podemos detectar alguém gerando muitos desses [misinformation] tweets.”
Altman ainda não tinha uma resposta sobre como os criadores de conteúdo cujo trabalho está sendo usado em músicas, artigos ou outros trabalhos gerados por IA podem ser compensados, dizendo que a empresa está envolvida com artistas e outras entidades sobre como esse modelo econômico poderia ser. Quando perguntado por Klobuchar sobre como ele planeja remediar as ameaças às publicações de notícias locais cujo conteúdo está sendo raspado e usado para treinar esses modelos, Altman disse que espera que a ferramenta ajude os jornalistas, mas que “se houver coisas que podemos fazer para ajudar os notícias, certamente gostaríamos”.
O perigo potencial de um pequeno grupo de players poderosos dominando o setor foi abordado, mas amplamente ausente da conversa, um Whitaker dinâmico alertou sobre os riscos de entrincheirar as dinâmicas de poder existentes.
“Há apenas um punhado de empresas no mundo que têm a combinação de dados e poder de infraestrutura para criar o que estamos chamando de IA de ponta a ponta”, disse ela na entrevista Meet the Press. “Agora estamos na posição de que essa tecnologia exagerada está sendo criada, distribuída e, finalmente, moldada para servir aos interesses econômicos desses mesmos atores.”
.
