.
Em resposta aos grandes avanços nas tecnologias de IA generativa – bem como às questões significativas que essas tecnologias representam em áreas como propriedade intelectual, futuro do trabalho e até mesmo segurança humana – o Conselho de Política Tecnológica Global da Association for Computing Machinery (ACM TPC) emitiu “Princípios para o desenvolvimento, implantação e uso de tecnologias de IA generativas”.
Baseando-se na profunda experiência técnica de cientistas da computação nos Estados Unidos e na Europa, a declaração ACM TPC descreve oito princípios destinados a promover a tomada de decisão justa, precisa e benéfica em relação a tecnologias generativas e todas as outras tecnologias de IA. Quatro dos princípios são específicos para a IA generativa e outros quatro princípios são adaptados da “Declaração de Princípios para Sistemas Algorítmicos Responsáveis” de 2022 do TPC.
A Introdução aos novos Princípios avança o argumento central de que “o poder crescente dos sistemas de IA generativa, a velocidade de sua evolução, ampla aplicação e potencial para causar danos significativos ou mesmo catastróficos significam que muito cuidado deve ser tomado na pesquisa, no design , desenvolvendo, implantando e usando. Os mecanismos e modos existentes para evitar tais danos provavelmente não serão suficientes.”
O documento então estabelece esses oito princípios instrumentais, descritos aqui de forma abreviada:
Princípios específicos de IA generativa
- Limites e orientações sobre implantação e uso: Em consulta com todas as partes interessadas, a lei e a regulamentação devem ser revisadas e aplicadas conforme escritas ou revisadas para limitar a implantação e o uso de tecnologias de IA generativa quando necessário para minimizar os danos. Nenhum sistema de IA de alto risco deve operar sem salvaguardas claras e adequadas, incluindo um “humano no circuito” e um consenso claro entre as partes interessadas relevantes de que os benefícios do sistema superarão substancialmente seus possíveis impactos negativos. Uma abordagem é definir uma hierarquia de níveis de risco, com risco inaceitável no nível mais alto e risco mínimo no nível mais baixo.
- Propriedade: Aspectos inerentes de como os sistemas de IA generativa são estruturados e funcionam ainda não são adequadamente contabilizados nas leis e regulamentos de propriedade intelectual (PI).
- Controle de dados pessoais: Os sistemas generativos de IA devem permitir que uma pessoa opte por não usar seus dados para treinar um sistema ou facilitar sua geração de informações.
- Corretibilidade: Os provedores de sistemas de IA generativa devem criar e manter repositórios públicos onde os erros cometidos pelo sistema possam ser anotados e, opcionalmente, feitas as correções.
Princípios anteriores adaptados
- Transparência: Qualquer aplicativo ou sistema que utilize Generative AI deve divulgar claramente que o faz às partes interessadas apropriadas.
- Auditabilidade e contestabilidade: Os fornecedores de sistemas de IA generativa devem garantir que os modelos, algoritmos, dados e saídas do sistema possam ser registrados sempre que possível (com a devida consideração à privacidade), para que possam ser auditados e/ou contestados nos casos apropriados.
- Limitando o impacto ambiental: Dado o grande impacto ambiental dos modelos de IA generativa, recomendamos que seja desenvolvido um consenso sobre metodologias para medir, atribuir e reduzir ativamente esse impacto.
- Maior segurança e privacidade: Os sistemas de IA generativa são suscetíveis a uma ampla gama de novos riscos de segurança e privacidade, incluindo novos vetores de ataque e vazamentos de dados maliciosos, entre outros.
“Nosso campo precisa ter cuidado com o desenvolvimento da IA generativa porque este é um novo paradigma que vai muito além da tecnologia e aplicações anteriores de IA”, explicou Ravi Jain, presidente do Grupo de Trabalho do Conselho de Política de Tecnologia da ACM sobre IA generativa e principal autor de os princípios. “Se você celebra a IA generativa como um avanço científico maravilhoso ou teme-a, todos concordam que precisamos desenvolver essa tecnologia com responsabilidade. Ao delinear esses oito princípios instrumentais, tentamos considerar uma ampla gama de áreas onde a IA generativa pode ter um papel impacto. Isso inclui aspectos que não foram tão cobertos na mídia, incluindo considerações ambientais e a ideia de criar repositórios públicos onde erros em um sistema podem ser observados e corrigidos.”
“Estas são diretrizes, mas também devemos construir uma comunidade de cientistas, formuladores de políticas e líderes da indústria que trabalharão juntos no interesse público para entender os limites e riscos da IA generativa, bem como seus benefícios. A posição da ACM como a maior associação do mundo para profissionais de computação nos torna adequados para promover esse consenso e esperamos trabalhar com os formuladores de políticas para elaborar os regulamentos pelos quais a IA generativa deve ser desenvolvida, implantada, mas também controlada”, acrescentou James Hendler, professor do Rensselaer Polytechnic Institute e presidente do Conselho de Política Tecnológica da ACM.
“Princípios para o desenvolvimento, implantação e uso de tecnologias de IA generativas” foi produzido e adotado em conjunto pelo Comitê de Política de Tecnologia dos EUA (USTPC) da ACM e pelo Comitê de Política de Tecnologia da Europa (TPC da Europa).
Os principais autores deste documento para o USTPC foram Ravi Jain, Jeanna Matthews e Alejandro Saucedo. Contribuições importantes foram feitas por Harish Arunachalam, Brian Dean, Advait Deshpande, Simson Garfinkel, Andrew Grosso, Jim Hendler, Lorraine Kisselburgh, Srivatsa Kundurthy, Marc Rotenberg, Stuart Shapiro e Ben Shneiderman. A assistência também foi fornecida por Ricardo Baeza-Yates, Michel Beaudouin-Lafon, Vint Cerf, Charalampos Chelmis, Paul DeMarinis, Nicholas Diakopoulos, Janet Haven, Ravi Iyer, Carlos E. Jimenez-Gomez, Mark Pastin, Neeti Pokhriyal, Jason Schmitt e Darryl Scriven.
.
