.
TA cimeira global sobre segurança da IA foi aberta em Bletchley Park na quarta-feira com uma declaração histórica de países como o Reino Unido, os EUA, a UE e a China de que a tecnologia representa um risco potencialmente catastrófico para a humanidade.
A chamada declaração de Bletchley dizia: “Há potencial para danos graves, até mesmo catastróficos, deliberados ou não intencionais, decorrentes das capacidades mais significativas destes modelos de IA”.
Aqui estão algumas das intervenções de figuras políticas e da indústria tecnológica – bem como do rei Carlos – no dia.
Elon Musk
O homem mais rico do mundo e presidente-executivo da Tesla descreveu a IA como uma ameaça à humanidade.
Musk, cofundador do OpenAI, desenvolvedor do ChatGPT, lançou um novo empreendimento chamado xAI e participará dos dois dias da cúpula, que será realizada a cerca de 80 quilômetros de Londres, no local que abrigou decifradores de códigos ultrassecretos durante o segundo. guerra Mundial.
Descrevendo a IA como “uma das maiores ameaças à humanidade”, Musk disse: “Quero dizer, pela primeira vez, temos uma situação em que há algo que será muito mais inteligente do que o ser humano mais inteligente. Então, você sabe, não somos mais fortes ou mais rápidos que outras criaturas, mas somos mais inteligentes. E aqui estamos, pela primeira vez na história da humanidade, com algo que será muito mais inteligente do que nós.”
Em comentários à agência de notícias AP à margem da cimeira, ele disse que “não estava claro se podemos controlar tal coisa”, mas “podemos aspirar a guiá-la numa direção que seja benéfica para a humanidade”.
Mustafá Suleiman
O cofundador da DeepMind, uma empresa britânica que foi adquirida pelo Google e agora está no centro dos esforços de IA da empresa de buscas, disse que uma pausa no desenvolvimento da tecnologia pode ter que ser considerada nos próximos cinco anos.
Falando aos repórteres na cimeira, ele disse: “Não descarto esta possibilidade. E acho que em algum momento nos próximos cinco anos teremos que considerar essa questão muito seriamente.”
No entanto, Suleyman disse que os modelos atuais de IA, como o que alimenta o ChatGPT, não representam uma ameaça séria. “Não creio que exista hoje qualquer evidência de que modelos de fronteira do tamanho de [ChatGPT model] GPT-4… apresenta quaisquer danos catastróficos significativos”, disse ele.
Rei Carlos
Numa mensagem de vídeo transmitida aos delegados no início da cimeira, o rei descreveu a IA como “um dos maiores saltos tecnológicos na história do esforço humano”.
Ele instou os participantes a enfrentarem os “desafios” da IA – como a proteção das democracias – tomando o exemplo da crise climática. Ele disse que os governos, o sector público, o sector privado e a sociedade civil se uniram numa conversa sobre como salvar o ambiente e o mesmo deveria ser feito para a IA.
“É assim que a comunidade internacional tem procurado enfrentar as alterações climáticas, abrir um caminho para o carbono zero e salvaguardar o futuro do nosso planeta. Devemos igualmente abordar os riscos apresentados pela IA com um sentido de urgência, unidade e força colectiva”, disse ele.
Michelle Donelan
O secretário de tecnologia do Reino Unido tentou encontrar um equilíbrio entre risco e oportunidade na cimeira, uma tarefa difícil no meio de comunicados alertando sobre uma potencial catástrofe e apresentações sobre ataques com armas biológicas.
after newsletter promotion
Asked if AI would disrupt jobs, she said: “I really do think we need to change the conversation when it comes to jobs … What AI has the potential to do is actually reduce some of those tedious administrative part of our jobs, which is particularly impactful for doctors, our police force, our teachers.”
Donelan added that the UK’s education and skill sectors needed to help people adapt to any AI-related job changes.
Věra Jourová
The European Commission’s vice-president for values and transparency said the UK was behind the US and EU in regulating AI by its “own decision”.
“They [the UK] tomar caminhos diferentes”, disse Jourová, acrescentando que a abordagem do Reino Unido era “concentrar-se nos possíveis riscos” e depois “regular mais tarde”.
Rishi Sunak descartou a introdução imediata de legislação sobre IA, dizendo que o governo do Reino Unido precisava entender melhor a tecnologia antes de regulamentá-la.
Jourová disse que a posição do Reino Unido não a surpreendeu porque quando o país era membro da UE, a sua posição em relação à regulamentação era a de confiar num sector que assumisse “responsabilidade social”.
Matt Clifford
No início de cada sessão a portas fechadas, as autoridades do Reino Unido mostraram aos participantes exemplos de como modelos poderosos de IA poderiam tornar mais fácil para os malfeitores causar danos de várias maneiras.
Durante uma sessão, Matt Clifford, responsável pela organização da cúpula, mostrou aos delegados como grandes modelos de linguagem poderiam facilitar o lançamento de ataques de phishing por hackers de quarto.
“Uma das coisas que tem sido realmente desafiadoras neste debate para os decisores políticos ao longo do último ano é que, por vezes, parece apenas uma troca de experiências mentais”, disse ele.
“O que há de tão bom no que a força-tarefa de fronteira está fazendo, no que o instituto de segurança fará, é que ele se livra desses experimentos mentais. Diz apenas: vamos ver o que esses modelos podem fazer agora.”
.
