Os rovers de Marte da NASA poderiam inspirar um futuro mais ético para a IA

Desde o lançamento do ChatGPT no final de 2022, muitos meios de comunicação têm relatado sobre as ameaças éticas representadas pela inteligência artificial. Especialistas em tecnologia emitiram alertas sobre robôs assassinos empenhados na extinção humana, enquanto o Fórum Econômico Mundial previu que as máquinas acabarão com empregos.

O setor tecnológico está a reduzir a sua força de trabalho, ao mesmo tempo que investe em ferramentas de produtividade melhoradas pela IA. Escritores e atores de Hollywood estão em greve para proteger seus empregos e suas imagens. E os académicos continuam a mostrar como estes sistemas aumentam os preconceitos existentes ou criam empregos sem sentido – entre uma miríade de outros problemas.

Existe uma maneira melhor de trazer inteligência artificial para os locais de trabalho. Eu sei, porque já vi isso, como sociólogo que trabalha com equipes de espaçonaves robóticas da NASA.

Os cientistas e engenheiros que estudo estão ocupados explorando a superfície de Marte com a ajuda de veículos espaciais equipados com IA. Mas o trabalho deles não é uma fantasia de ficção científica. É um exemplo do poder da máquina de tecer e da inteligência humana juntas, a serviço de um objetivo comum.

Em vez de substituir os humanos, estes robôs fazem parceria connosco para ampliar e complementar as qualidades humanas. Ao longo do caminho, evitam armadilhas éticas comuns e traçam um caminho humano para trabalhar com IA.

O mito da substituição na IA

Histórias de robôs assassinos e perdas de empregos ilustram como um “mito da substituição” domina a forma como as pessoas pensam sobre a IA. Nesta visão, os humanos podem e serão substituídos por máquinas automatizadas.

No meio da ameaça existencial está a promessa de benefícios empresariais, como maior eficiência, melhores margens de lucro e mais tempo de lazer.

A evidência empírica mostra que a automação não reduz custos. Em vez disso, aumenta a desigualdade ao eliminar os trabalhadores com estatuto inferior e aumentando o custo salarial dos trabalhadores com estatuto elevado que permanecem. Entretanto, as ferramentas de produtividade atuais inspiram os funcionários a trabalhar mais para os seus empregadores, e não menos.

Alternativas à substituição direta são sistemas de “autonomia mista”, onde pessoas e robôs trabalham juntos. Por exemplo, os carros autônomos devem ser programados para operar no trânsito ao lado de motoristas humanos. A autonomia é “mista” porque tanto os humanos como os robôs operam no mesmo sistema e as suas ações influenciam-se mutuamente.

No entanto, a autonomia mista é muitas vezes vista como um passo no caminho da substituição. E pode levar a sistemas onde os humanos apenas alimentam, organizam ou ensinam ferramentas de IA. Isto sobrecarrega os humanos com “trabalho fantasma” – tarefas estúpidas e fragmentadas que os programadores esperam que a aprendizagem automática torne em breve obsoletas.

A substituição levanta sinais de alerta para a ética da IA. Trabalhos como marcar conteúdo para treinar IA ou limpar postagens no Facebook normalmente apresentam tarefas traumáticas e uma força de trabalho mal remunerada espalhada pelo Sul Global. E legiões de projetistas de veículos autônomos estão obcecados com “o problema do bonde” – determinar quando ou se é ético atropelar pedestres.

Mas a minha investigação com equipas de naves espaciais robóticas da NASA mostra que quando as empresas rejeitam o mito da substituição e optam por construir equipas humanos-robôs, muitas das questões éticas relacionadas com a IA desaparecem.

Ampliar em vez de substituir

Equipes fortes de humanos e robôs funcionam melhor quando ampliam e aumentam as capacidades humanas, em vez de substituí-las. Os engenheiros criam máquinas que podem realizar trabalhos que os humanos não conseguem. Então, eles entrelaçam o trabalho humano e mecânico de forma inteligente, trabalhando em direção a um objetivo comum.

Freqüentemente, esse trabalho em equipe significa enviar robôs para realizar trabalhos que são fisicamente perigosos para os humanos. Varredura de minas, busca e resgate, caminhadas espaciais e robôs de águas profundas são exemplos do mundo real.

Trabalho em equipe também significa aproveitar os pontos fortes combinados dos sentidos ou inteligências robótica e humana. Afinal, existem muitas capacidades que os robôs possuem e que os humanos não possuem – e vice-versa.

Por exemplo, os olhos humanos em Marte só conseguem ver terreno vermelho empoeirado e mal iluminado que se estende até o horizonte. Assim, os engenheiros equiparam os rovers de Marte com filtros de câmera para “ver” comprimentos de onda de luz que os humanos não conseguem ver no infravermelho, retornando imagens em cores falsas e brilhantes.

Enquanto isso, a IA a bordo dos rovers não consegue gerar descobertas científicas. Somente combinando resultados coloridos de sensores com discussões de especialistas é que os cientistas poderão usar esses olhos robóticos para descobrir novas verdades sobre Marte.

Dados respeitosos

Outro desafio ético para a IA é a forma como os dados são recolhidos e utilizados. A IA generativa é treinada no trabalho de artistas e escritores sem o seu consentimento, os conjuntos de dados comerciais estão repletos de preconceitos e o ChatGPT “alucina” as respostas às perguntas.

As consequências no mundo real deste uso de dados em IA variam de ações judiciais a perfis raciais.

Os robôs em Marte também dependem de dados, poder de processamento e técnicas de aprendizado de máquina para realizar seu trabalho. Mas os dados de que necessitam são informações visuais e de distância para gerar caminhos transitáveis ​​ou sugerir novas imagens interessantes.

Ao concentrarem-se no mundo que os rodeia em vez de nos nossos mundos sociais, estes sistemas robóticos evitam as questões em torno da vigilância, do preconceito e da exploração que atormentam a IA de hoje.

A ética do cuidado

Os robôs podem unir os grupos que trabalham com eles, provocando emoções humanas quando integrados perfeitamente. Por exemplo, soldados experientes lamentam drones quebrados no campo de batalha e famílias dão nomes e personalidades aos seus Roombas.

Vi os engenheiros da NASA chorarem de ansiedade quando os rovers Spirit e Opportunity foram ameaçados por tempestades de poeira marcianas.

Ao contrário do antropomorfismo – projetar características humanas numa máquina – este sentimento nasce de um sentimento de cuidado para com a máquina. É desenvolvido por meio de interações diárias, realizações mútuas e responsabilidade compartilhada.

Quando as máquinas inspiram um sentimento de cuidado, podem sublinhar – e não minar – as qualidades que tornam as pessoas humanas.

Uma IA melhor é possível

Nas indústrias onde a IA poderia ser utilizada para substituir trabalhadores, os especialistas em tecnologia poderiam considerar como as parcerias inteligentes homem-máquina poderiam melhorar as capacidades humanas em vez de as prejudicar.

As equipes de redação de roteiros podem apreciar um agente artificial que possa consultar diálogos ou referências cruzadas instantaneamente. Os artistas poderiam escrever ou organizar seus próprios algoritmos para estimular a criatividade e reter o crédito por seu trabalho. Os bots para dar suporte às equipes de software podem melhorar a comunicação nas reuniões e encontrar erros que surgem na compilação do código.

É claro que rejeitar a substituição não elimina todas as preocupações éticas com a IA. Mas muitos problemas associados à subsistência humana, à agência e aos preconceitos mudam quando a substituição deixa de ser o objectivo.

A fantasia de substituição é apenas um dos muitos futuros possíveis para a IA e a sociedade. Afinal, ninguém assistiria “Star Wars” se os ‘droides substituíssem todos os protagonistas. Para uma visão mais ética do futuro dos humanos com a IA, podemos olhar para as equipas homem-máquina que já estão vivas e bem, no espaço e na Terra.