.
Em algumas formas, é difícil entender como esse desalinhamento aconteceu. Criamos tudo isso por nós mesmos, para nós mesmos.
É verdade que somos “chauvinistas do carbono” por natureza, como disse Tegmark: gostamos de pensar que apenas máquinas de carne e osso como nós podem pensar, calcular, criar. Mas a crença de que as máquinas não podem fazer o que fazemos ignora um insight importante da IA: “Inteligência tem tudo a ver com processamento de informações, e não importa se as informações são processadas por átomos de carbono no cérebro ou por átomos de silício nos computadores. ”
Claro, há quem diga: Bobagem! Tudo está ótimo! Melhor ainda! Tragam as máquinas. Quanto mais cedo nos fundirmos com eles, melhor; já começamos com nossos olhos e corações projetados, nossas ligações íntimas com dispositivos. Ray Kurzweil, notoriamente, mal pode esperar pela singularidade que se aproxima, quando todas as distinções são reduzidas a praticamente nada. “São realmente as próximas décadas que precisamos passar”, disse Kurzweil a uma grande audiência recentemente.
Ah, só isso.
Até mesmo Jaron Lanier, que diz que a ideia de IA assumir o controle é tola porque é feita por humanos, admite que a extinção humana é uma possibilidade – se bagunçarmos como a usamos e ficarmos literalmente loucos: “Para mim, o perigo é que nós usaremos nossa tecnologia para nos tornar mutuamente ininteligíveis ou insanos, se preferir, de uma forma que não estejamos agindo com compreensão e interesse próprio suficientes para sobreviver, e morremos por insanidade, essencialmente.
Talvez tenhamos nos esquecido de nós mesmos. “Perder nossa humanidade” era uma frase repetida com frequência pelos caras da bomba e quase com a mesma frequência hoje. O perigo da tecnologia fora de controle, escreveu meu amigo físico, é a “preocupação de que possamos perder um pouco daquela singularidade indefinível e extraordinária que torna as pessoas ‘humanas’”. Sete ou mais décadas depois, Lanier concorda. “Temos que dizer que a consciência é uma coisa real e que existe uma interioridade mística nas pessoas que é diferente de outras coisas, porque se não dissermos que as pessoas são especiais, como podemos criar uma sociedade ou tecnologias que sirvam as pessoas?”
isso mesmo importa se formos extintos?
Os humanos há muito se distinguem por sua capacidade de empatia, gentileza, capacidade de reconhecer e responder às emoções dos outros. Orgulhamo-nos da criatividade e inovação, originalidade, adaptabilidade, razão. Um senso de identidade. Criamos ciência, arte, música. Dançamos, rimos.
Mas desde que Jane Goodall revelou que os chimpanzés podem ser altruístas, fazer ferramentas, lamentar seus mortos, todos os tipos de criaturas, incluindo peixes, pássaros e girafas, provaram ser capazes de raciocinar, planejar com antecedência, ter um senso de justiça, resistir à tentação, mesmo sonhando. (Apenas os humanos, por meio de seus enormes cérebros desalinhados, parecem capazes de uma verdadeira destruição em massa.)
É possível que às vezes nos enganemos pensando que os animais podem fazer tudo isso porque os antropomorfizamos. É certo que nos enganamos pensando que as máquinas são nossos amigos, nossos animais de estimação, nossos confidentes. Sherry Turkle, do MIT, chama a IA de “intimidade artificial”, porque ela é muito boa em fornecer relacionamentos falsos, mas convincentes, incluindo empatia falsa. O momento não poderia ser pior. A terra precisa urgentemente de nossa atenção; devemos fazer tudo o que pudermos para nos conectar com a natureza, não intensificar “nossa conexão com objetos que não se importam se a humanidade morrer”.
.
