.
Às vezes, o rabino Joshua Franklin sabe exatamente sobre o que quer falar em seus sermões semanais de Shabat – outras vezes, nem tanto. Foi num desses dias de pouca-valia numa tarde fria de finais de dezembro que o líder espiritual do Centro Judaico dos Hamptons decidiu recorrer à Inteligência Artificial.
Franklin, 38, que tem cabelos escuros ondulados e uma vibração amigável, sabia que o novo programa ChatGPT da OpenAI poderia escrever sonetos no estilo de Shakespeare e canções no estilo de Taylor Swift. Agora, ele se perguntava se poderia escrever um sermão no estilo de um rabino.
Então ele deu uma dica: “Escreva um sermão, na voz de um rabino, cerca de 1.000 palavras, conectando a porção da Torá esta semana com a ideia de intimidade e vulnerabilidade, citando Brené Brown” – a autora best-seller e pesquisadora conhecida por sua trabalhar vulnerabilidade, vergonha e empatia.
O resultado, que ele compartilhou naquela noite no moderno santuário de madeira clara da sinagoga e mais tarde postado no Vimeofoi uma palestra coerente, embora repetitiva, que muitos em sua congregação imaginaram ter sido elaborada por rabinos famosos.
“Você está batendo palmas”, disse Franklin depois de revelar que o sermão que acabara de fazer foi composto por um computador. “Eu estou aterrorizado.”
À medida que experimentos como o de Franklin e a recente conversa perturbadora entre um colunista de tecnologia e o novo chatbot da Microsoft demonstram como alguns programas de IA se tornaram estranhamente humanos, pensadores e instituições religiosas estão cada vez mais entrando na conversa sobre os usos éticos de uma tecnologia em rápida expansão que pode um dia desenvolver uma consciência própria – pelo menos de acordo com seus apóstolos do Vale do Silício. Invocando uma ampla gama de mitos de Ícaro para o Torre de Babel ao conto do gênio que pode realizar todos os nossos desejos com resultados desastrosos, eles soam um antigo aviso sobre o que acontece quando os humanos tentam brincar de Deus.
Antes de entregar o sermão que o ChatGPT havia escrito, o rabino Franklin disse à sua congregação que o que ele estava prestes a ler havia sido plagiado.
“Amigos”, ele começou, lendo o sermão com script de IA, “enquanto nos reunimos hoje para estudar a porção da semana da Torá, Vayigashconsideremos a importância de desenvolver intimidade em nosso relacionamento com os outros.”
O sermão robótico passou a relatar a história de quando José, filho de Jacó, se reuniu com seus irmãos depois de muitos anos. Embora eles o tivessem traído no passado, Joseph os cumprimentou com carinho e amor.
“Ao abordá-los com franqueza e vulnerabilidade, ele é capaz de curar velhas feridas e criar laços mais profundos e significativos com seus irmãos”, leu Franklin. “Esta é uma lição poderosa para todos nós.”
Foi um sermão adequado, mas não o que Franklin teria escrito. “O que faltou foi a ideia de como encontramos Deus em encontros significativos com os outros”, disse ele mais tarde. “Como a comunidade e o relacionamento criam Deus em nossas vidas.” Em outras palavras, uma sensação de que o sermão surgiu da experiência vivida de um ser humano ansioso, questionador e sofredor, e não de uma fórmula algorítmica.
É possível que um dia os líderes espirituais sejam substituídos por robôs à medida que a IA continua a melhorar (tudo é possível).
Mas a maioria dos teólogos diz que outras preocupações éticas relacionadas à IA são mais prementes. Eles se preocupam com a crescente desigualdade financeira à medida que a automação elimina milhares de empregos e questionam nossa capacidade de exercer o livre arbítrio, pois cada vez mais dependemos de algoritmos de computador para tomar decisões por nós na medicina, educação, sistema judicial e até mesmo como dirigimos nossos carros e o que assistir na televisão.
Em um nível mais existencial, quanto melhor a IA imitar a inteligência humana, mais questionará nossa compreensão da senciência, da consciência e do que significa ser humano. Queremos que robôs controlados por IA se tornem nossos servos? Eles terão sentimentos? E somos obrigados a tratá-los como se fossem?
Esses dilemas éticos podem parecer novos, mas, em sua essência, representam questões com as quais tradições religiosas como o judaísmo, o islamismo e o cristianismo lutam há milênios, dizem os líderes religiosos.
Embora as instituições religiosas nem sempre tenham se comportado eticamente no passado, elas têm séculos de experiência analisando enigmas morais através das lentes de seus próprios sistemas de crença, disse pe. James Keenan, teólogo católico do Boston College.
“Existem certas maneiras de dizer que todas essas grandes tradições são problemáticas, mas elas também têm suas percepções e sabedoria”, disse ele. “Eles têm uma história por trás deles que vale a pena explorar.”
Desde os primeiros dias da pesquisa de IA na década de 1950, o desejo de criar uma inteligência semelhante à humana tem sido comparado à lenda do golem, uma criatura mítica do folclore judaico, criada por rabinos poderosos de lama e magia para cumprir as ordens de seu mestre. . O golem mais famoso é aquele supostamente feito pelo rabino Judah Low ben Bezulel de Praga no século 16 para proteger o povo judeu de ataques anti-semitas. O golem também serviu de inspiração para o Frankenstein de Mary Shelley.
Durante séculos, a ideia de uma criatura animada feita pelo homem e sem uma centelha divina ou alma, fez parte da imaginação judaica. Os rabinos têm discutido se um golem pode ser considerado uma pessoa, se pode ser contado em um minyan (o quórum de 10 homens necessário para a tradicional oração pública judaica), se pode ser morto e como deve ser tratado.
A partir dessas discussões rabínicas, uma postura ética em relação à inteligência artificial emergiu muito antes da invenção dos computadores, disse Nachson Goltz, professor de direito da Edith Cowan University, na Austrália, que escreveu sobre a Perspectiva judaica sobre IA. Embora seja considerado permitido criar entidades artificiais para nos ajudar em nossas tarefas, “devemos lembrar nossa responsabilidade de manter o controle sobre elas, e não o contrário”, escreveu ele.
O rabino Eliezer Simcha Weiss, membro do Conselho Chefe do Rabinato de Israel, repetiu essa ideia em um discurso recente. “Em toda história do golem, o golem é finalmente destruído ou desmantelado”, disse ele. “Em outras palavras, a lição que os rabinos estão ensinando é que qualquer coisa que o homem faça deve ser controlada pelo homem.”
Os rabinos também concluíram que, embora um golem não pudesse ser considerado uma pessoa completa, ainda era importante tratá-lo com respeito.
“A maneira como tratamos essas coisas nos afeta”, disse Goltz. “A maneira como os tratamos determina o desenvolvimento de nosso próprio caráter e define o curso futuro de nosso próprio exercício de arbítrio moral.”
Outro conto de advertência do folclore judeu e muçulmano gira em torno do djinn, uma entidade não humana feita de fogo sem fumaça, que pode ocasionalmente ser amarrado por humanos e acorrentado à sua vontade. Esta é a origem da história do gênio que pode nos conceder o que quisermos, mas não pode ser colocado de volta na garrafa.
“As histórias do gênio são um exemplo do que acontece quando você pede a um não-humano que conceda desejos humanos”, disse Damien Williams, professor de filosofia e ciência de dados na Universidade da Carolina do Norte, em Charlotte. “O que sai do outro lado parece chocante e punitivo, mas se você realmente rastreá-lo, eles estão simplesmente concedendo esses desejos em toda a extensão de suas implicações lógicas.”
O Islã fornece outra lente ética através da qual podemos olhar para o desenvolvimento da IA. Uma máxima legal da jurisprudência islâmica afirma que repelir danos sempre tem prioridade sobre a obtenção de benefícios. Desse ponto de vista, uma tecnologia que ajuda algumas pessoas, mas tira o emprego de outras, seria considerada antiética.
“A maioria dessas tecnologias está sendo projetada e implantada em muitos casos por causa disso, e os danos que se acumulam às vezes são probabilísticos”, Junaid Qadir, professor de engenharia elétrica na Qatar University, que organizou uma conferência sobre Ética Islâmica e IA. “Não sabemos o que será, a tecnologia tem seus próprios efeitos não intencionais.”
No geral, a tradição islâmica encoraja uma abordagem cautelosa em relação à nova tecnologia e seus usos, disse Aasim Padela, professor de medicina de emergência e bioética no Medical College of Wisconsin.
“As coisas que tentam fazer você rivalizar com Deus não são consideradas um propósito a ser perseguido”, disse ele. “Tentar buscar a imortalidade através de uma transferência cerebral, ou fazer um corpo melhor do que o que você tem, esses impulsos devem ser controlados. A imortalidade está na vida após a morte, não aqui.
“A Regra de São Bento”, um livro escrito no século VI como um guia para a vida monástica, oferece uma resposta a perguntas sobre como podemos interagir eticamente com a IA, tanto agora quanto no futuro, quando poderemos encontrar robôs com seres humanos. recursos, disse Noreen Herzfeld, professor de teologia e ciência da computação na St. John’s University e no College of St. Benedict em Minnesota.
Na parte do livro dirigida ao despenseiro — o responsável pelas provisões do mosteiro — São Bento diz ao despenseiro que trate todos os que o procuram com uma palavra amável e que trate todos os objectos inanimados do seu armazém “como se eram vasos consagrados do altar”.
“Para mim, isso é algo que podemos aplicar à IA”, disse Herzfeld. “As pessoas sempre vêm em primeiro lugar, mas devemos tratar a IA com respeito, com cuidado, porque todas as coisas terrenas devem ser tratadas com respeito. A maneira como você trata as coisas é parte do que informa seu próprio caráter e informa como você trata a Terra e outros seres humanos. “
A Igreja Católica tem sido especialmente veemente na pressão por uma ética da IA que beneficie a humanidade, centralize a dignidade humana e que não tenha como único objetivo maior lucro ou a substituição gradual de pessoas no local de trabalho.
“De fato, se o progresso tecnológico aumenta a desigualdade, não é um verdadeiro progresso”, disse o Papa Francisco em um Vídeo de novembro de 2020 anunciando sua intenção de oração para que a robótica e a inteligência artificial possam sempre servir à humanidade.
O objetivo do Vaticano não é desacelerar o desenvolvimento da inteligência artificial, mas a Igreja acredita que a cautela é essencial, disse Paolo Benanti, um monge franciscano e um dos principais conselheiros do Papa em novas tecnologias.
“Por um lado, não queremos limitar nenhum dos impulsos transformadores que podem trazer grandes resultados para a humanidade; por outro lado, sabemos que todas as transformações precisam ter uma direção”, escreveu por e-mail. “Temos que estar cientes de que, se a IA não for bem gerenciada, pode levar a transformações perigosas ou indesejáveis.”
Para esse fim, os líderes do Vaticano ajudaram a elaborar o Chamada de Roma para a Ética da IA, um compromisso assinado pela primeira vez em 2020 por representantes da Pontifícia Academia para a Vida, IBM, Microsoft e o Ministério da Inovação da Itália, entre outros, para defender a criação de tecnologias de IA transparentes, inclusivas e imparciais. Em 10 de janeiro, líderes das comunidades judaica e islâmica se reuniram no Vaticano para também assinar.
Pedir às empresas de tecnologia que priorizem objetivos humanitários em vez de interesses corporativos pode parecer uma proposta improvável, mas a influência da hierarquia religiosa na ética da IA não deve ser subestimada, disse Beth Singler, professora de religiões digitais na Universidade de Zurique.
“Isso pode ajudar as massas de crentes a pensar criticamente e usar suas vozes”, disse ela. “Quanto mais a conversa for feita por vozes carismáticas significativas como o Papa, isso apenas aumentará a possibilidade de que as pessoas possam, a partir de um nível de base, apreciar o que está acontecendo e fazer algo a respeito.”
Benanti concordou.
“Os bilhões de crentes que habitam o planeta podem ser uma força tremenda para transformar esses valores em algo concreto no desenvolvimento e aplicação da IA”, disse ele.
Quanto a Franklin, o rabino dos Hamptons, ele disse que seu experimento com o ChatGPT o deixou com a sensação de que o surgimento da IA poderia ter um lado positivo para a humanidade.
Embora a inteligência artificial possa imitar nossas palavras e até mesmo ler nossas emoções, o que falta é a capacidade de sentir nossas emoções, entender nossa dor em um nível físico e conectar-se profundamente com os outros, disse ele.
“Compaixão, amor, empatia, é o que fazemos de melhor”, disse ele. “Acho que o chat GPT vai nos forçar a aprimorar essas habilidades e nos tornar, se Deus quiser, mais humanos.”
.
