.
Aviso de conteúdo sensível
Este artigo discute tópicos que podem ser angustiantes para os leitores, incluindo suicídio e exploração sexual de crianças.
Quando os algoritmos do Google funcionam como deveriam – quando mostram a informação que você está procurando e não bobagens, pornografia estranha, propaganda ou conselhos médicos perigosos – você tem que agradecer a pessoas como Ed Stackhouse.
Stackhouse é o que o Google chama de “avaliador”. Quando seu mecanismo de pesquisa não tem certeza sobre os resultados produzidos para uma determinada pesquisa, o trabalho de Stackhouse é decidir qual deles as pessoas devem ver.
Isso pode ser um processo demorado e de pesquisa intensiva. Também pode ser angustiante, uma janela para os cantos mais sombrios da experiência humana. “O que mais tenho visto ultimamente são os fóruns de suicídio”, disse ele. “‘Qual é o melhor método para me enforcar se eu tiver 5’9”?’ ‘Que comprimento de corda devo usar?’”
Outra coisa que ele tem visto nas últimas semanas é um novo tipo de resultado de pesquisa: o que parecem ser artigos gerados por IA, com um prompt para designá-los como precisos ou falsos, apropriados ou assustadores, estilisticamente no ponto certo ou fora do alvo.
“Na verdade, eles não nos dizem que é Bard”, disse Stackhouse, “mas isso tem as impressões digitais de Bard por toda parte”.
Bard, se você não estiver familiarizado, é o participante do Google no que está sendo aclamado como um corrida armamentista de IA, que tem os maiores participantes da Big Tech trabalhando com tudo para aperfeiçoar e comercializar chatbots que podem conversar como humanos. Seu principal rival é Microsoft, que está ansioso para exibir uma nova versão do Bing, seu mecanismo de busca também administrado, recentemente infundido com a sensação da Internet conhecida como ChatGPT. (O pai do Facebook, Meta, circulando pela periferia, está testando as águas para ver se seu reputação carregada de escândalos lhe permitirá competir.)
As apostas podem ser muito altas: do jeito que as coisas estão, o Google tem quase o monopólio da pesquisa, coletando US$ 40 bilhões em receita por trimestre dessa parte do seu negócio. O presidente-executivo da Microsoft, Satya Nadella, acredita que a mudança para a pesquisa conversacional pode redefinir o placar. “Estou animado para que os usuários finalmente tenham uma escolha”, disse ele ao Wall Street Journal.
Os investidores parecem concordar: a capitalização de mercado da empresa controladora do Google, a Alphabet, despencou mais de US$ 100 bilhões depois que a Bard cometeu um erro em sua demonstração inicial, oferecendo um vislumbre dos incentivos financeiros em jogo e dos custos de errar.
Os mecanismos de busca sempre foram canais pouco confiáveis para a verdade, mas as interfaces de busca do chatbot são particularmente traiçoeiras, devido ao que foi chamado de problema da “resposta única”: em vez de apresentar uma lista de resultados possíveis e convidar os usuários a selecionar entre eles, eles oferecem uma resposta canônica. Quando a pergunta é “É seguro ferver um bebê?” e a resposta é “Sim” — um exemplo da vida real do Bing — você está com problemas.
Sendo esse o caso, você pode esperar que as empresas envolvidas valorizem o trabalho de controle de qualidade que ajuda suas novas ferramentas de software supostamente inteligentes a evitar erros estúpidos. Em vez disso, os humanos que fazem esse trabalho são tratados como descartáveis.
“Temos alguns dos salários mais baixos dos Estados Unidos”, afirma Stackhouse, avaliador há quase uma década. “Pessoalmente, ganho US$ 3 a menos por hora do que minha filha trabalhando em fast food.”
No início de fevereiro, enquanto o Google e a Microsoft preparavam seus anúncios chamativos de chatbot, Stackhouse juntou-se a um grupo de avaliadores para entregar Uma petição ao Google, exigindo que a empresa atenda às suas próprias padrões mínimos declarados. Os avaliadores costumam ganhar apenas US$ 14 por hora – menos do que os US$ 15 que o Google promete aos contratados. Stackhouse tem um problema cardíaco grave que exige tratamento médico, mas seu empregador, Appen – cujo único cliente é o Google – limita suas horas a 26 por semana, mantendo-o em meio período e inelegível para benefícios. Esta é a política padrão para milhares de avaliadores.
Os avaliadores se juntam a uma onda de empreiteiros descontentes para se manifestar: os trabalhadores que garantem que os vídeos do YouTube contenham os metadados corretos entraram em greve na mesma semana, alegando práticas trabalhistas injustas. Isso não é nem o fundo do barril. A Revista Time investigação revelou que os contratados no Quênia estavam recebendo menos de US$ 2 por hora para revisar o conteúdo do ChatGPT – muito disso tão tóxico que os deixou traumatizados.
Há uma certa ironia cruel no fato de que, à medida que a tecnologia de maior destaque em anos faz sua estreia, as mais adequadas para mantê-la nos trilhos também são as mais precárias nas empresas que precisam delas. Isso não é acidente. Um chatbot é uma espécie de truque de mágica; para que a ilusão funcione corretamente, os assistentes enrolados dentro da caixa devem permanecer escondidos do público, sem que sua contribuição seja notada.
Enquanto o Google e a Microsoft querem que você esqueça que eles existem, para os trabalhadores o esquecimento não é tão fácil.
“Já vi tarefas com calúnias raciais, fanatismo e violência”, diz Stackhouse, bem como horríveis sanguessugas médicas e pornografia hardcore. “Há momentos em que vejo alguns dos conteúdos gráficos repetidos em meus sonhos. É por isso que nunca mais trabalho tarde da noite. Duas vezes em meus 10 anos, vi pornografia infantil, mas graças a Deus isso é extremamente raro. Eu desistiria.”
O pior de tudo, talvez, se você quer trabalhar, não pode limitar o tipo de conteúdo que revisa. “Se você optar por não receber conteúdo pornográfico, poderá ver suas tarefas diminuídas”, diz Stackhouse. “Portanto, a maioria das pessoas não desiste.”
Existem até 5.000 avaliadores como Stackhouse trabalhando na Appen, e milhares mais em outras subsidiárias avaliando dados para outras partes dos negócios do Google, Microsoft e Meta.
“É como se fôssemos anônimos”, diz Stackhouse. “Somos fantasmas.”
“Não estamos pedindo muito, apenas um salário justo e trabalho remoto”, diz Katie Marschher, “apenas para sermos reconhecidos como seres humanos, não apenas números em uma planilha”. Marschher está atualmente em greve devido a um trabalho semelhante na Cognizant, uma empreiteira cuja força de trabalho faz o controle de qualidade do YouTube.
“Somos realmente parte desse sistema de dois níveis”, disse ela. “Existem funcionários do Google, e eles recebem opções de ações e são muito bem pagos, e há toda essa outra força de trabalho.”
Marschher e seus colegas recentemente votaram para formar um sindicato com o Code Workers of America. Pouco depois, a Cognizant os informou que estava instaurando uma política obrigatória de trabalho no escritório. Uma vez que muitos dos trabalhadores não podem se mudar, os trabalhadores viram a mudança como uma retaliação. Quando não cedeu, os trabalhadores do YouTube votaram pela greve.
“Queremos tentar desmantelar esse sistema; explora os trabalhadores e os torna muito vulneráveis, e não achamos isso certo”, diz ela.
Nunca deu certo. Mas com algumas das empresas mais lucrativas do mundo agora prontas para estender seu domínio com um negócio totalmente novo que não existiria sem o trabalho árduo de seus trabalhadores mais mal pagos, é hora de os fantasmas da máquina se mostrarem e obterem o reconhecimento. eles são devidos.
.
