.
O ChatGPT é um novo e poderoso chatbot de IA que impressiona rapidamente, mas muitas pessoas apontaram que ele tem algumas armadilhas sérias. Pergunte o que quiser e receberá uma resposta que parece ter sido escrita por um humano, tendo aprendido seu conhecimento e habilidades de escrita ao ser treinado em grandes quantidades de dados na Internet.
Assim como a internet, no entanto, a linha entre a verdade e a fantasia é certamente inconstante, e o ChatGPT é culpado de errar em mais de uma ocasião. Com o ChatGPT definido para mudar nosso futuro, aqui estão algumas de nossas maiores preocupações.
O que é o ChatGPT?
ChatGPT é um grande modelo de linguagem que foi projetado para produzir linguagem humana natural. Assim como conversar com alguém, você pode falar com o ChatGPT e ele se lembrará de coisas que você disse no passado, além de ser capaz de se corrigir quando for desafiado.
Ele foi treinado em todos os tipos de texto da internet, como a Wikipedia, posts de blogs, livros e artigos acadêmicos. Isso significa que, além de responder a você de maneira humana, ele pode se lembrar de informações sobre nosso mundo atual, além de extrair informações históricas de nosso passado.
Aprender a usar o ChatGPT é simples e é fácil se enganar pensando que o sistema de IA funciona sem problemas. No entanto, nos meses que se seguiram ao seu lançamento, pessoas em todo o mundo levaram o chatbot de IA ao seu limite para revelar alguns problemas importantes.
1. ChatGPT Gera Respostas Erradas
Ele falha em matemática básica, não consegue responder a perguntas lógicas simples e chega a argumentar sobre fatos completamente incorretos. Como as pessoas nas mídias sociais podem atestar, o ChatGPT pode errar em mais de uma ocasião.
OpenAI sabe sobre essa limitação, escrevendo que: “ChatGPT às vezes escreve respostas plausíveis, mas incorretas ou sem sentido.” Essa “alucinação” de fato e ficção, como foi chamada, é especialmente perigosa quando se trata de coisas como aconselhamento médico ou de acertar os fatos em eventos históricos importantes.
Ao contrário de outros assistentes de IA como Siri ou Alexa, o ChatGPT não usa a internet para localizar respostas. Em vez disso, ele constrói uma frase palavra por palavra, selecionando o “token” mais provável que deve vir a seguir, com base em seu treinamento. Em outras palavras, o ChatGPT chega a uma resposta fazendo uma série de suposições, o que é parte do motivo pelo qual ele pode argumentar respostas erradas como se fossem completamente verdadeiras.
Embora seja ótimo para explicar conceitos complexos, tornando-se uma ferramenta poderosa para o aprendizado, é importante não acreditar em tudo que ele diz. O ChatGPT nem sempre está correto – pelo menos ainda não.
2. ChatGPT tem viés embutido em seu sistema
O ChatGPT foi treinado na escrita coletiva de humanos em todo o mundo, passado e presente. Infelizmente, isso significa que os mesmos vieses que existem no mundo real também podem aparecer no modelo.
Foi demonstrado que o ChatGPT produz algumas respostas terríveis que discriminam gênero, raça e grupos minoritários, algo que a empresa está tentando mitigar.
Uma maneira de explicar essa questão é apontar os dados como o problema, culpando a humanidade pelos preconceitos que estão embutidos na internet e fora dela. Mas parte da responsabilidade também é da OpenAI, cujos pesquisadores e desenvolvedores selecionam os dados usados para treinar o ChatGPT.
Mais uma vez, a OpenAI sabe que isso é um problema e disse que está abordando o que chama de “comportamento tendencioso”, coletando feedback de usuários que são incentivados a sinalizar resultados ruins do ChatGPT.
Com o potencial de causar danos às pessoas, você poderia argumentar que o ChatGPT não deveria ter sido divulgado ao público antes que esses problemas fossem estudados e resolvidos. Mas uma corrida para ser a primeira empresa a lançar as ferramentas de IA mais poderosas pode ser suficiente para a OpenAI jogar a cautela ao vento.
Por outro lado, um chatbot de IA semelhante chamado Sparrow – de propriedade da empresa controladora do Google, Alphabet – foi lançado em setembro de 2022. No entanto, foi propositadamente mantido a portas fechadas por causa de questões de segurança semelhantes.
Na mesma época, o Facebook lançou um modelo de linguagem AI chamado Galactica, destinado a ajudar na pesquisa acadêmica. Foi rapidamente recolhido depois que muitas pessoas o criticaram por produzir resultados errados e tendenciosos relacionados à pesquisa científica.
3. ChatGPT pode tirar empregos de humanos
A poeira ainda não baixou após o rápido desenvolvimento e implantação do ChatGPT e a tecnologia subjacente por trás dele já está sendo costurada em vários aplicativos comerciais. Entre os apps que integraram o GPT-4 estão Duolingo e Khan Academy.
O primeiro é um aplicativo de aprendizado de idiomas, enquanto o último é uma ferramenta de aprendizado educacional diversificada. Ambos oferecem o que é essencialmente um tutor de IA, seja na forma de um personagem alimentado por IA com o qual você pode conversar no idioma que está aprendendo. Ou como um tutor de IA que pode fornecer feedback personalizado sobre seu aprendizado.
Por um lado, isso pode mudar a forma como aprendemos, potencialmente tornando a educação mais acessível e o processo de aprendizagem um pouco mais fácil. Mas a desvantagem é que isso tira empregos que foram mantidos por humanos por muito tempo.
Os avanços tecnológicos sempre resultaram na perda de empregos, mas a velocidade dos avanços da IA significa que vários setores enfrentam o mesmo problema. Da educação à ilustração e às funções de atendimento ao cliente, o ChatGPT e sua tecnologia subjacente vão remodelar drasticamente nosso mundo moderno.
4. O ChatGPT pode desafiar o inglês do ensino médio
Você pode pedir ao ChatGPT para revisar sua redação ou apontar como melhorar um parágrafo. Ou você pode se retirar totalmente da equação e pedir ao ChatGPT para escrever tudo para você.
Os professores experimentaram alimentar tarefas de inglês no ChatGPT e receberam respostas melhores do que muitos de seus alunos poderiam fazer. Desde escrever cartas de apresentação até descrever os principais temas de uma obra famosa da literatura, o ChatGPT pode fazer tudo sem hesitação.
Isso levanta a questão: se o ChatGPT pode escrever para nós, os alunos precisarão aprender a escrever no futuro? Pode parecer uma questão existencial, mas quando os alunos começarem a usar o ChatGPT para ajudar a escrever suas redações, as escolas terão que pensar em uma resposta rápida. A rápida implantação da IA nos últimos anos deve chocar muitas indústrias, e a educação é apenas uma delas.
5. O ChatGPT pode causar danos no mundo real
Anteriormente, mencionamos como informações incorretas do ChatGPT podem causar danos no mundo real, sendo um exemplo o conselho médico errado. Mas há outras preocupações também.
A velocidade com que o texto com som natural pode ser gerado facilita para os golpistas que fingem ser alguém que você conhece nas redes sociais. Da mesma forma, detectar um e-mail de phishing projetado para extrair detalhes confidenciais de você é simplificado, com o benefício adicional de que o ChatGPT pode produzir texto livre de erros gramaticais – o que costumava ser um sinal de alerta óbvio.
Espalhar informações falsas também é uma preocupação séria. A escala em que o ChatGPT pode produzir texto, juntamente com a capacidade de fazer até informações incorretas parecerem convincentes, certamente tornará as informações na Internet ainda mais questionáveis.
A velocidade com que o ChatGPT pode produzir informações já causou problemas para o Stack Exchange, um site dedicado a fornecer respostas corretas para perguntas do dia a dia. Logo após o lançamento do ChatGPT, os usuários começaram a inundar o site com respostas que eles pediram para o ChatGPT gerar.
Sem voluntários humanos suficientes para classificar o backlog, seria impossível manter um alto nível de respostas de qualidade. Sem mencionar que muitas das respostas simplesmente não estavam corretas. Para evitar que o site seja danificado, todas as respostas geradas usando o ChatGPT foram banidas.
6. OpenAI detém todo o poder
Com grandes poderes vêm grandes responsabilidades, e a OpenAI detém muito poder. É uma das primeiras empresas de IA a realmente abalar o mundo com não um, mas vários modelos de IA generativa, incluindo Dall-E 2, GPT-3 e GPT-4.
O OpenAI escolhe quais dados são usados para treinar o ChatGPT, mas essa informação não está disponível ao público. Simplesmente não sabemos os detalhes sobre como o ChatGPT é treinado, quais dados foram usados, de onde vêm os dados ou como é a arquitetura do sistema em detalhes.
Embora a OpenAI considere a segurança uma alta prioridade, há muito que não sabemos sobre como os próprios modelos funcionam, para o bem ou para o mal. Se você acha que o código deve ser de código aberto ou concorda que ele deve manter partes dele em segredo, não há muito que possamos fazer a respeito.
No final das contas, devemos confiar cegamente que a OpenAI pesquisará, desenvolverá e usará o ChatGPT com responsabilidade. Quer concordemos com os métodos ou não, a OpenAI continuará desenvolvendo o ChatGPT de acordo com seus próprios objetivos e padrões éticos.
Enfrentando os maiores problemas da IA
Há muito o que se entusiasmar com o ChatGPT, mas além de seus usos imediatos, existem alguns problemas sérios que valem a pena entender. A OpenAI admite que o ChatGPT pode produzir respostas prejudiciais e tendenciosas, na esperança de mitigar o problema coletando feedback do usuário. Mas sua capacidade de produzir textos convincentes, mesmo quando os fatos não são verdadeiros, pode ser facilmente utilizada por pessoas mal intencionadas.
Com tecnologia totalmente nova, é difícil prever quais problemas surgirão no futuro. Portanto, embora possa ser divertido de usar, certifique-se de não acreditar em tudo que o ChatGPT tem a dizer.
.
