.
Os chatbots de AI offline estão aqui, com soluções novas, cada vez mais versáteis e otimizadas surgindo quase todos os dias. De todos eles, GPT4All está perto do topo.
Há muitos motivos para experimentá-lo, como o fato de o GPT4All permitir que você converse com seus documentos. Não há necessidade de “treiná-lo”, usar servidores caros ou mergulhar no Python. Você pode simplesmente “adicionar seus documentos” ao GPT4All, pois eles são para “expandir seu pool de conhecimento” com seus dados.
Vamos ver como você pode instalar e usar o GPT4All no seu PC com Windows.
Quais são alguns dos destaques do GPT4All?
Existem muitos motivos para escolher o GPT4All em vez de uma alternativa, incluindo o ChatGPT.
- Você pode executar o GPT4All usando apenas a CPU do seu PC. Não há necessidade de uma GPU poderosa (e cara) com mais de uma dúzia de GBs de VRAM (embora possa ajudar).
- O GPT4All é uma solução totalmente offline, por isso está disponível mesmo quando você não tem acesso à Internet.
- Estar offline e trabalhar como um “aplicativo local” também significa que todos os dados que você compartilha com ele permanecem em seu computador – seus criadores não “espreitarão seus bate-papos”.
- Como ele depende apenas do seu PC, ele não ficará mais lento, não parará de responder ou ignorará seus prompts, como o ChatGPT quando seus servidores estiverem sobrecarregados.
- O GPT4All permite que você adicione seus documentos ao seu “pool de conhecimento” sem esforço. Ele pode então apresentar as informações deles em suas respostas, transformando-o em um verdadeiro assistente pessoal que “sabe das suas coisas” em vez de um chatbot genérico.
Isso é basicamente como instalar o ChatGPT localmente?
Esteja você discutindo com um chatbot ou usando um serviço como o Copilot para ajudá-lo a escrever código sem esforço, você está interagindo com um Large Language Model (LLM). Se você não estiver familiarizado com o termo, confira nosso artigo sobre o que são LLMs e como eles funcionam.
O LLM “atrás” do ChatGPT é um dos modelos mais avançados do mundo… mas também é grande, exigente em recursos e totalmente proprietário. Portanto, você não pode “instalar o ChatGPT no seu PC” porque:
- Como uma solução de código fechado, apenas seus criadores, Open AI, podem acessar “seus internos” e executá-lo em seus servidores.
- É tão grande e exigente que executá-lo em hardware de PC de nível de consumidor é impossível.
Ainda assim, você pode instalar e usar outros LLMs através do GPT4All no seu PC, desde que não exijam muito da sua CPU ou caibam na VRAM mais limitada da sua GPU.
O ecossistema da Nvidia para aceleração de hardware de IA é geralmente considerado mais maduro. Como resultado, há mais software centrado na Nvidia para tarefas aceleradas por GPU, como codificação de vídeo e, agora, aprendizado de máquina. O GPT4All está entre as ferramentas que “funcionam melhor” com as GPUs da Nvidia.
Como instalar o GPT4All
GPT4All está disponível para Windows, OSX e Ubuntu. Para este artigo, usaremos a versão do Windows.
- Faça o download do instalador do Windows do site oficial do GPT4All.
- Execute o aplicativo baixado e siga as etapas do assistente para instalar o GPT4All em seu computador.
- O instalador do GPT4All precisa baixar dados extras para que o aplicativo funcione. Portanto, se o instalador falhar, tente executá-lo novamente depois de conceder acesso por meio do firewall.
- Quando você finalmente se deparar com a interface do GPT4All, também precisará baixar um modelo de idioma para usá-lo. GPT4All apresentará uma lista de modelos disponíveis. Verifique seu tamanho (ao lado de seu nome) para garantir que você tenha RAM ou VRAM suficiente para executá-lo. Quando você decidir sobre um modelo, clique em seu Download para que o GPT4All baixe e instale.
- Se mudar de ideia, clique no Cancelar botão para interromper um download ativo e escolher outro modelo.
- Para economizar tempo, se você quiser experimentar vários modelos, pode fazer com que o GPT4All baixe-os em paralelo. No entanto, observe que os gigabytes podem aumentar em breve e garantir que você tenha espaço de armazenamento suficiente para todos os modelos selecionados.
Familiarizando-se com o GPT4All
Com o GPT4All instalado e alguns LLMs baixados, agora você pode começar a conversar com seu próprio chatbot AI.
- Use o menu suspenso na parte superior da janela do GPT4All para selecionar o modelo de idioma ativo.
- Use o ícone de hambúrguer no canto superior esquerdo para acessar o painel de controle do GPT4All.
- As primeiras opções do painel do GPT4All permitem criar um Novo chat, renomear o atual, ou lixo isto.
- O Atualizações botão permite atualizar o aplicativo e adicionar ou remover componentes.
- O Transferências O botão dá acesso ao painel de modelos de idioma.
- Você pode usar o painel de modelos de idioma para instalar novos LLMs, remover os instalados e alterar o caminho de download.
- Conversar com um LLM no GPT4All é semelhante à versão online do ChatGPT. Digite algo no campo de entrada na parte inferior da janela do GPT4All e, após pressionar Enter, você verá seu prompt na visualização principal do GPT4All. A resposta do modelo de idioma selecionado aparecerá abaixo do seu prompt.
- Como no ChatGPT, se você não gostar da resposta de um LLM gerada na tela, clique no botão Parar de Gerar botão para interromper o processo.
- Da mesma forma, se você não gostar de uma resposta já gerada e quiser ver uma tomada alternativa, clique no botão Regenerar resposta botão, que aparece no mesmo local.
- Observe que o GPT4All também permite acesso ao que é conhecido como irrestrito Modelos de Linguagem. Aqueles não vêm com limitações artificiais. Essa “liberdade” supostamente “liberta” e “empodera” as pessoas para serem mais criativas e oferecerem respostas mais factuais. No entanto, isso também significa que eles podem produzir resultados ofensivos.
- Os dois primeiros botões no canto superior direito do aplicativo permitem que você reiniciar uma conversa ou cópia de para a área de transferência para colá-lo em outro lugar.
- O terceiro botão (com um ícone de roda dentada) dá acesso ao GPT4All’s Configurações.
- O Geração A guia das configurações do GPT4All permite configurar os parâmetros do modelo de idioma ativo. Mudando variáveis como seu Temperatura e Repetir Penalidadevocê pode ajustar sua criatividade, concisão e assim por diante.
- O Aplicativo guia permite que você escolha um Modelo Padrão para GPT4All, defina um Caminho de download para o Modelo de Linguagem, atribua um número específico de Linhas de CPU para o aplicativo, ter todos os chats salvos automaticamente localmente e habilitar seu interno servidor web para acessá-lo através do seu navegador.
Conversando com seus documentos com GPT4All
A melhor característica do GPT4All, no entanto, é como torna fácil adicionar seu próprio documento ao modelo de idioma selecionado. Como vimos, é possível fazer o mesmo com o ChatGPT e criar um ChatGPT personalizado com seus próprios dados. No entanto, o processo é muito mais fácil com GPT4All e livre dos custos de usar a API ChatGPT da Open AI.
- Coloque alguns de seus documentos em uma pasta. Verifique se eles estão em um formato de arquivo amplamente compatível, como TXT, MD (para Markdown), Doc etc.
- No GPT4All Configurações painel, vá para o Plug-in LocalDocs (Beta) página da guia. Clique no Navegar botão e aponte o aplicativo para a pasta onde você colocou seus documentos. Em seguida, clique em Adicionar para incluí-los na lista de documentos externos do GPT4All.
- Você verá uma entrada para sua pasta de documentos no GPT4All’s Plug-in LocalDocs lista de documentos. Se você decidir remover uma pasta de documentos, selecione-a aqui e clique no botão Remover botão à sua direita.
- Do mesmo ponto, você pode ajustar o Tamanho do fragmento do documento e a Trechos de documento a serem processados por prompt valores na parte inferior esquerda do painel. Aumentá-los melhorará a capacidade do modelo de idioma selecionado de “entender” seus documentos e oferecer respostas mais relevantes. No entanto, ele também reduzirá significativamente a velocidade do GPT4All, pois deve analisar seus documentos após cada solicitação.
- Você pode gerenciar seus documentos externos através do GPT4All’s Coleções botão.
- Você pode adicionar várias coleções de documentos ao GPT4All. É melhor, porém, em vez de tê-los todos ativos o tempo todo, arrastando o desempenho do GPT4All para baixo para controlar qual grupo de documentos (“coleção”) que você deseja ativar no Coleções painel.
- Depois de adicionar alguns documentos e ativar sua coleta, o GPT4All informará que é em processamento depois de uma solicitação.
- Sempre que o GPT4All apresentar uma resposta que extraia dados de seus documentos, ele oferecerá uma lista de referências e links de contexto sob a resposta.
- Ao clicar em um link de contextoGPT4All mostrará um trecho de texto de seus documentos que usou para sua resposta.
Seu próprio ChatGPT no Windows
O GPT4All e os modelos de idioma que você pode usar por meio dele podem não ser uma correspondência absoluta para o ChatGPT dominante, mas ainda são úteis.
Usuários criativos e criadores encontraram várias maneiras engenhosas de melhorar esses modelos, de modo que, mesmo que dependam de conjuntos de dados menores ou hardware mais lento do que o ChatGPT, eles ainda podem chegar perto disso ou, em alguns casos, até ultrapassá-lo.
Em vez de entrar em detalhes sobre os prós e contras de cada modelo disponível, por que você não os experimenta? GPT4All facilita.
.
