Por que você não deve confiar na sua namorada com IA

A inteligência artificial está lenta mas seguramente se infiltrando em todas as partes de nossas vidas. Incluindo, ao que parece, nossas vidas amorosas. Mas você deve pensar duas vezes antes de confiar nas namoradas da IA ​​que oferecem companhia no mundo digital com seus segredos mais profundos e obscuros.

O que são namoradas de IA?

As namoradas IA são, como o nome sugere, companheiras digitais alimentadas por inteligência artificial. São chatbots projetados para serem parceiros românticos para quem não tem um parceiro físico no mundo real. E embora seja fácil julgar as pessoas que recorrem a esta nova forma de romance, ela está preenchendo um vazio na vida de algumas pessoas.

Essas namoradas de IA podem ser dobradas e moldadas de acordo com sua vontade, tanto física quanto emocionalmente. Você pode escolher seus atributos físicos e tipo de personalidade e, então, por meio de interações contínuas, eles aprenderão exatamente o que você deseja de um parceiro romântico e se tornarão essa pessoa. Pelo menos na medida em que um aplicativo no seu telefone pode se tornar uma pessoa.

No entanto, as namoradas da IA ​​​​não são todas doces e leves. Tal como acontece com a maioria das novas tecnologias, elas apresentam alguns perigos inerentes dos quais mais pessoas precisam estar cientes.

É seguro interagir com namoradas de IA?

Graças a um relatório contundente da Mozilla Foundation, agora estamos plenamente conscientes dos riscos representados pelos chatbots de IA. Os pesquisadores da fundação passaram semanas interagindo com algumas das namoradas mais populares da IA. E eles descobriram que a maioria dos aplicativos românticos de chatbot de IA apresentam sérios problemas de privacidade e segurança.

Além do mais, a maioria dessas namoradas de IA pode e irá coletar grandes quantidades de dados sobre você enquanto você interage com elas. Não apenas porque é assim que os chatbots de IA generativos funcionam, mas porque esses aplicativos existem para direcionar anúncios a você ou vender seus dados para terceiros. Os desenvolvedores não estão criando esses aplicativos para o bem da humanidade.

Como afirma Misha Rykov, um dos pesquisadores da Mozilla:

“Para ser franco, as namoradas da IA ​​são
não
seus amigos. Embora sejam comercializados como algo que irá melhorar a sua saúde mental e bem-estar, eles são especializados em entregar dependência, solidão e toxicidade, ao mesmo tempo em que extraem de você o máximo de dados possível.

Depois de analisar vários deles, a Fundação Mozilla considera as namoradas de IA uma das “piores categorias de produtos que já analisamos em termos de privacidade”.

Primeiro, existem os problemas padrão de privacidade e segurança, como vulnerabilidades, falta de criptografia, aplicativos repletos de rastreadores e proteção por senha fraca. Depois, há o compartilhamento e/ou venda de seus dados pessoais, seja para publicidade direcionada ou para repasse ao licitante com lance mais alto. Por último, existe o risco representado por um chatbot de IA que fornece informações prejudiciais a um utilizador, o que pode levá-lo por um caminho obscuro com consequências no mundo real.

Como se proteger de namoradas de IA

Portanto, agora sabemos o que são namoradas de IA e alguns dos perigos associados ao seu uso. Mas se você ainda deseja ter um “relacionamento” com alguém, como pode se proteger?

Depois de ler o relatório, o melhor conselho é evitar qualquer aplicativo que pretenda oferecer companhia de IA. Os riscos quando a tecnologia está numa fase tão inicial da sua evolução são demasiado grandes. Com sua privacidade e segurança potencialmente em risco. No entanto, se você realmente quer uma namorada com IA, faça pelo menos o seguinte:

• Leia atentamente os T&Cs. Informe-se para saber exatamente no que você está se metendo lendo os Termos e Condições do aplicativo.
• Escolha uma senha forte. Alguns desses aplicativos permitem senhas extremamente fracas, mas isso não é desculpa para você usar uma delas.
• Mantenha o aplicativo atualizado. Embora o aplicativo em si possa ser um problema, ao mantê-lo atualizado o tempo todo, você está pelo menos tomando algumas medidas de proteção.
• Não revele nada que você não gostaria de compartilhar em público. Semelhante às mídias sociais, presuma que tudo o que você diz corre o risco de vazar para o domínio público.
• Opte por não usar seus chats para treinar LLMs. Se esta for uma opção, opte por não permitir que suas conversas pessoais e privadas sejam usadas para modelos de linguagem grande.
• Limite o acesso ao seu dispositivo. Isso inclui sua localização, fotos, câmera e microfone. Porque sua namorada IA ​​não deveria precisar de acesso a nada disso.

Namoradas IA são um conceito fascinante e que pode evoluir com o tempo para algo bom para as almas mais solitárias da sociedade. Mas como a tecnologia existe agora, contar com um chatbot romântico para preencher esse vazio na sua vida coloca potencialmente a sua privacidade e segurança em risco.