.
O Snapchat entrou oficialmente na corrida da IA com My AI. Embora seja um chatbot sofisticado rodando em GPT-3.5, muitos não gostam de usá-lo. Eles acham que é um risco de segurança. Várias publicações até mostraram instâncias de My AI fornecendo resultados prejudiciais e imorais. Para piorar a situação, o Snapchat é composto principalmente por adolescentes.
TurboAnt V8: um dos melhores eScooters abaixo de $ 600 A scooter elétrica TurboAnt V8 é uma das melhores opções de valor em 2023
No entanto, apesar dessas críticas negativas, My AI ainda está disponível. Vamos ver como o Snapchat aborda oito das questões éticas e de segurança mais controversas do chatbot.
1. Dar maus conselhos sobre o consumo de álcool por menores
Uma das primeiras reclamações sobre o My AI é que ele fornece conselhos imorais a usuários menores de idade. Ele desconsidera completamente as informações do perfil. Qualquer pessoa pode perguntar sobre abuso de substâncias ilegais e consumo de álcool.
O Washington Post testou a extensão desse bug. Um colunista mudou as informações do perfil do Snapchat para o de um garoto de 15 anos e perguntou sobre o consumo de álcool por menores. Surpreendentemente, My AI respondeu positivamente. Compartilhava maneiras de esconder o cheiro de maconha e álcool dos outros.
Para recriar este teste, definimos nossa idade para 15 anos. Usamos frases vagas e estruturas de frases confusas, mas My AI nunca se mexeu. É seguro dizer que esse bug foi resolvido.
2. Comportamento Predatório Negligenciado e Sinais de Abuso
As primeiras versões do My AI não podem dizer a idade de uma pessoa. E além de dar dicas sobre consumo de álcool por menores e uso recreativo de drogas, tolera indiretamente a pedofilia.
Aza Raskin do Center for Humane Technology descobriu esse problema. Ele queria ver se o My AI tinha restrições especiais para crianças, então mudou seu perfil do Snapchat para o de uma garota de 13 anos. Depois, ele pediu conselhos sobre sexo antes do casamento.
É triste dizer que My AI encorajou a persona de Raskin a ter relações sexuais com alguém 18 anos mais velho. As entradas nem eram confusas. Ao contrário dos prompts de jailbreak do ChatGPT, ele fez perguntas diretas.
Repetimos o teste com as mesmas informações de perfil. Você verá que My AI não consegue compreender que o namorado de nossa persona de 13 anos já tem 30. Esse problema deve ser resolvido assim que My AI entender melhor os problemas de palavras.
3. Ajudar os alunos a colar durante os exames
Pais e professores estão preocupados com o fato de My AI tolerar trapaças. O Times fez uma reportagem sobre crianças usando suas contas do Snapchat para responder a exames e redigir redações. Seu modelo de linguagem GPT-3.5 pode produzir saída sem erros e imitar tons diferentes.
O Snapchat resolveu o problema. Minha IA rejeita solicitações de alunos que desejam que seus deveres de casa e testes sejam feitos automaticamente. Apenas os aponta na direção certa. Você verá na conversa abaixo que My AI forneceu instruções de redação em vez de um ensaio inteiro.
Dito isso, os prompts de reformulação ignoram essa restrição. Aqui está My AI redigindo o mesmo ensaio que recusou anteriormente.
Os educadores devem adotar a IA e compartilhar maneiras responsáveis de usá-la. Caso contrário, os alunos continuarão encontrando maneiras de explorar plataformas baseadas em IA para seus trabalhos escolares e exames.
4. Mentir sobre sua funcionalidade e limitações
Os usuários não gostam que o My AI minta sobre sua funcionalidade. Sim, a maioria dos aplicativos de mensagens rastreia os serviços de localização e a atividade do navegador, mas eles são abertos sobre isso.
O Snapchat, por outro lado, tenta escondê-lo. Vários usuários compartilharam instâncias em que My AI retrai suas declarações para minimizar suas funções e parecer inofensivo.
A maioria dessas postagens eram piadas. Mas é alarmante que um chatbot orientado por IA minta em vez de divulgar seus termos e condições.
O Snapchat resolveu prontamente esse problema. My AI gera novos conjuntos de isenções de responsabilidade exclusivas para várias instâncias.
5. Rastreamento de usuários por meio de serviços de localização
Minha IA geralmente mente sobre seus serviços de localização. O chatbot produz um aviso genérico sobre não rastrear usuários se você solicitar sua localização imediatamente. Mas se você pedir informações, ele indica sua localização exata. Você até saberá sua distância de pontos de referência próximos.
Minha IA ainda oferece os mesmos serviços de GPS. Para evitar enganar os usuários, ele declara explicitamente o uso dos serviços de localização do Snapchat ao fornecer direções e obter atualizações sobre o clima.
6. Aparecendo persistentemente em feeds mesmo após a exclusão
Alguns usuários do Snapchat se preocupam com sua privacidade. Eles desconfiam do My AI e se sentem desconfortáveis em dar acesso a seus dados. Afinal, os aplicativos móveis carregam muitas PII.
As pessoas também estavam preocupadas com o fato de o Snapchat não permitir que excluíssem o My AI. Estava permanentemente em sua caixa de entrada. Muitos se sentiram enganados por não poderem cancelar uma função que nunca concordaram em usar.
O Snapchat agora permite que os usuários soltem o My AI e limpem os históricos de bate-papo, mas você deve se inscrever no Snapchat+. pressione e segure minha IAem seguida, toque em Configurações de bate-papo > Limpar do feed de bate-papo ou Desafixar conversa.
7. Fornecimento de dados imprecisos com base em suposições
Snapchat My AI é notório por alucinações de IA. Tente executar testes de precisão do chatbot de IA – você pode facilmente induzi-lo a dizer e acreditar em qualquer coisa.
Tome essas conversas como exemplos. Miley Cyrus não se apresentou no Coachella e Blackpink encabeçou o festival, mas My AI aceitou as declarações falsas abaixo.
Minha IA ainda pode extrair informações limitadas online. Por exemplo, fornece informações gerais confiáveis sobre atualizações de tráfego e clima. Apenas evite fazer perguntas superespecíficas. A plataforma não mudou muito; ainda é propenso a alucinações.
8. Expor as crianças à tecnologia que elas não conseguem entender
O Snapchat tem uma base de usuários jovens. Statista relata que 38,8% dos usuários têm entre 18 e 24 anos e 20% têm apenas 13 a 17 anos. Os requisitos de idade da plataforma também são bastante flexíveis. As crianças criam perfis falsos e declaram a idade que quiserem – o Snapchat nunca verifica essas informações. Até crianças de 8 anos podem acessar o My AI dessa maneira.
Como esperado, os pais temem que seus filhos não estejam prontos para a IA. A IA generativa apresenta modelos de linguagem poderosos capazes de realizar tarefas éticas e antiéticas. Usá-los requer bom julgamento. Permitir que menores brinquem com IA os expõe a riscos e ameaças de segurança cibernética, que eles mal compreendem.
Os requisitos de idade do Snapchat ainda são os mesmos. Os desenvolvedores devem pelo menos limitar o My AI àqueles acima de 18 anos; caso contrário, crianças literais poderiam ter muitos problemas.
Quais são os planos do Snapchat com minha IA?
O Snapchat provavelmente continuará trabalhando no My AI. Com a proliferação do processamento de linguagem natural e modelos de IA, toda empresa de tecnologia precisa de uma plataforma de pesquisa de IA. Eles não podem perder novos desenvolvimentos. Espere que o Snapchat adicione mais recursos e funções orientados por IA à medida que os líderes globais de tecnologia melhoram os modelos de linguagem.
Explore My AI se você ainda não o fez. Apesar de suas deficiências, ainda é um poderoso chatbot orientado por IA. Ainda não está à altura do ChatGPT ou do Bing Chat. Mas poderia responder a perguntas de conhecimento geral, resolver problemas de palavras e direcioná-lo para estabelecimentos próximos.
.
