.
O Openai deixou claro que seu serviço de IA principal, o ChatGPT não se destina a uso malicioso.
A empresa divulgou um relatório detalhando que observou as tendências de maus atores usando sua plataforma à medida que se torna mais popular. O OpenAI indicou que removeu dezenas de contas sobre a suspeita de usar o ChatGPT de maneiras não autorizadas, como “depurar código para gerar conteúdo para publicação em várias plataformas de distribuição”.
A empresa também anunciou recentemente atingir um marco de 400 milhões de usuários ativos semanais. A empresa detalhou que sua usuários aumentou mais de 100 milhões em menos de três meses, à medida que mais empresas e desenvolvedores utilizam suas ferramentas. No entanto, o ChatGPT também é um serviço gratuito que pode ser acessado globalmente. Como os aspectos morais e éticos de suas funções há muito tempo estão em questão, o OpenAI teve que chegar a um acordo com o fato de que existem entidades que têm motivos ocultos para a plataforma.
“As políticas da OpenAI proíbem estritamente o uso da produção de nossas ferramentas para fraude ou golpes. Através de nossa investigação sobre esquemas enganosos de emprego, identificamos e proibimos dezenas de contas ”, afirmou a empresa em seu relatório.
Em seu relatório, o Openai discutiu ter que desafiar ações nefastas que ocorreram no ChatGPT. A Companhia destacou vários estudos de caso, onde descobriu e tomou medidas, proibindo as contas que usam a ferramenta para intenções maliciosas.
Em um exemplo, o Openai detalhou uma conta que escreveu artigos de notícias sobre os EUA, com a fonte de notícias sendo publicada na América Latina sob o pretexto de uma publicação chinesa Byline.
Outro caso, localizado na Coréia do Norte, foi a geração de currículos e perfis de emprego para os candidatos a empregos. Segundo o Openai, a conta pode ter sido usada para se inscrever em empregos em empresas ocidentais.
Outro estudo descobriu relatos que se acredita ter se originado no Camboja, que usavam o ChatGPT para tradução e para gerar comentários em redes de “golpistas de romance”, que se infiltram em várias plataformas de mídia social, incluindo X, Facebook e Instagram.
A Openai confirmou que compartilhou suas descobertas com seus contemporâneos da indústria, como a Meta, que podem ser afetados inadvertidamente pelas ações que acontecem no ChatGPT.
.
