.
O Snapchat pode enfrentar uma multa de milhões de libras depois que o órgão de vigilância de dados do Reino Unido emitiu um aviso preliminar de execução sobre a suposta falha na avaliação dos riscos de privacidade que seu chatbot de inteligência artificial pode representar para os usuários e principalmente para as crianças.
O Gabinete do Comissário de Informação (ICO) disse ter descoberto provisoriamente que o proprietário do aplicativo de mídia social não conseguiu “identificar e avaliar adequadamente os riscos” para vários milhões de usuários do My AI no Reino Unido, incluindo entre jovens de 13 a 17 anos.
O Snapchat tem 21 milhões de usuários ativos mensais no Reino Unido e provou ser particularmente popular entre os grupos demográficos mais jovens, com a empresa de pesquisa de mercado Insider Intelligence estimando que 48% dos usuários têm 24 anos ou menos. Cerca de 18% dos usuários do Reino Unido têm entre 12 e 17 anos.
“As conclusões provisórias de nossa investigação sugerem uma falha preocupante do Snap [the parent of Snapchat] identificar e avaliar adequadamente os riscos de privacidade para crianças e outros usuários antes de lançar o My AI”, disse John Edwards, o comissário de informação.
A OIC disse que as conclusões de sua investigação eram provisórias e que a Snap tem até 27 de outubro para fazer representações antes que uma decisão final seja tomada sobre a ação.
“Nenhuma conclusão deve ser tirada nesta fase de que houve, de fato, qualquer violação da lei de proteção de dados ou que um aviso de execução será finalmente emitido”, disse o ICO.
Se um aviso final de execução for emitido, o Snap será forçado a interromper o processamento de dados relacionados ao My AI, o que significa que terá que ser bloqueado para clientes do Reino Unido até que a empresa realize uma “avaliação de risco adequada” do serviço.
Embora a prioridade da ICO seja impedir quaisquer possíveis violações de privacidade e garantir que o My AI esteja em conformidade, ela também tem o poder de cobrar uma multa de até 4% do volume de negócios global – a Snap faturou US$ 4,6 bilhões (£ 3,8 bilhões) em receitas globais no ano passado – ou um máximo de £ 17,5 milhões.
O serviço My AI é alimentado pela tecnologia GPT da OpenAI, que tem estado na vanguarda da corrida armamentista global de inteligência artificial, e seu lançamento marcou o primeiro exemplo de IA generativa sendo incorporada em uma importante plataforma de mensagens no Reino Unido.
“Fomos claros que as organizações devem considerar os riscos associados à IA, juntamente com os benefícios”, disse Edwards. “O aviso preliminar de aplicação de hoje mostra que tomaremos medidas para proteger os direitos de privacidade dos consumidores do Reino Unido.”
A Snap lançou o recurso My AI para usuários do Snapchat+, o serviço de assinatura do site de mídia social, em fevereiro. Ele foi lançado para toda a sua base de usuários em abril.
“Estamos revisando de perto a decisão provisória da OIC”, disse um porta-voz do Snap. “Tal como a ICO, estamos empenhados em proteger a privacidade dos nossos utilizadores.
“Em linha com a nossa abordagem padrão para o desenvolvimento de produtos, o My AI passou por um processo robusto de revisão jurídica e de privacidade antes de ser disponibilizado publicamente. Continuaremos a trabalhar de forma construtiva com a OIC para garantir que eles se sintam confortáveis com nossos procedimentos de avaliação de risco.”
.
