.
O Google lançou mais luz sobre como está usando dados privados de sensores em seu telefone Android para atualizar seus recursos de aprendizado de máquina, como o Live Translate, sem enviar dados privados para seus servidores em nuvem.
Em setembro passado, o Google apresentou o Live Caption, Now Playing e Smart Reply como recursos do Private Compute Core (PCC) do Android, que vive em uma caixa de areia virtual isolada no Android 12 e em diante, protegendo o PCC e seus recursos do sistema operacional e aplicativos.
Ele também introduziu e, mais recentemente, Private Compute Services (PCS) de código aberto, um “caminho privado” para atualizar e melhorar os modelos de aprendizado de máquina sem atropelar a privacidade do usuário. Os dados tratados no PCC vão via PCS para a nuvem do Google.
A empresa agora deu uma descrição mais detalhada sobre a arquitetura do PCC, incluindo um artigo técnico publicado recentemente, que visa construir confiança por meio da transparência.
“O PCC permite que os recursos se comuniquem com um servidor para receber atualizações de modelo e contribuir para o treinamento de modelo global por meio de Private Compute Services (PCS), cujo núcleo é de código aberto”, explica o Google no artigo.
Além disso: siga esta regra simples para melhorar a segurança do telefone
Como observam os engenheiros do Google, o PCC pode hospedar recursos sofisticados de ML – como Live Caption e Smart Reply, bem como a desativação da tela quando o usuário desvia o olhar – por causa dos limites colocados nele. O PCC lida com muitos dados confidenciais coletados do dispositivo, incluindo áudio, imagem, texto, dados de aplicativos do sistema operacional e dados de sensores, incluindo microfone, câmera e GPS.
“Os próprios recursos hospedados, executados no PCC, podem ser de código fechado e atualizáveis. Dessa forma, o PCC permite que os recursos de aprendizado de máquina processem dados do ambiente e do sistema operacional e melhorem com o tempo, enquanto restringem a disponibilidade de informações sobre usuários individuais para servidores ou aplicativos”, explicam os engenheiros do Google.
Os dados do ambiente e do sistema operacional incluem: dados brutos dos sensores do dispositivo, como a câmera ou o microfone ou o conteúdo da tela; dados gerados a partir de análises ou inferências com base em dados no nível do sistema operacional; e metadados.
Os engenheiros do Google Dave Kleidermacher, Dianne Hackborn e Eugenio Marchiori explicam em um blog que está usando aprendizado federado e análise federada para atualizar os modelos de ML por trás dos recursos do PCC, mantendo os dados privados. Além disso, as chamadas de rede para melhorar o desempenho desses modelos podem ser monitoradas com o PCS.
“O paradigma da confiança distribuída, em que a credibilidade é construída a partir da verificação por várias fontes confiáveis, continua a estender esse valor central. Abrir o código dos mecanismos para proteção de dados e processos é um passo para tornar a privacidade verificável”, observam.
PCS é um APK, que fornece interfaces de protocolo de aplicativo para componentes PCC. O documento observa que o aprendizado federado e a análise federada do PCS permitem “aprendizagem e análise de máquina que preservam a privacidade sem coleta de dados centralizada”.
Também: Trabalhos de segurança cibernética: cinco maneiras de ajudá-lo a construir sua carreira
O Android está enviando dados agregados de muitos dispositivos para a nuvem do Google, mas apenas na forma de resultados de computação após a computação ocorrer no dispositivo usando dados armazenados localmente. Como o aprendizado federado é difícil de explicar, o Google vincula-se a seu próprio quadrinho explicando como ele funciona.
“As técnicas subjacentes envolvem enviar um gráfico de computação (por exemplo, modelo de aprendizado de máquina) para o dispositivo, computar os dados armazenados localmente e enviar apenas os resultados da computação de volta”, observa o Google no documento técnico.
“Os resultados de muitos dispositivos são agregados e usados para melhorar os recursos do dispositivo e a experiência do usuário. Os resultados de cada dispositivo individual são protegidos de serem vistos pelo servidor de orquestração por meio do uso do protocolo de computação multipartidário Secure Aggregation, garantindo que apenas agregados em muitos (por exemplo, milhares) de dispositivos são disponibilizados para servidores e desenvolvedores de modelos/recursos.”
O Google está convidando pesquisadores para analisar suas reivindicações e suas implementações dos recursos do PCC detalhados no documento técnico.
.
