.
O Bumble só pode protegê-lo de fotos de pau em seus próprios aplicativos. Mas agora sua IA de detecção de imagens, conhecida como Detector Privado, pode dar a todos os aplicativos o poder de desligar os cyberflashes para você.
Lançado pela primeira vez em 2019 exclusivamente nos aplicativos do Bumble, o Private Detector desfoca automaticamente imagens inadequadas e avisa sobre possíveis indecências recebidas. Isso lhe dá a chance de visualizar, bloquear ou até mesmo denunciar a imagem. Na segunda-feira, o Bumble lançou uma versão acelerada do Private Detector na internet, oferecendo a ferramenta gratuitamente para criadores de aplicativos em todos os lugares por meio de um repositório de código aberto.
Consulte Mais informação: Bumble usará IA para protegê-lo de fotos indesejadas de pau
O Private Detector alcançou mais de 98% de precisão durante os testes offline e online, disse a empresa, e a iteração mais recente foi voltada para eficiência e flexibilidade para que uma ampla gama de desenvolvedores possa usá-lo. O pacote de código aberto do Private Detector inclui não apenas o código-fonte para desenvolvedores, mas também um modelo pronto para uso que pode ser implantado como está, extensa documentação e um white paper sobre o projeto.
“A segurança está no centro de tudo o que fazemos e queremos usar nossos produtos e tecnologia para ajudar a tornar a internet um lugar mais seguro para as mulheres”, disse Rachel Hass, vice-presidente de segurança de membros do Bumble, por e-mail. “O código aberto desse recurso é sobre permanecermos firmes em nossa convicção de que todos merecem relacionamentos saudáveis e justos, interações respeitosas e conexões gentis online”.
Bumble disse que a década de trabalho de aprendizado de máquina da empresa permitiu que ela criasse uma nova arquitetura flexível para sua rede neural Private Detector que é mais rápida e precisa do que sua iteração de 2019. Uma novidade no Private Detector é um classificador binário baseado em EfficientNetv2 que aumenta a velocidade e a eficiência de treinamento do detector, enquanto trabalha em conjunto com as outras camadas da ferramenta para uma execução geral mais rápida.
Bumble
O modelo de IA do Detector Privado não é a única estratégia do Bumble para combater o assédio sexual online e o cyberflashing. A empresa fez lobby repetidamente por uma legislação destinada a impedir os usuários de câmeras menos desejáveis do mundo. Em uma pesquisa de 2018, o Bumble descobriu que uma em cada três mulheres no Bumble recebeu fotos lascivas não solicitadas de alguém e que 96% não ficaram felizes em ver essas fotos. Desde então, Bumble fez lobby com sucesso para obter leis anti-ciberflash nos livros no Texas e na Virgínia e atualmente está promovendo medidas semelhantes em outros quatro estados.
“O Bumble foi um dos primeiros aplicativos a abordar o cyberflashing, dando à nossa comunidade o poder de decidir consensualmente se eles gostariam de ver certas fotos e criando um padrão de segurança, caso contrário. Estamos trabalhando para lidar com o cyberflashing e ajudar a criar mais responsabilidade online há anos, mas esse problema é maior do que apenas uma empresa”, disse Payton Iheme, chefe de políticas públicas da Bumble.
“Não podemos fazer isso sozinhos.”
E a empresa pode não precisar. Ao oferecer o Private Detector gratuitamente, o Bumble pode ter convocado um enxame de apoio à sua causa.
.
