.
Em 2020, eu ajudou a criar o Sinal para Ajuda, um sinal de mão que comunica a amigos, familiares e espectadores que “preciso que você me verifique de maneira segura”. Nossa equipe promoveu o Sinal para Ajuda nas mídias sociais, antecipando um aumento relacionado à pandemia nas já altas taxas de violência de gênero, e se tornou viral em novembro de 2021 durante um período carregado de ansiedade, diretrizes de permanência em casa e proliferação de chamada de vídeo.
Casos de mulheres e meninas usando o Sinal de Ajuda para obter ajuda em situações perigosas viraram notícia. Por exemplo, uma mulher usou o Sinal para Ajuda durante uma batida de trânsito para obter ajuda com seu marido abusivo, e outra mulher o usou para notificar a equipe de um posto de gasolina que ela estava sendo mantida contra sua vontade por um ex-namorado violento. Como resultado, pessoas bem-intencionadas vêm tentando integrar o Sinal para Ajuda com a tecnologia digital. Uma empresa com ferramentas de câmera de IA entrou em contato para perguntar sobre o reconhecimento do Signal for Help em seu sistema de segurança, e houve tentativas amadoras semelhantes discutidas nas mídias sociais.
O apelo é claro: a detecção automática pode ser útil para um amigo ou colega de trabalho bem-intencionado do outro lado de uma videochamada que pode não ver alguém usando o Signal for Help. É admirável que as pessoas queiram ajudar aqueles que podem estar em perigo, mas essas novas aplicações de tecnologia não entendem o propósito e o uso do Sinal de Ajuda.
Esses esforços fazem parte de uma tendência crescente de usar a IA para reconhecer a angústia: experimentos identificando angústia em animais como galinhas, gado e porcos produzem resultados promissores porque a IA parece desembaraçar uma cacofonia de gritos, cacarejos e grunhidos de animais melhor do que o ouvido nu .
Mas os humanos não são galinhas ou gado. A intenção de abuso e controle pode transformar luditas em especialistas. Em relacionamentos perigosos, sempre há a questão de quem está no comando da tecnologia.
O Signal for Help é uma ferramenta intencionalmente efêmera, projetada para ajudar as pessoas a se comunicarem sem dizer uma palavra e sem deixar rastros digitais. Estou sendo ferido… não posso dizer em voz alta… você estará lá para mim enquanto eu descubro? A impermanência é uma característica importante, dada a maneira como os abusadores tendem a controlar e manipular. Eles espreitam e perseguem e monitoram dispositivos. Os abrigos para mulheres rotineiramente ajudam as sobreviventes a lidar com smartphones hackeados, aplicativos indesejados de rastreamento e gravação de voz, câmeras escondidas e similares. Quadros de mensagens, mídias sociais e até mesmo o boca-a-boca podem ajudar os abusadores a violar as pessoas que afirmam amar. No caso do Signal for Help, os abusadores podem usar o mesmo mecanismo de IA projetado para segurança para alertá-los de que a pessoa que estão prejudicando está tentando usar o Signal for Help.
E há outros problemas com ferramentas de IA para detectar angústia em humanos, que incluem software para escanear e-mails de alunos e pesquisas na web para automutilação e violência, além de identificar confusão, tédio e distração dos alunos em salas de aula virtuais. Além das preocupações éticas e de privacidade, sua implantação depende da crença de que podemos perceber com segurança alguém em apuros e agir de uma maneira que realmente os ajude. Essas ferramentas operam com base na crença positivista de que, quando um ser humano está em perigo, eles o expressam externamente de maneiras previsíveis. E quando o expressam, desejam um tipo específico de intervenção.
Mas a pesquisa mostra que nossa suposição de que as expressões faciais humanas se alinham às emoções não é algo em que possamos acreditar de todo o coração. Os desencontros entre corpo e emoção podem ser mais pronunciados em relacionamentos não saudáveis. As pessoas abusadas falam de dissociação, da necessidade de “deixar seus corpos” para sobreviver. Alguns referem-se ao esforço que levam para obscurecer sua ofensa, injúria e dor, que precisam fazer isso para aplacar os agressores e os espectadores que os apoiam. Eles falam sobre como estão conscientes de cada inflexão e contração, de como mastigam, piscam e respiram, e que são punidos quando simplesmente existem de uma maneira que irrita seus agressores.
.
