A Amazon revelou um recurso experimental do Alexa que permite que o assistente de IA imite as vozes dos parentes mortos dos usuários.
A empresa fez uma demonstração do recurso em sua conferência anual MARS, mostrando um vídeo em que uma criança pede a Alexa para ler uma história de ninar na voz de sua avó morta.
“Como você viu nesta experiência, em vez da voz de Alexa lendo o livro, é a voz da avó da criança”, disse Rohit Prasad, cientista-chefe da Amazon para Alexa AI. Prasad apresentou o clipe dizendo que adicionar “atributos humanos” aos sistemas de IA era cada vez mais importante “nestes tempos de pandemia em andamento, quando muitos de nós perdemos alguém que amamos”.
“Embora a IA não possa eliminar a dor da perda, ela pode definitivamente fazer suas memórias durarem”, disse Prasad. Você pode assistir a demonstração abaixo:
A Amazon não deu nenhuma indicação se esse recurso será tornado público, mas diz que seus sistemas podem aprender a imitar a voz de alguém a partir de apenas um minuto de áudio gravado. Em uma era de vídeos e notas de voz abundantes, isso significa que está ao alcance do consumidor médio clonar as vozes de seus entes queridos — ou de qualquer outra pessoa que eles gostem.
Embora isso aplicação específica já é controversa, com usuários nas mídias sociais chamando o recurso de “assustador” e uma “monstruosidade”, tal imitação de voz de IA se tornou cada vez mais comum nos últimos anos. Essas imitações são frequentemente conhecidas como “deepfakes de áudio” e já são usadas regularmente em indústrias como podcasting, cinema e TV e videogames.
Muitas suítes de gravação de áudio, por Por exemplo, oferecer aos usuários a opção de clonar vozes individuais de suas gravações. Dessa forma, se um apresentador de podcast errar sua fala, por exemplo, um engenheiro de som pode editar o que disse simplesmente digitando um novo script. Replicar linhas de fala contínua requer muito trabalho, mas edições muito pequenas podem ser feitas com apenas alguns cliques.
A mesma tecnologia também foi usada em filmes . No ano passado, foi revelado que um documentário sobre a vida do chef Anthony Bourdain, que morreu em 2018, usou IA para clonar sua voz para ler citações de e-mails que ele enviou. Muitos fãs ficaram enojados com a aplicação da tecnologia, chamando-a de “macro” e “enganosa”. Outros defenderam o uso da tecnologia como semelhante a outras reconstruções usadas em documentários.
Prasad, da Amazon, disse que o recurso pode permitir que os clientes tenham “relacionamentos pessoais duradouros” com o falecido, e certamente é verdade que muitas pessoas ao redor do mundo já estão usando IA para este fim. As pessoas já criaram chatbots que imitam entes queridos mortos, por exemplo, treinando IA com base em conversas armazenadas. Adicionar vozes precisas a esses sistemas – ou mesmo avatares de vídeo – é totalmente possível usando a tecnologia de IA de hoje e provavelmente se tornará mais difundido.
No entanto, se ou não, os clientes vão querer que seus entes queridos mortos se tornem fantoches de IA digital é outra questão.
