Ferramenta que ‘substitui’ os rostos já foi utilizada em fraudes

O termo deepfake se refere a uma mídia criada com inteligência artificial. Ou seja, uma síntese sintética que gera uma imagem. Conhecida por ser utilizada na criação de imagem e de áudio, também pode ser aplicada em outros setores, como na área da saúde. Seu desenvolvimento e até um possível impacto nas eleições foram alvo de um painel na SET EXPO 2022.

Diego Piffaretti, líder de segurança ofensiva e especialista em segurança da informação da Globo, mostrou o começo da tecnologia e exibiu vídeos de Bruno Sartori, jornalista, deepfaker e CEO da  FaceFactory.AI, que se popularizou nas redes sociais utilizando o recurso.

“Fazemos o material para substituir o rosto e, depois, mudamos o timbre da voz. É uma transferência. Primeiro temos a voz pré-gravada e depois mudamos para o timbre da pessoa desejada. Copiamos o rosto e a inserção do lábio para conseguir fazer o personagem falar o que precisamos”, explicou Bruno.

Fernando Ribeiro, especialista em tecnologia e inovação da Globo, mostrou como a emissora também utiliza o deepfake. “Existe uma evolução técnica muito grande em um curto espaço de tempo. As ferramentas utilizadas também melhoraram e permitiram que tivéssemos essas ações. A primeira foi com o cantor Daniel no programa Encontro, em dezembro de 2019. A última na Casa Kalimann, em maio de 2021”, disse.

Por outro lado, Diego também apontou como a ferramenta já foi utilizada em fraudes: um homem se passou por prefeito de Kiev em uma chamada de vídeo com a prefeita de Berlim e a cantora Anitta teve seu rosto inserido em um vídeo pornográfico.

O histórico recente levanta a possibilidade de utilização na tentativa de enganar o eleitor brasileiro nas eleições de outubro. “Não podemos imaginar que não vai acontecer. Podemos ter gente já trabalhando nessa produção de conteúdo para ludibriar. O que vai acabar rodando muito é a voz sintética, que é mais acessível. Não vem com tanta qualidade, porém, ao ser enviada por whatsapp, pode chegar em quem acredite no falso conteúdo”, contou Bruno.

“O político direcionado para a câmera, com uma iluminação neutra, gera um material adequado para esse tipo de processamento”, complementou Fernando.

Por fim, também foram discutidas algumas das tendências para o futuro. É possível que, em breve, você consiga inserir seu rosto em um ator e ‘se assistir’ em uma novela. Assim como esse recurso também pode ser utilizado para aumentar as opções dos golpes virtuais.