27/09/2023

O Impacto dos Deepfakes na sociedade e na prevenção à fraude 

Conheça o mundo dos deepfakes, seus usos, riscos e como podemos nos proteger dessa nova forma de manipulação digital. 

Indira Bovolenta Indira Bovolenta
Conheça o mundo dos deepfakes, seus usos, riscos e como podemos nos proteger dessa nova forma de manipulação digital. 

Nos últimos anos, a tecnologia de deep learning avançou de maneira surpreendentemente, permitindo a criação de vídeos e imagens manipuladas tão realistas que é difícil distinguir entre o que é genuíno e o que é falso. Essa revolução tecnológica deu origem aos chamados “deepfakes”, uma combinação das palavras “deep learning” e “fake”, que se referem a vídeos, imagens ou áudios criados por algoritmos de inteligência artificial (IA) para parecerem autênticos, mas que, na realidade, são fabricados. 

O que são Deepfakes? 

Deepfakes são conteúdos de mídia sintética, criados usando algoritmos de aprendizado profundo (deep learning) especialmente redes neurais convolucionais (CNNs) e redes neurais generativas adversariais (GANs), que podem manipular de forma convincente áudios, vídeos ou imagens para que pareçam autênticos. Eles são treinados com grandes conjuntos de dados de imagens e vídeos para aprenderem a replicar características humanas, como expressões faciais, vozes e gestos e frequentemente usados para substituir rostos em vídeos, dublar vozes e até mesmo criar vídeos de pessoas fazendo ou dizendo coisas que nunca fizeram. 

Usos e Aplicações 

Inicialmente, os deepfakes ganharam notoriedade por sua capacidade de criar vídeos falsos para a indústria de conteúdo adulto com personagens que se assemelham a celebridades. No entanto, suas aplicações vão muito além disso: 

  1. Cinema e Entretenimento: Deepfakes podem ser usados para trazer atores falecidos de volta à tela ou para rejuvenescer atores mais velhos, abrindo novas possibilidades na indústria cinematográfica. Como é o caso do ator da famosa trilogia de Velozes e Furiosos, Paul Walker, que faleceu durante as gravações de um dos filmes e teve a última cena do filme criada com tecnologia DeepFake; 
  1. Marketing e Publicidade: Empresas podem usar deepfakes para criar anúncios com celebridades ou porta-vozes digitais; 
  1. Política: Deepfakes podem ser usados para criar discursos falsos de políticos, levantando preocupações sobre a disseminação de desinformação. Recentemente circulou nas redes sociais um vídeo de uma cantora famosa se posicionando à favor de uma vertente política e ela foi extremamente criticada pelos seus fãs, forçando-a se posicionar para esclarecer o “mal-entendido”.  

Riscos e Ética 

Para além dessas aplicações citada acima, o mercado tem se preocupado com as implicações éticas e até mesmo judiciais dessa nova tecnologia.  

Os deepfakes levantam sérios riscos, incluindo: 

  1. Desinformação e Manipulação: Deepfakes podem ser usados para difundir informações falsas e enganosas, prejudicando a confiança pública e a democracia.  
    Exemplo: pode-se criar um deepfake simulando o depoimento de uma testemunha em um caso judicial; 
  1. Privacidade: A tecnologia pode ser usada para criar vídeos íntimos falsos de indivíduos, violando sua privacidade e causando danos irreparáveis. 
    Exemplo: vídeos da indústria de filmes adultos com personagens de pessoas famosas, politicamente expostas ou até mesmo pessoas sem qualquer exposição pública, mas que tenha por alguma razão alguém que queira prejudicá-la; 
  1. Segurança Nacional: Deepfakes podem ser usados para fins de espionagem ou sabotagem, representando uma ameaça à segurança nacional. 

Combate aos Deepfakes 

Para combater os deepfakes, é essencial investir em: 

  1. Educação Pública: Educar as pessoas sobre os riscos dos deepfakes e como identificá-los; 
  1. Regulamentação: Implementar regulamentações que limitem o uso irresponsável de deepfakes; 
  1. Detecção de Deepfakes: Desenvolver tecnologias avançadas de detecção para identificar conteúdo falsificado. 

Aqui na Who investimos em tecnologia avançada para identificação de Deepfake nos processos de onboarding para mitigar esses riscos para nossos clientes para que eles possam usufruir dos benefícios da IA sem cair nas armadilhas dos deepfakes. 

Quer saber mais sobre nossas tecnologias? Entre em contato com um especialista da Who.