O Que é Deepfake e Como se Proteger de Golpes com Inteligência Artificial 

Deepfake é uma tecnologia que utiliza inteligência artificial (IA) para criar vídeos e áudios falsos, mas que são altamente convincentes. Diante de olhos um pouco mais desatentos, alguns desses conteúdos conseguem transmitir uma impressão de autenticidade muito grande. Com o avanço cada vez mais acelerado da IA, as ferramentas para produção de vídeos e áudios com grau de realismo impressionante estão cada vez mais baratas e acessíveis. Na maioria das vezes, a utilização desses recursos acaba sendo direcionada para a aplicação de golpes ou a disseminação de informações falsas, as chamadas fake news. 

O termo deepfake é uma combinação de “deep learning” (aprendizado profundo) e “fake” (falso). Esta técnica sofisticada permite a substituição de rostos e a sincronização de vozes em vídeos, criando conteúdo que parece autêntico, mas que na verdade é manipulado digitalmente. Neste artigo, vamos falar um pouco mais sobre essa tecnologia e quais cuidados tomar para se proteger de golpes que utilizam a inteligência artificial. 

Como funcionam as Deepfakes?

As deepfakes são produzidas por meio de redes neurais artificiais, capazes de realizar o processo de deep learning, ou aprendizado profundo, para analisar e replicar expressões faciais, movimentos e nuances de voz de indivíduos. A partir de uma quantidade significativa de dados visuais e auditivos, a IA aprende a imitar com precisão os padrões de comportamento de uma pessoa. Uma vez treinada, a IA pode gerar vídeos ou áudios falsos onde a pessoa parece estar dizendo ou fazendo algo que nunca aconteceu. 

A IA pode gerar diversos tipos de deepfake. Os formatos mais visados para a utilização em golpes são vídeo e áudio. Em vídeo, é possível fazer a manipulação de gravações autênticas para substituir rostos e sincronizar movimentos labiais com áudio falso. O resultado pode ser realmente impactante, com a maioria das pessoas sendo incapazes de perceber as nuances ou detalhes que denunciam a manipulação. Em áudio, é possível reproduzir com precisão a voz de uma pessoa, criando gravações em que ela parece dizer coisas que nunca falou. 

Uma das aplicações mais sofisticadas e perigosas ocorre em tempo real, com a alteração de rostos e vozes durante transmissões ao vivo, enganando espectadores ou participantes de videoconferências. Além disso, as deepfakes também pode aparecer em forma de texto, imitando o estilo de escrita de indivíduos específicos para criar artigos ou e-mails falsos. Há ainda a manipulação de fotos, muito utilizada em perfis falsos nas redes sociais.  

Como identificar Deepfakes?

Identificar uma deepfake pode ser complicado. Até mesmo as pessoas mais atentas acabam sendo suscetíveis a acreditar em conteúdos falsos produzidos com alto padrão de tecnologia. No entanto, algumas dicas simples podem ajudar a evitar o engano e a fugir de golpes no dia a dia: 

• Verifique a fonte: Se o conteúdo vier de uma fonte não verificável ou suspeita, desconfie de sua autenticidade. Procure fontes confiáveis para confirmar a informação recebida.

• Examine a sincronização dos lábios: Movimentos labiais que não estão perfeitamente alinhados com o áudio podem indicar manipulação.

• Preste atenção nos olhos: Os olhos falsos são os principais causadores do “vale da estranheza”, aquela sensação de que alguma coisa não está totalmente natural. Deepfakes costumam falhar em replicar o piscar genuíno, e movimentos oculares estranhos devem despertar desconfiança.  

• Analise a qualidade da imagem: Inconsistências na resolução, como pixels aparentes, especialmente ao redor do rosto, podem indicar a presença de edição digital. 

Quais são os riscos causados pelas deepfakes? 

Em uma sociedade cada vez mais dependente da informação e da tecnologia como a nossa, as deepfakes representam uma ameaça significativa em vários setores, devido a sua capacidade de enganar até mesmo os observadores mais atentos.  

Essa tecnologia já vem sendo empregada em golpes sofisticados, capazes de movimentar quantias vultuosas de dinheiro. Golpistas podem utilizar deepfakes para imitar executivos de empresas e persuadir funcionários a fazer transferências de valores. De acordo com a plataforma de segurança Sumsub, a incidência de deepfakes em fraudes financeiras aumentou 700% apenas em 2023. 

No dia a dia, cidadãos comuns também podem ser induzidos pelas deepfakes a realizar transferências de valores menores, a partir de vídeos ou áudios falsos que imitam pessoas conhecidas. Com a evolução dessa tecnologia, é preciso tomar cada vez mais cuidado com pedidos de empréstimo ou transferência por pix, ainda que a imagem ou a voz remetam com perfeição às de uma pessoa de confiança.  

No meio corporativo, os deepfakes podem interferir em alguns processos rotineiros, como a realização de reuniões em videoconferências. Um caso se tornou notório no início deste ano, quando golpistas utilizaram a tecnologia para enganar um funcionário de uma multinacional em Hong Kong, por meio de uma chamada de vídeo falsa.  

Através do deepfake, os golpistas se passaram por diretores da companhia, e convenceram o funcionário desavisado a realizar 15 transferências bancárias, resultando em um prejuízo de R$ 129 milhões. Diante dessas ameaças, as empresas precisam avaliar a adoção de protocolos de segurança, como o uso de plataformas confiáveis e autenticação de participantes por meio de certificados digitais. 

Além disso, as deepfakes podem ser usadas para espalhar notícias falsas e manipular a opinião pública. Indivíduos e empresas se tornam alvo de campanhas difamatórias com base em conteúdo falsificado. As deepfakes também podem manipular situações comprometedoras, impactando a privacidade das vítimas. 

Empresas devem atuar para combater as deepfakes 

O Grupo Soluti acredita que as empresas devem implementar políticas rigorosas para verificar a autenticidade de comunicações sensíveis. Por meio da adoção de recursos avançados no tratamento e compartilhamento de informações, conseguimos garantir a veracidade dos dados movimentados no dia a dia da organização. O fluxo de informações utiliza estritamente os canais e plataformas escolhidos pela empresa, como forma de garantir a integridade e evitar possíveis fraudes. 

Além disso, investimos fortemente na conscientização dos nossos colaboradores sobre novas modalidades de golpes e fraudes. Compreender o que são deepfakes, como identificá-las e adotar medidas preventivas é imprescindível em nosso cenário atual. O Grupo Soluti seguirá vigilante para evitar e combater qualquer tipo de ameaça causada pela utilização indevida da tecnologia.