Imagine poder criar vídeos em que os visualizadores não consigam sequer distinguir se os personagens e suas falas são reais ou apenas fruto da criação de um programa de computador. Essa é, basicamente, a essência dos deepfakes, conteúdos gerados através de Inteligência Artificial (IA) que hoje são cada vez mais comuns nas redes sociais e em outros ambientes online. Eles estão no centro de um debate mundial por essa capacidade de alterar rostos e vozes e enganar até os olhos mais atentos. Para entender melhor esse conceito, vamos explicar como ele surgiu.

A palavra deepfake, de acordo com os pesquisadores Gabriel Soella e Giovana Maimone, da Universidade de São Paulo, tem origem na combinação dos termos "Deep Learning" e "fake". Começando pelo primeiro, que em tradução livre seria "Aprendizado Profundo", em português, trata-se de um nível mais apurado do "Machine Learning", expressão que define a capacidade que algumas máquinas têm de aprender através de sucessivas interações. Geralmente esse processamento usa redes neurais, estruturas baseadas na lógica de funcionamento do cérebro humano. Já a palavra "fake" designa conteúdos com informações falsas – ela é muito usada na expressão "fake news", por exemplo. 

Há diferentes tipos de deepfakes. Nos conteúdos de áudio, técnicas avançadas de clonagem de voz criam mídias sintéticas que podem ser extremamente difíceis de distinguir de gravações autênticas. O Tik Tok fez isso com o filtro de voz da cantora Ludmilla, por exemplo. Outro caso é o da radialista mineira Gisele Souza, que desde 2020 enfrenta uma batalha judicial contra o uso da sua própria voz em anúncios de campanhas das quais ela nunca concordou em participar.  

Já quando se fala em textos, há o emprego de algoritmos de processamento de linguagem natural para criar conteúdos falsos que imitam o estilo de escrita de uma pessoa. A evolução das tecnologias permite até mesmo lives falsas, nas quais são alterados rostos e vozes em transmissões ao vivo. 

Manipulação e desinformação

Todos esses tipos de conteúdo colocam em risco a credibilidade de fontes confiáveis, influenciando negativamente a opinião pública em tempo real. Os deepfakes não são apenas uma ferramenta de manipulação visual, mas uma ameaça multifacetada que pode impactar diretamente a confiança nas mídias digitais e nas interações humanas online. 

Originalmente, criar deepfakes exigia conhecimentos técnicos avançados e equipamentos caros. Mas hoje qualquer pessoa com um computador comum pode fazê-lo. Isso levou a uma avalanche de vídeos falsos de figuras públicas em situações falsas ou até mesmo em conteúdos pornográficos. 

Os impactos disso são enormes, uma vez que pode ocorrer a distorção da percepção pública e até influenciar em resultados eleitorais, criando uma atmosfera de desconfiança e incerteza. No Brasil, tivemos casos como o vídeo falso envolvendo a jornalista Renata Vasconcellos. Nos Estados Unidos, ficou célebre um conteúdo artificial com a presidente da Câmara dos Deputados, Nancy Pelosi, que foi amplamente compartilhado para desacreditá-la.

Empresas também podem ser vítimas de fraudes sofisticadas, em que vídeos falsos de CEOs ou outros executivos são usados para enganar funcionários e causar perdas financeiras enormes. Outro ponto preocupante é o uso em ataques pessoais. Figuras públicas e até cidadãos comuns podem ser alvos de vídeos falsos que comprometem sua honra, colocando-os em situações embaraçosas ou perigosas. A capacidade de criar esses vídeos de forma simples e barata apenas aumenta o risco de que mais pessoas sejam expostas.

Não podemos ignorar, também, os efeitos psicológicos. A exposição repetida a deepfakes pode levar a um estado de constante paranoia e dúvida, onde qualquer vídeo, mesmo os legítimos, passa a ser visto com certa suspeita. Isso pode desestabilizar ainda mais as relações sociais e políticas, dificultando o diálogo e a cooperação entre indivíduos, sociedade e nações.

Recurso permite inovações no Marketing

Os deepfakes, no entanto, também têm seu lado positivo. No Marketing, por exemplo, eles podem ser (e já estão sendo) uma revolução. Empresas e marcas estão descobrindo como essa tecnologia pode oferecer novas oportunidades criativas e de personalização em campanhas publicitárias.

Uma das maiores vantagens dessa tecnologia é a capacidade de personalizar conteúdos. Marcas podem criar anúncios que são adaptados a diferentes públicos de forma extremamente específica. A fintech Nomad usou deepfakes para criar uma campanha com o ator Will Smith, regionalizando os anúncios para diferentes mercados internacionais, ajustando sotaques, expressões faciais e até mesmo o estilo de comunicação para melhor ressoar com cada audiência. Isso aumenta a conexão com o público e a eficiência das campanhas.

A tecnologia também permite recriar cenas clássicas ou trazer de volta figuras históricas para novas campanhas. Um exemplo impressionante é o da propaganda brasileira da montadora Volkswagen, veiculada em 2023. Nela foi recriada a imagem da cantora Elis Regina, falecida em 1982, para participar de um comercial junto com sua filha, Maria Rita. Esse uso gerou uma conexão emocional profunda com o público.

Outro recurso disponível para as empresas é a criação de experiências interativas e personalizadas. Um consumidor pode, por exemplo, interagir com uma versão digital de si mesmo(a) em um provador virtual, experimentando roupas antes de comprá-las online. Isso não só melhora a experiência de compra, mas também aumenta a probabilidade de conversão (aproximação do consumidor da decisão de fechar o negócio). 

Fora do campo do Marketing, deepfakes têm potencial em áreas como educação e treinamento corporativo. A criação de avatares realistas pode ser usada, por exemplo, para treinar funcionários ou simular situações complexas que seriam difíceis ou perigosas de reproduzir no mundo real.

Efeitos dependem da forma como é usado

Todas essas aplicações mostram que a tecnologia, quando empregada de forma ética, tem o potencial de transformar positivamente vários setores, oferecendo diferentes formas de engajamento e inovação. No entanto, é crucial que esse poder seja equilibrado com uma responsabilidade significativa para evitar abusos.

A criação de deepfakes, portanto, não é um risco em si, mas seu uso de forma mal-intencionada é um problema legal, ético e moral. Precisamos de medidas regulatórias e tecnológicas rigorosas para combater os usos indevidos. Felizmente, iniciativas governamentais como a recente aprovação da Lei da Inteligência Artificial, na União Europeia, visam regulamentar e mitigar os riscos associados a essas tecnologias. 

As aplicações positivas e inovadoras do deepfake já estão transformando o Marketing e a comunicação global. O segredo é buscar o equilíbrio em seu uso. Terminamos com a frase atribuída ao médico e físico suíço-alemão Paracelso, que viveu no século XVI: "a diferença entre o remédio e o veneno está na dose".