Thiago Henrique Pessoa — Mestrando FGV EAESP

Resumo

O avanço das tecnologias de inteligência artificial generativa ampliou a capacidade de criação, síntese e manipulação de conteúdos audiovisuais altamente realistas. Nesse contexto, o termo deepfake passou a ser empregado para designar diferentes formas de conteúdo sintético, frequentemente associado a fraude, desinformação e manipulação. Este artigo propõe uma análise conceitual e tecnológica do fenômeno, buscando distinguir mídia sintética, como categoria mais ampla, de deepfake, como manifestação específica que pode assumir diferentes finalidades e graus de manipulação. A análise parte da evolução das redes neurais profundas e examina arquiteturas e modelos empregados na geração e manipulação de conteúdo, com destaque para redes neurais convolucionais, redes recorrentes, Transformers, autoencoders e Generative Adversarial Networks. Também são analisadas quatro modalidades recorrentes de manipulação: troca de rostos, reencenação facial, geração de faces falantes e edição de atributos faciais, além da síntese facial. A partir da literatura selecionada, propõe-se compreender o fenômeno por três dimensões analíticas: relação entre conteúdo original e conteúdo gerado, intenção de uso e granularidade da manipulação. Por fim, o artigo examina a resposta regulatória brasileira, especialmente as Resoluções TSE nº 23.732/2024 e nº 23.755/2026, argumentando que a regulação tende a se concentrar nos efeitos, na finalidade e no risco do conteúdo, e não exclusivamente na tecnologia empregada. Conclui-se que a distinção entre mídia sintética e deepfake é relevante para evitar que a tecnologia seja confundida com o uso potencialmente abusivo que dela se faz.

Palavras-chave: deepfake; mídia sintética; inteligência artificial generativa; deep learning; síntese digital; manipulação audiovisual.

Abstract

The advancement of generative artificial intelligence technologies has expanded the ability to create, synthesize, and manipulate highly realistic audiovisual content. In this context, the term deepfake has been used to describe different forms of synthetic content and is frequently associated with fraud, disinformation, and manipulation. This article proposes a conceptual and technological analysis of the phenomenon, distinguishing synthetic media as a broader category from deepfake as a specific manifestation that may involve different purposes and degrees of manipulation. The analysis considers the development of deep neural networks and examines architectures and models used to generate and manipulate content, with emphasis on convolutional neural networks, recurrent neural networks, Transformers, autoencoders, and Generative Adversarial Networks. Four recurring forms of manipulation are also examined: face swapping, face reenactment, talking face generation, and facial attribute editing, in addition to facial synthesis. Based on the selected literature, the article proposes three analytical dimensions: the relationship between original and generated content, the intention of use, and the granularity of manipulation. Finally, the article examines the Brazilian regulatory response, especially TSE Resolutions No. 23.732/2024 and No. 23.755/2026, arguing that regulation tends to focus on effects, purpose, and risk rather than exclusively on the technology employed. The article concludes that distinguishing synthetic media from deepfakes is important to avoid conflating the technology itself with potentially abusive uses of that technology.

Keywords: deepfake; synthetic media; generative artificial intelligence; deep learning; digital synthesis; audiovisual manipulation.

1. Introdução

A evolução recente da inteligência artificial modificou de forma significativa a capacidade dos sistemas computacionais de reconhecer, classificar, gerar e manipular informações. Embora os fundamentos das redes neurais artificiais remontem a trabalhos anteriores, a década de 2010 marcou uma mudança qualitativa no desempenho de sistemas de aprendizagem profunda aplicados à visão computacional. Em 2012, o trabalho de Krizhevsky, Sutskever e Hinton demonstrou o potencial das redes convolucionais profundas no reconhecimento de imagens, contribuindo para a rápida expansão do Deep Learning. Posteriormente, He et al. (2015) relataram erro top-5 de 4,94% no ImageNet, resultado inferior à estimativa de desempenho humano de 5,1% utilizada pelos autores como referência. Em 2016, He et al. alcançaram 3,57% de erro top-5 com uma rede residual em conjunto de modelos, consolidando a evolução das redes profundas em reconhecimento visual. Essa trajetória tecnológica é relevante para compreender o surgimento da mídia sintética contemporânea. A mesma capacidade de aprender padrões visuais, sonoros e linguísticos que permite classificar informações também pode ser utilizada para produzir novas representações ou modificar conteúdos existentes. LeCun, Bengio e Hinton (2015) destacam que o Deep Learning permite a aprendizagem de representações em múltiplos níveis de abstração, enquanto Goodfellow et al. (2014) demonstram, com as GANs, a possibilidade de estruturar modelos voltados à geração de novas amostras. A discussão sobre deepfake, entretanto, não é exclusivamente tecnológica. O próprio termo surgiu em 2017, em comunidades do Reddit associadas à produção de vídeos de troca de rostos, inicialmente em conteúdo pornográfico não consensual (de Seta, 2021; Rauchfleisch; Vogler; de Seta, 2025). A origem do termo contribuiu para que deepfake adquirisse forte conotação negativa. Essa associação, contudo, não significa que toda mídia sintética seja produzida com finalidade maliciosa. Rauchfleisch, Vogler e de Seta (2025) mostram que os termos deepfake e synthetic media produzem enquadramentos diferentes na percepção pública e que synthetic media funciona como categoria mais ampla, abrangendo aplicações que podem apresentar riscos, mas também benefícios. Nesse ponto emerge o problema central deste artigo: a tecnologia que permite produzir uma representação sintética altamente realista deve ser confundida com a finalidade para a qual essa representação é produzida ou utilizada? A pergunta é relevante porque a mesma infraestrutura técnica pode sustentar aplicações de entretenimento, educação, acessibilidade, pesquisa e comunicação, mas também fraude, desinformação, impersonação e manipulação política. Liu, Padmanabhan e Viswanathan (2026), a partir da análise de 826 publicações acadêmicas, identificam heterogeneidade significativa nas definições de deepfake e organizam a literatura em três dimensões: Identity Source, Intent e Manipulation Granularity. O objetivo deste artigo é analisar conceitualmente o termo deepfake, sua origem, evolução tecnológica e relação com o conceito mais amplo de mídia sintética, com especial

atenção à distinção entre tecnologia, conteúdo e finalidade de uso. Como objetivos específicos, busca-se: (i) diferenciar inteligência artificial, Machine Learning, Deep Learning, arquiteturas neurais e modelos generativos; (ii) apresentar as principais formas tecnológicas de produção de mídia sintética; (iii) propor uma leitura conceitual baseada em origem do conteúdo, intenção e grau de manipulação; e (iv) relacionar essa distinção à resposta regulatória brasileira, especialmente no contexto eleitoral. A hipótese conceitual orientadora é que deepfake não deve ser compreendido exclusivamente como sinônimo de mídia sintética nem como nome de uma tecnologia específica. Em vez disso, propõe-se compreender a mídia sintética como categoria ampla e o deepfake como uma manifestação que pode ser identificada pela combinação entre características do conteúdo, relação com uma identidade ou realidade de referência, intenção de uso e grau de manipulação. Essa proposição é analítica e será confrontada com a literatura examinada.

2. Referencial teórico

2.1 A origem e a evolução semântica do termo deepfake

O termo deepfake surgiu em 2017 associado ao nome de usuário de uma comunidade do Reddit que compartilhava vídeos de troca de rostos, sobretudo em conteúdos pornográficos. De Seta (2021) registra que o termo deriva do apelido utilizado pelo usuário e que as primeiras práticas estavam relacionadas à substituição do rosto de celebridades em vídeos pornográficos. Rauchfleisch, Vogler e de Seta (2025) também descrevem o termo como um portmanteau de deep learning e fake, consolidado em comunidades amadoras que experimentavam técnicas de troca de rostos. A origem do termo é relevante porque ajuda a explicar sua carga semântica. Deepfake não nasceu como denominação neutra de uma família de técnicas computacionais; nasceu associado a uma prática específica de manipulação de identidade e a uma finalidade socialmente controversa. Com a popularização da tecnologia, entretanto, o termo passou a ser utilizado para diferentes modalidades de manipulação audiovisual. A expansão semântica produziu uma situação em que um termo originalmente específico passou a funcionar, em alguns contextos, como sinônimo de conteúdo gerado ou alterado por IA. A literatura mais recente questiona essa equivalência. Rauchfleisch, Vogler e de Seta (2025) distinguem deepfake de synthetic media e demonstram que a escolha do termo influencia a percepção dos riscos e benefícios. Liu, Padmanabhan e Viswanathan (2026) também mostram que a literatura acadêmica apresenta conceituações heterogêneas. Assim, a definição de deepfake não pode ser estabelecida apenas pela tecnologia empregada.

2.2 Inteligência Artificial, Machine Learning, Deep Learning e modelos generativos

A inteligência artificial constitui o campo mais amplo no qual se inserem diferentes abordagens para construção de sistemas capazes de executar tarefas associadas à percepção, raciocínio, aprendizagem e tomada de decisão. Turing (1950) deslocou a discussão para a possibilidade de máquinas apresentarem comportamento inteligente, enquanto McCulloch e Pitts (1943) forneceram uma formulação matemática pioneira de redes neurais artificiais. O campo da IA, portanto, não se reduz ao aprendizado estatístico nem às redes neurais. Machine Learning constitui uma abordagem de aprendizagem computacional na qual sistemas extraem padrões de dados e melhoram seu desempenho em tarefas a partir da experiência. Mitchell (1997, p. 2) formalizou essa ideia como aprendizagem baseada na experiência, no desempenho e na tarefa. Entre as abordagens clássicas estão aprendizagem supervisionada, não supervisionada e por reforço. Deep Learning é uma vertente do Machine Learning baseada em modelos compostos por múltiplas camadas de processamento capazes de aprender representações em diferentes níveis de abstração (LeCun; Bengio; Hinton, 2015). Essa estrutura favoreceu avanços em reconhecimento visual, processamento de áudio, linguagem e geração de conteúdo. Dentro do Deep Learning existem diferentes arquiteturas e modelos. CNNs são arquiteturas especialmente adequadas a dados com estrutura espacial, como imagens, enquanto redes recorrentes foram historicamente utilizadas para dados sequenciais. Transformers constituem uma arquitetura baseada em mecanismos de atenção e se tornaram centrais no processamento de linguagem e em diversos sistemas multimodais. Autoencoders utilizam uma estrutura de codificação e decodificação para aprender representações latentes e reconstruir dados. GANs, por sua vez, organizam dois modelos — gerador e discriminador — em um processo adversarial de aprendizagem (Goodfellow et al., 2014). Essa diferenciação é fundamental para o argumento deste artigo: CNN, Autoencoder, Transformer e GAN não são sinônimos nem degraus sucessivos de uma única hierarquia. CNN é uma arquitetura; Autoencoder é uma família de modelos de representação e reconstrução; GAN é um framework generativo adversarial; e Transformer é uma arquitetura baseada em atenção. Todos podem integrar sistemas de Deep Learning, mas desempenham funções distintas.

Figura 1 – Relação conceitual entre IA, aprendizagem profunda, modelos generativos e mídia sintética. Fonte: elaboração própria, com base em LeCun, Bengio e Hinton (2015), Goodfellow et al. (2014), Rauchfleisch, Vogler e de Seta (2025) e Liu, Padmanabhan e Viswanathan (2026).

2.3 Mídia sintética como categoria conceitual

O conceito de mídia sintética permite deslocar a discussão da técnica específica para o conteúdo produzido ou significativamente modificado. O NIST AI 100-4 aborda synthetic content como informação, incluindo imagens, vídeos, áudio e texto, que pode ser significativamente modificada ou gerada por algoritmos, inclusive por inteligência artificial (Chandra et al., 2024). O NIST ressalta que a existência de conteúdo sintético não implica, por si só, dano; o problema envolve riscos associados à produção, distribuição, autenticidade, proveniência e uso desse conteúdo. A partir dessa perspectiva, mídia sintética constitui uma categoria mais ampla do que deepfake. Rauchfleisch, Vogler e de Seta (2025) sustentam que deepfakes são apenas um tipo específico de synthetic media. A distinção é relevante porque permite separar a capacidade tecnológica de gerar ou alterar conteúdo da finalidade social atribuída ao conteúdo. A proposição deste artigo é, portanto, que a expressão mídia sintética deve funcionar como categoria tecnológica e comunicacional ampla, enquanto deepfake deve ser empregado para situações em que a síntese ou manipulação envolve, de modo relevante, a representação de uma pessoa, identidade, voz, aparência ou manifestação associada a uma realidade de referência, especialmente quando a manipulação produz potencial de confusão sobre aquilo que efetivamente ocorreu. A intenção de enganar é uma dimensão importante, mas não deve ser considerada isoladamente, pois existem aplicações não enganosas reconhecidas na literatura (Liu; Padmanabhan; Viswanathan, 2026).

3. Tecnologia da mídia sintética

3.1 Redes neurais convolucionais (CNN)

As redes neurais convolucionais foram desenvolvidas para explorar estruturas espaciais presentes em dados como imagens. LeCun et al. (1998) demonstraram a importância de operações convolucionais e compartilhamento de parâmetros na aprendizagem de características visuais. No contexto da mídia sintética, CNNs podem participar tanto da análise de características faciais quanto de etapas de geração, reconstrução ou detecção de manipulações.

3.2 Generative Adversarial Networks (GANs)

Goodfellow et al. (2014) propuseram as Generative Adversarial Networks como um framework composto por um gerador e um discriminador. O gerador busca produzir amostras que se aproximem da distribuição dos dados de treinamento, enquanto o discriminador procura distinguir amostras reais das produzidas. O treinamento adversarial permite que o gerador aprimore progressivamente a qualidade das amostras. É importante, contudo, evitar a simplificação de que toda GAN é composta necessariamente por duas CNNs. A formulação original de Goodfellow et al. utiliza redes neurais e o framework pode ser implementado com arquiteturas diferentes conforme a aplicação. Em aplicações de imagem, arquiteturas convolucionais são frequentemente incorporadas aos componentes da GAN, mas CNN e GAN permanecem conceitos distintos.

3.3 Redes recorrentes, LSTM e Transformers

Redes neurais recorrentes foram desenvolvidas para trabalhar com informações sequenciais, permitindo que estados anteriores influenciem o processamento de entradas posteriores. As arquiteturas LSTM foram propostas para lidar com dificuldades de aprendizagem em dependências de longo prazo. No contexto de mídia sintética, modelos sequenciais podem ser empregados em voz, movimento e vídeo. Transformers constituem uma arquitetura baseada em mecanismos de atenção que se tornou central no processamento de linguagem e posteriormente foi expandida para tarefas multimodais. Sua importância para mídia sintética está relacionada à capacidade de trabalhar com grandes quantidades de dados e relações contextuais, contribuindo para geração de texto, áudio, imagem e sistemas multimodais.

3.4 Autoencoders e representações latentes

Autoencoders organizam o processamento em uma etapa de codificação e outra de decodificação. O encoder transforma os dados de entrada em uma representação latente, enquanto o decoder busca reconstruir os dados a partir dessa representação. Em aplicações de troca de rostos, essa estrutura permite aprender características relevantes de identidades e reconstruí-las em novos contextos. A representação latente é, portanto, um elemento importante para compreender como sistemas podem separar características e posteriormente recombiná-las. A utilização de autoencoders também demonstra por que deepfake não pode ser definido como sinônimo de GAN. Historicamente, diferentes arquiteturas e métodos foram empregados para geração e manipulação facial, incluindo autoencoders e redes adversariais. O resultado final — uma mídia audiovisual sintética — não revela, por si só, qual arquitetura foi empregada.

3.5 Detecção de deepfakes: precisão e limites técnicos

A detecção de deepfakes opera, em termos técnicos, como uma classificação binária — real ou sintético — aplicada em nível de imagem ou de pixel, empregando majoritariamente Redes Neurais Convolucionais e, mais recentemente, arquiteturas baseadas em atenção. Modelos baseados em Vision Transformers (ViT) têm alcançado desempenho expressivo, com precisão próxima de 94% e tempo de resposta de aproximadamente 26,7 milissegundos, inclusive sobre vídeos comprimidos — condição predominante em redes sociais (ANPD, 2025, p. 69). Esse resultado, contudo, esconde uma limitação estrutural relevante. Detectores baseados em CNN frequentemente incorrem em sobreajuste (overfitting): em vez de aprender a identificar a manipulação em si, o modelo tende a memorizar características específicas do conjunto de treinamento, como o padrão de compressão do vídeo, o esquema de iluminação ou mesmo o plano de fundo. Como consequência, a precisão do detector cai de forma acentuada diante de deepfakes produzidos por métodos de geração não representados no treinamento (ANPD, 2025, p. 73). Esse padrão configura uma corrida armamentista entre geração e detecção: avanços nos mecanismos de identificação de conteúdo sintético tendem a estimular o desenvolvimento de técnicas de geração capazes de contorná-los, e vice-versa (IRFAN et al., 2025, p. 1934). A consequência prática é que nenhuma solução puramente técnica de detecção deve ser considerada definitiva — o que reforça a relevância de mecanismos regulatórios de transparência e rotulagem, discutidos na Seção 6, como complemento, e não substituto, à detecção automatizada.

4. Principais mecanismos de criação de mídia sintética

A manipulação de imagens e de representações visuais não é fenômeno recente nem exclusivo da inteligência artificial. Já no Renascimento, pintores financiados pela realeza e por classes abastadas alteravam deliberadamente a aparência de seus retratados, tornando-os mais jovens, mais belos ou mais heroicos do que a realidade permitiria. No cinema, técnicas como o chroma key — substituição de um fundo de cor sólida por outra imagem — e, posteriormente, os avanços da computação gráfica ampliaram significativamente a capacidade de simular realidades inexistentes nas telas (FANAYA, 2021, p. 112-113). Já no campo da fotografia, a manipulação técnica se popularizou a partir da década de 1980, com a introdução de programas computacionais de retoque de imagem — dos quais o Photoshop é o exemplo mais conhecido. Foi esse movimento que colocou em xeque, pela primeira vez de forma massiva, a crença até então relativamente inabalável de que fotografias não poderiam mentir (SANTAELLA, 2021, p. 23). A diferença introduzida pela inteligência artificial generativa contemporânea está na capacidade de modelos de aprendizagem profunda aprenderem padrões a partir de grandes bases de dados e produzirem novas representações com elevado grau de realismo, sem depender de edição manual.

4.1 Troca de rostos (Face Swapping)

Na troca de rostos, características faciais de uma pessoa-fonte são transferidas ou reconstruídas sobre uma pessoa-alvo. A operação pode envolver detecção facial, alinhamento, extração de características, geração e composição. Autoencoders, CNNs e modelos generativos podem participar de diferentes etapas. O objetivo técnico é produzir continuidade visual entre identidade, iluminação, textura, pose e contexto.

4.2 Reencenação facial (Face Reenactment)

Na reencenação facial, movimentos, expressões ou poses de uma pessoa-fonte são utilizados para controlar a representação de uma pessoa-alvo. A técnica permite reproduzir movimentos de cabeça, olhos, boca e expressões. Irfan et al. (2025) descrevem o reenactment como uma das modalidades de geração e manipulação de conteúdo deepfake.

4.3 Talking Face Generation

A geração de faces falantes produz vídeo de uma pessoa a partir de texto, áudio, vídeo ou entradas multimodais, buscando sincronizar fala, movimento labial e expressões faciais. A técnica pode combinar síntese de voz, modelos de movimento e geração visual, tornando possível animar uma fotografia ou representação estática.

4.4 Facial Attribute Editing

A edição de atributos faciais modifica características específicas sem necessariamente substituir a identidade. Podem ser alterados atributos como idade aparente, cabelo, expressão ou outras características visuais. Essa modalidade demonstra que nem toda manipulação facial implica troca integral de identidade.

4.5 Síntese facial

A síntese facial representa uma situação distinta: em vez de modificar necessariamente uma pessoa existente, o modelo pode produzir uma face que não corresponde a uma pessoa real específica. Essa capacidade evidencia a necessidade de distinguir conteúdo sintético de deepfake, pois uma face inteiramente sintética pode ser mídia sintética sem constituir, necessariamente, uma falsificação de identidade.

4.6 Síntese das modalidades

Modalidade Operação principal Referência de identidade Exemplo de resultado
Face swapping Substituição/reconstrução do rosto Pessoa-fonte e pessoa-alvo Rosto de A em contexto de B
Face reenactment Transferência de movimentos/expressões Pessoa-fonte e pessoa-alvo B reproduz movimentos de A
Talking face generation Sincronização de fala e rosto Pessoa ou imagem-alvo Fotografia que fala
Facial attribute editing Alteração de atributos Pessoa existente Mudança de idade/cabelo/expressão
Síntese facial Geração de nova identidade facial Pode não existir pessoa-fonte específica Face sintética

Tabela 1 – Síntese das modalidades de mídia sintética. Fonte: elaboração própria com base em Pei et al. (2026) e Irfan et al. (2025).

5. Dimensões para diferenciar mídia sintética e deepfake

A partir da literatura examinada, este artigo propõe organizar a diferenciação entre mídia sintética e deepfake em três dimensões analíticas, inspiradas principalmente no modelo de Liu, Padmanabhan e Viswanathan (2026): (1) relação entre identidade ou conteúdo de referência e conteúdo gerado; (2) intenção ou finalidade da utilização; e (3) granularidade da manipulação.

5.1 Identity Source — relação com o conteúdo de referência

A primeira dimensão pergunta de onde provém a identidade ou o conteúdo que está sendo manipulado. Pode existir uma relação direta com uma pessoa real, uma obra, uma gravação ou um evento, ou pode haver geração sem uma fonte pessoal específica. Quanto mais direta for a relação entre o conteúdo produzido e uma identidade ou evento reconhecível, maior tende a ser a relevância da questão de autenticidade e representação.

5.2 Intent — finalidade da manipulação

A segunda dimensão considera a finalidade. O conteúdo pode ser produzido para entretenimento, educação, acessibilidade, pesquisa, criação artística ou comunicação, sem intenção de induzir terceiros a erro. Também pode ser utilizado para fraude, desinformação, impersonação, dano reputacional ou outras finalidades ilícitas ou abusivas. Liu, Padmanabhan e Viswanathan (2026) mostram que a literatura não é homogênea e que existem aplicações não exclusivamente ameaçadoras.

5.3 Manipulation Granularity — grau de alteração

A terceira dimensão examina quanto do conteúdo foi alterado. A manipulação pode ser localizada, como uma alteração de atributo facial, ou abrangente, envolvendo identidade, voz, expressão, contexto e narrativa. Essa dimensão é importante porque o simples uso de IA não informa o grau de intervenção produzido sobre o conteúdo original.

5.4 Proposição analítica

A combinação das três dimensões permite propor uma matriz conceitual mais precisa. Um conteúdo pode ser altamente sintético e, ainda assim, não configurar deepfake em sentido restrito quando não houver uma identidade real ou evento de referência sendo falsificado. Da mesma forma, um conteúdo que utilize técnicas simples de edição pode produzir uma falsificação relevante sem empregar os modelos generativos mais avançados. Portanto, a tecnologia empregada não deve ser o único critério classificatório. A proposição central deste artigo pode ser sintetizada da seguinte forma: mídia sintética corresponde ao universo de conteúdos significativamente gerados ou modificados por meios computacionais, incluindo IA; deepfake constitui uma manifestação específica desse universo quando a síntese ou manipulação incide sobre uma identidade, manifestação ou realidade de referência de maneira capaz de produzir uma representação potencialmente confundível com a realidade. A intenção enganosa constitui dimensão essencial para a avaliação de risco e para a resposta regulatória, mas não é suficiente, isoladamente, para definir a categoria tecnológica.

6. Base legal e resposta regulatória

A regulação de conteúdos sintéticos enfrenta uma dificuldade estrutural: a tecnologia evolui mais rapidamente do que as categorias jurídicas tradicionais. Por essa razão, uma estratégia exclusivamente baseada na descrição técnica do algoritmo tende a apresentar limitações. A resposta regulatória pode, alternativamente, concentrar-se na finalidade, nos efeitos, no contexto e no risco do conteúdo.

6.1 Marco Civil da Internet

No Brasil, a Lei nº 12.965/2014, conhecida como Marco Civil da Internet, estabelece princípios, garantias, direitos e deveres para o uso da internet e disciplina aspectos relacionados a direitos dos usuários, aplicações e responsabilidade. A norma não foi concebida especificamente para deepfakes, mas integra o conjunto jurídico que deve ser considerado na análise de conteúdos ilícitos ou lesivos distribuídos na internet (BRASIL, 2014).

6.2 Resolução TSE nº 23.732/2024

No âmbito eleitoral, a Resolução TSE nº 23.732/2024 alterou a Resolução nº 23.610/2019 e introduziu regras específicas para o uso de inteligência artificial na propaganda eleitoral. O TSE passou a prever, entre outras medidas, a proibição de deepfakes e a obrigação de identificação do uso de inteligência artificial em conteúdos sintéticos utilizados na propaganda. A norma, portanto, não regula apenas uma tecnologia específica: estabelece obrigações vinculadas à natureza do conteúdo, à sua utilização eleitoral e ao potencial de afetar o equilíbrio do pleito (TSE, 2024).

6.3 Resolução TSE nº 23.755/2026

Para as Eleições 2026, a Resolução TSE nº 23.755/2026 atualizou novamente a Resolução nº 23.610/2019. O novo texto mantém o dever de informar, de maneira explícita, destacada e acessível, que determinado conteúdo sintético foi fabricado ou manipulado e qual tecnologia foi utilizada. A alteração também estabeleceu que ficam vedadas a publicação, a republicação e o impulsionamento pago de novos conteúdos sintéticos produzidos ou alterados por IA que utilizem imagem, voz ou manifestação de candidata, candidato ou pessoa pública no período compreendido entre 72 horas antes e 24 horas depois do término do pleito, mesmo quando rotulados e em conformidade com as demais exigências da norma (TSE, 2026). A Resolução nº 23.755/2026 também prevê mecanismos relacionados à responsabilização e à prova, incluindo possibilidade de inversão do ônus da prova em situações nas quais a comprovação técnica da manipulação seja excessivamente onerosa, além da possibilidade de cooperação entre tribunais eleitorais, universidades, entidades e órgãos que

disponham de profissionais capacitados em perícia de ilícitos digitais e inteligência artificial (TSE, 2026). A evolução normativa reforça a hipótese deste artigo: o foco regulatório não está exclusivamente na arquitetura tecnológica que produziu o conteúdo, mas nas características do conteúdo, na identificação de seu uso, no contexto eleitoral, na capacidade de causar dano e nas obrigações de transparência e remoção. A norma, portanto, aproxima-se de uma lógica baseada em risco, finalidade e contexto.

7. Metodologia

Este artigo adota abordagem qualitativa, exploratória e de natureza conceitual, combinando pesquisa bibliográfica e análise documental. A pesquisa bibliográfica foi orientada à identificação e análise de trabalhos acadêmicos relacionados à origem e definição de deepfake, mídia sintética, Deep Learning, GANs, autoencoders e técnicas de manipulação audiovisual. Entre as referências centrais estão Goodfellow et al. (2014), LeCun, Bengio e Hinton (2015), de Seta (2021), Rauchfleisch, Vogler e de Seta (2025), Irfan et al. (2025) e Liu, Padmanabhan e Viswanathan (2026). A análise documental concentrou-se em documentos normativos e técnicos relevantes para a compreensão do fenômeno, especialmente o NIST AI 100-4 e as Resoluções TSE nº 23.732/2024 e nº 23.755/2026. O objetivo não foi realizar uma revisão sistemática exaustiva de toda a literatura sobre deepfake, mas construir uma análise conceitual capaz de organizar as relações entre tecnologia, conteúdo, intenção, manipulação e regulação. Como procedimento analítico, os materiais foram organizados em quatro eixos: (i) origem e semântica do termo deepfake; (ii) arquitetura tecnológica e modelos de geração; (iii) modalidades de mídia sintética e graus de manipulação; e (iv) resposta regulatória. A partir desses eixos, foi construída a proposição das três dimensões analíticas — relação com a identidade ou conteúdo de referência, intenção e granularidade da manipulação — utilizada na discussão.

8. Análise e discussão

A análise evidencia que o principal problema conceitual do campo está na sobreposição de três elementos que deveriam ser distinguidos: tecnologia, conteúdo e finalidade. Tecnologia corresponde aos modelos e arquiteturas utilizados; conteúdo corresponde ao objeto audiovisual, textual ou multimodal produzido ou alterado; finalidade corresponde ao uso social desse conteúdo. Quando esses elementos são tratados como equivalentes, a expressão deepfake passa a designar simultaneamente uma técnica, um produto e um comportamento.

A literatura analisada sustenta a necessidade dessa separação. Rauchfleisch, Vogler e de Seta (2025) mostram que deepfake e synthetic media não são termos semanticamente neutros e que a escolha do termo afeta a percepção de benefícios. Liu, Padmanabhan e Viswanathan (2026) demonstram que as definições acadêmicas variam e que a intenção de uso é apenas uma das dimensões relevantes. NIST (2024) trabalha com synthetic content como categoria ampla, sem presumir que todo conteúdo sintético seja nocivo. Do ponto de vista tecnológico, a análise também mostra que não existe uma única tecnologia deepfake. CNNs, autoencoders, GANs, modelos recorrentes e Transformers podem participar de diferentes sistemas. Portanto, classificar um conteúdo como deepfake apenas porque utiliza GAN, por exemplo, seria conceitualmente insuficiente. Da mesma maneira, um conteúdo pode apresentar manipulação de identidade sem que uma GAN seja empregada. A consequência é que a classificação mais adequada deve partir do conteúdo e de sua relação com uma realidade de referência, incorporando posteriormente a finalidade e o grau de manipulação. Essa perspectiva permite incluir aplicações legítimas sem eliminar a possibilidade de reconhecer usos maliciosos. Também evita o problema inverso de considerar que todo conteúdo sintético é benigno apenas porque a tecnologia possui aplicações legítimas. No campo regulatório, a experiência brasileira oferece evidência de que a resposta normativa pode ser estruturada sem depender da definição de um algoritmo específico. As Resoluções TSE nº 23.732/2024 e nº 23.755/2026 utilizam categorias como conteúdo sintético multimídia, IA, manipulação, rotulagem, proibição e contexto eleitoral. O movimento é relevante porque reduz a dependência de uma classificação tecnológica rígida e permite que a norma acompanhe a evolução dos métodos de geração. A análise permite, assim, propor uma sequência conceitual: IA constitui o campo tecnológico mais amplo; Machine Learning corresponde a uma abordagem de aprendizagem; Deep Learning constitui uma vertente baseada em redes neurais profundas; arquiteturas como CNN e Transformer estruturam diferentes formas de processamento; modelos como autoencoders e GANs podem realizar tarefas de síntese; dessas tecnologias resultam conteúdos sintéticos; e determinadas manifestações desses conteúdos podem ser classificadas como deepfakes conforme a relação com identidade ou realidade de referência, a intenção e a granularidade da manipulação. Essa sequência não deve ser entendida como uma hierarquia tecnológica rígida, pois CNN e GAN pertencem a categorias conceituais distintas. Trata-se de uma cadeia explicativa que parte do campo geral e chega ao fenômeno social e jurídico que constitui o objeto deste artigo.

9. Contribuição conceitual

A principal contribuição conceitual proposta é a separação entre mídia sintética e deepfake por meio de três dimensões combinadas: Identity Source, Intent e Manipulation Granularity. A partir delas, propõe-se que a classificação de um conteúdo não seja realizada exclusivamente pela tecnologia que o produziu. A primeira contribuição é semântica: synthetic media funciona como termo mais abrangente e tecnologicamente neutro, enquanto deepfake carrega uma história de associação com falsificação e manipulação de identidade. A segunda é tecnológica: deepfake não corresponde a uma arquitetura única, podendo resultar da combinação de diferentes modelos e técnicas. A terceira é analítica: a intenção de uso, embora relevante para a avaliação de risco, deve ser analisada em conjunto com a relação com a identidade ou conteúdo de referência e com o grau de alteração. A proposta pode ser representada como uma matriz de classificação: quanto maior a relação com uma identidade ou evento real, maior a granularidade da manipulação e maior a intenção de induzir terceiros a erro, maior tende a ser o potencial de caracterização do conteúdo como deepfake de alto risco. Em sentido contrário, conteúdos integralmente sintéticos, sem identidade real específica e utilizados em aplicações transparentes, podem ser compreendidos prioritariamente como mídia sintética. Essa contribuição não pretende estabelecer uma definição universal e definitiva de deepfake. Seu objetivo é oferecer um instrumento conceitual para reduzir ambiguidades e permitir que pesquisas futuras, análises regulatórias e avaliações de risco descrevam separadamente tecnologia, conteúdo e finalidade.

10. Considerações finais

O desenvolvimento das tecnologias de inteligência artificial generativa transformou a capacidade de criar e modificar conteúdos digitais, especialmente imagens, vídeos, áudio e linguagem. A evolução do Deep Learning, das redes convolucionais, dos autoencoders, das GANs e de arquiteturas mais recentes ampliou o realismo e a escala da síntese digital. Entretanto, a existência dessa capacidade tecnológica não determina, por si só, a finalidade ou o risco de seu uso. O artigo demonstrou que deepfake e mídia sintética não devem ser tratados como expressões equivalentes. Mídia sintética constitui uma categoria mais ampla de conteúdos gerados ou significativamente modificados por meios computacionais, enquanto deepfake representa uma manifestação específica associada à representação ou manipulação de identidades, pessoas, vozes, expressões ou eventos de referência. A análise também demonstrou que deepfake não corresponde a uma tecnologia única: diferentes arquiteturas e modelos podem ser empregados na produção de resultados semelhantes.

A partir da literatura analisada, o artigo propôs três dimensões para a classificação do fenômeno: relação entre conteúdo original e conteúdo gerado, intenção de uso e granularidade da manipulação. Essa abordagem permite superar uma classificação exclusivamente tecnológica e contribui para distinguir aplicações legítimas de usos potencialmente abusivos. A análise da regulação brasileira reforçou essa conclusão. A Resolução TSE nº 23.732/2024 introduziu regras específicas para inteligência artificial e deepfakes na propaganda eleitoral, enquanto a Resolução nº 23.755/2026 ampliou e atualizou essas regras para as Eleições 2026. A evolução normativa demonstra que a resposta jurídica pode concentrar-se na transparência, no contexto, na finalidade, nos efeitos e no risco, em vez de depender de uma descrição exaustiva das tecnologias utilizadas. Conclui-se, portanto, que a expressão deepfake deve ser empregada com maior precisão conceitual. A tecnologia não é, em si mesma, equivalente ao dano; o risco emerge da combinação entre capacidade técnica, conteúdo produzido, identidade ou realidade de referência, finalidade e contexto de uso. Essa distinção é particularmente importante para políticas públicas, regulação, governança da inteligência artificial e preservação da confiança em ambientes digitais. Como agenda para pesquisas futuras, recomenda-se aprofundar a validação empírica da matriz proposta, examinando casos reais de mídia sintética e deepfake e comparando sua classificação entre especialistas de tecnologia, comunicação e direito. Também se mostra relevante investigar mecanismos de proveniência, marcação, detecção e governança capazes de acompanhar a evolução das tecnologias generativas sem depender exclusivamente de categorias tecnológicas que podem se tornar rapidamente obsoletas.

Referências

ANPD. Radar Tecnológico: Deepfakes. Brasília: Autoridade Nacional de Proteção de Dados, 2025. [Conferir dados completos de edição/volume].

BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Marco Civil da Internet. Brasília, DF, 2014.

CHANDRA, Bilva; DUNIETZ, Jesse; ROBERTS, Kathleen; LEE, Yooyoung; FONTANA, Peter; AWAD, George. Reducing Risks Posed by Synthetic Content: An Overview of Technical Approaches to Digital Content Transparency. NIST AI 100-4. Gaithersburg: National Institute of Standards and Technology, 2024.

DE SETA, Gabriele. Huanlian, or changing faces: Deepfakes on Chinese digital media platforms. Convergence, v. 27, n. 4, 2021. DOI: 10.1177/13548565211030185.

FANAYA, Patrícia Fonseca. Deepfake e a realidade sintetizada. TECCOGS – Revista Digital de Tecnologias Cognitivas, n. 23, jan./jun. 2021, p. 104–118.

GOODFELLOW, Ian et al. Generative Adversarial Nets. In: Advances in Neural Information Processing Systems 27. 2014.

HE, Kaiming; ZHANG, Xiangyu; REN, Shaoqing; SUN, Jian. Delving Deep into Rectifiers: Surpassing Human-Level Performance on ImageNet Classification. In: Proceedings of the IEEE International Conference on Computer Vision (ICCV), 2015.

HE, Kaiming; ZHANG, Xiangyu; REN, Shaoqing; SUN, Jian. Deep Residual Learning for Image Recognition. In: Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2016. p. 770–778.

IRFAN, Mohd Tahir et al. On Machine Learning and Deep Learning based Deepfake Generation and Detection. Procedia Computer Science, v. 259, p. 1927–1936, 2025. DOI: 10.1016/j.procs.2025.04.148.

KRIZHEVSKY, Alex; SUTSKEVER, Ilya; HINTON, Geoffrey E. ImageNet classification with deep convolutional neural networks. In: Advances in Neural Information Processing Systems 25. 2012. p. 1090–1098.

LECUN, Yann; BENGIO, Yoshua; HINTON, Geoffrey. Deep learning. Nature, v. 521, p. 436–444, 2015. DOI: 10.1038/nature14539.

LECUN, Yann et al. Gradient-based learning applied to document recognition. Proceedings of the IEEE, v. 86, n. 11, p. 2278–2324, 1998.

LIU, Yizhi; PADMANABHAN, Balaji; VISWANATHAN, Siva. What Exactly is a Deepfake? A Systematic Literature Analysis of Concepts, Risks, and Potentials. In: 2026 IEEE Conference on Artificial Intelligence (CAI), 2026. DOI: 10.1109/CAI68641.2026.11536577.

MITCHELL, Tom M. Machine Learning. New York: McGraw-Hill, 1997.

PEI, Gan et al. Deepfake Generation and Detection: A Benchmark and Survey. arXiv:2403.17881, 2026.

RAUCHFLEISCH, Adrian; VOGLER, Daniel; DE SETA, Gabriele. Deepfakes or Synthetic Media? The Effect of Euphemisms for Labeling Technology on Risk and Benefit Perceptions. Social Media + Society, v. 11, n. 3, 2025. DOI: 10.1177/20563051251350975.

SANTAELLA, Lucia. As irmãs siamesas fake news e pós-verdade expandidas nas deepfakes. TECCOGS – Revista Digital de Tecnologias Cognitivas, n. 23, jan./jun. 2021, p. 15–24.

TURING, Alan M. Computing Machinery and Intelligence. Mind, v. 59, n. 236, p. 433–460, 1950.

TRIBUNAL SUPERIOR ELEITORAL (TSE). Resolução nº 23.610, de 18 de dezembro de 2019, com alterações posteriores. Propaganda eleitoral.

TRIBUNAL SUPERIOR ELEITORAL (TSE). Resolução nº 23.732, de 2024. Altera a Resolução nº 23.610/2019 e disciplina, entre outros pontos, o uso de inteligência artificial na propaganda eleitoral.

TRIBUNAL SUPERIOR ELEITORAL (TSE). Resolução nº 23.755, de 2 de março de 2026. Altera a Resolução nº 23.610/2019, que dispõe sobre propaganda eleitoral.

Categoria: IoT e Tecnologia