Avaliação multimétrica de deepfakes em ataques de engenharia social baseados em vídeo

Abstract

Este artigo investiga os riscos associados ao uso de técnicas de identity swap em fraudes visuais baseadas em inteligência artificial generativa. O avanço recente de métodos de manipulação facial tem ampliado o potencial de ataques de engenharia social, evidenciando limitações de sistemas tradicionais de verificação biométrica. Nesse contexto, o objetivo deste trabalho é analisar a eficácia de diferentes arquiteturas generativas em cenários de processamento assíncrono (offline), avaliando seu impacto sobre métricas estruturais, perceptuais e biométricas. Para isso, propõe-se um modelo de avaliação multimétrica que integra essas diferentes dimensões de análise. A metodologia baseia-se em experimentos controlados que comparam pipelines locais, estruturados sob autoencoders com refinamento adversarial, e modelos baseados em difusão latente. Os resultados evidenciam uma assimetria relevante entre qualidade visual e preservação de identidade, indicando que técnicas de difusão podem contornar mecanismos de detecção baseados exclusivamente em anomalias visuais globais. Como contribuição, o estudo demonstra o desacoplamento entre métricas perceptuais e biométricas e propõe uma abordagem integrada de avaliação, com implicações para o aprimoramento de estratégias de detecção e governança de sistemas de inteligência artificial. Palavras-chave: Inteligência Artificial Generativa, Engenharia Social, Manipulação Facial, Detecção de Deepfakes.

This paper investigates the risks associated with the use of identity swap techniques in visual fraud based on Generative Artificial Intelligence. Recent advances in facial manipulation methods have expanded the potential for social engineering attacks, highlighting the limitations of traditional biometric verification systems. In this context, the objective of this work is to analyze the effectiveness of different generative architectures in asynchronous processing (offline) scenarios, evaluating their impact on structural, perceptual, and biometric metrics. To this end, we propose a multi-metric evaluation model that integrates these different dimensions of analysis. The methodology is based on controlled experiments that compare on-premise pipelines, structured using autoencoders with adversarial refinement, and models based on latent diffusion. The results reveal a significant asymmetry between visual quality and identity preservation, indicating that diffusion techniques can circumvent detection mechanisms based exclusively on global visual anomalies. As a contribution, the study demonstrates the decoupling between perceptual and biometric metrics and proposes an integrated evaluation approach, with implications for the improvement of detection strategies and the governance of Artificial Intelligence systems. Keywords: Generative Artificial Intelligence, Social Engineering, Facial Manipulation, Deepfake Detection.