Detecção de clonagem de voz por IA: análise de ferramentas e métodos de identificação

Abstract

O avanço tecnológico que vem ocorrendo nas útimas decadas está proporcionando cenários nunca antes imaginados, como o uso de IAs. Com isto, pessoas do mundo todo possui poder computacional para criar diversas coisas a partir de seus lares, porém, deste poder de geração, surge um problema: a clonagem de voz sem devida autorização para uso de má indole. Este artigo explora as técnicas atuais de clonagem de voz com IA, suas vulnerabilidades e os métodos de detecção. Para isso, realizou-se uma análise de metadados e uma análise comparativa de áudios reais e clonados por IA, utilizando visualizações espectrográficas para identificar discrepâncias sutis. Os resultados demonstraram que metadados podem indicar uso de IA para criação. Comparações visuais de áudio permitem a identificação de marcas características da clonagem, com destaque para as limitações em criar um áudio com mesmas características de ruídos e com mesmas amplitudes e a eficácia das estratégias de comparação de fonemas específicos.

The technological advancement of recent decades has created previously unimaginable scenarios, such as the use of AI. Consequently, people worldwide now have the computational power to create various things from their homes. However, with this power of generation, a problem arises: unauthorized voice cloning for malicious purposes. This article explores current AI voice cloning techniques, their vulnerabilities, and detection methods. For this, metadata analysis and a comparative analysis of real and AI-cloned audio were conducted, using spectrographic visualizations to identify subtle discrepancies. The results demonstrated that metadata can indicate AI use in creation, and visual comparisons of audio reveal distinctive markers of cloning, especially the limitations in generating audio with the same noise characteristics and amplitude, as well as the effectiveness of comparing specific phonemes.