A utilização da inteligência artificial no controle da pornografia online no Brasil: constitui uma forma de censura necessária ou uma possível violação de direitos fundamentais

Abstract

Este Trabalho de Conclusão de Curso investiga a utilização da Inteligência Artificial (IA) no monitoramento e controle da pornografia infantil e abusos digitais no cenário brasileiro. O estudo analisa o conflito entre a necessidade de segurança pública e a preservação de direitos fundamentais, como a liberdade de expressão e a privacidade. Através de uma abordagem pautada na Doutrina da Proteção Integral e no Princípio da Prioridade Absoluta (Art. 227 da CF/88), discute-se o fenômeno do oversharenting e a criação de conteúdos sintéticos via deepfakes. A fundamentação teórica baseia-se em conceitos de Stefano Rodotà, Jean Baudrillard e Hans Jonas, correlacionando-os com inovações legislativas como a Lei Geral de Proteção de Dados (LGPD) e o Projeto de Lei nº 4272/2024. A pesquisa conclui que a implementação de mecanismos algorítmicos proativos pelas plataformas digitais não constitui censura, mas sim uma interdição civilizatória necessária para a salvaguarda da dignidade humana.

This Undergraduate Thesis investigates the use of Artificial Intelligence (AI) in monitoring and controlling child pornography and digital abuses within the Brazilian context. The study analyzes the conflict between the necessity for public safety and the preservation of fundamental rights, such as freedom of expression and privacy. Based on an approach rooted in the Doctrine of Integral Protection and the Principle of Absolute Priority (Article 227 of the 1988 Federal Constitution), it discusses the phenomenon of oversharenting and the creation of synthetic content via deepfakes. The theoretical foundation is based on concepts by Stefano Rodotà, Jean Baudrillard, and Hans Jonas, correlating them with legislative innovations such as the General Data Protection Law (LGPD) and Bill No. 4272/2024. The research concludes that the implementation of proactive algorithmic mechanisms by digital platforms does not constitute censorship, but rather a necessary civilizing interdiction.