Riscos e vulnerabilidades em códigos gerados por inteligência artificial

Abstract

Este estudo analisa os riscos e vulnerabilidades presentes em códigos-fonte gerados por ferramentas de Inteligência Artificial aplicadas à programação. O objetivo é identificar as principais falhas de segurança associadas a esses códigos e propor medidas de mitigação. A metodologia adotada foi exploratória e aplicada, com revisão bibliográfica e experimentos utilizando ChatGPT-4, GitHub Copilot e Code Llama, submetidos a ferramentas de análise estática e testes dinâmicos baseados no OWASP Top 10. Os resultados indicam que códigos gerados por IA apresentam maior índice de vulnerabilidades em relação ao código desenvolvido manualmente. Conclui-se que o uso da IA exige revisão humana rigorosa e aplicação de boas práticas de segurança.

This study analyzes the risks and vulnerabilities present in source code generated by Artificial Intelligence tools applied to programming. The objective is to identify the main security flaws associated with such code and propose mitigation measures. The methodology is exploratory and applied, combining a literature review and controlled experiments using ChatGPT-4, GitHub Copilot, and Code Llama, analyzed through static analysis tools and dynamic security tests based on the OWASP Top 10 standard. The results indicate that AI-generated code presents a higher rate of vulnerabilities compared to manually developed code. It is concluded that the use of Artificial Intelligence requires rigorous human review and strict application of security best practices.