Um estudo sobre os métodos de redução de vieses em sistemas de inteligência artificial

Abstract

A busca por uma inteligência artificial justa exige que os desenvolvedores considerem as implicações sociais e morais das tecnologias que criam. Nesse sentido, a mitigação de vieses é um passo fundamental para garantir que as decisões tomadas por sistemas automatizados não reproduzam ou amplifiquem as desigualdades existentes, mas, ao contrário, contribuam para um ambiente mais inclusivo e igualitário. Objetivou-se, assim, averiguar os métodos de redução de vieses em sistemas de Inteligência Artificial (IA), buscando compreender as estratégias mais eficazes para mitigar discriminação e promover a equidade nos processos automatizados. Metodologicamente, tratou-se de uma revisão bibliográfica exploratória e comparativa em harmonia com uma pesquisa qualitativa. Como resultado, salientou-se que a redução de vieses em IA é uma tarefa complexa, que envolve tanto ajustes nos dados utilizados para treinar os modelos quanto a aplicação de técnicas específicas durante e após o processo de treinamento. A utilização de abordagens como aprendizado supervisionado com regularização, auditoria de modelos e o emprego de algoritmos justos emergem como práticas promissoras na mitigação de vieses e promoção de equidade. Conclui-se, de modo complementar, que, embora desafios persistam, a contínua pesquisa e a implementação de práticas éticas são essenciais para o desenvolvimento de sistemas de IA mais transparentes, inclusivos e socialmente responsáveis.

The pursuit of fair artificial intelligence requires developers to consider the social and moral implications of the technologies they create. In this sense, bias mitigation is a fundamental step to ensure that decisions made by automated systems do not reproduce or amplify existing inequalities, but rather contribute to a more inclusive and egalitarian environment. The aim of this study was to investigate methods for reducing bias in Artificial Intelligence (AI) systems, seeking to understand the most effective strategies for mitigating discrimination and promoting equity in automated processes. Methodologically, this was an exploratory and comparative literature review in harmony with qualitative research. As a result, it was highlighted that reducing bias in AI is a complex task, which involves both adjustments to the data used to train the models and the application of specific techniques during and after the training process. The use of approaches such as supervised learning with regularization, model auditing and the use of fair algorithms emerge as promising practices in mitigating biases and promoting equity. It is concluded, in a complementary way, that, although challenges persist, continuous research and the implementation of ethical practices are essential for the development of more transparent, inclusive and socially responsible AI systems.