Decolonialidade e tecnoestética: enfrentamento da discriminação algorítmica na elaboração de cursos de inglês no âmbito da educação profissional e tecnológica

Abstract

A presente pesquisa investiga o potencial das inteligências artificiais para promover a decolonialidade por meio da criação de imagens que representem grupos minorizados em materiais didáticos de língua inglesa, no projeto English to Face Inequalities, desenvolvido desde 2022, na Faculdade de Tecnologia de Itu (Fatec Itu). Fundamenta-se, inicialmente, em Gilbert Simondon, especialmente nos conceitos de cultura técnica e tecnoestética, entendidos como fundamentais para a compreensão da Educação Profissional e Tecnológica enquanto espaço de desenvolvimento de uma relação crítica e integrada entre o ser humano, a técnica e a cultura; em seguida, apoia-se em Frantz Fanon para a compreensão do racismo e da colonialidade; e, por fim, em autores contemporâneos como Faustino e Lippold, que atualizam essa discussão no campo da discriminação algorítmica, bem como em outros referenciais que contribuem para o debate sobre as implicações tecnoestéticas da produção de imagens por inteligências artificiais. O objetivo é identificar e analisar vieses na geração de imagens por IA. A pesquisa adota uma abordagem qualitativa e o método de pesquisa-ação, com base no modelo cíclico de Susman (1983), envolvendo diagnóstico, planejamento, ação e avaliação. Foram analisadas imagens geradas por ferramentas como Bing Images, Canva AI, Leonardo AI, ChatGPT e Google Gemini, utilizadas em cursos de inglês voltados à diversidade. A análise considerou categorias como racismo (biológico e cultural), estereótipos, sexualização e sub-representação. Os resultados indicam que os vieses persistem, apesar dos avanços técnicos. Contudo, a ampliação da margem de indeterminação das ferramentas permite maior intervenção humana e criativa, favorecendo representações mais alinhadas à decolonialidade. Como produto, propõem-se parâmetros teóricos e tecnoestéticos para o aprimoramento dos cursos integrantes do projeto, bem como uma matriz de análise para orientar a produção de imagens.

This research investigates the potential of artificial intelligences to promote decoloniality through the creation of images that represent marginalized groups in English language teaching materials, within the project English to Face Inequalities, developed since 2022 at the Faculty of Technology of Itu (Fatec Itu). It is initially grounded in Gilbert Simondon, especially in the concepts of technical culture and techno-aesthetics, understood as fundamental for comprehending Professional and Technological Education as a space for developing a critical and integrated relationship between human beings, technology, and culture; it then draws on Frantz Fanon for understanding racism and coloniality; and finally, on contemporary authors such as Faustino and Lippold, who update this discussion in the field of algorithmic discrimination, as well as on other references that contribute to the debate on the techno-aesthetic implications of image production by artificial intelligences. The objective is to identify and analyze biases in AI-generated images. The research adopts a qualitative approach and the action research method, based on Susman’s (1983) cyclical model, involving diagnosis, planning, action, and evaluation. Images generated by tools such as Bing Images, Canva AI, Leonardo AI, ChatGPT, and Google Gemini, used in English courses focused on diversity, were analyzed. The analysis considered categories such as racism (biological and cultural), stereotypes, sexualization, and underrepresentation. The results indicate that biases persist despite technical advances. However, the expansion of the tools’ margin of indeterminacy allows for greater human and creative intervention, fostering representations more aligned with decoloniality. As an outcome, the study proposes theoretical and techno-aesthetic parameters for improving the courses within the project, as well as an analytical framework to guide image production.