Explicabilidade na classificação de imagens com VGG16: um estudo com Grad-CAM e mapas de calor

Abstract

Este trabalho tem como foco a utilização do VGG16, aliado à técnica de Grad-CAM para demonstrar uma das formas de explicar o caminho que o modelo percorre, e quais características são levadas em consideração para a decisão de sua resposta, sendo aplicado à identificação de doenças em tomateiros. O principal objetivo foi avaliar visualmente as decisões do modelo de classificação, gerando heatmaps que demonstram quais regiões das imagens foram mais determinantes para a predição. O foco na área de ativação é uma ótima pauta pois muito se utiliza desses modelos, mas não se sabe exatamente o que acontece internamente. Foi utilizado o Grad-CAM como uma técnica que permite identificar as áreas específicas de uma imagem que mais influenciam a decisão do modelo, oferecendo de forma visual sobre como a rede convolucional está processando as informações. Ao aplicar essa abordagem treinando o modelo, foi obtido uma acurácia de 70% em cima dos dados de teste. A partir da geração dos mapas de calor, foi possível observar que o modelo utilizou de características importantes como a superfície das folhas referindo-se aos danos do patógeno como principal enfoque, mas também, foi utilizado mais de outros elementos para fazer a classificação. Assim, a análise dos resultados visa demonstrar que modelos complexos como o VGG16 podem ser compreendidos de forma intuitiva, se for aliado com ferramentas auxiliares, como por exemplo a CAM, o que promove maior confiança no uso de inteligência artificial para fins práticos.