Inteligência artificial aplicada à moderação de discurso de ódio no Discord

Abstract

Com o crescimento do uso da internet e das redes sociais, intensificou-se também a disseminação de discursos de ódio em plataformas digitais, como o Discord. Nesse contexto, este estudo teve como proposta contribuir para tornar os ambientes virtuais mais seguros, por meio da aplicação de técnicas de Processamento de Linguagem Natural (PLN) voltadas à moderação automatizada de conteúdo online. O objetivo do trabalho consistiu em desenvolver uma solução capaz de identificar e moderar mensagens ofensivas, utilizando inteligência artificial com base em redes neurais do tipo Long Short-Term Memory (LSTM). A pesquisa foi iniciada com a coleta de dados do corpus HateBR, seguido por um rigoroso processo de pré-tratamento dos textos, incluindo limpeza, tokenização, normalização e transformação em vetores por meio de embeddings. O modelo LSTM foi treinado com dados balanceados e utilizou técnicas como regularização L2 e dropout para mitigar o overfitting. O otimizador RMSprop demonstrou os melhores resultados, atingindo 83,43% de acurácia, 87,86% de precisão, 77,57% de recall e F1-score de 82,40%. Foi implementado um sistema funcional em um bot do Discord, com capacidade para moderar mensagens em tempo real e notificar administradores. Embora eficiente, o modelo apresentou limitações diante a sarcasmos, ironias e variações linguísticas. Como trabalho futuro, propõe-se a integração de modelos híbridos, com CNNs e camadas de attention, além da expansão da base de dados.