Infiltrando-se nas subcomunidades: como termos e símbolos desafiam a detecção no Twitter.

Abstract

Este estudo investigou a presença e funcionamento de subcomunidades nocivas no ambiente do Twitter, concentrando-se em quatro categorias principais: automutilação, transtornos alimentares, apologia ao furto e conteúdo sensível. O objetivo da pesquisa foi compreender como essas subcomunidades conseguiam contornar os mecanismos de filtragem de conteúdo da plataforma, utilizando terminologia e símbolos codificados para ocultar suas atividades ilícitas. A combinação de análise de conteúdo e técnicas de análise de rede foi empregada para identificar e entender os padrões de interação que caracterizam esses grupos. As análises revelaram que as subcomunidades criminosas no Twitter desenvolveram estratégias para ocultar suas atividades. A escolha cuidadosa de termos e símbolos permitiu-lhes estabelecer canais de comunicação e coordenação entre os membros, tornando difícil a detecção pelos algoritmos de filtragem da plataforma. Além disso, observou-se uma notável capacidade de adaptação por parte das subcomunidades estudadas, que ajustavam constantemente suas táticas à medida que a plataforma aprimorava seus sistemas de detecção. Este estudo contribuiu significativamente para a compreensão das dinâmicas das subcomunidades nocivas online, fornecendo insights cruciais para o aprimoramento das estratégias de moderação e segurança nas redes sociais. Ao analisar minuciosamente essas subcomunidades, ressaltou-se a necessidade premente de abordagens mais proativas e sofisticadas por parte das plataformas digitais, visando conter eficazmente a disseminação de conteúdo criminoso e proteger os usuários vulneráveis contra essas ameaças em constante evolução.

This study aimed to investigate the presence and operation of harmful subcommunities in the Twitter environment, focusing on four main categories: self-harm, eating disorders, theft endorsement, and sensitive content. Our research aimed to understand how these subcommunities managed to circumvent the platform's content filtering mechanisms, using coded terminology and symbols to conceal their illicit activities. Employing a combination of content analysis and network analysis techniques, we sought to identify and understand the interaction patterns that characterize these groups.The analyses revealed that criminal subcommunities on Twitter had developed sophisticated strategies to conceal their activities. Through careful selection of terms and symbols, they established communication and coordination channels among members, making detection difficult for the platform's filtering algorithms. Additionally, we observed a notable adaptability among the studied subcommunities, constantly adjusting their tactics as the platform improved its detection systems. This study significantly contributes to understanding the dynamics of harmful online subcommunities, providing cruciais insights for enhancing moderation and security strategies on social media. By meticulously analyzing these subcommunities, the pressing need for more proactive and sophisticated approaches by digital platforms is emphasized, aiming to effectively curb the spread of criminal content and protect vulnerable users against these constantly evolving threats.