As seções de comentários e as redes sociais em toda a web estão repletas de usuários antissociais que repetidamente abusam e provocam as pessoas para obter uma reação. Esses chamados 'trolls' são conhecidos por causar sofrimento mental às suas vítimas. Mas agora uma equipe de pesquisadores estudou milhões dessas postagens online para identificar características comuns entre esses usuários. E construiu um algoritmo que pode reconhecer um troll em potencial com uma precisão de 80% ao escanear seus comentários. Especialistas estudaram 40 milhões de postagens de 1,7 milhão de usuários no site de notícias CNN.com, no site de notícias políticas Breitbart.com e no site de jogos IGN.com. Os pesquisadores então dividiram os usuários entre aqueles com maior probabilidade de serem banidos, chamados de usuários banidos no futuro (FBUs) e outros usuários apelidados de usuários nunca banidos (NBUs). Chang, em um artigo chamado Comportamento antissocial em comunidades de discussão on-line. A equipe examinou três grandes fóruns on-line, incluindo o site de notícias gerais CNN.com, Breitbart.com, um site de notícias políticas e o site de jogos de computador IGN.com. Dentro dessas comunidades, os membros que violarem repetidamente as diretrizes da comunidade podem ser banidos, temporária ou permanentemente. Durante um período de 18 meses, a equipe estudou o conteúdo e as taxas de exclusão de 40 milhões de postagens e 100 milhões de votos postados por 1,7 milhão de usuários nesses sites. A partir desses dados, eles conseguiram dividir os usuários em dois grupos. Postagens feitas por usuários antissociais da web, ou trolls, são menos legíveis em termos de linguagem e coerência. Os trolls são mais propensos a desviar do assunto e têm menos semelhanças em termos de linguagem e conteúdo em comparação com postagens de outros usuários. Os trolls também são menos propensos a usar palavras positivas do que outros usuários, eles xingam mais e usam menos linguagem hesitante ou conciliatória, como 'poderia', 'talvez' ou 'considere'. Em termos de atividade, o estudo descobriu que os trolls fazem mais comentários a cada dia e postam mais vezes em cada tópico. Eles propositadamente tentam criar discussões ou respondem ativamente a uma discussão em andamento. Os trolls também eram mais propensos a ter postagens excluídas do que outros usuários e, durante o período de estudo de 18 meses, o número de postagens excluídas por FBUs aumentou. As pessoas que, ao longo do estudo, foram posteriormente banidas dos sites, ou provavelmente seriam, foram classificadas como usuários banidos no futuro (FBUs). Os usuários que não foram banidos durante o estudo e não exibiram sinais que sugerissem que seriam no futuro, eram conhecidos como Usuários Nunca Banidos (NBUs). Depois que esses usuários foram divididos, os pesquisadores analisaram quatro recursos para identificar características comuns entre os FBUs e NBUs. O primeiro foi chamado de 'Post features' e incluiu o estudo do conteúdo de um post. Os 'recursos de atividade' incluíam a frequência com que um usuário postava no fórum, enquanto os 'recursos da comunidade' analisavam os votos em postagens individuais que sugeriam a popularidade de uma pessoa ou opinião. Por fim, os 'Recursos do moderador' analisam quantas postagens foram moderadas ou excluídas. As descobertas sugerem que as postagens escritas por FBUs são 'menos legíveis', tendem a desviar-se do tópico e têm menos semelhanças em termos de linguagem e conteúdo em comparação com as postagens de NBUs. Os pesquisadores compararam a similaridade média de texto da postagem de um usuário com as três postagens anteriores no mesmo tópico. “Descobrimos que a similaridade de texto média das postagens escritas por FBUs é significativamente menor do que a dos NBUs, sugerindo que os FBUs fazem menos esforço para integrar ou permanecer no tópico”, disseram os pesquisadores. A equipe também descobriu que, embora não haja uma tendência consistente com relação ao uso de palavras que contenham emoções negativas entre as postagens feitas pelos FBUs, é menos provável que eles usem palavras positivas. Postagens feitas por usuários antissociais da web, ou trolls, são menos legíveis (centro) em termos de linguagem e coerência e são mais propensas a desviar do assunto e ter menos semelhanças do que postagens de outros usuários (esquerda). Os trolls também são menos propensos a usar palavras positivas (à direita) do que outros usuários e xingam mais nas postagens. Em termos de atividade, o estudo descobriu que os trolls fazem mais comentários a cada dia e postam mais vezes em cada tópico. Eles propositalmente tentam criar discussões ou responder ativamente a uma discussão em andamento. FBUs também são mais propensos a xingar e usar linguagem menos hesitante ou conciliatória, como 'poderia', 'talvez' ou 'considerar'. Em termos de atividade, a pesquisa também descobriu que as FBUs propositalmente tentam criar discussões ou responder ativamente a uma discussão em andamento. Como resultado t eles gastam mais tempo em threads individuais do que NBUs. Pesquisas anteriores descobriram que a frequência de postagem era um sinal de discussões de baixa qualidade. No Breitbart e no IGN, os trolls eram mais propensos a responder às postagens dos outros, mas na CNN eles eram mais propensos a iniciar novas discussões. Ainda assim, em todas as comunidades, os FBUs parecem ser “eficazes em atrair outros usuários para discussões potencialmente infrutíferas”, o que é um sinal de comportamento de troll, disse o estudo. Os trolls também eram mais propensos a ter postagens excluídas do que outros usuários e, durante o período de estudo de 18 meses, o número de postagens excluídas por FBUs aumentou. É improvável que essas características ajudem a reconhecer um troll por si só, mas quando combinadas, os pesquisadores descobriram que poderiam ser usadas para identificar um troll com 80% de precisão. Os FBUs contribuem significativamente com mais postagens por tópico de que participam, de acordo com os resultados. Os trolls também eram mais propensos a ter mais postagens excluídas do que os NBUs e, ao longo de 18 meses, o número de postagens excluídas por FBUs aumentou. É improvável que esses identificadores e características individuais ajudem a reconhecer um troll ou comportamentos antissociais por si só. No entanto, quando combinados, os pesquisadores descobriram que podiam identificar um troll com uma precisão de 80%. “Entender como os usuários antissociais podem orientar as discussões individuais pode nos ajudar a quantificar melhor sua influência sobre outros usuários”, concluíram os pesquisadores. 'Nossas explorações iniciais sugerem que as FBUs fazem com que as discussões se desviem do tópico: as respostas às FBUs foram significativamente menos semelhantes às postagens anteriores em um tópico do que as respostas às NBUs. "Pode-se também investigar os efeitos de ter vários usuários antissociais participando de uma discussão." Mas eles reconheceram que a taxa de precisão do algoritmo significa que um em cada cinco usuários antissociais não é detectado e mais trabalhos precisam ser feitos para aumentar essa taxa e descobrir maneiras eficazes de lidar com os trolls. Os resultados são publicados no arXiv. 
Os pesquisadores estudaram 40 milhões de postagens feitas por 1,7 milhão de usuários da web. A partir disso, eles dividiram as pessoas em dois grupos - Usuários banidos no futuro (FBUs) e Usuários nunca banidos (NBUs) Eles construíram um algoritmo que verifica as postagens em busca de sinais de comportamento antissocial. O estudo mostra que esse algoritmo pode identificar potenciais trolls em 80% dos casos. 
