Disqus luta contra a hospedagem de comentários tóxicos em sites Breitbart e de extrema direita

O provedor de software de comunidade online dominante define um alto limite para descartar sites - mesmo os extremos - para comentários ofensivos.

Disqus luta contra a hospedagem de comentários tóxicos em sites Breitbart e de extrema direita

O Breitbart News, o site conservador cujo ex-presidente executivo, Steve Bannon, é agora o estrategista-chefe do presidente Trump, tornou-se um alvo para ativistas de esquerda. O mesmo fervor por trás do boicote de Ivanka Trump também é dirigido contra a Breitbart, que Bannon orgulhosamente chamou de plataforma para a direita alternativa, com campanhas para encerrar sua receita de publicidade e comércio eletrônico.



Agora essa raiva está se voltando contra o Disqus, o maior fornecedor de software para grupos de discussão na web, que impulsiona as seções de comentários no Breitbart e em muitos outros sites muito mais à direita - incluindo pelo menos um que realmente se identifica como fascista.

Artigo Relacionado

Shopify, Breitbart e os boicotes ao B2B que estão arrastando as marcas para a política





Um esforço, apelidado Gigantes Adormecidos , chama as empresas que anunciam na Breitbart e tem persuadiu mais de 1.400 (e contando) para retirar. Somos todos a favor da liberdade de expressão e vamos defendê-la ferozmente. Discurso de ódio é outra coisa, diz o porta-voz do Sleeping Giants, que permanece anônimo por medo de causar atrito com seus clientes de marketing digital.

Uma petição do grupo SumOfUs está tentando persuadir o Shopify, que alimenta a loja online da Breitbart, a abandonar o site. Ambos os grupos também criticam o Disqus, que, como o Shopify, se autodenomina um provedor de serviços neutro. É um verdadeiro dilema para essas duas empresas - qualquer que seja a ação que tomem, seja para manter ou encerrar seu relacionamento comercial com a Breitbart, elas serão vistas como estando do lado.

Disqus sinalizado para análise deste usuário com a marca da suástica, depois que eu chamei a atenção da empresa para eles.



Tobias Lütke, CEO do Shopify, parece dividido, criticando Breitbart em um ensaio sobre Médio enquanto defende seu direito à liberdade de expressão. O CEO da Disqus, Daniel Ha, está decidido a permanecer neutro. Nós vamos lá e dizemos aos nossos usuários, nossos clientes, que queremos ser uma solução confiável para permitir que a discussão online aconteça, sejam coisas impopulares ou não, diz Ha. Não vamos imputar nossas opiniões. Disqus fornece a plataforma, diz ele, e deixa a responsabilidade pelo conteúdo para os moderadores dos sites.

Até certo ponto, pelo menos. Quando se trata de discurso de ódio e coisas que incitam a violência, somos ativos contra isso, diz Ha. Temos pessoas que relatam isso e ativamente derrubamos ... o que consideraríamos assédio ou ódio, incitação ao crime. Em seu termos de serviço , Disqus diz que pode encerrar contas por 10 tipos de conteúdo proibido, incluindo chantagem ou extorsão, intimidação de usuários, spam e atividades ilegais.

O Disqus também oferece diversos sites de centro e esquerda, como O Atlantico e Pedra rolando .



As palavras discurso de ódio não aparecem em nenhum lugar do documento, mas em fevereiro, Disqus publicou um postagem de blog denunciando tal discurso e divulgando ferramentas atuais e futuras para ajudar os leitores e moderadores a sinalizá-lo e removê-lo. A postagem gerou um debate raivoso na seção de comentários do blog Disqus, variando de críticos de Breitbart a críticos de guerreiros de esquerda pela justiça social. A palavra nazista aparece uma dúzia de vezes.

Quão desagradável isso fica?

Breitbart é movido por raiva e paixão. Além de artigos elogiando consistentemente o presidente Trump, seus artigos tendem a ser provocativos, muitas vezes alegando revelar a hipocrisia ou declínio moral da esquerda. Isso é verdade não apenas nas seções do Grande Governo e Segurança Nacional, mas também nas seções de Tecnologia e Grande Hollywood e, até certo ponto, até mesmo nos Esportes.

Um fevereiro relatório do Southern Poverty Law Center rastreou a evolução da linguagem em Breitbart desde o início de 2014 e encontrou uma tendência aparente para uma retórica mais extremista, por exemplo, em conotações políticas ou negativas associadas à palavra judeu.

significado espiritual do número 17

Gráfico: cortesia do Southern Poverty Law Center

A reportagem de Breitbart é muitas vezes o estilo de blog padrão, mas as manchetes são convites para discutir ou expor, como, O ex-astro da NBA tem um problema sério com a ideia de jogar com um colega de equipe gay . Nos comentários, tal manchete provocante não provocou indignação sobre a homofobia, mas sim tiradas de proporções literalmente bíblicas ligando a homossexualidade a Satanás, seguidas por um desvio pelo tópico da escravidão. Um artigo sobre o filme Luar Ganhar o Oscar de Melhor Filme se transforma rapidamente em agressão a gays, negros, travestis e muçulmanos, além de uma piada que combina todos eles e sexo com uma cabra.

Este mesmo comentarista também criticou os negros por não serem mais úteis após a escravidão.

Seria difícil não chamar isso de ofensivo, mas não é ilegal. Essa é a barra que o Shopify define para abandonar clientes, e as atividades ilegais constituem a maior parte do que o Disqus proíbe. O assédio é proibido, mas como você decide o que cruza os limites em um site onde todos brigam e xingam? Disqus diz que a intimidação, que proíbe, inclui discriminação extrema . Quando se trata de comentários controversos ou coisas que as pessoas dizem que não são agradáveis ​​... é aí que se torna realmente complexo, diz Ha.

Ele observa que Disqus e Breitbart estão trabalhando para limpar as coisas. Depois de divulgarmos a declaração de discurso de ódio, [Breitbart] entrou em contato conosco e disseram: Nós realmente apreciamos o sentimento, e eles não querem isso em seu site e querem trabalhar conosco para descobrir maneiras de minimizar isso, diz ele. (Breitbart não respondeu aos nossos pedidos de comentário.) Nada parece ter mudado ainda, e Ha admite que eles têm um longo caminho a percorrer.

A tecnologia atual do Disqus é baseada na busca por palavras-chave, não por sentimento. É fácil sinalizar a palavra N. Mas é tão fácil para os comentadores falar em calúnias proibidas e insultar cruelmente grupos étnicos ou outros. O que temos até agora foi adaptado para combater o spam e o abuso [como atividades ilegais], diz Ha. Não somos especificamente especialistas em incitação ao ódio, e é nisso que queremos melhorar. A empresa está pesquisando várias tecnologias para sinalizar discurso de ódio, como uma nova plataforma baseada em IA que Google anunciou no final de fevereiro .

Os editores da Breitbart não parecem muito interessados ​​em policiar comentários.

Tem sido interessante trabalhar com outros parceiros nisso, diz Ha. Acho que estamos chegando perto de lançar novas ferramentas nessa frente. Os críticos, no entanto, perderam a paciência com Disqus.

Por mais que digam que estarão atentos para discursos de ódio, eles continuam inabaláveis. Nem mesmo discurso de ódio, mas ameaças violentas, disse o porta-voz do Sleeping Giants. É mau. Se eles não podem policiar, eles precisam parar de servir essas seções de comentários, em nossa opinião.

As discussões de Breitbart incluíram recentemente a afirmação infundada, avançada pelo apresentador de rádio conservador Mark Levin, de que o governo Obama grampeara a Trump Tower. um comentário lê-se: Se Obama deu início a um golpe ... então isso É Traição. Obama deve ser morto no local!

Cinco maneiras pelas quais os boicotes foram transformados na era dos trunfos


Votar com sua carteira é uma tradição americana, mas os objetivos e métodos de boicote mudaram de maneiras sem precedentes recentemente.

A Disqus, com sede em San Francisco, ganha dinheiro com publicidade veiculada em sua plataforma, e isso pode ser uma vulnerabilidade. Os Gigantes Adormecidos têm sido eficazes em afastar os anunciantes de seus alvos. Com certeza, com certeza eles serão alvos, diz o porta-voz do Disqus. Se eles vão anunciar e não policiar o conteúdo de maneira eficaz, eles têm um grande problema.

Disqus também enfrenta um petição de SumOfUs , que atualmente está reunindo clientes do Shopify para protestar contra seus vínculos com a Breitbart. Não está tão claro se um boicote funcionaria: pedir aos sites que abandonem seu fornecedor de software comunitário seria uma tarefa difícil. Disqus perde apenas para o Facebook em participação de mercado para plataformas de comentários, e anões outros concorrentes . O Disqus tem muitos clientes principais de grande porte, como O Atlantico e Pedra rolando .

Fred Wilson, financiador do Disqus, da Union Square Ventures.

Mas a má publicidade pode ter um impacto, especialmente com investidores de tendência progressista que favorecem a diversidade e a inclusão. Disqus se formou em 2007 no fundo de inicialização Y Combinator, cujo presidente, Sam Altman, disse de Trump , Ele é irresponsável como os ditadores. Um grande investidor é a Union Square Ventures, cujo sócio-gerente, Fred Wilson, saiu fortemente contra a ordem executiva de Trump que restringe a entrada nos EUA de sete países, dizendo, Trump está institucionalizando o ódio, a intolerância e o racismo com essas ordens. Nenhum respondeu a Fast Company Pedidos de comentários, nem NorthBridge, outro grande investidor Disqus.

Vai muito além de Breitbart

Breitbart é um alvo natural: é combativo, tem influência no topo do governo e teve um grande surto de crescimento desde a eleição. (É classificado dentro dos 40 sites mais populares nos EUA, de acordo com Alexa.) Às vezes, as pessoas usam [Breitbart] como um atalho para significar muitas coisas, diz Daniel Ha. E eu acho que neste mundo, onde há tantas nuances, usar atalhos é irresponsável ... representar tudo, como você quiser chamar, assédio, nacionalismo branco.

Nenhuma palavra parece ser proibida em sites como o DownTrend.

Fica muito pior nos grupos de discussão em outros sites, como DownTrend, em que um artigo sobre a possibilidade de Oprah Winfrey concorrer à presidência dá início a uma discussão sobre seu peso e raça, salpicada com a palavra com N. Ou há o site Return of Kings, com um artigo chamado Por que os homens estão pagando preços de 'carros novos' por mulheres usadas? , que compara ironicamente a busca de um parceiro com a compra de um carro. Os leitores se intrometem com comentários grosseiros.

Embora mais severos do que o Breitbart, esses sites têm algo em comum com ele: eles também usam o Disqus para potencializar suas seções de comentários. Então faz Laço , que se autodenomina The Online Fascist Zine, apresenta um laço de linchamento como logotipo e faz parte da rede social fascista da Marcha de Ferro. Um post recente no Noose intitulado Violência, celebra a realização de Anders Breivik, que matou 69 participantes de um acampamento de verão da Liga da Juventude dos Trabalhadores na Noruega em 2011. ... agora os nacionalistas estão incendiando centros de refugiados, impedindo sua construção com motins em massa organizados - ainda mais provando que a violência funciona e esfaqueando justamente autoridades eleitas em toda a Europa, com Jo Cox e Henriette Riker sendo dois dos muitos que virão, lê o artigo.

A lista de locais inflamatórios continua. John Ellis , um empresário em Massachusetts, mantém um Planilha do Google de sites usando Disqus que apresenta o que ele julgou ser discurso de ódio. Atualmente, ele tem mais de 40 entradas, desde Precisão na mídia até Zíperes Weasel.

Noose faz uma abordagem atrevida do fascismo, mas avança suas mensagens racistas e violentas.

Mostrei a Ha muitos desses sites e postagens, como um artigo na Occidental Dissent sobre o nacionalista branco Richard Spencer sendo excluído da Conferência de Ação Política Conservadora (CPAC). O primeiro comentador ridicularizou o editor-chefe da Breitbart London, Raheem Kassam, como um Paki Brit de Kikebart. (Nesses círculos, Breitbart é considerado muito popular.) Um comentarista mais abaixo disse que preferia um líder de direita alternativa que usasse um sobretudo de couro e ameaçasse calar a boca mentirosa dos judeus insolentes. Perguntei se esses comentários estariam fora dos limites tolerados pelo Disqus e ele me enviou um e-mail de acompanhamento dizendo que a Occidental Dissent, assim como o Noose, estão sendo revisados ​​pela equipe. Pelo que vi rapidamente, parece que ambos estão violando, escreveu ele. Ele pareceu chocado quando eu disse a ele que, no caso de Noose, um site fascista genuíno está usando seus serviços.

Disqus lançou alguns sites abertamente racistas e anti-semitas.

lojas de roupas urbanas clássicas nintendo nes

Para Ha, a função de Disqus é fornecer ferramentas para os moderadores. Eu venho de um lugar onde um editor de conteúdo não gostaria de receber spam em seu site e usaria nosso software para evitar isso, diz ele. Venho de um lugar semelhante, onde um editor de conteúdo não gostaria de ser assediado e é nosso trabalho combatê-lo também. Mas e se o editor de conteúdo não se importar?

O Disqus rompeu laços com sites por causa de discurso de ódio ou assédio. Já perdemos centenas, diz Ha. Os exemplos incluem Infostormer, dedicado a Destruir a Tirania Judaica, e The Daily Stormer, repleto de suásticas. Um post do editor deste último, Andrew Anglin, sobre ter sido retirado do Disqus, na verdade, apresenta um argumento semelhante ao dos críticos de esquerda: eu estou em conflito com seus valores. Eu especificamente, veja bem. Nem qualquer uma das dezenas de milhares de outros sites politicamente incorretos que usam seu serviço.

Liberdade de expressão e comércio livre

Daniel Ha traça uma linha clara entre visões pessoais e negócios. O que é comum em nosso setor é que realmente nos importamos e acreditamos que existe um fardo de responsabilidade entre os serviços de Internet de não assumir uma [posição], diz Ha. Isso é diferente da prerrogativa de um anunciante, que pode se desassociar de um programa de TV ou rede ou site ao qual não deseja que a marca seja associada, diz ele. (Disqus não anuncia no Breitbart.) Mas é diferente para um provedor de serviços rejeitar clientes, de acordo com Ha. Estou conversando com muitos serviços de Internet e ninguém quer fazer isso. Ninguém quer se dissociar, diz ele.

Disqus é baseado em uma cidade muito liberal, e Ha é um nativo da Bay Area. A equipe é um tanto diversificada - definitivamente não aquela que se encaixaria em uma reunião nacionalista branca. Mesmo com sua abordagem relativamente laissez-faire, Disqus tem diretrizes e um processo para revisar sites e usuários ofensivos - embora seja muito lento.

Eu entendo o movimento, diz Ha sobre campanhas como Gigantes Adormecidos. Na verdade, ele e o grupo estão em contato. Isso é o que tem sido interessante, pelo menos sobre entrar em contato com Daniel, você sabe, podemos ter uma discussão sobre isso, disse o porta-voz dos Gigantes Adormecidos. Isso não aproximou os dois lados, no entanto.