Nós criamos este monstro? Como o Twitter se tornou tóxico

Durante anos, o zelo da empresa pela liberdade de expressão a cegou para as preocupações com a segurança. Agora está lutando para recuperar o tempo perdido.

Nós criamos este monstro? Como o Twitter se tornou tóxico

Yair Rosenberg queria trollar os trolls.

Rosenberg, redator sênior de um site de notícias e cultura com foco em judeus Revista Tablet , tornou-se um dos principais alvos de usuários anti-semitas do Twitter durante sua reportagem sobre a campanha presidencial de 2016 nos EUA. Apesar de ser agredido com calúnias, ele não era excessivamente obcecado pelos nazistas que abraçaram o serviço. Na maioria das vezes, eu os achei bastante risíveis e facilmente ignorados, diz ele.

Mas um tipo particular de troll do Twitter o consumia: aqueles que se faziam passar por minorias - usando fotos roubadas de pessoas reais - e então se infiltravam em conversas de alto perfil para vomitar veneno. Leitores desavisados ​​veriam esse cara que parece um judeu ortodoxo ou uma mulher muçulmana dizendo algo basicamente ofensivo, explica ele. Então eles pensam: Oh, os muçulmanos são religiosos. Judeus são religiosos. E são pessoas terrivelmente ofensivas.



Rosenberg decidiu revidar. Trabalhando com Neal Chandra, um desenvolvedor baseado em San Francisco que ele nunca conheceu, ele criou um bot automatizado do Twitter chamado Imposter Buster. A partir de dezembro de 2016, ele se inseriu nos mesmos tópicos do Twitter que as contas falsas e educadamente expôs o disfarce dos trolls (para sua informação, essa conta é um racista se passando por judeu para difamar judeus).

Imposter Buster logo foi atacado - por racistas que denunciaram o fato ao Twitter por assédio. Inesperadamente, a empresa ficou do lado dos trolls: suspendeu o bot por comportamento de spam no abril seguinte. Com a ajuda da Liga Anti-Difamação, Rosenberg e Chandra conseguiram reverter essa decisão três dias depois. Mas seus alvos continuaram a apresentar relatórios de assédio e, em dezembro passado, o Twitter mais uma vez colocou o Imposter Buster na lista negra, desta vez para sempre.

Rosenberg, que considera seu esforço uma boa cidadania em vez de vigilantismo, ainda não tem certeza de por que o Twitter o considerou inaceitável; ele nunca recebeu uma explicação diretamente da empresa. Mas a decisão deu aos racistas uma vitória por nocaute técnico.


Apesar de todas as maneiras pelas quais a saga Imposter Buster é única, ela também é sintomática de problemas maiores que há muito atormentam o Twitter: abuso, a transformação do anonimato em armas, guerras de bots e tomadas de decisão em câmera lenta pelas pessoas que administram uma plataforma em tempo real . Esses problemas só se intensificaram desde que Donald Trump se tornou presidente e escolheu o Twitter como seu principal porta-voz. A plataforma é agora o principal local do mundo para política e indignação, cultura e conversação - o lar de #MAGA e #MeToo.

Esse status ajudou a melhorar a sorte da empresa. O uso diário aumentou 12% ano após ano, e o Twitter relatou seu primeiro lucro trimestral em fevereiro, encerrando um período de 12 meses durante o qual seu estoque dobrou. Embora a empresa ainda pareça improvável que chegue a igualar a escala e a lucratividade do Facebook, ela não corre o risco de falhar. Os gritos ocasionais de analistas financeiros para que o CEO Jack Dorsey vender Twitter ou de críticos para ele para desligue isso parece cada vez mais fora de compasso.

Apesar de estar mais confortável com o Twitter, Dorsey tem falado cada vez mais sobre os problemas de seu serviço. Estamos empenhados em tornar o Twitter mais seguro, a empresa prometeu em fevereiro carta do acionista . Na ligação com o investidor que acompanhou, Dorsey descreveu uma iniciativa de qualidade da informação para melhorar o conteúdo e as contas do serviço. Os usuários ativos mensais estagnaram em 330 milhões - um fato que a empresa atribui em parte à sua eliminação contínua de spammers. Os esforços de limpeza do Twitter são uma admissão, embora implícita, de que a variedade de criadores de problemas que ainda vagam pela plataforma - promotores de ódio, fornecedores de notícias falsas e exércitos de robôs suspeitos projetados para influenciar a opinião pública - estão impedindo sua capacidade de crescer . (O Twitter não disponibilizou Dorsey, ou qualquer outro executivo, para ser entrevistado para esta história. A maioria das mais de 60 fontes com as quais falamos, incluindo 44 ex-funcionários do Twitter, pediu anonimato.)

Embora a empresa tenha tomado medidas significativas nos últimos anos para remover atores mal-intencionados, ela não abalou a impressão persistente de que não está se esforçando o suficiente para tornar o serviço um espaço mais seguro. A resposta do Twitter a incidentes negativos é muitas vezes insatisfatória para seus usuários e mais do que um pouco misteriosa - a punição de Rosenberg, em vez de seus algozes, é um excelente exemplo. Por favor, alguém inteligente pode fazer um novo site onde haja apenas 140 caracteres e nenhum nazista? um usuário tuitou logo depois que o Twitter introduziu tuítes de 280 caracteres em novembro.

O Twitter não está sozinho na luta contra o fato de que seu produto está sendo corrompido por malevolência: o Facebook e o Google estão sob escrutínio intensificado desde a eleição presidencial, conforme mais informações vêm à tona revelando como suas plataformas manipulam os cidadãos, de Cambridge Analytica a vídeos de conspiração . As respostas das empresas foram tímidas, reativas ou pior. Todos eles são culpados de esperar muito para resolver o problema atual e todos eles têm um longo caminho a percorrer, diz Jonathon Morgan, fundador do Data for Democracy, uma equipe de tecnólogos e especialistas em dados que lidam com projetos governamentais de impacto social .

O que está em jogo é particularmente alto para o Twitter, visto que permitir notícias de última hora e um discurso global é fundamental para o apelo do usuário e para o modelo de negócios. Seus desafios, cada vez mais, são do mundo.

Como o Twitter entrou nessa confusão? Por que só agora está abordando a má-fé que tem perseguido a plataforma por anos? A segurança fugiu do Twitter, diz um ex-vice-presidente da empresa. Era a caixa de Pandora. Depois de aberto, como você coloca tudo de volta novamente?


Nos primeiros dias do Twitter, à medida que os fundadores da plataforma de microblog estavam descobrindo seu propósito, seus usuários mostraram a eles o poder do Twitter para o bem. Galvanizado por movimentos sociais globais, dissidentes, ativistas e delatores que abraçaram o Twitter, a liberdade de expressão se tornou o princípio orientador da startup. Deixe os tweets fluírem, disse Alex Macgillivray, o primeiro conselheiro geral do Twitter, que mais tarde atuou como vice-CTO no governo Obama. Internamente, o Twitter se considerava a ala da liberdade de expressão do partido da liberdade de expressão.

Essa ideologia provou ser ingênua. O Twitter ficou tão convencido da virtude de seu compromisso com a liberdade de expressão que a liderança interpretou mal como estava sendo sequestrado e transformado em arma, disse um ex-executivo.

O primeiro sinal de problema foi o spam. A pornografia infantil, ataques de phishing e bots inundaram o tweetstream. O Twitter, na época, parecia distraído com outros desafios. Quando a empresa nomeou Dick Costolo como CEO em outubro de 2010, ele estava tentando consertar a infraestrutura subjacente do Twitter - a empresa havia se tornado sinônimo de sua página de erro de servidor de baleia, que exemplificava sua base de engenharia fraca. Embora o Twitter estivesse atingindo 100 milhões de usuários em 2011, sua equipe antispam incluía apenas quatro engenheiros dedicados. O spam era incrivelmente embaraçoso, e eles construíram essas ferramentas estupidamente mínimas para [combatê-lo], diz um ex-engenheiro sênior, que se lembra das malditas guerras de bots que eclodiam enquanto contas falsas lutavam entre si por cliques.

Você não pode receber o crédito pela Primavera Árabe sem assumir a responsabilidade por Donald Trump, diz Leslie Miley , ex-gerente de segurança de engenharia do Twitter. [Ilustração da foto: Delcan & Company ]

O grupo de confiança e segurança do Twitter, responsável por proteger os usuários, era administrado por Del Harvey, funcionária número 25 do Twitter. Ela tinha um currículo atípico para o Vale do Silício: Harvey já havia trabalhado com o Perverted Justice, um polêmico grupo de voluntários que usava salas de bate-papo na web para desenterrar aparentes predadores sexuais e fazer parceria com a NBC's Para pegar um predador , fingindo ser menor para atrair pedófilos para serem presos na TV. Sua falta de experiência técnica e política tradicional a tornou uma figura polarizadora dentro da organização, embora os aliados considerem sua paixão por questões de segurança inspiradora. Nos primeiros dias, ela respondeu pessoalmente a usuários individuais [afetados] - Del trabalhou incansavelmente, diz Macgillivray. [Ela] assumiu alguns dos problemas mais complexos que o Twitter enfrentou. Não acertamos tudo, mas a liderança de Del muitas vezes foi um fator importante para isso.

A visão de Harvey, defendida por Macgillivray e outros executivos, era que o discurso ruim poderia ser derrotado com mais discurso, uma crença que ecoava a decisão histórica da Primeira Emenda do juiz da Suprema Corte, Louis Brandeis, de 1927, de que esse remédio é sempre preferível ao silêncio forçado. Harvey ocasionalmente usava como exemplo a frase Yo bitch, que malfeitores pretendem ser invectivos, mas outros percebem como um alô atrevido. Quem foi o Twitter para decidir? O mercado de ideias descobriria.

Em 2012, o spam estava se transformando em trollagem destrutiva e discurso de ódio. Os poucos engenheiros do grupo de Harvey criaram algumas ferramentas internas para permitir que sua equipe removesse conteúdo ilegal mais rapidamente, como pornografia infantil, mas não estavam preparados para a proliferação de assédio no Twitter. Cada vez que você constrói uma parede, alguém vai construir uma escada mais alta, e sempre há mais pessoas do lado de fora tentando te foder do que dentro de você tentando impedi-las, diz um ex-engenheiro de plataforma. Naquele ano, a personalidade da TV australiana Charlotte Dawson foi submetida a uma onda de tweets maldosos - por exemplo, vá se enforcar - depois de falar contra o abuso online. Dawson tentou suicídio e foi hospitalizado. No verão seguinte, no Reino Unido, depois que a ativista Caroline Criado-Perez fez campanha para divulgar a imagem de uma mulher na nota de 10 libras, seu Twitter foi inundado de trolls enviando-lhe 50 ameaças de estupro por hora.


A empresa respondeu criando um botão dedicado para denunciar abusos em tweets, mas os trolls só ficaram mais fortes na plataforma. Internamente, Costolo reclamou que a economia do abuso estava atrasada. Levou apenas alguns segundos para criar uma conta para assediar alguém, mas denunciar esse abuso exigia o preenchimento de um formulário demorado. A equipe de Harvey, empenhada em revisar o contexto de cada tweet relatado, mas sem uma equipe de suporte grande o suficiente, avançou lentamente. Várias fontes dizem que não era incomum que seu grupo demorasse meses para responder a tíquetes de abuso acumulados. Como não tinham o suporte de idioma necessário, os membros da equipe tiveram que contar com o Google Translate para responder a muitas reclamações não relacionadas ao inglês. Os agentes de suporte ao usuário, que avaliavam manualmente os tuítes sinalizados, ficavam tão sobrecarregados com os tíquetes que, se os usuários banidos apelassem da suspensão, às vezes eles simplesmente liberariam os infratores de volta à plataforma. Eles estavam se afogando, disse uma fonte que trabalhou em estreita colaboração com Harvey. Até hoje, é chocante para mim como o Twitter era ruim em segurança.

A liderança do Twitter, por sua vez, estava focada na preparação para o IPO da empresa em novembro de 2013 e, como resultado, dedicou a maior parte de seus recursos de engenharia à equipe de supervisão do crescimento do usuário, o que foi fundamental para o argumento de venda do Twitter para Wall Street. Harvey não tinha o suporte técnico de que precisava para criar soluções escaláveis ​​para os problemas do Twitter.

A toxicidade na plataforma intensificou-se durante esse período, especialmente nos mercados internacionais. Os trolls se organizaram para espalhar mensagens misóginas na Índia e mensagens anti-semitas na Europa. Na América Latina, os bots começaram a infectar as eleições. Centenas usadas durante a corrida presidencial brasileira de 2014 espalharam propaganda, levando um executivo de uma empresa a se encontrar com funcionários do governo, durante o qual, de acordo com uma fonte, quase todos os membros da Câmara e do Senado brasileiros perguntaram: ‘O que você está fazendo com os bots? & Apos; (Por volta dessa época, a Rússia supostamente começou a testar bots próprios para influenciar a opinião pública por meio da desinformação. O Twitter tolerava amplamente contas automatizadas na plataforma; uma fonte bem informada lembra que a empresa uma vez enviou uma carta de cessar e desistir para um criador de bots, que foi desconsiderado, um símbolo de sua resposta anêmica a este problema.) A liderança do Twitter parecia surda aos gritos de escritórios no exterior. Era uma empresa da Bay Area, diz um ex-funcionário internacional, ecoando uma reclamação comum de que o Twitter foi vítima da miopia do Vale do Silício. Sempre que [um incidente] acontecia nos EUA, era uma tragédia em toda a empresa. Gostaríamos de dizer, ‘Mas isso acontece connosco todos os dias!

Não foi até meados de 2014, na época em que os trolls forçaram a filha do comediante Robin Williams, Zelda, fora do serviço na esteira do suicídio de seu pai - ela voltou mais tarde - que Costolo finalmente teve o suficiente. Costolo, que havia sido vítima de abuso em seu próprio feed, perdeu a fé em Harvey, afirmam várias fontes. Ele colocou um departamento diferente para responder aos tíquetes de abuso enviados pelo usuário, embora tenha deixado Harvey encarregado de definir as diretrizes de confiança e segurança da empresa.


Hashtag Wars

O discurso no Twitter muitas vezes se transforma em confrontos entre visões de mundo opostas.


Logo, as ameaças se transformaram novamente: o ISIS começou a usar o Twitter para radicalizar os seguidores. Embebidos em valores de liberdade de expressão, os executivos da empresa lutaram para responder. Assim que começaram a circular os vídeos da decapitação, houve discussões brutais com Dick, relembra um ex-alto executivo. Ele dizia: ‘Você não pode mostrar as pessoas sendo mortas na plataforma! Devíamos simplesmente apagá-lo! 'E [outros argumentariam],' Mas e se um estudante de doutorado postar uma foto do assassinato de Kennedy? 'Eles decidiram permitir imagens de decapitações, mas apenas até a faca tocar o pescoço, e, de acordo com a duas fontes, a empresa designou agentes de suporte para pesquisar e relatar o conteúdo da decapitação - para que a mesma equipe pudesse removê-lo. Foi a coisa mais estúpida do mundo, diz a fonte que trabalhou em estreita colaboração com Harvey. [Executivos] já tomaram a decisão política de retirar o conteúdo, mas não queriam construir as ferramentas para aplicar [proativamente] a política. (Desde então, o Twitter eliminou centenas de milhares de contas relacionadas ao ISIS, uma abordagem vigorosa que ganhou elogios da plataforma.)

data de lançamento do youtube rewind 2019

Costolo, frustrado com os escassos esforços da empresa para lidar com esses problemas, enviou um memorando para toda a empresa em fevereiro de 2015, reclamando que estava envergonhado com o quanto o Twitter era péssimo em lidar com abusos. Se eu pudesse voltar no tempo, ficaria mais agressivo mais cedo, Costolo diz Fast Company , enfatizando que a culpa recai sobre ninguém menos que o CEO da época: eu.


Muitas vezes ouço pessoas no Vale do Silício falando sobre notícias falsas e desinformação como problemas dos quais podemos arquitetar nossa saída, diz Brendan Nyhan, codiretor da Relógio Bright Line , um grupo que monitora ameaças aos processos democráticos. Isto é errado. As pessoas procuram uma solução que não existe.

O Vale pode estar chegando a esse entendimento. No ano passado, o Facebook e o YouTube anunciaram iniciativas para expandir suas equipes de policiamento de conteúdo para 20.000 e 10.000 trabalhadores, respectivamente. O Twitter, por sua vez, contava com apenas 3.317 funcionários em toda a empresa no final de 2017, uma fração dos quais se dedicava a melhorar a qualidade da informação.

Colocar grandes quantidades de seres humanos no trabalho, no entanto, também não é uma panacéia. Ele apresenta novos problemas, desde preconceitos pessoais até ter que fazer chamadas complicadas sobre o conteúdo em questão de segundos. Esses revisores usam regras detalhadas projetadas para orientá-los a tomar decisões consistentes, diz Susan Benesch, docente associada do Berkman Klein Center for Internet and Society de Harvard e diretora do Projeto de fala perigosa . Isso é uma coisa difícil de fazer, especialmente em grande escala.

Os seres humanos costumam ser culpados por expurgos excessivamente amplos que capturam conteúdo benigno que não viola a política, como quando o YouTube fez uma varredura em busca de vídeos extremistas e relacionados a armas após o tiroteio em Parkland, excluindo clipes específicos e até mesmo canais inteiros que não deveriam foram sujeitos a eliminação. Um porta-voz do YouTube admitido para Bloomberg , Membros mais novos podem aplicar incorretamente algumas de nossas políticas, resultando em remoções equivocadas.

A enormidade desse enigma do controle de qualidade ajuda a explicar por que o Twitter freqüentemente falha, pelo menos inicialmente, em remover tweets que os usuários denunciam por assédio - alguns incluindo alusões à morte ou estupro - mesmo que pareçam violar os padrões da comunidade. A empresa também é criticada por tomar medidas contra tweets que violam essas regras, mas têm um contexto extraordinário, como quando temporariamente suspensa a atriz Rose McGowan por incluir um número de telefone privado em uma enxurrada de tweets criticando notáveis ​​de Hollywood na sequência do escândalo de assédio sexual Harvey Weinstein. Você acaba descendo uma ladeira escorregadia em muitas dessas coisas, diz um ex-executivo de nível C do Twitter. 'Oh, a solução simples é o X!' É por isso que você ouve agora, 'Por que você simplesmente não se livra dos bots ?!' Bem, muitas [mídias legítimas] usam [contas] automatizadas para postar manchetes. Muitas dessas soluções fáceis são muito mais complexas.


Cinco meses após o lamento de Costolo em fevereiro de 2015, ele se demitiu do Twitter. O cofundador Jack Dorsey, que dirigiu a empresa até ser demitido em 2008, substituiu Costolo como CEO (enquanto manteve o mesmo emprego em sua empresa de pagamentos, Square, sediada a um quarteirão de distância em San Francisco). Dorsey, que se formou em inglês em uma terra de cientistas da computação, tinha pensamentos profundos sobre o futuro do Twitter, mas nem sempre conseguia articulá-los de uma forma que se traduzisse em engenheiros. Eu ficaria chocado se você encontrasse alguém [a quem] Jack deu uma articulação extremamente clara de sua tese para o Twitter, diz o ex-alto executivo, observando que Dorsey descreveu o serviço usando metáforas como a ponte Golden Gate e um sistema elétrico tomada para uma torradeira. Uma vez, ele se reuniu no escritório de São Francisco para uma reunião onde disse aos funcionários que queria definir a missão do Twitter - e continuou a tocar Blackbird dos Beatles enquanto os participantes ouviam em um silêncio confuso.

Não havia dúvida, porém, de que ele acreditava no ethos definidor do Twitter. Twitter significa liberdade de expressão. Defendemos falar a verdade ao poder, Dorsey tweetou em seu primeiro dia oficial de volta como CEO do Twitter, em outubro de 2015.

Quando o mandato de Dorsey começou, o Twitter conseguiu lidar melhor com parte da poluição verbal que assola o serviço. As operações antiabuso da empresa foram assumidas por Tina Bhatnagar, uma experiente veterana da Salesforce que tinha pouca paciência com a liberdade de expressão. Bhatnagar aumentou drasticamente o número de agentes de suporte terceirizados que trabalham para a empresa e foi capaz de reduzir o tempo médio de resposta em tíquetes de denúncia de abuso para apenas algumas horas, embora alguns achem que o processo se tornou muito parecido com um jogo de números. Ela era mais como, ‘Basta suspendê-los, porra, & apos; diz uma fonte que trabalhou em estreita colaboração com ela. Se grande parte da empresa foi guiada pelas palavras do juiz Brandeis, Bhatnagar representou a famosa citação do juiz Potter Stewart sobre a obscenidade: Eu sei quando vejo.

Essa divisão ideológica foi refletida na hierarquia organizacional da empresa, que manteve Harvey e Bhatnagar em partes separadas da empresa - jurídica e engenharia, respectivamente - com gerentes separados. Eles geralmente trabalhavam exatamente nas mesmas coisas, mas com abordagens muito diferentes - era simplesmente maluco, diz um ex-funcionário de alto nível que se sentiu ricocheteado entre as duas facções. Mesmo aqueles que aparentemente estavam na mesma equipe nem sempre concordavam: de acordo com três fontes, Colin Crowell, vice-presidente de políticas públicas do Twitter, a certa altura se recusou a se reportar ao chefe de Harvey, o conselheiro geral Vijaya Gadde (sucessor de Macgillivray), devido em parte, por desacordos sobre a melhor maneira de abordar as questões de liberdade de expressão.

O contencioso tornou-se comum: a equipe de Bhatnagar iria querer suspender usuários que considerasse abusivos, apenas para ser anulado por Gadde e Harvey. Isso deixou Tina maluca, diz uma fonte familiarizada com a dinâmica. Ela iria procurar Jack, mas Jack estaria na Square, então no dia seguinte ele iria ouvir e fazer anotações em seu telefone e dizer: 'Deixe-me pensar sobre isso.' Jack não conseguia tomar uma decisão sem ficar chateado o pessoal da liberdade de expressão ou o pessoal da segurança online, então as coisas nunca foram resolvidas.

Os apoiadores de Dorsey argumentam que ele não era necessariamente indeciso - simplesmente não havia respostas fáceis. As disputas que borbulhavam até Dorsey costumavam ser casos extremos bizarros, o que significava que qualquer decisão que ele tomasse seria difícil de generalizar para uma ampla gama de casos. Você pode ter uma regra perfeitamente escrita, mas se for impossível aplicá-la a 330 milhões de usuários, é tão bom quanto não ter nada, diz uma fonte familiarizada com os desafios da empresa.

Dorsey tinha outras demandas de negócios para atender na época. Quando ele voltou como CEO, o crescimento do usuário estagnou, as ações caíram quase 70% desde seu pico após o IPO, a empresa estava a caminho de perder mais de US $ 500 milhões somente em 2015, e vários funcionários conceituados estavam prestes a deixar. Embora o Twitter tenha feito algum progresso no lançamento de novos produtos, incluindo Moments e seus recursos de vídeo ao vivo, ele lutou para atualizar sua experiência principal. Em janeiro de 2016, Dorsey usuários provocados com dicas de uma expansão do limite de 140 caracteres do Twitter, mas levou mais 22 meses para lançar tweets de 280 caracteres. O Twitter estava uma bagunça, diz Leslie Miley, que gerenciou o grupo de engenharia responsável pelos recursos de segurança até ser demitido no final de 2015. Quando você troca de VPs de produto todos os anos, é difícil manter uma estratégia em vigor.

O Twitter não apreciou totalmente a novidade do ataque de 2016 contra a comediante Leslie Jones, que espalhou de forma viral capturas de tela de tuítes falsos e photoshopados com o objetivo de mostrar coisas que ela compartilhou. [Ilustração da foto: Delcan & Company ]

Então chegou a eleição presidencial dos EUA. Todas as falhas do Twitter estavam prestes a ser ampliadas no cenário mundial. Os agentes de suporte do Twitter, aqueles que revisam o conteúdo sinalizado e percorrem a lama mais negra das mídias sociais, testemunharam os primeiros sinais de alerta quando Donald Trump começou a varrer as primárias. Vimos essa mudança radical, diz um deles na época. A discriminação parecia mais flagrante, a propaganda e os bots mais agressivos. Outro diz: você o removeria e ele voltaria em minutos, apoiando nazistas, odiando judeus, [memes com] fornos e, oh, o sapo ... o sapo verde! (Isso seria Pepe , uma caricatura grosseiramente desenhada que os supremacistas brancos cooptaram.)

Um ataque de trolls em julho de 2016 em SNL e Ghostbusters estrela Leslie Jones- incitado pelo provocador alt-right Milo Yiannopoulos –Provou ser um momento seminal para os esforços anti-assédio do Twitter. Depois que Jones foi bombardeado com tweets racistas e sexistas, Dorsey se encontrou com ela pessoalmente para se desculpar e declarou uma emergência de abuso internamente. A empresa baniu Yiannopoulos. Ele também aprimorou seus recursos de silenciamento e bloqueio e introduziu uma ferramenta opcional que permite aos usuários filtrar o que o Twitter determinou ser conteúdo de qualidade inferior. A ideia era que o Twitter não estaria suprimindo a liberdade de expressão - ele simplesmente não estaria jogando tweets indesejados na cara de seus usuários.

Mas esses esforços não foram suficientes para proteger os usuários da nocividade do ciclo eleitoral Clinton-Trump. Durante o ataque de Jones, capturas de tela de tweets falsos e Photoshop que pretendiam mostrar coisas que dividiam Jones se espalharam de forma viral pela plataforma. Esse tipo de manobra de desinformação se tornaria uma marca registrada da eleição de 2016 e além, e o Twitter não apreciou a força dessa nova frente na guerra de informações.

Das duas campanhas presidenciais, Trump’s sabia melhor como aproveitar o serviço para amplificar a voz de seu candidato. Quando o Twitter conseguiu grandes ofertas de anúncios do candidato republicano, funcionários de esquerda reclamaram com a equipe de vendas que deveria parar de aceitar o dinheiro de merda de Trump.

As disputas contínuas e não resolvidas sobre o que o Twitter deve permitir em sua plataforma continuaram a piorar no outono. Em outubro, a empresa renegou um acordo de US $ 5 milhões com a campanha Trump para um emoji personalizado #CrookedHillary. Houve um debate [interno] vicioso e retrocesso para Jack, disse uma fonte envolvida. Jack estava em conflito. Na décima primeira hora, ele puxou o plugue. Mais tarde, os aliados de Trump criticaram o Twitter por sua percepção de viés político.

Em 8 de novembro, os funcionários ficaram chocados com os resultados das eleições e, na manhã seguinte à vitória de Trump, a sede do Twitter era uma cidade fantasma. Os funcionários finalmente começaram a fazer um balanço do papel que sua plataforma desempenhou não apenas na ascensão de Trump, mas na polarização e radicalização do discurso.

Todos nós tivemos este momento de ‘puta merda’, diz um líder de equipe de produto na época, acrescentando que todos estavam fazendo a mesma pergunta: nós criamos este monstro?


Nos meses que se seguiram à vitória de Trump, os funcionários esperavam que Dorsey abordasse o papel do Twitter na eleição de frente, mas cerca de uma dúzia de fontes indicam que o CEO permaneceu em silêncio sobre o assunto internamente. Você não pode receber o crédito pela Primavera Árabe sem assumir a responsabilidade por Donald Trump, diz Leslie Miley, o ex-gerente de segurança.

Com o tempo, porém, o pensamento de Dorsey evoluiu e ele parece ser menos ambivalente sobre o que permitirá na plataforma. Fontes citam a polêmica proibição de imigração de Trump e a manipulação contínua de alt-right como influências. Ao mesmo tempo, o Twitter começou a atrair maior escrutínio do público e do Congresso dos EUA por seu papel na divulgação da desinformação.

Dorsey autorizou os líderes de engenharia Ed Ho e David Gasca a irem atrás de todos os problemas do Twitter e, em fevereiro de 2017, como parte do que alguns chamam internamente de sprint de abuso, a empresa implementou medidas mais agressivas para barrar permanentemente os malfeitores na plataforma e melhor filtrar conteúdo potencialmente abusivo ou de baixa qualidade. Jack ficou um pouco obcecado, disse uma fonte. A engenharia em todos os departamentos foi solicitada a parar de trabalhar em tudo o que estava fazendo e se concentrar na segurança.

As operações de segurança do Twitter, anteriormente isoladas, tornaram-se mais integradas com o lado do produto ao consumidor da empresa. Os resultados têm sido positivos. Em maio de 2017, por exemplo, depois de aprender a quanto abuso os usuários estavam sendo submetidos por meio do recurso de mensagens diretas do Twitter, a equipe que supervisionava o produto teve a ideia de introduzir uma caixa de entrada secundária para capturar conteúdo impróprio, semelhante a uma pasta de spam. Eles estão começando a acertar as coisas, diz um ex-gerente da empresa, abordando esses problemas como uma combinação de produto e política.

Durante um vídeo ao vivo de perguntas e respostas que Dorsey apresentou em março, ele foi questionado por que a confiança e a segurança não funcionavam com a engenharia muito antes. O CEO riu e, em seguida, admitiu: Tivemos muitas divisões históricas dentro da empresa onde não éramos tão colaborativos quanto poderíamos ser. Temos reconhecido onde essa falta de colaboração nos prejudicou.

Mesmo as vítimas anteriores de abusos no Twitter reconheceram que as novas medidas de segurança da empresa ajudaram. Acho que o Twitter está fazendo um trabalho melhor do que o crédito público, diz Brianna Wu, a desenvolvedora que se tornou o principal alvo da Gamergate , o grupo frouxo de trolls cujos ataques de 2014 a mulheres proeminentes na indústria de jogos foi um canário na mina de carvão do assédio no Twitter. A maioria das ameaças de morte que recebo hoje em dia são enviadas para mim no Facebook ou por e-mail, porque o Twitter foi muito eficaz em interceptá-los antes mesmo que eu pudesse vê-los, acrescenta ela, soando surpreendentemente alegre. (Os encontros de Wu com o lado negro das redes sociais ajudaram a inspirá-la campanha atual para uma vaga na Câmara dos EUA na área de Boston, com a segurança online como um de seus principais problemas.)

Centenas de bots foram usados ​​na eleição presidencial de 2014 no Brasil para espalhar propaganda política no Twitter, levando um executivo da empresa a visitar o país e se reunir com membros de seu Congresso Nacional. [Ilustração da foto: Delcan & Company + Jenue]

O Twitter também tem sido mais pró-ativo desde a eleição ao banir contas e remover verificações, principalmente de nacionalistas brancos e líderes de extrema direita, como Richard Spencer. (A marca de seleção azul que significa um usuário verificado foi originalmente projetada para confirmar a identidade, mas passou a ser interpretada como um endosso.) De acordo com três fontes, o próprio Dorsey dirigiu pessoalmente algumas dessas decisões.

O Twitter começou a lançar uma série de mudanças nas políticas e recursos em outubro passado, priorizando a civilidade e a veracidade ao invés do absolutismo da liberdade de expressão. Por exemplo, embora a ameaça de homicídio sempre tenha sido inaceitável, agora, até mesmo falar nisso com aprovação em qualquer contexto fará com que os usuários recebam uma suspensão. A empresa também tornou mais difícil tweetar informações incorretas em massa.

Essas repressões ainda não eliminaram os problemas inflamados do serviço: depois do tiroteio em massa em Parkland em fevereiro, alguns alunos sobreviventes se tornaram alvos de assédio e bots ligados à Rússia supostamente espalharam sentimentos pró-armas e desinformação. Ninguém, porém, pode acusar o Twitter de não confrontar seus piores elementos. A pressão sobre Dorsey para manter esse ímpeto também vem de Wall Street: em uma recente teleconferência de resultados, um analista da Goldman Sachs pressionou Dorsey sobre o progresso da empresa em eliminar bots e aplicar políticas de segurança. A qualidade da informação, respondeu Dorsey, agora é a principal função do Twitter.


No último Dia dos Namorados, o senador Mark Warner entrou em sua imponente suíte de canto no Hart Senate Office Building, em Washington, DC, serviu-se de um Vitaminwater e apressou-se em explicar por que o Vale do Silício precisa ser responsabilizado por seu papel na eleição de 2016 . Como vice-presidente democrata do Comitê de Inteligência do Senado, Warner está atolado com audiências de alto nível e briefings confidenciais, mas o assunto também é pessoal para o autodenominado técnico que fez fortuna na década de 1980 investindo em telecomunicações.

Warner está co-liderando a investigação do comitê sobre a interferência nas eleições russas, que tem se concentrado cada vez mais no poder crescente e irrestrito dos gigantes da tecnologia, que ele acredita que precisam superar sua arrogância e consertar suas plataformas. Uma das coisas que realmente me ofenderam foi a reação inicial das empresas de tecnologia em nos dispensar, ele começou, inclinando-se para a frente em sua cadeira de couro. 'Ah não! Não há nada aqui! Não olhe! 'Somente com uma pressão implacável é que eles começaram a confessar.

Ele salvou suas palavras mais duras para o Twitter, que segundo ele se arrastou muito mais do que o Facebook ou o Google. Todas as ações do Twitter foram na esteira das do Facebook, Warner reclamou em sua voz rouca, seu rosto ficando vermelho. Eles estão esboçando! A empresa foi a única a perder o prazo de 8 de janeiro para fornecer respostas às indagações do Comitê de Inteligência e, para piorar as coisas, o Twitter divulgou semanas depois que os bots vinculados ao Kremlin conseguiram gerar mais de 450 milhões de impressões, substancialmente mais do que a empresa relatado anteriormente. Houve esta [desculpa de], ‘Oh, bem, isso é apenas Twitter’. Essa não é uma resposta viável a longo prazo.

Você acaba caindo em uma ladeira escorregadia, diz um ex-executivo de nível C do Twitter quando questionado sobre por que o serviço não pode consertar alguns de seus problemas de abuso. ‘Oh, a solução simples é X!’ Muitas dessas soluções fáceis são muito mais complexas. [Ilustração da foto: Delcan & Company ]

Warner afirmou que teve conversas offline diretamente com Mark Zuckerberg, mas nunca com Dorsey. Jogando sombra, Warner sorriu ao sugerir que a empresa pode não ser capaz de comprometer tantos recursos quanto o Facebook e o Google podem, porque tem um modelo de negócios mais complicado e menos lucrativo.

A grande questão agora é como pode ser a intervenção do governo. A Warner sugeriu várias prescrições de políticas amplas, incluindo regulamentações antitruste e de privacidade de dados, mas aquela com o maior efeito potencial no Twitter e seus rivais seria torná-los responsáveis ​​pelo conteúdo de suas plataformas. Quando questionado se a União Europeia, que tem sido mais enérgica em sua regulamentação da indústria de tecnologia, poderia servir de modelo, o senador respondeu: [Estou] feliz que a UE esteja agindo. Eu acho que eles são mais ousados ​​do que nós.

Se o governo dos EUA começar a assumir um papel mais ativista na supervisão das redes sociais, isso desencadeará algumas das mesmas questões incômodas pelas quais a Europa já está trabalhando. Em 1º de janeiro, por exemplo, a Alemanha começou a aplicar uma lei conhecida como (respire fundo) Network Enforcement Act, ou NetzDG para breve. Em vez de estabelecer novas restrições ao discurso de ódio, exige que grandes redes sociais removam o material que viola as leis de discurso existentes no país - que são muito mais rigorosas do que seus equivalentes nos EUA - em 24 horas após ser notificado de sua existência. Decisões que levariam meses em um tribunal regular são agora [feitas] por empresas de mídia social em apenas alguns minutos, diz Mirko Hohmann, um gerente de projeto baseado em Berlim para o Global Public Policy Institute .

Como evidência de como essa abordagem pode criar resultados indesejados, ele aponta para um caso em que o Twitter fechou temporariamente a conta de uma revista de humor alemã depois que ela tuitou satiricamente na voz de Beatrix von Storch, líder de um partido de extrema direita. Nenhum tribunal teria julgado esses tweets ilegais, mas um funcionário do Twitter sob pressão o fez, diz Hohmann. (A empresa aparentemente até excluiu um tweet antigo de um dos arquitetos da NetzDG, Heiko Maas, no qual ele chamou outro político de idiota.)

Nos EUA, em vez de esperar por uma ação federal ou orientação internacional, legisladores estaduais em Maryland, Nova York e Washington já estão trabalhando para regulamentar os anúncios políticos nas redes sociais. Como disse Warner, a era do autopoliciamento do Vale do Silício acabou.


Independentemente de o governo federal intervir ou não, o fortalecimento das grandes redes sociais contra o abuso envolverá a implementação de soluções que ainda não foram inventadas. Se houvesse uma varinha mágica que eles pudessem acenar para resolver este desafio, com os recursos substanciais e experiência que possuem, então eles certamente o fariam, diz Graham Brookie, vice-diretor do Conselho do Atlântico Laboratório de pesquisa forense digital .

Ainda assim, há muitas coisas que o Twitter pode fazer para proteger sua plataforma. Usar a tecnologia para identificar bots nefastos é uma questão espinhosa, mas o Twitter poderia rotular todas as contas automatizadas como tais, o que não prejudicaria os feeds legítimos, mas tornaria mais difícil para os bots russos se passarem por apoiadores do Trump.

A questão aqui não é que haja automação no Twitter, diz Renée DiResta, chefe de política de Dados para a Democracia e conselheira fundadora da Center for Humane Technology . O problema é que existem contas automatizadas que tentam ser tratadas como pessoas reais, que estão agindo como pessoas reais, que estão manipulando pessoas.

O Twitter também pode fazer mais para desencorajar as pessoas a criarem conteúdo questionável, tornando suas regras mais visíveis e digeríveis. Susan Benesch, cujo Dangerous Speech Project é membro do Conselho de Confiança e Segurança do Twitter, diz que implorou aos executivos para aumentar a visibilidade das políticas de Regras do Twitter, que descrevem o que você não pode dizer no serviço. Eles dizem: ‘Ninguém lê as regras & apos; ela reconta. E eu digo 'Isso mesmo. E ninguém lê a Constituição, mas isso não significa que não devamos ter aulas de educação cívica e tentar fazer com que as pessoas a leiam. & Apos;

A empresa também pode construir confiança ao abraçar a transparência como mais do que uma palavra da moda, compartilhando mais com usuários e profissionais de marketing sobre como exatamente o Twitter funciona e colaborando com pesquisadores externos. Em comparação com outros gigantes da mídia social, seu modelo de negócios é muito menos dependente do uso de algoritmos secretos para monetizar os dados e comportamentos de seus usuários, dando a oportunidade de ser aberto de uma forma que o resto raramente é. Da maneira como as pessoas usam o Twitter, fica um pouco mais fácil ver e entender as coisas, diz Jason Kint, CEO do grupo comercial de editores Digital Content Next. Considerando que é incrivelmente difícil com o YouTube e eu diria que com o Facebook é bastante difícil.

Em direção a esse fim mais colaborativo e inspirado por pesquisas conduzidas por organizações sem fins lucrativos Cortico e MIT's Laboratório de Máquinas Sociais , O Twitter anunciou em março que tentará medir sua própria saúde conversacional. Convidou outras organizações para participar desse processo, e o Twitter informa que revelará seus primeiros parceiros em julho.

O esforço é intrigante, mas a iniciativa crowdsourced também soa assustadoramente semelhante ao Conselho de Segurança e Confiança do Twitter, cuja missão, desde que foi convocado em fevereiro de 2016, é fazer com que defensores, acadêmicos e organizações de base forneçam informações sobre a abordagem de segurança da empresa.

Muitas pessoas que trabalharam para o Twitter não querem uma métrica, mas um mea culpa. De acordo com uma fonte que discutiu essas questões com a liderança da empresa, a resposta deles a tudo foi basicamente: ‘Olha, ouvimos você, mas você não pode culpar o Twitter pelo que aconteceu. Se não fôssemos nós, teria sido outro meio. 'Os executivos não admitiram o fato de que somos responsáveis, e esse foi um dos motivos pelos quais me demiti.

Até o senador Warner acredita que antes que seus colegas considerem a legislação, os CEOs das empresas de tecnologia devem testemunhar perante o Congresso. Eu quero todos eles, não apenas Dorsey. Eu quero Mark e eu quero [os co-fundadores do Google] Sergey [Brin] e Larry [Page], disse ele. Não mande seus advogados, não mande os policiais. Eles devem uma explicação ao público americano.

Quando o Twitter estreou sua nova iniciativa de métricas de saúde, o público americano parecia finalmente ter uma, depois que Dorsey twittou sobre o Twitter: Não previmos ou entendemos totalmente as consequências negativas do mundo real. Nós reconhecemos isso agora. Ele continuou: Não temos orgulho de como as pessoas tiraram proveito de nosso serviço ou de nossa incapacidade de lidar com isso com rapidez suficiente. . . . Concentramos a maior parte de nossos esforços na remoção de conteúdo contra nossos termos, em vez de construir uma estrutura sistêmica para ajudar a encorajar debates, conversas e pensamento crítico mais saudáveis. Esta é a abordagem de que precisamos agora.

Uma semana depois, Dorsey continuou a reconhecer os erros passados ​​durante uma transmissão de vídeo ao vivo de 47 minutos no Twitter. Cometeremos erros - certamente cometerei erros, disse ele. Já fiz isso no passado em torno de todo esse tópico de segurança, abuso, desinformação [e] manipulação na plataforma.

O objetivo da transmissão ao vivo era falar mais sobre como medir o discurso, e Dorsey tentou responder às perguntas enviadas pelos usuários. Mas as centenas de comentários em tempo real passando na tela ilustram o imenso desafio que temos pela frente. À medida que o vídeo continuava, seu feed se enchia de insultos anti-semitas e homofóbicos, queixas cáusticas de usuários que temem que o Twitter esteja silenciando suas crenças e gritos lamentosos para que a empresa pare o racismo. Coçando a barba, Dorsey olhou para o telefone, observando o fluxo de palavras ruins enquanto ele procurava as boas.