Leia histórias reais de como o YouTube empurrou as pessoas para dentro de tocas de coelho chocantes

A Mozilla publicou 28 histórias para pressionar o YouTube a permitir que especialistas externos ajudem a consertar um mecanismo de recomendação que às vezes leva as pessoas a vídeos perturbadores.

Leia histórias reais de como o YouTube empurrou as pessoas para dentro de tocas de coelho chocantes

Há um jogador por aí que não fuma maconha e um entusiasta de cavalos que não gosta de pornografia equina. Mas eles dizem que receberam muitas recomendações do YouTube para vídeos sobre esses tópicos.

Estes são dois de um grupo com curadoria de 28 Arrependimentos no YouTube histórias que a Mozilla Foundation, mais conhecida pelo navegador Firefox, está publicando hoje. Na coleção de histórias, pessoas anônimas descrevem como começaram a assistir a algo inócuo no YouTube antes que o algoritmo de recomendação da plataforma começasse a mostrar vídeos radicais.

Estão incluídas histórias de vídeos recomendados com violência gratuita, teorias de conspiração de OVNIs, sentimento anti-LGBT +, propaganda da supremacia branca e protestos contra mulheres. Um pai relata como sua filha de 10 anos começou a procurar vídeos de sapateado e recebeu conselhos horríveis e inseguros de prejudicar o corpo e a imagem corporal. A menina restringiu o quanto ela come e até bebe para manter uma aparência esbelta, diz o pai.



A fundação recebeu mais de 2.000 contos desse tipo poucos dias depois de lançar uma convocação para envio de sua lista de seguidores por e-mail, diz Ashley Boyd, vice-presidente de defesa da fundação. O objetivo de compartilhar essas histórias com o mundo? Para pressionar o YouTube a colaborar com especialistas externos na reforma de um sistema de recomendação que às vezes sai dos trilhos.

[Captura de tela: cortesia da Mozilla]

Nenhuma das histórias foi verificada de forma independente. Mesmo alguns milhares de histórias de recomendações ruins são minúsculas para um serviço em que as pessoas assistem mais de um bilhão de horas de vídeo todos os dias. Não tem o objetivo de ser uma contabilidade científica ou rigorosa, mas dá uma ideia da forma como as pessoas estão vivenciando o [YouYube], diz Boyd.

custo do comercial super bowl

O YouTube diz que seus algoritmos enviam as pessoas, em média, a vídeos populares de assuntos como música e jogos, e não conteúdo limítrofe, como teorias da conspiração, teorias da terra plana e desinformação. O conteúdo limítrofe representa apenas uma fração de 1% do tempo de exibição, diz o YouTube.

Em alguns casos da Mozilla, as recomendações podem ter funcionado como deveriam, mesmo que isso tenha deixado os usuários desconfortáveis. Um espectador que assistiu a vídeos do comentarista conservador Ben Shapiro, por exemplo, ficou chateado com o fato de vídeos como Person X DESTROYS liberal aparecerem em seu feed de vídeo recomendado.

Muitos dos vídeos genuinamente perturbadores que as histórias descrevem parecem violar o YouTube Diretrizes da comunidade —Por exemplo, proibições contra conteúdo de incitação ao ódio, assédio e intimidação virtual e conteúdo violento ou explícito. E muitos devem ser tratados por medidas nas quais o YouTube tem trabalhado. Em junho, por exemplo, YouTube anunciou novos esforços para remover mais conteúdo odioso e supremacista que proclama um grupo superior a outros.

O YouTube já afirma ter muito sucesso, depois de fazer mais de 30 alterações no sistema de recomendação nos Estados Unidos neste ano. E a empresa diz que está recomendando vídeos com mais autoridade para neutralizar os clipes de conspiração e charlatanismo que as pessoas estão vendo (embora não esteja necessariamente removendo esses clipes). A maioria das histórias de terror da Mozilla não especifica há quanto tempo as recomendações extremas aconteceram, embora uma reclamação sobre vídeos de conspiração remonte a 2013.

A luta para reformar as recomendações

O YouTube afirma que as visualizações de recomendações de conteúdo limítrofe e desinformação prejudicial caíram 50% no ano passado.

como fazer o tempo desacelerar

Mas a Mozilla quer provas. Estou pedindo a eles que verifiquem suas próprias afirmações, diz Boyd. Se você deseja reconstruir a confiança, a maneira de fazer isso é realmente mostrar o seu trabalho, mostrar como você chegou a essa conclusão e se abrir para a verificação independente.

O YouTube tem muito que reconstruir. A junho New York Times artigo rotulou o local como Portão Aberto para Pedófilos. Na história, pesquisadores de Harvard dizem que seus algoritmos agregam vídeos inocentes de crianças, como meninas brincando na piscina, e os recomendam como conteúdo sugestivo. Usuários assistindo a vídeos eróticos seriam clipes recomendados de mulheres cada vez mais jovens - incluindo vídeos de meninas de 5 e 6 anos em trajes de banho.

como dizer não para a família

Mesmo os esforços sinceros de reforma podem ser prejudicados pela maneira geral como o YouTube funciona, diz Brittan Heller, advogado de responsabilidade social corporativa do escritório de advocacia Foley Hoag. Contanto que seu algoritmo tenha como premissa o engajamento, eles terão dificuldades para eliminar alguns dos tipos de conteúdo mais controversos, mas envolventes, diz Heller, que não é afiliado à campanha da Mozilla. O YouTube afirma não ter visto uma correlação entre desinformação prejudicial e aumento do engajamento.

Mozilla professa uma abordagem conciliatória. Temos todos os motivos para acreditar que você deseja levar isso muito a sério e realmente alinhar os recursos internamente a isso, disse Boyd ao YouTube. Mas a era de 'confiar em nós' já passou. Então, a Mozilla está pedindo que o YouTube abra seus dados para o escrutínio de todos os pesquisadores externos, como o ex-engenheiro do YouTube Guillaume Chaslot, que dirige o Projeto AlgoTransparency .

[Ilustração: cortesia da Mozilla]

O demandas são específicos e abrangentes, incluindo a capacidade de consultar o número de vezes que um vídeo é recomendado e o número de visualizações que resultam de uma recomendação. A Mozilla e os pesquisadores que ela representa também desejam acessar dados como se um vídeo foi relatado ou considerado para remoção.

E eles querem ajuda no desenvolvimento de ferramentas de simulação para avaliar o algoritmo de recomendação do YouTube, para que possam ver como e por que os espectadores são conduzidos a uma determinada toca de coelho.

Boyd e seus colegas se encontraram com o Google para o que ela descreve como uma reunião muito boa em setembro. Eles apresentaram algumas das histórias de terror de recomendação ao YouTube, diz ela, e também expuseram suas demandas. [O YouTube deixou] claro que eles não estão prontos para ser mais públicos ou abertos sobre seus esforços ao longo das linhas do que pedimos no momento, disse Boyd.

Como proteger seus olhos, entretanto

Se você está recebendo recomendações de vídeo ofensivas, irritantes ou simplesmente malucas no YouTube, há muito que você pode fazer sem esperar que a empresa ou qualquer outra pessoa conserte as coisas.

Para começar, considere desligar a reprodução automática clicando no botão de alternância no canto superior direito da tela. Mesmo que os algoritmos do YouTube queiram mandar você para o lixo, pelo menos ele não será reproduzido automática e indefinidamente. Heller sugere que o YouTube simplesmente desative a reprodução automática de conteúdo politicamente relacionado porque o algoritmo de recomendação acaba privilegiando visualizações marginais. Vários pesquisadores têm defendido a desativação de recomendações para vídeos com crianças, e o YouTube tem supostamente considerou desligar a reprodução automática de vídeos infantis .

como conseguir um emprego na tesla

Além disso, você pode simplesmente ignorar as recomendações de miniaturas de vídeo que aparecem à direita do que você está assistindo, embora isso possa ser difícil para a maioria das pessoas. YouTube disse ao New York Times que as recomendações geram 70% das visualizações no site.

Apenas desligue o fluxo.

Se você não consegue resistir à tentação de assistir o que aparece, faça um esforço para refinar o processo. Uma das histórias de terror do Mozilla é sobre um entusiasta da astronomia que foi inundado com todos os tipos de estranhas pseudociências da ‘Área 51’. Mas, eles confessaram, tudo que eu tinha que fazer é clicar em 'não estou interessado' algumas vezes e eles desapareceram gradualmente.

Pedimos às pessoas que aproveitem as configurações e ferramentas que existem atualmente, diz Boyd, mas ela acrescenta: Se você tivesse que disputar todas as configurações e bloquear todos os serviços e dispositivos que possui, poderia ser um trabalho de meio período.

Em última análise, há limites para o que qualquer pessoa pode fazer na ponta receptora, quando a grande tecnologia é onipresente. Mas os críticos dizem que o YouTube pode fazer muito mais para limitar as maneiras como seus algoritmos de recomendação mostram conteúdo prejudicial, e estão pedindo uma chance para ajudar.