Este é o impacto do algoritmo acidental de fobia de gordura do Instagram

A fundadora do Visible Collective, Jessica Richman, explora o impacto do algoritmo não intencional do Instagram que discrimina corpos gordos.

Este é o impacto do algoritmo acidental de fobia de gordura do Instagram

Ouvi há meses que o Instagram tinha um algoritmo que sinalizava desproporcionalmente imagens de corpos mais gordos. Em setembro deste ano, meus temores foram confirmados.



De acordo com Jennifer Allbaugh (nome do artista Ruby), vice-presidente da Guilda de atores adultos performers (APAG), um membro da equipe do Instagram, de fato, confirmou que o Instagram tem um algoritmo que detecta e sinaliza fotos com mais de 60% da pele. [ Nota do editor: um porta-voz da empresa do Facebook disse em um comunicado: Isso não é verdade. Temos tecnologia de IA proativa para encontrar conteúdo que provavelmente viola nossas políticas e não permite nudez. No entanto, muitos sinais entram em vigor. Não usamos um algoritmo que identifica uma porcentagem da pele. Facebook, dono do Instagram, tem esta política sobre conteúdo adulto. ]

Embora a intenção original do algoritmo fosse censurar imagens que possivelmente poderiam ser vistas como inadequadas, especialmente para o público mais jovem, o algoritmo afetou desproporcionalmente e adversamente usuários do Instagram e influenciadores maiores.



Digamos que uma mulher de corpo menor decida usar um maiô que cubra até 40% de sua pele. Agora vamos imaginar que uma mulher gorda decida usar o mesmo maiô. Esse maiô pode ter um pouco mais de tecido devido ao tamanho maior, mas o corpo desse indivíduo pode ter muito mais pele, fazendo com que o algoritmo do Instagram sinalize a imagem, embora não haja nada de impróprio nele. Embora o Instagram provavelmente não tenha feito isso, eles acabaram criando um algoritmo que discrimina corpos gordos.



Como muitas empresas importantes estão abordando o fato de que os algoritmos têm efeitos adversos em relação à raça e Gênero sexual , Acredito ser importante ressaltar que as pessoas de tamanho também são afetadas agora, várias vezes ao dia, no Instagram, por um algoritmo inerentemente discriminatório.

Aprendi mais sobre o algoritmo do Instagram em CurvyCon , um evento de três dias que reúne marcas, fashionistas, viciados em compras, blogueiros e YouTubers em um único espaço para conversar com curvas, fazer compras e abraçar as curvas. Isso e onde Carina Shero , uma influenciadora e modelo de lingerie plus size, perguntou à atriz e ativista Jameela Jamil como ela poderia impedir que o Instagram sinalizasse injustamente suas imagens e as de outros influenciadores plus size.

Segui com Carina depois para mergulhar mais fundo em algumas de suas preocupações e aprendi detalhes adicionais sobre como as políticas do Instagram a afetaram. Carina disse que foi banida nas sombras por 2,5 anos e agora está em sua sétima conta (mas ainda tem 533 mil seguidores). De acordo com a Wikipedia, proibição de sombra é o ato de bloquear ou bloquear parcialmente um usuário ou seu conteúdo de uma comunidade online, de forma que não fique prontamente aparente para o usuário que ele foi banido.



Outros influenciadores corpulentos que ela conhece tiveram relatos que foram censurados de forma desproporcional. Isso incluía ter contas excluídas, postagens excluídas, fotos removidas, imagens não aparecendo em hashtags e dificuldade em ser verificada apesar de atender aos requisitos para receber um crachá de verificação. Carina disse: O mesmo conteúdo pode ser visto em uma pessoa gorda e uma magra, mas em uma pessoa gorda é considerado pornográfico, e em uma pessoa magra é permitido.

Carina me disse que o Adult Performers Actors Guild protestou recentemente contra as políticas que proibiam continuamente os artistas adultos no Instagram. Durante esse protesto, Carina disse que os membros do sindicato tiveram a oportunidade de se envolver com representantes do Instagram. Por meio de minha pesquisa, descobri mais tarde esta reunião incluiu A chefe de políticas públicas do Instagram, Karina Newton, a gerente assistente de políticas públicas Aparajitha Vadlamannati, a oficial de comunicações Stephanie Otway e a gerente associada de política de produto do Facebook, Kim Malfacini.

Quando, de acordo com Jennifer, você não pode fazer negócios sem estar no Facebook ou Instagram, ser expulso do site faz com que alguém não apenas se sinta condenado ao ostracismo, mas também pode afetar sua renda. Outro influenciador plus size com quem conversei, Lilith Fury , teve muitas de suas imagens sinalizadas, incluindo algumas que eram postagens patrocinadas. Ela não pode mais usar o recurso de conteúdo de marca no Instagram, o que remove sua legitimidade como possível parceira de marcas e, assim, diminui a quantidade de dinheiro que ela pode ganhar como influenciadora. Se eu compartilhasse todas as histórias sobre pessoas gordas (especialmente mulheres) cujos relatos foram afetados, este artigo nunca teria fim.



Este algoritmo não afeta apenas o bem-estar emocional e a subsistência dos influenciadores, mas tem grandes efeitos posteriores.

Segundo Carina, como pessoa plus size, a única mídia que temos é a que criamos para nós mesmas. Ela está certa. Quando Refinery29 e Getty Images lançaram seu 67% do projeto em 2017, eles reconheceram que, embora 67% das mulheres sejam plus size, elas representam menos de 2% das imagens que vemos. Carina descreveu como recebeu mensagens de fãs que estavam à beira do suicídio porque nunca pensaram que poderiam se ver bonitas até que viram imagens dela. Ela também recebeu vários e-mails de parceiros de pessoas dizendo que as imagens de Carina transformaram a autoimagem de seus parceiros, o que ajudou a mudar positivamente seus relacionamentos.

O medo de Carina em relação ao algoritmo do Instagram é que se as pessoas não puderem se mostrar como realmente são e não puderem viver suas próprias vidas expressas, outros sofrerão como resultado. É inaceitável que as pessoas não sejam capazes de se expressar plenamente. Temos o poder de mudar a forma como a sociedade percebe as pessoas gordas.

Enquanto Jennifer (Ruby) da APAG refletia sobre seu tempo com o Instagram, ela mencionou que eles têm um trabalho impossível, e ela sente por eles. Ela detalhou como, uma vez que o algoritmo sinaliza uma imagem, os usuários podem apelar para que essas imagens sejam vistas por uma pessoa. Infelizmente, ela disse que as pessoas que revisam essas imagens não são muito diversas, o que significa que pode haver apenas um ponto de vista sobre o que é aceitável.

Ela acredita que o Instagram pode aumentar a justiça em sua moderação, empregando um grupo variado e diversificado de pessoas. Ela até sugeriu a contratação de artistas adultos aposentados que podem ter mais domínio para entender o que deve ser visto como apropriado e o que não deve. Sugeri que a contratação de influenciadores plus size atuais como moderadores também pode ser benéfica para o processo de moderação. Quanto mais diversificado for o histórico das pessoas que monitoram contas, melhor. Todos nós temos preconceitos, mas a diversidade de moderadores permite que esses preconceitos se cancelem mutuamente.

Nesse ínterim, Jennifer sugeriu que as pessoas de tamanho grande que sentem que estão continuamente enfrentando discriminação no Instagram continuem a apelar. Se eles descobrirem que o Instagram não está funcionando, eles devem enviar suas informações para Site de discriminação do Instagram da APAG . O APAG está capturando essas informações e enviando uma lista de contas sinalizadas para o Instagram para que eles fiquem cientes dessas contas e possam possivelmente ajudar.

A APAG está especialmente interessada e bem posicionada para trabalhar com o Instagram nisso, porque a organização sabe que é isso que a indústria adulta passou há 40 anos. Se o Instagram quiser evitar um aumento significativo da regulamentação governamental, eles precisam descobrir como se policiar e proteger a liberdade de expressão de todos ao mesmo tempo.

Jennifer pareceu positiva e cooperativa ao falar sobre o Instagram. Ela até mencionou que os funcionários do Instagram e membros da APAG se abraçaram no final da reunião profundamente emocionante. Ela percebe que o Instagram tem um caminho desafiador pela frente, mas quer ajudá-los tanto quanto possível a criar um algoritmo e uma estrutura de moderação onde todos os corpos são valorizados.

O mesmo se aplica ao The Visible Collective e aos muitos influenciadores com os quais nos conectamos e apoiamos. Colaboração, em vez de medo, é a resposta. Quanto mais feedback útil e construtivo a comunidade gorda puder dar, melhor chance teremos de ajudar o Instagram a nos servir melhor.

Jessica Richman é a fundadora e CEO da The Visible Collective . O Visible Collective assessora empresas no desenvolvimento de produtos, marketing e desenvolvimento de novos negócios para melhor atender 71% dos clientes rotulados com sobrepeso ou obesidade pelos Centros de Controle e Prevenção de Doenças.