O que os experimentos de dados nos dizem sobre a discriminação racial no Airbnb

Os autores de um novo livro sobre tomada de decisão baseada em dados observam como o Airbnb lidou - eventualmente, até certo ponto - com hosts que não eram tão hospitaleiros.

O que os experimentos de dados nos dizem sobre a discriminação racial no Airbnb

Na Internet, ninguém sabe que você é um cachorro. Essa é a legenda de um 1993 Nova iorquino desenho animado por Peter Steiner, falado por um cachorro sentado em um computador para outro cachorro. O cartoon falava muito sobre o anonimato percebido que passou a definir grandes faixas dos primórdios da Internet. Talvez em nenhum lugar a capacidade de interagir e realizar transações anonimamente foi mais transformadora do que na primeira geração de plataformas de comércio eletrônico. Hipoteticamente falando, um bebedor de café expresso de Cambridge, Massachusetts, poderia entrar na Internet e comprar uma máquina de café expresso Jura Impressa J9 usada, sem ser vista, de um estranho que mora em Berkeley, Califórnia. (Se você já passou algum tempo nas duas cidades, provavelmente não ficaria surpreso se essas duas cidades estivessem envolvidas em tal transação.)



Na era da Internet, o seguro de vida ficou mais barato. Viajar tornou-se mais fácil de planejar. Uma variedade maior de livros foi vendida. Em cada um desses exemplos, a internet permitiu que os mercados se tornassem mais eficientes e deixou os consumidores em melhor situação. As coisas estavam indo bem nos primeiros dias das compras online.

Além desses ganhos de eficiência, havia outra implicação mais sutil do surgimento do comércio eletrônico.



Ao facilitar as transações à distância que ofuscavam e tiravam a ênfase dos marcadores de raça e gênero do processo de compra, a Internet criou o potencial para reduzir a discriminação que há muito atormentava os mercados off-line. Considere, por exemplo, o caso da compra de automóveis, onde a discriminação foi documentada por décadas. Os economistas Fiona Scott Morton, Florian Zettelmeyer e Jorge Silva-Risso descobriram que as vendas de carros iniciadas online exibiam menos racismo no preço que persistia nas transações realizadas offline e pessoalmente. Os mercados não estavam apenas se tornando mais eficientes, mas também mais justos.



Mas essa visão tecno-utópica não duraria.

novos aplicativos para Android 2017

O Nova iorquino atualiza seu desenho animado

Avance para o início de 2010. eBay e Amazon já existiam há 15 anos. Uma nova safra de plataformas estava surgindo - como Airbnb, Uber e Upwork - e fazendo importantes escolhas de design que acabariam por moldar a eficiência e a equidade dos mercados que estavam projetando.



Mas havia algo diferente sobre o Airbnb e algumas das outras plataformas de segunda geração que estavam começando a surgir. Em contraste com o anonimato que marcou algumas das plataformas de comércio eletrônico anteriores, os perfis pessoais eram uma parte importante de algumas das plataformas mais recentes. Veja o Airbnb, por exemplo, onde nomes e fotos estavam na frente e no centro da plataforma. Além disso, os anfitriões daquela época podiam rejeitar os hóspedes sempre que quisessem, sem ter que explicar por quê. Por um tempo, o Airbnb penalizaria os anfitriões por rejeitar hóspedes - por exemplo, colocando suas propriedades em uma posição inferior nos resultados de pesquisa. Mas depois que a propriedade de um anfitrião foi danificada em um incidente de alto perfil, o Airbnb removeu a penalidade e encorajou os anfitriões a rejeitar os hóspedes quando se sentissem desconfortáveis ​​com eles, mesmo que os anfitriões tivessem poucas informações sobre os hóspedes para continuar. Com o tempo, as versões da penalidade anterior para a rejeição de convidados foram restabelecidas.

Compare essa situação com o site de viagens Expedia, onde os gerentes de propriedades (principalmente de hotéis) simplesmente listam a disponibilidade de quartos e praticamente qualquer pessoa pode reservar com um cartão de crédito. Claramente, o Airbnb estava trazendo mudanças dramáticas para o mercado. Em vez de ser um recurso difundido da Internet (como sugerido por 1993 Novo Yorker cartoon), o anonimato estava se tornando uma escolha de design que as plataformas podiam ou não fazer.

Com seu colega Ben Edelman, um de nós (Mike) escreveu um estudo de caso sobre o Airbnb com o objetivo de compreender a abordagem da plataforma para construir confiança e fazer com que as pessoas se sintam confortáveis ​​permitindo que estranhos entrem na intimidade de suas casas. Inicialmente, estávamos pensando sobre o problema geral de construção de confiança (isso foi antes de iniciarmos a pesquisa empírica sobre discriminação). Por meio desse processo, percebemos como os perfis pessoais eram proeminentes na plataforma, juntamente com a flexibilidade que o site dava aos hosts para rejeitar usuários - e nos perguntamos se isso aumentaria o potencial de discriminação que seria difícil de se envolver em outros mercados. Os anfitriões não estariam dispostos a alugar para pessoas de outras raças e etnias? Começando com o histórico Fair Housing Act de 1968, o governo dos EUA passou meio século lutando contra a discriminação nos mercados de aluguel off-line. Por meio de regulamentação e fiscalização, os esforços conseguiram reduzir os índices de discriminação, tanto em hotéis quanto em aluguéis de longa duração. O Airbnb agora levantou a perspectiva de apagar alguns desses ganhos duramente conquistados.



A ideia de transações anônimas à distância continuou a desaparecer a partir de novas plataformas de comércio eletrônico e, com ela, a promessa de uma era da internet mais justa. Em 2015, o Nova iorquino publicou um cartoon atualizado, este de Kamraan Hafeez, apresentando os cães anônimos do cartoon de 1993. A legenda? Lembra quando, na Internet, ninguém sabia quem você era?

Sala de manobra moral do Airbnb

Em 2014, Reed Kennedy, um empresário e investidor de tecnologia de sucesso, foi repetidamente rejeitado no Airbnb. Reed é negro e ele suspeita que a discriminação desempenha um papel importante. Seu perfil inclui uma foto dele mesmo, então a corrida é provavelmente a primeira coisa que os anfitriões veem ao decidir se ele é digno ou não de ficar em suas propriedades alugadas. Reed estendeu a mão para a empresa com suas suspeitas sobre as rejeições, pensando que eles gostariam de saber.

Ele recebeu um e-mail de um representante da empresa em resposta: Posso garantir que os incidentes em que você foi recusado pelos anfitriões não têm absolutamente nada a ver com sua raça ou etnia. A mensagem continuou: Você está fazendo um ótimo trabalho ao entrar em contato com vários hosts para encontrar o melhor lugar adequado para você. Agradeço a sua preocupação e quero que saiba que a Airbnb leva a discriminação a sério. Se houvesse algum motivo de preocupação, teríamos entrado em contato com os anfitriões imediatamente. No entanto, os hosts têm a liberdade de recusar solicitações por qualquer motivo.

Aqueles que tiveram experiência com convidados negros eram muito menos propensos a discriminá-los.

O representante passou a dizer a Reed como ele poderia aumentar suas chances de conseguir um quarto. Primeiro, a pessoa sugeriu que ela deveria obter referências para atestar por ele. As referências são uma ótima maneira de seus amigos garantirem (e se gabarem!) De você. Eles o ajudam a construir uma reputação de confiança na comunidade do Airbnb, já que aparecem diretamente no seu perfil público. Você pode solicitar referências por e-mail, Facebook ou Airbnb acessando o seu Perfil> Referências> Solicitar referências. Uma referência só será exibida em seu perfil público se a pessoa que a escreveu tiver uma foto de perfil em sua conta do Airbnb.

Em segundo lugar, o representante do Airbnb sugeriu que Reed procurasse um lugar que lhe permitisse reservar automaticamente. Eu sugeriria usar nosso recurso Instant Book, escreveu ela. Se uma listagem tiver o Instant Book ativado, você poderá reservá-la sem ter que esperar pela confirmação do anfitrião.

anjo número 1222

Ela também o encorajou a entrar em contato com os anfitriões assim que você tiver algumas referências criadas em seu nome. No final, o representante ofereceu a Reed um voucher de US $ 100 por seus problemas. Mas o verdadeiro golpe de misericórdia veio no fechamento do e-mail: Desejo a você muito sucesso com reservas pelo Airbnb, Reed. Eu posso dizer pela sua foto que você é um cara legal.

A essa altura, havia muitos dados sugestivos - mas não definitivos - de discriminação contra anfitriões por parte dos hóspedes. Por exemplo, sabia-se que os hosts afro-americanos estavam ganhando menos dinheiro por noite na plataforma do que os hosts brancos com listagens semelhantes. Não parecia um grande salto esperar que também pudesse haver discriminação contra os hóspedes afro-americanos por parte dos anfitriões.

Trabalhando com Ben Edelman e Dan Sviersky, um de nós (Mike) decidiu realizar um experimento para responder à pergunta: a discriminação contra hóspedes era um problema generalizado no Airbnb?

Os dados mostraram que os anfitriões do Airbnb eram menos propensos a aceitar reservas de hóspedes negros. [Gráfico cortesia de American Economic Journal .]

O experimento enviou consultas de aluguel para cerca de 6.400 hosts do Airbnb nos Estados Unidos. Com base no valor que os governos fizeram na avaliação da discriminação nos mercados imobiliários off-line, todas as pesquisas foram idênticas, exceto por um traço: metade era de hóspedes (fictícios) com nomes que são mais comuns entre brancos, conforme determinado por registros de nascimento (como como Brett e Todd), enquanto o restante era de convidados com nomes mais comuns entre negros (especificamente, nomes estatisticamente mais comuns entre afro-americanos, como Darnell e Jamal). Isso era semelhante à abordagem que os economistas Marianne Bertrand e Sendhil Mullainathan usaram para entender a discriminação nos mercados de trabalho em 2001 e 2002, e evocava o trabalho que os governos haviam feito nos mercados imobiliários off-line, desde pelo menos os anos 1970.

Os resultados foram surpreendentes. Consultas de convidados com nomes que soam distintamente afro-americanos tiveram 16% menos probabilidade de obter um sim dos anfitriões do que aqueles com nomes que soam brancos. Encontramos discriminação em uma variedade de bairros e tipos de listagem, de baratos a caros, de apartamentos separados a quartos de hóspedes e de pequenos proprietários a maiores que podem estar infringindo a lei ao violar o Fair Housing Act.

Resposta do Airbnb

Os resultados do nosso estudo tornaram-se públicos em dezembro de 2015. Advogados e legisladores do governo começaram a pesar a culpabilidade do Airbnb no assunto. Alguns usuários começaram a se perguntar se eles realmente queriam apoiar uma empresa como a Airbnb. The NPR show Cérebro Oculto exibiu um episódio sobre o assunto e, em seguida, hospedou um chat no Twitter no qual as pessoas compartilharam suas histórias de discriminação no Airbnb usando a hashtag #AirbnbWhileBlack. O Congressional Black Caucus escreveu ao CEO da Airbnb, instando a empresa a agir.

O Airbnb contratou uma força-tarefa composta por ativistas de direitos civis de alto nível. A força-tarefa incluiu o ex-procurador-geral Eric Holder; Laura Murphy, diretora do escritório legislativo da ACLU; e vários acadêmicos. De uma perspectiva de negócios, ficou claro que as escolhas de design do Airbnb facilitaram a discriminação e que a empresa estava bem posicionada para fazer mudanças. Agora a empresa precisava decidir como proceder.

Airbnb faz mudanças no design

A força-tarefa do Airbnb poderia ter escolhido defender uma das três direções gerais.

como ser mais espirituoso

Em um extremo, o Airbnb poderia continuar com o status quo e não fazer nada para reduzir a discriminação. No outro extremo, a empresa poderia eliminar completamente nomes, fotos e todas as outras informações de identificação dos perfis de usuário. Essa opção certamente eliminaria a plataforma da maior parte da discriminação que ela enfrentava, mas também impunha riscos. Os perfis pessoais oferecem uma maneira fácil de construir confiança entre os usuários do Airbnb. Tirá-los pode sacrificar parte dessa confiança.

A terceira opção seria manter os nomes e fotos dos usuários em seus perfis, mas implementar outras mudanças na esperança de reduzir a discriminação. Essas alterações podem incluir tornar as fotos menos salientes (por exemplo, diminuindo-as ou colocando-as em um local menos proeminente), fazer com que mais hosts adotem o Instant Book (o que permite que os hóspedes se inscrevam nas datas disponíveis no local) ou atualizando os termos e condições para proibir mais explicitamente a discriminação.

lá vai você com isso bs

A empresa decidiu seguir o caminho do meio. Os anfitriões podem continuar a ver o nome e a foto de um convidado e, em seguida, decidir se devem rejeitá-lo. Mas a empresa também se comprometeu a contornar as bordas para tentar reduzir a discriminação. As propostas variaram de treinamento de polarização opcional para anfitriões (embora eles não relatem quantos o fizeram) a ajudar os hóspedes que tiveram sua reserva negada com base na corrida a encontrar acomodações alternativas. A proposta mais promissora era o compromisso de aumentar o número de anfitriões que aceitariam hóspedes qualificados sem consultar previamente os dados do seu perfil. Em seu relatório, a empresa se comprometeu a tornar um milhão de listagens reserváveis ​​via Instant Book até janeiro de 2017.

A Airbnb também pensou na discriminação contra os anfitriões. Para tanto, a empresa acabou removendo as fotos dos hosts da página principal de resultados de pesquisa, o que significava que os convidados precisavam clicar em uma página para ver a foto de um host. Na época, as fotos dos convidados permaneceram muito salientes na plataforma.

Avaliando as mudanças

Após o experimento, o Airbnb também criou uma equipe de ciência de dados para estudar o problema e explorar possíveis soluções. Por exemplo, eles se comprometeram a experimentar reduzir a proeminência das fotos dos hóspedes no processo de reserva. Resumindo, o Airbnb realizaria experimentos para testar os efeitos de possíveis mudanças destinadas a reduzir a discriminação.

Embora as mudanças feitas pelo Airbnb vão na direção certa, uma nova pesquisa encontrou evidências de discriminação contínua na plataforma.

Para dar uma ideia dos tipos de experimentos que estão executando, considere a meta de aumentar a proporção de listagens que estariam disponíveis por meio da reserva instantânea. Existem muitas maneiras de fazer isso. Eles poderiam alterar a opção padrão dos hosts para reserva instantânea, pedindo-lhes que alterassem de forma proativa sua configuração se desejassem desativá-la. Como alternativa, eles podem pagar aos hosts para se inscreverem para uma reserva instantânea. Ou eles podem priorizar listagens que estão disponíveis para reserva instantânea e permitir que as forças do mercado recompensem os hosts pela inscrição. A Airbnb executou opções de teste de experimentos como essas.

Os reguladores também continuaram a tomar conhecimento. Na primavera de 2017, o Airbnb e o estado da Califórnia chegaram a um acordo que permitirá que o estado conduza testes de discriminação. Isso permitirá que o estado identifique a discriminação em uma base contínua e intensifique a aplicação quando necessário.

Embora as mudanças feitas pelo Airbnb vão na direção certa, uma nova pesquisa encontrou evidências de discriminação contínua na plataforma. Experimentos já documentaram discriminação no Airbnb contra casais do mesmo sexo, contra hóspedes com nomes que soam árabes e contra hóspedes com deficiências. O design da empresa também continuou a evoluir e, em 2018, o Airbnb anunciou que os anfitriões não seriam capazes de ver as fotos dos hóspedes até que o anfitrião decidisse se aceitariam ou não o convidado. A partir de nossas discussões com os funcionários da empresa, fica claro que há pessoas trabalhando lá que são profundamente dedicadas a reduzir o preconceito. Outras empresas de tecnologia também começaram a formar grupos de trabalho em torno da discriminação. Também está claro que muito precisa ser feito para criar um setor de tecnologia mais justo.

A evolução da discriminação nos mercados online também destaca lições importantes para as empresas pensarem sobre como usar experimentos para informar as decisões gerenciais.

A Airbnb realizou milhares de experimentos por ano. Mas eles não levaram em consideração o potencial de discriminação nesses experimentos. À medida que as empresas pensam em usar dados para informar decisões, os experimentos correm o risco de levar a objetivos muito estreitos, enfatizando o crescimento e o lucro de curto prazo acima de tudo. Mas, tendo uma visão mais ampla das métricas (neste caso, pensando no potencial de discriminação), os experimentos também fornecem uma nova oportunidade para ter discussões mais ricas em torno dos muitos objetivos das empresas e como avaliar o sucesso em cada um deles.


Adaptado de O poder dos experimentos: tomada de decisão em um mundo orientado a dados por Michael Luca e Max H. Bazerman. Reimpresso com permissão da The MIT PRESS. Copyright 2020.