A Apple explica como está tornando a Siri inteligente sem colocar em risco a privacidade do usuário

Os críticos dizem que a Apple está privando a IA que alimenta a Siri das informações pessoais de que ela precisa para ser um assistente eficaz. Os executivos da Apple dizem que é uma narrativa falsa.

A Apple explica como está tornando a Siri inteligente sem colocar em risco a privacidade do usuário

Eu acordo e coloco meu Apple Watch, e enquanto estou fazendo café, eu olho para baixo e vejo que o trânsito pode ser complicado no caminho para o trabalho, então eu me movo um pouco mais rápido. Também vejo um lembrete de uma reunião no final da manhã, em seguida, um vôo no meio da tarde para Los Angeles. Ao sair de casa, olho para baixo e vejo que o tempo estará claro e ensolarado. No aeroporto, meu cartão de embarque aparecerá no meu pulso. Ao longo do dia, entre essas pequenas assistências, meu Relógio me mostra algumas fotos de minha nova sobrinha.

mapa de interrupção da internet da at & t



Isso é o que um dia com o novo mostrador do relógio Siri (no último watchOS 4) pode parecer. É uma versão mais personalizada e proativa do Siri, e que pode aparecer em outros sistemas operacionais e dispositivos da Apple. O Siri está lentamente usando mais inteligência artificial para se comportar mais como um assistente humano que sabe o suficiente sobre você para lhe dar pequenos cutucões e lembretes úteis nos momentos certos durante o dia. Em teoria, quanto mais o assistente aprende sobre você, seus hábitos e seu habitat, mais perspicazes e úteis essas pequenas assistências podem se tornar.

Siri no Apple Watch



A maioria das grandes empresas de tecnologia está agora desenvolvendo seus próprios assistentes pessoais de uma forma ou de outra. Para alimentá-los, muitas empresas de tecnologia tendem a aspirar o máximo possível de seus dados de seus vários dispositivos e serviços em nuvem que você usa. Em seguida, eles usam computação em nuvem poderosa e aprendizado de máquina para combinar e analisar esses dados. Isso permite que eles conectem muitos pontos sobre seus hábitos, intenções e preferências. Esses aprendizados podem então ser usados ​​para oferecer ajudas úteis e perspicazes. Por exemplo, sabendo do seu histórico de refeições, localização, hora do dia e outros dados, um assistente digital pode sugerir uma pizzaria popular que não esteja lotada de clientes.



Mas na crescente guerra de IA do Vale do Silício, um narrativa isso é emergiu ao longo do ano passado, diz que os esforços de IA da Apple estão atrasados ​​em relação ao trabalho de outras grandes empresas de tecnologia, em parte devido à sua dedicação em proteger os dados do usuário. Entre as grandes empresas de tecnologia, a Apple adotou uma postura dura em relação à privacidade e tentou resistir a qualquer coleta de dados de usuários pessoalmente identificáveis ​​em seus servidores. A empresa argumentou repetidamente - às vezes em tribunal - que seus dados pessoais devem ser mantidos em sigilo, intocados pela polícia, anunciantes ou mesmo, na maioria dos casos, pela própria Apple.

Ao não enviar os dados pessoais dos usuários para a nuvem, argumentou-se, a Apple pode estar prejudicando o potencial da Siri, privando os modelos de IA dos quais depende dos dados pessoais necessários para uma assistência mais personalizada e informada aos usuários.

A Apple tem sido relativamente silenciosa sobre essa narrativa. Mas vários membros das equipes de IA e Siri da Apple, que conversaram recentemente com Fast Company disse que a privacidade do usuário e IA inteligente não são princípios concorrentes.



Acho que é uma narrativa falsa, disse Greg Joswiak, vice-presidente de marketing de produto da Apple. É verdade que gostamos de manter os dados o mais otimizados possível, isso certamente é algo que muitos usuários esperam, e eles sabem que estamos tratando sua privacidade de forma diferente do que alguns outros.

Joswiak argumenta que o Siri pode ser tão útil quanto outros assistentes sem acumular muitos dados pessoais do usuário na nuvem, como empresas como Facebook e Google estão acostumadas a fazer. Somos capazes de oferecer uma experiência muito personalizada. . . sem tratá-lo como um produto que guarda suas informações e as vende pelo lance mais alto. Não é assim que operamos.

Como o Siri aprende - e quantos dados pessoais ele precisa para ser eficaz - é de extrema importância para a Apple: as atualizações futuras do Siri darão a ele um papel cada vez mais central em nossas interações com todos os tipos de produtos Apple.



Craig Federighi, o vice-presidente sênior de software da empresa, escreveu em um e-mail para Fast Company que o Siri não é mais apenas um assistente de voz. . . A inteligência do Siri no dispositivo está otimizando as interações diárias com nossos dispositivos. As equipes da Apple trabalharam para torná-lo uma parte central de todas as nossas plataformas - iOS, MacOS, tvOS, watchOS e HomePod.

Com a atualização do software chegando neste outono, os usuários terão ainda mais funcionalidades do Siri e, nos próximos anos, será cada vez mais integrado à experiência do usuário central em todas as nossas plataformas, disse Federighi.

AI no dispositivo

Como seus rivais, a Apple realiza muitas tarefas sofisticadas de processamento e aprendizado de máquina nos dados que o usuário fala ou digita. A maior parte dele - especialmente tarefas que envolvem informações muito pessoais - acontece no dispositivo, longe da visão da Apple ou de qualquer outra pessoa, exceto do usuário.

o xfinity tem um limite de dados

Eles estão errando no lado da privacidade ao fazer muito no dispositivo, e não tanto na nuvem como outras pessoas fazem, diz o analista de pesquisa da Creative Strategies, Ben Bajarin. É apenas uma abordagem muito diferente da maneira como o Facebook, o Google e, até certo ponto, a Amazon estão fazendo isso.

Quando você fala uma solicitação para a Siri, o software do seu iPhone remove a solicitação de qualquer referência à ID do usuário e fornece uma ID de solicitação aleatória. Em seguida, é criptografado e enviado para a nuvem para mais reconhecimento de voz para identificar as palavras e para processamento de linguagem natural para entender o significado das palavras.

Se as palavras fossem: Ei, Siri, marque um encontro com Bob na próxima quarta-feira às 15h30, o Siri em execução no servidor enviaria uma diretiva genérica para adicionar o compromisso ao seu calendário. Mas é o dispositivo cliente que reassocia o comando com o usuário, adicionando o compromisso ao aplicativo de calendário em execução no dispositivo onde residem todas as informações de calendário pessoal do usuário.

Outras tarefas do Siri são realizadas independentemente da nuvem. Quando um usuário diz: Ei, Siri, encontre todas as fotos da minha esposa em setembro, o software do iPad ou iPhone depende de cálculos de reconhecimento facial feitos no próprio dispositivo para encontrar as imagens certas. (Desde o lançamento do iOS 10 do ano passado, o aplicativo Fotos tem usado modelos de aprendizado de máquina no iPhone para reconhecer pessoas, lugares e coisas na biblioteca de fotos; no iOS 11 e no macOS High Sierra a serem lançados em breve, o O aplicativo de fotos aproveitará ainda mais dados pessoais.)

Seu dispositivo é incrivelmente poderoso e é ainda mais poderoso a cada geração, disse Joswiak. E com nosso foco na privacidade, podemos realmente tirar proveito da exploração desse poder com coisas como aprendizado de máquina em seu dispositivo para criar uma experiência incrível sem ter que comprometer seus dados.

Os gráficos e outros chips especializados que carregam a carga computacional nos dispositivos da Apple têm aumentado constantemente em potência e velocidade de computação.

A Apple se beneficia muito do fato de controlar o hardware e o software envolvidos nos cálculos de aprendizado de máquina no dispositivo. Um executivo da Apple me disse que os engenheiros de hardware e software da empresa gastam muito tempo otimizando seu software de aprendizado de máquina para funcionar melhor com os processadores e sensores do dispositivo cliente. Essa integração ajuda os telefones e tablets da Apple a gerenciar a considerável carga de computação de funções como análise de linguagem natural e reconhecimento de imagem. Também tem sido relatado que a Apple está trabalhando em um chip dedicado para lidar com todos os tipos de cálculos de inteligência artificial.

O que vai para a nuvem

A Apple treina seus modelos de IA na nuvem, mas sem dados de usuário identificáveis. Por exemplo, a Apple pode usar um conjunto de imagens de treinamento de terceiros para ensinar um modelo de IA como descobrir se uma imagem no aplicativo Fotos é uma árvore, uma vara de pescar ou um pica-pau.

No coração do Siri estão os modelos de linguagem natural e de reconhecimento de voz da Apple, que permitem que o Siri reconheça as palavras que os usuários dizem e seu significado. Em alguns casos, as equipes usam o áudio das solicitações de voz dos usuários como dados de treinamento - tudo anônimo, diz a Apple.

Deixamos os identificadores de fora para evitar vincular expressões a usuários específicos, então podemos fazer muito aprendizado de máquina e muitas coisas na nuvem sem precisar saber que veio [do usuário], disse Joswiak. Em outras palavras, o Siri pode aprender coisas sobre os usuários como um todo, sem acessar os dados pessoais dos indivíduos.

A Apple retém seis meses de gravações de voz do usuário para ensinar o mecanismo de reconhecimento de voz a entender melhor o usuário. Existem muitos pedidos de voz para escolher. O Siri é usado por 375 milhões de pessoas todos os meses e está disponível em 36 países e 21 idiomas. A Apple até construiu modelos especializados em ajudar a Siri a entender as expressões de pessoas que falam inglês como segunda língua.

procurando um emprego durante a gravidez

Após esses seis meses, a Apple salva outra cópia das gravações, sem o ID do usuário, para uso no aprimoramento do Siri, e essas gravações podem ser mantidas por até dois anos. Os áudios de solicitações sobre música, times esportivos e jogadores e negócios ou pontos de interesse também são mantidos para treinar Siri, afirma a Apple.

(A Apple também começou a implementar uma nova técnica para anonimizar dados chamada privacidade diferencial, usando-a no iOS 10 para, por exemplo, melhorar as sugestões de emoji e no iOS 11 para ajudar o Safari a detectar sites que reproduzem conteúdo automaticamente e bloqueiam esse conteúdo; mas a Apple diz que o Siri não depende dessa tecnologia no momento.)

Os dados de solicitação de usuário anônimo ajudam a treinar os modelos de IA que permitem que o Siri sugira aplicativos para você, detecte eventos em mensagens e adicione-os ao seu calendário, além de apresentar notícias relevantes com base em seus interesses. O treinamento acontece nos servidores da Apple, mas os modelos só começam a praticar o que aprenderam quando são implantados em seu dispositivo.

Uma vez no dispositivo, os modelos começam a fazer cálculos nas coisas que você digita ou toca em seu dispositivo, ou nas coisas que são vistas na câmera do dispositivo, ouvidas através do microfone ou detectadas pelos sensores do dispositivo. Com o tempo, isso cria uma enorme pilha de dados pessoais no dispositivo, até 200 MB no valor . O trabalho do Siri é usar esses dados para colher insights sobre você que levam a assistências cada vez mais úteis.

No iOS 10.3, mais dados alimentam a Siri e recursos relacionados, graças a uma nova adição chamada iCloud Analytics. No momento, ele está ativado e a Apple diz que usará os dados de sua conta do iCloud para preservar a privacidade.

Bancando na confiança do usuário

Os concorrentes da Apple, como Google e Facebook, provavelmente se tornarão mais criativos e agressivos ao aproveitar os dados do usuário e a computação em nuvem para tornar seus assistentes cada vez mais úteis. Eles são empresas de publicidade que fornecem serviços da nuvem. Naturalmente, eles têm uma abordagem muito diferente para coletar e aproveitar os dados do usuário. Seus negócios dependem disso.

A Apple é cada vez mais uma empresa de serviços em nuvem. Oferecer serviços como Apple Music e iCloud agora contribui com cerca de um quarto das receitas da empresa, e sua participação está crescendo. Mas a Apple ainda é, sem dúvida, uma empresa de hardware. Dois terços de sua receita vêm da venda de iPhones.

Do ponto de vista estratégico, a Apple tem o luxo de controlar a plataforma de hardware na qual os usuários experimentam o resultado final de seu trabalho de IA. E ao manter muitos dos modelos básicos de aprendizado de máquina no dispositivo onde residem os dados mais pessoais dos usuários, a empresa pode manter sua posição como uma protetora obstinada da privacidade dos dados do usuário. Isso não é apenas uma boa RP, mas um negócio inteligente: a Apple quer vendê-lo em dispositivos pessoais, ferramentas essenciais para organizar sua vida, e isso significa ser uma caixa de segurança confiável e segura para seus dados mais pessoais e privados.

Na verdade, a abordagem centrada no dispositivo da Apple poderia, em última análise, provar-se muito melhor em aprender e analisar suas preferências e comportamento do que as outras empresas. Como a Apple está mantendo as informações pessoais sob a proteção de seu próprio dispositivo, Bajarin disse, você poderia argumentar que eles estão na melhor posição para aprender detalhes íntimos sobre você de uma forma que outras pessoas não estão.

o que o símbolo da paz significa

Em qualquer caso, o debate sobre a funcionalidade do Siri - e as habilidades de IA da Apple - com relação à privacidade pode ser principalmente acadêmico. No momento, pelo menos, não é fácil apontar para uma função crucial que o Siri está impedido de fornecer como resultado da insistência da Apple na privacidade ou da escassez de dados do usuário.

Os problemas do Siri são mais básicos. O assistente nem sempre fornece respostas que são tão correto e robusto como aqueles do Google Assistant quando a pergunta envolve pesquisa ou mapeamento na Internet. (Siri depende do motor de busca Bing da Microsoft e de seu próprio aplicativo Maps.) Outros problemas são causados ​​por paredes de jardim. Como muitas pessoas, eu uso o Gmail para meu e-mail pessoal, mas o Siri é capaz de aprender sobre as reservas de viagens que acabei de fazer apenas se o e-mail de confirmação aparecer nos aplicativos Mail ou Calendário da Apple. Da mesma forma, o Siri só pode responder a solicitações de música com músicas da Apple Music, não do YouTube ou outros serviços de terceiros como o Spotify.

Por outro lado, o Siri costuma brilhar quando se trata de fornecer ajuda e respostas personalizadas ao usuário. Isso pode sugerir um novo tópico de notícias após notar que você lê muitos blogs sobre um tópico específico. Ele pode descobrir que você normalmente treina nas manhãs de terça e quinta-feira ao mesmo tempo e começar a sugerir um treino de forma proativa nesses horários.

Uma nova maneira de pensar

Siri existe desde 2011, mas a Apple deu ao assistente um transplante de cérebro significativo apenas dois anos atrás.

A transformação veio em duas partes. Primeiro, depois de confiar por anos no mecanismo de reconhecimento de voz Nuance para entender o que os usuários diziam ao Siri, a Apple decidiu começar a desenvolver seus próprios mecanismos de reconhecimento de voz e linguagem natural.

eletrônicos da fry saindo do mercado

Este movimento se encaixou com uma mudança maior na forma como o cérebro de Siri funciona, em direção a redes neurais de ponta que imitam de forma muito aproximada as estruturas neuronais do cérebro. Antes da mudança, o Siri - incluindo seu mecanismo de reconhecimento de voz - usava uma abordagem baseada em regras em que novas palavras ou imagens capturadas pelo Siri eram comparadas a um grande gráfico de conhecimento para sua identificação ou significado. O assistente conseguia entender coisas para as quais havia sido explicitamente treinado para entender, mas não conseguia aprender a entender coisas novas.


Relacionado: Por que a Apple está observando o progresso da IA ​​do Google com atenção


Com a introdução de abordagens de inteligência artificial para aprimorar as habilidades cognitivas do Siri, a Apple começou a treinar seus modelos de IA para aprender por si próprios.

O objetivo do treinamento, como um engenheiro da Apple me disse, não é tanto fazer com que o modelo reconheça os dados de treinamento - pode ser um conjunto de imagens, palavras ou frases -, mas sim ensinar o modelo a compreender uma ampla gama de imagens ou termos, como eles podem encontrar no uso no mundo real. O treinamento, então, é mais para ensinar o modelo a se testar continuamente quanto à correção e a se tornar mais preciso e hábil na compreensão de coisas novas.

A nova abordagem da Apple primeiro pagou dividendos na capacidade do Siri de entender os usuários. No ano passado, muitos começaram a notar que Siri tropeçava muito menos em suas declarações e compreendia muito mais o significado por trás delas. À medida que a Apple coleta mais e mais palavras da boca de mais e diferentes tipos de usuários, o Siri fica ainda melhor em compreensão.

Apenas dois anos com uma nova maneira de pensar não é muito tempo, especialmente em comparação com a quantidade de tempo que alguns concorrentes da Apple desenvolveram e implantaram IA. Mas mesmo se o P&D de IA da Apple não é tão avançado como do Google ou do Facebook, como alguns argumentam, a empresa pode compensar sendo mais inteligente sobre a forma como aplica a tecnologia. Se a Apple puder armar a Siri com novos truques baseados em IA, as pessoas realmente usarão - e ganharão a confiança dos usuários protegendo seus dados - o número de artigos de pesquisa seus cientistas publicam sobre IA pura pode não importar tanto.

Esse tipo de pensamento está de acordo com a abordagem centrada no usuário da empresa, que Brian Croll, VP de marketing de produto da Apple para software, descreveu para mim quando visitei o campus no início deste verão.

As empresas muitas vezes inventam tecnologias e é como se tivessem um martelo e depois tentassem encontrar um prego, disse Croll. Começamos com um problema do consumidor e então vamos para nossa caixa de ferramentas de tecnologias e descobrimos quais nos ajudarão a construir o que queremos construir.

Acho que isso é incomum no Vale do Silício e é por isso que a Apple tem sido tão bem-sucedida com os consumidores, disse ele. Porque os consumidores não se preocupam realmente com a tecnologia pela tecnologia - eles se preocupam com o que ela faz .