AI está inventando línguas que os humanos não entendem. Devemos parar com isso?

Os pesquisadores do Facebook perceberam que seus bots estavam conversando em um novo idioma. Então eles pararam.

AI está inventando línguas que os humanos não entendem. Devemos parar com isso?

Bob: Eu posso, tudo o mais.

Alice: Bolas têm zero para mim para mim para mim para mim para mim para mim para mim para mim.

Para você e eu, essa passagem parece um absurdo. Mas e se eu dissesse que essa bobagem é a discussão sobre qual pode ser o software de negociação mais sofisticado do planeta? Software de negociação que aprendeu e evoluiu para obter o melhor negócio possível com mais velocidade e eficiência - e talvez, nuances ocultas - do que você ou eu jamais poderíamos?Porque é.



Esta conversa ocorreu entre dois agentes de IA desenvolvido dentro do Facebook . No início, eles estavam falando um com o outro em um inglês simples e antigo. Mas então os pesquisadores perceberam que cometeram um erro na programação.

Não houve recompensa em manter a língua inglesa, diz Dhruv Batra, pesquisador visitante da Georgia Tech no Facebook AI Research (FAIR). Como esses dois agentes competiram para conseguir o melhor negócio - um pouco muito eficaz de IA vs. IA, os pesquisadores de brigas de cães apelidaram de uma rede adversária geradora - nenhum dos dois recebeu qualquer tipo de incentivo para falar como uma pessoa normal faria. Então, eles começaram a divergir, eventualmente reorganizando palavras legíveis em frases aparentemente sem sentido.

Os agentes vão se desviar de uma linguagem compreensível e inventar palavras-código para si próprios, diz Batra, falando sobre um fenômeno agora previsível que foi observado novamente , e novamente , e novamente . Como se eu dissesse 'o' cinco vezes, você interpreta que significa que eu quero cinco cópias deste item. Isso não é tão diferente da forma como as comunidades humanas criam abreviações.

[Captura de tela: cortesia do Facebook]

De fato. Os humanos desenvolveram dialetos únicos para tudo, desde negociar barrigas de porco no pregão da Mercantile Exchange até caçar terroristas como Seal Team Six - simplesmente porque os humanos às vezes atuam Melhor por não seguir as convenções de linguagem normais.

Portanto, devemos deixar nosso software fazer a mesma coisa? Devemos permitir que a IA evolua seus dialetos para tarefas específicas que envolvem falar com outras IAs? Para fofocar essencialmente fora do nosso alcance? Pode ser; ele nos oferece a possibilidade de um mundo mais interoperável, um lugar mais perfeito onde iPhones conversam com geladeiras que conversam com seu carro sem pensar duas vezes.

A desvantagem é que nós, como humanidade, não teríamos ideia do que essas máquinas eram na realidade dizendo um ao outro.

Ensinamos bots a falar, mas nunca aprenderemos a língua deles

No final das contas, o Facebook optou por exigir que seus bots de negociação falassem o inglês antigo e simples. Nosso interesse era ter bots que pudessem falar com as pessoas, dizMike Lewis, cientista pesquisador da FAIR. O Facebook não está sozinho nessa perspectiva. Quando perguntei à Microsoft sobre linguagens de computador para computador, um porta-voz esclareceu que a Microsoft estava mais interessada na fala de pessoa para computador. Enquanto isso, Google, Amazon e Apple também estão concentrando energias incríveis no desenvolvimento de personalidades coloquiais para consumo humano. Eles são a próxima onda de interface do usuário, como o mouse e o teclado da era da IA.

O outro problema, como o Facebook admite, é que ele não tem como entender verdadeiramente qualquer linguagem de computador divergente. É importante lembrar que não existem falantes bilíngues de IA e línguas humanas, diz Batra. Nós geralmente não entendemos como IAs complexos pensam porque nós não consigo ver dentro de seu processo de pensamento . Adicionar conversas AI a AI a este cenário só pioraria o problema.

Mas, ao mesmo tempo, parece uma visão curta, não é? Se podemos construir um software que pode comunicar-se com outro software de forma mais eficiente, não deveríamos usar isso? Não poderia haver algum benefício?

[Imagens de origem: Nikiteev_Konstantin / iStock, Zozulinskyi / iStock]

Porque, novamente, podemos fazer com que as máquinas desenvolvam suas próprias linguagens. O Facebook tem três artigos publicados que comprovam isso. É definitivamente possível, é possível que [a linguagem] possa ser compactada, não apenas para salvar caracteres, mas compactada para uma forma que possa expressar um pensamento sofisticado, diz Batra. As máquinas podem conversar com quaisquer blocos de construção de linha de base que são oferecidos. Isso pode começar com o vocabulário humano, como os bots de negociação do Facebook. Ou pode começar com números ou códigos binários. Mas, à medida que as máquinas desenvolvem significados, esses símbolos se tornam tokens - eles são imbuídos de ricos significados. ComoGolfinhoaponta, as máquinas podem não pensar como você ou eu, mas os tokens permitem que eles troquem pensamentos incrivelmente complexos por meio do mais simples dos símbolos. A maneira como penso sobre isso é com a álgebra: se A + B = C, o A poderia encapsular quase tudo. Mas para um computador, o que A pode significar é muito maior do que o que A pode significar para uma pessoa, porque os computadores não têm limite absoluto de capacidade de processamento.

É perfeitamente possível que um token especial signifique um pensamento muito complicado, diz Batra. A razão pela qual os humanos têm essa ideia de decomposição, quebrando ideias em conceitos mais simples, é porque temos um limite para a cognição. Os computadores não precisam simplificar conceitos. Eles têm a potência bruta para processá-los.

Por que devemos deixar boatos de bots

Mas como alguma dessas tecnologias poderia realmente beneficiar o mundo, além dessas discussões teóricas? Nossos servidores seriam capazes de operar de forma mais eficiente com bots falando uns com os outros em taquigrafia? Os processos de microssegundos, como a negociação algorítmica, podem ter algum aumento razoável? Conversando com o Facebook e vários especialistas, não consegui obter uma resposta firme.

No entanto, por mais paradoxal que isso possa parecer, podemos ver grandes ganhos em tal software melhor compreensão nosso intenção. Enquanto dois computadores que falam sua própria língua podem ser mais opacos, um algoritmo predisposto a aprender novas línguas pode mastigar novos dados estranhos que os alimentamos com mais eficácia. Por exemplo, um pesquisador recentemente tentei ensinar uma rede neural para criar novas cores e nomeie-as. Foi péssimo nisso, gerando nomes como Pinheiro Súbito e Pasta Transparente (aquela pasta clara, aliás, foi rotulada em verde claro). Mas então eles fizeram uma mudança simples nos dados com os quais alimentavam a máquina para treiná-la. Eles colocaram tudo em letras minúsculas - porque letras maiúsculas e minúsculas confundiam tudo.De repente, a IA de criação de cores estava funcionando, bem, muito bem! E por alguma razão, ele preferiu, e teve um desempenho melhor, com valores RGB em oposição a outros códigos de cores numéricos.

Por que essas mudanças simples de dados são importantes? Basicamente, o pesquisador fez um trabalho melhor ao falar a linguagem do computador. Como um codificador me disse,Colocar os dados em um formato que faça sentido para o aprendizado de máquina é uma grande tarefa agora e é mais arte do que ciência. O inglês é uma língua muito complicada e complicada e nada amigável para o aprendizado de máquina.

primeira foto instagram do kevin systrom

[Imagens de origem: Nikiteev_Konstantin / iStock, Zozulinskyi / iStock]

Em outras palavras, as máquinas com permissão para falar e gerar linguagens de máquina podem, ironicamente, permitir que nos comuniquemos (e até mesmo controlemos) as máquinas melhor, simplesmente porque elas estariam predispostas a ter um melhor entendimento das palavras que falamos.

Como um membro de uma grande empresa de tecnologia de IA me disse: Não, sua empresa não estava ativamente interessada em IAs que geravam suas próprias linguagens personalizadas. Mas, se fosse, a maior vantagem que ele imaginava era que poderia permitir que software, aplicativos e serviços aprendessem a se comunicar sem intervenção humana.

No momento, empresas como a Apple precisam criar APIs - basicamente uma ponte de software - envolvendo todos os tipos de padrões que outras empresas precisam cumprir para que seus produtos se comuniquem. No entanto, as APIs podem levar anos para serem desenvolvidas e seus padrões são amplamente debatidos em toda a indústria em argumentos de uma década. Mas o software, com permissão para aprender livremente como se comunicar com outro software, pode gerar seus próprios atalhos para nós. Isso significa que nossos dispositivos inteligentes podem aprender a interoperar, sem a necessidade de API.

Considerando que nossa era conectada tem sido um pouco decepcionante, visto que a internet das coisas é principalmente uma piada , visto que não é mais fácil transferir um documento do seu telefone Android para a sua LG TV do que era há 10 anos, talvez haja algo na ideia de permitir que as IAs do nosso mundo falem em nosso nome. Porque nossas corporações parecem não conseguir decidir sobre nada. Mas essas redes adversárias? Eles fazem as coisas.