Esta nova IA de troca de rosto é assustadoramente realista

O fim da realidade é iminente.

Esta nova IA de troca de rosto é assustadoramente realista

A tecnologia de troca facial com IA impressionou a internet quando estreou ano passado, na Siggraph, a conferência anual de computação gráfica. Os vídeos, conhecidos como deep fakes, rapidamente se tornaram um fenômeno ainda mais controverso - e doloroso - à medida que as pessoas usavam o algoritmo para criar vídeos pornôs usando os rostos de celebridades relutantes ou cidadãos particulares. Mesmo que um artefato ocasional revelasse a falsidade, estava claro que a tecnologia derrubou a parede entre a ficção e a realidade.



Agora, uma nova iteração da tecnologia, chamada Retratos de vídeo profundos tecnologia, está estreando na conferência Siggraph deste ano em agosto. O vídeo de sete minutos que acompanha o artigo, que foi carregado no YouTube esta semana, mostra como o ano passado de pesquisas levou essa tecnologia a um novo nível que abala a realidade.

Depois de conseguir fechar a boca, pense por alguns minutos no que acabou de ver. Caramba, toque de novo. Duas vezes se você precisar.



A equipe de Stanford por trás do artigo diz que o realismo notável em seu trabalho é alcançado por um treinamento adversário cuidadoso e, como resultado, [eles] podem criar vídeos de destino modificados que imitam o comportamento da entrada criada sinteticamente. Para obter o controle total do vídeo alvo, os pesquisadores renderizam uma pessoa totalmente sintética - bem como o fundo. Eles afirmam que podem realizar qualquer tipo de recombinação de parâmetros, como mudar o que uma pessoa original faz ou trocar totalmente de rosto, sem modelar explicitamente o cabelo, o corpo ou o fundo. Em outras palavras, a IA cuida de tudo sozinha.



Seu carretel Siggraph 2018 parece realmente indistinguível da realidade: da alteração sutil e natural das expressões faciais à incrível façanha de alcançar o movimento 3D natural automaticamente, ao fato de que os torsos dos sujeitos agora combinam perfeitamente com os movimentos da cabeça. O software também pode reconstruir automaticamente o fundo de cada vídeo e até mesmo projetar uma sombra realista contra ele, para enganar os olhos. É um feito tecnológico que me faz sentir que estamos testemunhando uma mudança de paradigma na humanidade.

Na verdade, como Mark Wilson escreveu em Co.Design no início deste ano, o fim da realidade parece agora realmente iminente. Estamos à beira de uma reinvenção completa de como entendemos a imagem em movimento. Antes, gravávamos um vídeo como prova do fato - fosse ele mostrando alguém cometendo um crime ou um político simplesmente fazendo uma declaração. Deep Video Portraits pode ser o penúltimo passo para destruir a verdade outrora incontestável do vídeo. Consertar isso, seja com termos legais ou com perícia, parece quase impossível. Como qualquer outro software, sua distribuição e uso são imparáveis.

Deepfakes, o Redditor anônimo que criou o código que levou à proliferação de vídeos no ano passado, falou com Co.Design sobre suas previsões para o software em março. Segundo eles, não há como impedir. A única coisa que podemos fazer é aumentar a conscientização de que essa tecnologia existe: primeiro, o algoritmo é muito, muito fácil de entender e não vejo nenhuma razão para escondê-lo, disse Deepfakes na época. Outra pessoa encontrará uma solução semelhante mais cedo ou mais tarde. Dois, é melhor deixar o público saber que esses algoritmos existem, que as pessoas saibam como esses algoritmos funcionam, agora. Esconder essa informação parece imoral para mim.



O único problema é que saber disso realmente não muda nada. Se você não pode confiar no que vê, como pode formar uma visão de mundo? A resistência, receio, é fútil. Basta fazer pipoca e aproveitar a viagem para o inferno.