Deep Fakes: estamos lascados

Li meses atrás um artigo fascinante do engenheiro Marcos Pereira-Barreto, professor da Politécnica da USP, e descobri o conceito do Vale da Estranheza. Saiu na Revista da Cultura; infelizmente não está disponível online. Em suma, é um conceito criado pelo roboticista japonês Masahiro Mori, nos anos 1970, quando ele estudou a interação de humanos com máquinas: quando robôs lembram vagamente humanos, simpatizamos com eles; quando se tornam muito iguais, sentimos repulsa. Pensei nisto ao finalmente assistir Rogue One, ontem à noite. A "aparição" de Carrie Fisher em CGI é ridícula. Fui pesquisar e o rosto jovem, de filmagens da arquivo, foi inserido eletronicamente sobre o de outra atriz, além da voz. Notei imediatamente a entrada no Vale da Estranheza, devido aos olhos, e fiquei muito incomodado com a tosquice num filme que tem bom uso de efeitos especiais. Mas, até aí, o conceito de Mori trata de estética. Só que há um problema ético que vai além do uso da imagem de atores e atrizes já falecidos: ao ler a respeito da produção, fiquei estupefato. Achei que tinham usado um sósia de Peter Cushing no papel do General Tarkin, a semelhança era impressionante. No entanto, foi usado a mesma técnica: o rosto dele foi sobreposto ao de outro ator. Eu não notei em momento algum nada que parecesse artificial e Cushing morreu há um quarto de século. Quando a técnica se vulgarizar de vez, deep fakes, me parece, vão manter no poder gente pior do que quem hoje o ocupa. Achei uma boa reportagem recente a respeito do assunto, sobre um filme evidentemente bobo, que não tem a profundidade do artigo de Pereira-Barreto, mas cuja leitura é muito didática.

Este texto é uma pequena reflexão que publiquei originalmente no Facebook, mas que achei por bem deixar registrada em outra plataforma.

Pôster promocional de Rogue One, filme de 2016.