A agência de notícias estatal da China, a Xinhua News Agency, anunciou há uma semana atrás que vai fazer uso de pivots criados por Inteligência Artificial (IA). Esta medida terá por base a imagem de um pivot real, onde é editada a zona da boca para que este possa ler as notícias em formato de vídeo.

A notícia foi avançada pelo South China Morning Post, e é algo assustadora: é utilizada a imagem de um pivot com voz sintetizada, e a IA faz o resto. Basicamente tudo o que é necessário é que alguém leia o artigo em chinês ou inglês, a inteligência artificial coloca na imagem do Pivot os gestos necessários para que a imagem pareça o mais autêntica possível.

O Pivot digital foi feito à semelhança do pivot chinês Qiu Hao e, no seu vídeo de apresentação, este pivot digital refere que pode trabalhar 24 horas por dia, 365 dias por ano – ao contrário dos humanos. Esta inteligência artificial vai apresentar as notícias apenas em inglês. E entre os gestos humanos, inclui-se movimentos de sobrancelhas, pestanejar e outras expressões faciais, além dos movimentos da boca configurados para acompanhar a voz sintetizada.

“O desenvolvimento da indústria de media pede uma inovação contínua e uma integração profunda das tecnologias internacionais mais avançadas… Estou ansioso para lhe trazer novas experiências noticiosas”, diz este pivô digital no vídeo de apresentação.

O mais diabólico, é que este pivô digital vai trabalhar a partir de notícias escritas, textos, que depois reproduzirá, acompanhando com movimentos faciais e com toda a naturalidade.

O Terrorismo do Deep Fake…

Esta tecnologia já não vai voltar atrás. A China planeia assumir-se como líder mundial em inteligência artificial até 2030. E segundo a Xinhua News Agency, a tecnologia da inteligência artificial tem autenticamente “perspectivas infinitas”…

O estranho em todo este processo é que “as perspectivas infinitas” do pivot digital usa uma tecnologia muito semelhante à utilizada nos Deep Fakes.

Resumidamente o Deep Fake é uma ferramenta de edição de vídeo, que foi criada por um usuário do Reddit, e que usa a Inteligência Artificial para fazer o “Swap de rostos” de figuras públicas, colocando-as em situação chocantes.

A voz, a sincronização dos movimentos labiais, as expressões e gestos, tudo é possível falsificar…

Como funciona isto?

Em Dezembro de 2017 um utilizador do Reddit, com o nickname “deepfakes” inaugurou as hostilidades. Utilizando ferramentas de Inteligência Artificial em código aberto ou Open Source, ele utilizou o Keras e o TensorFlow (que pertence ao Google) para criar um algoritmo para treino de rede neural, e assim mapear o rosto de uma pessoa com intenção de o reproduzir “frame-a-frame”.

Mapeando o rosto da vítima, usa-se uma “cabeça de destino” para depois disso fazer a sobreposição… O Software posteriormente encarrega-se de ajustar as expressões.

No início o Deep Fake exigia conhecimentos avançados, até começarem a aparecer App’s que têm a capacidade de o fazer… Meses depois os sites pornográficos de referência começaram a receber uploads de uma nova categoria: “Celebrity Deep Fakes”.
Entre as mais atacadas destacam-se Gal Gadot, Taylor Swift, Selena Gomez, Ariana Grande, Emma Watson, Maisie Williams, Scarlett Johansson, Daisy Ridley.
Qualquer “deep fake” configurado numa placa gráfica GeForce GTX 1050 para cima (ou seja, em computadores de Gamming), consegue resultados bastante aceitáveis e dificeis de distinguir da realidade. E o Reddit era especialista até há pouco tempo na viralização dos “melhores vídeos”…

Reddit / Deep Fake

É real???

Existir um vídeo na Internet que não conseguimos distinguir da vida real, é o perigo.

O Deep Fake é tão forte enquanto mensagem, que inclusivamente já foi utilizado na política: o partido belga Socialistische Partij, criou um vídeo falso em que Donald Trump, presidente dos Estados Unidos, pede à população do país que votasse pela renúncia ao Acordo de Paris, um tratado que rege políticas climáticas.

O partido defende a criação de mais legislações ambientais, e o vídeo falso com Trump foi uma jogada de “Psicologia Reversa”: se ele é contra leis a favor da natureza, a maioria do público acabaria votando a favor apenas para contrariá-lo.

Este vídeo é propositadamente “falso” e mal-feito porque tinha que ser entendido como brincadeira, até porque é utilizado no “combate político”. Mas e se for clonada a face do pivot digital e a notícia seja de difícil confirmação da fonte original, mas com rápidas consequências?

Um rumor divulgado por Whatsapp pode ter consequências desastrosas, como podemos ver por exemplo aqui. Então como será o Futuro, quando a fonte de notícias e a fonte mais credível fonte de Fake News (os Deep Fakes), usarem a mesma tecnologia?

***Aceite a sugestão do Bit2Geek e leia pode a Inteligência Artificial criar Arte?