Eles falam, gesticulam e se comportam como seres humanos. Ainda que vivam em telas, não é difícil pensar que sejam muito diferentes de alguém de carne e osso. Afinal, quantas pessoas você só conhece por filmes, séries e videoconferências? Estou falando sobre os Neons, "humanos digitais" criados pela Samsung. Eu sei, você já viu isso antes — Second Life e The Sims, jogos de simulação da vida real, têm 16 e 20 anos, respectivamente. Mas esses novos habitantes do mundo virtual são diferentes porque têm emoções. Por parecerem humanos de verdade, os Neons são o que de mais impressionante e bizarro saiu da CES 2020, segundo o Gabriel Francisco Ribeiro, meu colega que está acompanhando de perto a maior feira de tecnologia do mundo. Mas os Neons podem significar algo que vai além da bizarrice. Eles me fazem crer que o Facebook vai enfrentar grandes dificuldades em sua guerra contra as deepfakes. Nesta semana, a empresa anunciou uma caça a esse tipo de vídeo, modificado por inteligência artificial para fazer alguém dizer o que não disse, de um jeito que faz a alteração ser imperceptível. Mas vamos por partes. O que rolou?Antevendo que o bicho vai pegar de um jeito cabuloso nas eleições de 2020 dos Estados Unidos — e nas do Brasil, da Índia e em todas as que virão —, o Facebook se antecipou e: - Declarou que vai remover as deepfakes de sua plataforma. Só que nem todos os vídeos desse tipo serão tirados do ar, porque...
- ... serão removidos apenas os conteúdos que preencherem duas condições:
- Foram editados para levar pessoas comuns a acreditar que alguém no vídeo disse algo que na verdade não disse e...
- ... produzidos com sistemas de inteligência artificial ou de aprendizado de máquina (machine learning) que mesclem, substituam ou sobreponham qualquer conteúdo a um vídeo para que o produto final pareça autêntico.
Há exceções, pois retoques na clareza ou na qualidade das imagens não são critérios para remover um vídeo. Também vão ficar no Facebook: - Vídeos criados para satirizar ou parodiar alguma situação e que usem deepfakes e...
- ...aqueles alterados para ludibriar usuários, mas que não tenham deepfakes. Esses permanecerão, mas terão sua distribuição reduzida.
Por que é importante?A decisão do Facebook é louvável. Geralmente, a rede social corre atrás de soluções para problemas somente após eles serem mais do que palpáveis. Dessa vez, ela se antecipou. Mesmo com todo o receio em torno dos deepfakes, esses vídeos estão longe de ser uma epidemia. Mas a corrida presidencial nos EUA neste ano é apontada como o evento em que essas imagens deturpadas irão se espalhar. Ainda que se preparar para os problemas tenha suas vantagens, estipular regras para deletar conteúdos é, em si, algo polêmico. Os primeiros a verem seus vídeos removidos se sentirão injustiçados. E esse sentimento vai ser aprofundado devido à polarização política. Conservadores acusarão o Facebook de proteger progressistas, e vice-versa. O que era uma boa iniciativa vai acabar jogando mais lenha na fogueira em que estamos queimando. Outra situação incômoda em que o Facebook se coloca é a de decidir o que é uma paródia ou não. Okay, criações que colocam os rostos de Lula e Jair Bolsonaro nos corpos de personagens da novela mexicana "A Usurpadora" são obviamente cômicas. Mas o deepfake em que Mark Zuckerberg, CEO do Facebook, é filmado "admitindo" manipular as pessoas para vender seus dados a outras empresas pode enganar muita gente - "vai ver foi um sincericídio", poderiam comentar alguns. Para o Facebook, os dois exemplos são sátiras e não seriam removidos Se é árdua a missão de captar o teor de uma mensagem, considerando todas as nuances da comunicação humana, imagine como será difícil a vida do Facebook quando os Neons começarem a dar as caras por aí. Pior: as regras para conviver em redes sociais serão ainda mais complexas quando gente mal-intencionada achar uma ótima ideia fazer esses "humanos" digitais espalharem inverdades por aí. Não é bem assim, mas está quase láO Facebook tem criado ferramentas para detectar deepfakes automaticamente, mas é de se esperar que esses robôs precisem de uma mãozinha para distinguir uma mera piada ruim de um comentário ofensivo. Esses "caça-deepfakes" talvez se apoiem no que são gestos naturalmente humanos. Se for esse o caso, os Neons passarão imperceptíveis. O Gabriel me contou que eles são tão refinados que cada um se comporta de uma maneira inteiramente diferente do outro. Além disso, um mesmo Neon nunca age duas vezes da mesma forma. Nem o sorriso se repete. E as emoções — surpresa, medo, alegria — são manifestadas por seguirem os trejeitos de um humano. A ideia da Samsung é que eles atuem como comissários de bordo ou personal trainers. No futuro, quem sabe, os trabalhadores substituídos pelos Neons serão reaproveitados pelo Facebook, que, sem dúvida, precisará de um olhar humano para analisar o que é ser humano. | 
Nenhum comentário:
Postar um comentário