Facebook passará a remover deepfakes da rede social

O Facebook anuncia na manhã desta terça-feira, 7, que vai começar a remover vídeos com graus de manipulação de sua rede social. A medida visa especialmente reduzir os danos causados por deepfakes, vídeos falsos produzidos com ajuda de inteligência artificial, que misturam rostos e corpos ou fazem uma pessoa dizer algo que na verdade não disse. É uma tecnologia recente, mas que pode causar bastante estrago – especialmente em períodos eleitorais. Vale lembrar que 2020 é ano de pleito presidencial nos Estados Unidos.

Segundo a empresa, “mídia manipulada enganosa” será removida da plataforma se atender aos seguintes critérios: se o conteúdo foi editado para além de ajustes de clareza ou qualidade, de forma impercetível para uma pessoa comum e se IA foi utilizada para mesclar, substituir ou sobrepor um conteúdo a um vídeo, fazendo ele parecer autêntico. Vídeos editados em prol de clareza, no entanto, não serão afetados, bem como paródias ou sátiras. Segundo a empresa, mais de 50 especialistas em áreas técnica, política, jurídica e de mídia foram ouvidos para formular essas políticas.

Todo vídeo na plataforma também poderá ser verificado por checadores de fatos independentes – segundo a empresa, são 55 parceiros em 45 idiomas no mundo todo. Um vídeo checado como falso terá seu alcance reduzido no Feed de Notícias, nem poderá ser impulsionado com propaganda. Quando alguém tenta compartilhar o conteúdo rotulado como falso, recebe um aviso de que ele não é verdadeiro.

Esforços

Não é a primeira vez que o Facebook anuncia esforços na área de deepfakes: em setembro do ano passado, a companhia lançou um desafio para a detecção desses vídeos manipulados. Com parceiros como Amazon, Microsoft e BBC, o desafio já recebeu US$ 10 milhões em doações, que serão usadas para recompensar avanços e pesquisas em ferramentas para detectar vídeos manipulados.

A rede social também já sofreu com esse tipo de manipulação: em 2019, circulou pelo Instagram um vídeo falso de Mark Zuckerberg no qual uma versão criado por algoritmos do fundador da rede social diz que rouba e controla os dados das pessoas. Após muita polêmica, a empresa decidiu não removê-lo da plataforma.

Na época, a decisão era consistente com a política de uso dos produtos do Facebook, que também havia se recusado a remover um vídeo criado por algoritmos que retrata uma versão “bêbada” de Nancy Pelosi, presidente da Câmara dos Deputados dos EUA – na época, a decisão do Facebook causou polêmica no meio político americano. No auge da polêmica do vídeo de Pelosi, Neil Potts, diretor de política pública do Facebook, garantiu que nem mesmo um vídeo falso de Mark Zuckerberg seria removido da rede social.

Segundo a empresa, porém, os dois vídeos não seriam removidos da plataforma mesmo com a nova política, embora fossem passíveis de checagem pelas agências independentes. O vídeo de Zuckerberg por se tratar de uma clara sátira. A segunda produção ficaria porque a rede social considera que não foram colocadas palavras na boca da congressista – o vídeo teria alcance reduzido e avisos sobre a intervenção de terceiros na produção.