Entenda como os algoritmos do TikTok ‘leem’ sua mente

O algoritmo do TikTok tem quatro objetivos principais: “valor de usuário”, “valor de usuário de longo prazo”, “valor de criador” e “valor da plataforma”. Esse conjunto de objetivos foi extraído de um documento franco e revelador para os funcionários da empresa, que oferece novas informações de como o aplicativo de vídeo de maior sucesso no mundo criou um produto de entretenimento – que alguns chamariam de viciante.

O documento, intitulado “TikTok Algo 10”, foi produzido pela equipe de engenharia da TikTok em Pequim, na China. Uma porta-voz da empresa, Hilary McQuaide, confirmou sua autenticidade e disse que ele foi escrito para explicar aos funcionários não familiarizados com o algoritmo como ele funciona. O documento oferece um novo nível de detalhes a respeito do famoso aplicativo de vídeo, oferecendo uma amostra reveladora tanto do núcleo matemático do aplicativo quanto do entendimento da empresa sobre a natureza humana – como nossas tendências para o tédio e nossa sensibilidade para interpretações culturais – que ajudam a explicar por que é tão difícil de largar o aplicativo. O documento também revela a conexão contínua da empresa com sua controladora chinesa, a ByteDance, em um momento em que o Departamento de Comércio dos Estado Unidos está preparando um relatório que discute se a TikTok representa um risco de segurança para o país.

Se você está entre o bilhão de pessoas que passa tempo no TikTok todos os meses, está familiarizado com o aplicativo como o veículo central de 2021 para a cultura jovem e a cultura online em geral. Ele exibe um fluxo infinito de vídeos e, ao contrário dos aplicativos de redes sociais, ganha cada vez mais espaço e funciona mais como entretenimento do que como uma conexão entre amigos.

Ele teve sucesso onde outros aplicativos de vídeos curtos fracassaram, em parte porque criar conteúdo nele é muito fácil. O app dá aos usuários trilhas sonoras para dançar ou memes para encenar, em vez de fazê-los preencher um espaço vazio. E para muitos dos usuários, que usam o aplicativo apenas para ver conteúdos, ele é absurdamente bom em entender preferências, seja você interessado em socialismo, em dicas para usar o Excel, em sexo ou em uma determinada celebridade. Ele é assustadoramente bom em revelar o que as pessoas gostam até mesmo para elas mesmas. “O algoritmo do TikTok sabia mais da minha sexualidade do que eu”, diz uma de uma série de manchetes sobre pessoas maravilhadas com o raio x do aplicativo em relação a si mesmas.

Retenção

O TikTok compartilhou publicamente as linhas gerais de seu sistema de recomendação, dizendo que a tecnologia leva em consideração fatores que incluem curtidas e comentários, assim como informações do vídeo, como legendas, sons e hashtags. Analistas externos também tentaram decifrar o código do aplicativo. Uma reportagem recente do jornal americano Wall Street Journal demonstrou como o TikTok depende imensamente de quanto tempo você gasta assistindo a cada vídeo para direcioná-lo a mais vídeos que o farão continuar usando o aplicativo. E esse processo às vezes pode levar os jovens espectadores a lugares perigosos, mais especificamente para vídeos que encorajam o suicídio ou a automutilação – problemas que o TikTok diz estar trabalhando para eliminar, excluindo de forma agressiva as publicações que violam seus termos de serviço.

O novo documento foi compartilhado com o New York Times por uma pessoa autorizada a lê-lo, mas não a compartilhá-lo, e que o entregou sob condição de anonimato. A pessoa ficou perplexa com o “empurrãozinho” dado pelo aplicativo para acessar um conteúdo “triste” que poderia induzir a automutilação.

O documento explica de modo franco que em busca do “principal objetivo” da empresa de conseguir mais usuários ativos por dia, ela tinha escolhido otimizar duas métricas intimamente relacionadas ao fluxo de vídeos que exibe: “retenção” (ou seja, se um usuário volta) e “tempo gasto”. O aplicativo quer manter o usuário no app o máximo possível. A experiência às vezes é descrita como um vício, embora também remeta a uma crítica frequente à cultura pop. O dramaturgo David Mamet, escrevendo com desprezo em 1998 a respeito da “pseudoarte”, observou que “as pessoas são atraídas pelos filmes de verão porque eles não as satisfazem, e, por isso, oferecem oportunidades para repetir a compulsão.”

Para os analistas que acreditam que as recomendações de algoritmos representam uma ameaça social, o documento do TikTok confirma as suspeitas.

“Esse sistema significa que o tempo de exibição é fundamental. O algoritmo tenta deixar as pessoas viciadas em vez de dar a elas o que realmente querem”, disse Guillaume Chaslot, fundador do Algo Transparency, um grupo com sede em Paris que estudou o sistema de recomendação do YouTube e tem uma visão sombria do efeito do produto em crianças, de modo particular. Chaslot revisou o documento do TikTok a meu pedido.

“Acho que é uma ideia maluca deixar o algoritmo de TikTok guiar a vida de nossos filhos”, disse ele. “A cada vídeo que uma criança assiste, o TikTok obtém uma informação sobre ela. Em algumas horas, o algoritmo pode detectar seus gostos musicais, sua atração física, se ela está deprimida, se talvez esteja usando drogas e muitas outras informações confidenciais. Existe um alto risco de que algumas dessas informações sejam usadas contra ela. Isso poderia ser usado para extorqui-la ou torná-la mais viciada na plataforma.”

O documento diz que o tempo de exibição não é o único fator que o TikTok leva em consideração. Ele mostra uma equação aproximada de como os vídeos são pontuados, na qual uma previsão gerada pelo aprendizado de máquina e o comportamento real do usuário são somados para cada uma das três partes de dados: curtidas, comentários e tempo de reprodução, assim como uma indicação de que o vídeo foi exibido.

“O sistema de recomendação dá pontuações a todos os vídeos com base nessa equação e leva os usuários para os vídeos com as pontuações mais altas”, lê-se no documento. “Para resumir, a equação mostrada neste documento é altamente simplificada. A equação real em uso é muito mais complicada, mas a lógica por trás é a mesma.”

Mágica algorítmica?

O documento descreve em detalhes como a empresa ajusta seu sistema para identificar e eliminar “caça-cliques” – vídeos destinados a enganar o algoritmo ao pedir explicitamente que as pessoas o curtam – e como a TikTok pensa sobre questões variadas.

Outro gráfico no documento indica que a “monetização do criador” é um dos objetivos da empresa, uma sugestão de que a TikTok talvez favoreça parcialmente vídeos se eles forem lucrativos, não apenas pelo entretenimento.

Julian McAuley, professor de ciência da computação da Universidade da Califórnia em San Diego, que também teve acesso ao documento, disse em um e-mail que ele carece de detalhes sobre como exatamente o TikTok faz suas previsões, mas que a descrição de seu mecanismo de recomendação é “totalmente aceitável e tradicional.” A vantagem da empresa, disse ele, vem da combinação de aprendizado de máquina com “volumes fantásticos de dados, usuários altamente engajados e uma configuração onde os usuários são receptivos a consumir o conteúdo recomendado por algoritmos (pense em como poucas outras configurações têm todas essas características!). Não se trata de alguma mágica algorítmica.”

E, de fato, o documento faz muito para desmistificar o tipo de sistema de recomendação que as empresas de tecnologia costumam apresentar como impossivelmente difícil para críticos e reguladores entenderem, mas que normalmente se concentra em recursos que qualquer usuário comum pode entender. A cobertura do Wall Street Journal sobre os documentos vazados do Facebook, por exemplo, ilustrou como a decisão da rede social de dar mais peso aos comentários ajudou a disseminar conteúdo polêmico. Embora os modelos sejam complexos, não há nada inerentemente sinistro ou incompreensível em relação ao algoritmo de recomendação do TikTok apontado no documento.

Controle

Mas o documento também deixa claro que o TikTok não fez nada para romper seus laços com sua controladora chinesa, a ByteDance, cuja propriedade se tornou um foco constante no final do governo do presidente Donald Trump em 2020, quando ele tentou forçar a venda do TikTok para a Oracle, um empresa americana aliada à sua administração.

Para dúvidas, o documento do TikTok indica um gerente de engenharia cuja biografia no LinkedIn diz que trabalha tanto na empresa como no aplicativo chinês semelhante da ByteDance, dando um vislumbre do elemento global remanescente de uma indústria de tecnologia cada vez mais dividida, o talento da engenharia. De acordo com o perfil no Linkedin, o gerente de engenharia estudou na Universidade Peking, tem um mestrado em ciência da computação pela Universidade Columbia e trabalhou para o Facebook durante dois anos antes de ir para a ByteDance, em Pequim, em 2017. O documento está escrito em inglês, mas não nativo, e sob a perspectiva da indústria de tecnologia chinesa. Ele não faz referência, por exemplo, às empresas rivais americanas, como Facebook e Google, mas inclui uma discussão de “se Toutiao/Kuaishou/Weibo” fez algo semelhante, podemos lançar a mesma estratégia que eles usaram?”.

A preocupação com a tecnologia de consumo chinesa é bipartidária nos Estados Unidos. O decreto de Trump tentando banir o aplicativo em agosto de 2020 alertava que a “coleta de dados do TikTok ameaça permitir que o Partido Comunista Chinês tenha acesso às informações pessoais e de empresas dos americanos”. O governo chinês poderia “construir dossiês de informações pessoais para chantagem e realizar espionagem corporativa”, afirmava. Essa proibição foi parar nos tribunais e desapareceu após a eleição. O presidente Joe Biden revogou o decreto, mas seu governo depois anunciou sua própria investigação sobre as ameaças à segurança representadas pelo TikTok, com um alto funcionário não identificado dizendo aos repórteres que a China estava “trabalhando para utilizar tecnologias digitais e dados americanos de maneiras que apresentavam riscos inaceitáveis à segurança nacional.”

Em uma nota enviada por e-mail, Hilary disse que “embora haja alguma semelhança no código, os aplicativos TikTok e Douyin são administrados de forma inteiramente separada, em servidores diferentes, e nenhum dos códigos contém dados do usuário”.

Ela também disse que “o TikTok nunca forneceu dados de usuários ao governo chinês, nem faria isso se fosse solicitado”.

O TikTok, cujo CEO vive em Cingapura, contratou vários executivos e especialistas em segurança americanos e europeus com boas conexões conforme a pressão política sob Trump se intensificou. A empresa diz que não tem sedes formais. E tem tentado acalmar as preocupações americanas ao armazenar os dados dos usuários nos EUA, com um backup em Cingapura.

São duas as preocupações sobre segurança do governo dos EUA. A primeira, como Trump sugeriu em seu decreto, é se o vasto tesouro de dados que o TikTok possui – em relação aos desejos sexuais privados dos fãs do aplicativo que talvez acabem se tornando funcionários públicos dos EUA, por exemplo – deve ser visto como uma questão de segurança nacional. Não há evidências de que os dados já tenham sido usados dessa forma, e o TikTok dificilmente é o único lugar onde os americanos compartilham informações de suas vidas nas redes sociais. A segunda preocupação é se o TikTok censura publicações delicadas sob o ponto de vista político.

Um relatório deste ano da Citizen Lab, organização de vigilância de segurança cibernética em Toronto, sugeriu que ambas as preocupações estão, na melhor das hipóteses, latentes. Não foi encontrado qualquer sinal de que o TikTok estivesse censurando temas delicados ou transmitindo dados para a China.

Alguns analistas americanos veem o TikTok como uma ameaça profunda. Outros, veem isso como o tipo de pânico sem sentido que americanos da meia-idade encaram quando são alertados de que detalhes de suas vidas nas redes sociais podem afetar a busca por emprego. Muitos, muitos outros produtos, de redes sociais a bancos e cartões de crédito, coletam dados mais precisos de seus usuários. Se os serviços de segurança estrangeiros desejassem esses dados, provavelmente poderiam encontrar uma maneira de comprá-los na obscura indústria de corretores de dados.

“Apavorar-se com a vigilância ou a censura do TikTok é uma distração do fato de que essas questões são muito maiores do que qualquer empresa específica ou de propriedade chinesa”, disse Samm Sacks, pesquisador de políticas de segurança cibernética da organização de pesquisa New America. “Mesmo se o TikTok fosse de propriedade americana, não há nenhuma lei ou regulamentação que impeça Pequim de comprar seus dados no mercado aberto de corretores de dados.”

Uma coisa que veio à minha mente enquanto escrevia esta coluna: a ameaça que o TikTok representa à segurança nacional americana parece ser completamente hipotética e depende de sua análise da relação entre os EUA e a China e do futuro da tecnologia e da cultura. Mas a compreensão do algoritmo a respeito do que me mantém hipnotizado – lances de jogadas de tênis, vídeos de comida turca e todas as outras coisas que ele descobriu que gosto de ver – representou um evidente e atual perigo à minha capacidade de terminar esta coluna.