Um estudo do WSJ (The Wall Street Journal) analisou o funcionamento do algoritmo do TikTok, guardado a 7 chaves pela detentora da rede social, a empresa de tecnologia chinesa ByteDance. Com a utilização de robôs programados para assistir a vídeos como se fossem internautas, o experimento verificou que o TikTok é capaz de traçar um perfil do usuário em menos de 1h e, a partir de então, passar a recomendar vídeos que o mantenha mais tempo online, podendo levá-lo a conteúdos extremos.
Ao acessar a rede social pela 1ª vez, aparecem diferentes tipos de vídeos sobre assuntos aleatórios com milhões de visualizações. A rede social começa mostrando uma seleção de vídeos de acordo com os dados pessoais fornecidos, caso tenha sido fornecido algum.
Ao exibir vídeos previamente avaliados por moderadores, o aplicativo verifica se o usuário é religioso, se gosta de fazer danças virais, se está se sentindo triste, se cozinha etc.
Nessa análise, são considerados o tempo que o usuário passa vendo cada conteúdo, se ele curte, compartilha e assiste mais de uma vez. Com base nesse comportamento, as opções de vídeos vão se afunilando.
O TikTok foi o aplicativo mais baixado e que mais acumulou receita no mundo de janeiro a junho de 2021.
Para entender esse fenômeno, o WSJ criou mais de 100 contas automatizadas, os robôs. Essas contas assistiram a centenas de milhares de vídeos no aplicativo.
A cada conta foi atribuído um dia de nascimento e um endereço de IP, que permitiu à rede social rastrear a sua localização.
Os robôs foram programados com interesses específicos, que não foram informados para o aplicativo. A única forma que as contas demonstravam os seus interesses era assistindo novamente ou pausando vídeos com hashtags ou imagens relacionadas.
Oficialmente, a empresa diz que compartilhamentos, curtidas, perfis que segue e conteúdos que assiste determinam o que o TikTok mostra.
Segundo Guillaume Chaslote, fundador da AlgoTransparency e ex-funcionário do Google, a rede social funciona de forma diferente das demais. “O algoritmo do TikTok pode ficar muito mais poderoso e isso faz com que ele seja capaz de captar as vulnerabilidade dos usuários muito mais rápido“, explicou ao jornal.
No experimento, a plataforma aprendeu muitos dos interesses dos robôs em menos de 2h. Em alguns casos, não levou nem 40min.
Segundo Chaslote, provavelmente 90 ou 95% dos conteúdos que os usuários assistem na rede social são recomendados pelo algoritmo. “No YouTube, mais de 70% das visualizações vêm das recomendações, o que já é muita coisa, mas no TikTok é ainda pior“, avaliou.
Os vídeos são classificados por temas, como, por exemplo, animais. Depois, as opções vão afunilando e o usuário pode passar a ver mais especificamente vídeo engraçados com bulldogs.
Para um robô programado para se interessar por tristeza e depressão, em menos de 3min usando a plataforma, o 15º conteúdo exibido ao usuário falso foi um vídeo motivacional. Como ele assistiu duas vezes, ele forneceu o 1º dado importante à plataforma: o usuário está triste.
A plataforma então juntou informações como: autor do vídeo, áudio, descrição do conteúdo e hashtags. 23 vídeos mais tarde, ou cerca de 4min depois, o TikTok mostrou outro vídeo com o mesmo tema.
Informações do telefone, como a localização, podem impactar os vídeos exibidos. Depois de um tempo, a plataforma passou a mostrar conteúdos do local onde estava o usuário, sem que essa informação tenha sido cedida ao aplicativo.
Depois de parar em um vídeo sobre depressão, uma série de conteúdos relacionados ao tema passou a ser exibida.
Após 224 vídeos, ou 36min, da jornada do robô no aplicativo, a rede social entendeu sobre o que o usuário se interessava: vídeos sobre depressão, ansiedade e término de relacionamento. Daí em diante, 93% do feed do robô era relacionado a esses temas.
Um porta-voz do TikTok informou ao jornal que alguns dos 7% dos vídeos restantes seriam usados para ajudar o usuário a descobrir conteúdos diferentes. No entanto, para o robô, esses vídeos eram poucos e espaçados. A maior parte era formada por anúncios.
Chaslote explicou que para cumprir o seu objetivo de manter o usuário na plataforma por mais tempo, o algoritmo vai sugerindo conteúdos cada vez mais extremos. “O algoritmo é capaz de encontrar o tipo de conteúdo ao qual você é vulnerável. Isso vai te fazer clicar, isso vai te fazer assistir. Isso não significa que você realmente goste daquilo nem que esse seja o conteúdo que você mais goste. Esse é só o conteúdo que tem mais probabilidade de te faz permanecer na plataforma“, falou.
Um robô que se interessava por conteúdo sexual, por exemplo, passou a assistir vídeos sobre práticas de dominação sexual. Outro com interesses gerais por política viu uma série de vídeos sobre conspirações nas eleições. À medida que o TikTok conhece o usuário, se torna mais provável que ele o leve a conteúdos potencialmente prejudiciais, que não são moderados e violam as políticas da própria plataforma.
“Seja no TikTok, no Facebook, no YouTube, estamos interagindo com algoritmos em nossa vida cotidiana, cada vez mais. Estamos treinando eles e eles estão nos treinando. Então, temos que estudar isso para entendermos melhor e não deixarmos isso ir por direções que sejam prejudiciais à sociedade ou a certos grupos de pessoas“, afirmou o fundador da AlgoTransparency.
A ByteDance já chegou a ser processada por violação à privacidade. A acusação afirmou que a plataforma se infiltra nos dispositivos de usuários para extrair uma ampla gama de dados privados. A empresa nega.
A companhia informou anteriormente que o aplicativo não ouve o microfone do celular nem lê mensagens para recomendar vídeos.
Em resposta ao experimento, um porta-voz do TikTok disse que a simulação do WTJ não reproduz o comportamento humano, porque humanos têm interesses diversos.
Segundo a empresa, o TikTok remove muitos conteúdos diariamente. Os vídeo passam por análise de computadores e por moderadores humanos, além de revisar conteúdos reportados por usuários.
A empresa também citou que o TikTok permite que os usuários vejam menos de determinado conteúdo selecionando o botão “não estou interessado”.
FONTE: PODER 360
