A TikTok passou anos aperfeiçoando a arte de saber exatamente o que você quer assistir a seguir. Abra o aplicativo, position algumas vezes e, de repente, ele exibe vídeos que parecem estranhamente adaptados aos seus interesses. Mas o que acontece antes que o TikTok descubra quem você é? De acordo com nova pesquisa da plataforma de edição de vídeo Kapwing, a resposta é cada vez mais um desperdício de IA.
O estudo descobriu que quase 60% dos vídeos mostrados em uma conta TikTok totalmente nova eram conteúdo gerado por IA de baixa qualidade. Esse não é um problema de nicho enterrado em cantos obscuros da plataforma. É a primeira impressão que o TikTok causa nos novos usuários antes mesmo de o algoritmo começar a personalizar seu feed. E se isso parece preocupante, as descobertas sobre o conteúdo infantil são ainda mais difíceis de ignorar.
A period da junk meals do algoritmo
O mecanismo de recomendação do TikTok foi projetado para se adaptar rapidamente. A plataforma analisa tudo, desde curtidas e seguidores até o tempo de exibição e hábitos de rolagem antes de decidir o que mostrar a seguir. Para entender como é uma experiência intocada do TikTok, os pesquisadores criaram uma nova conta e examinaram os primeiros 500 vídeos veiculados na página For You. Os resultados foram surpreendentes: 294 desses vídeos foram classificados como lixo de IA. Isso significa que é mais provável que um novo usuário encontre lixo gerado por IA do que conteúdo criado por humanos antes que o TikTok tenha quaisquer dados significativos sobre suas preferências.
Talvez ainda mais revelador seja como o TikTok se compara a outras plataformas. Kapwing já realizou um experimento semelhante no YouTube Shorts e encontrou substancialmente menos confusão gerada por IA. O TikTok não foi apenas pior – foi dramaticamente pior. Neste ponto, o conteúdo de IA não está apenas entrando furtivamente na plataforma. Está se tornando parte da estética padrão da plataforma. E essa pode ser a verdadeira história aqui. Para muitos usuários, especialmente os mais jovens, os vídeos gerados por IA não são mais uma raridade ocasional. Eles estão se tornando normais.
A Rua Sésamo encontra o vale misterioso
A seção mais alarmante do relatório concentra-se no conteúdo voltado para crianças. Os pesquisadores descobriram que mais da metade dos vídeos na categoria Youngsters do TikTok foram qualificados como “resíduos” gerados por IA. Uma hashtag em specific, #CartoonKids, foi quase completamente superada por materials gerado por IA, com apenas alguns vídeos parecendo ter sido feitos por humanos. Qualquer pessoa que tenha encontrado esses vídeos reconhecerá a fórmula imediatamente: personagens de desenhos animados familiares aparecem em cenários bizarros, aulas educacionais estão repletas de erros, personagens falam com vozes sintéticas perturbadoras, animações mudam e se transformam de maneiras que não fazem muito sentido.
O conteúdo muitas vezes lembra uma programação infantil à primeira vista, mas desmorona no momento em que você presta atenção. É isso que torna tudo preocupante. As crianças pequenas não estão preparadas para distinguir entre conteúdo educacional de alta qualidade e uma imitação gerada por IA que apresenta informações incorretas com segurança. Uma aula de contagem em que os números estão errados pode parecer ridícula para um adulto, mas uma criança em idade pré-escolar não tem o mesmo contexto. A web sempre teve conteúdo questionável para crianças. O que mudou foi a escala. A IA generativa permite a criação de fluxos intermináveis de vídeos em um ritmo que nenhum criador humano jamais poderia igualar. E o sistema de recomendação do TikTok parece mais do que disposto a distribuí-los.
O problema também vai além do conteúdo infantil. O estudo descobriu que vídeos educacionais, científicos, de saúde e de história estavam entre as categorias mais afetadas pela IA. Isto é particularmente lamentável porque estes são precisamente os tópicos onde a precisão é mais importante. Uma esquete de comédia mal gerada é fácil de passar. Uma aula de história repleta de detalhes inventados ou um vídeo sobre saúde apresentando conselhos enganosos é uma história completamente diferente. Para ser justo, nem todo criador que usa IA está produzindo lixo. Alguns criadores estão experimentando apresentadores e recursos visuais gerados por IA para tornar os tópicos educacionais mais envolventes. Na melhor das hipóteses, a IA funciona como uma ferramenta que apoia o trabalho do criador, em vez de substituí-lo. Mas o relatório destaca uma realidade crescente nas redes sociais: os incentivos muitas vezes recompensam o quantity em detrimento da qualidade. Se um criador consegue gerar dezenas de vídeos no tempo que antes levava para fazer um, as plataformas ficam inundadas com conteúdo que é tecnicamente assistível, mas que oferece muito pouca substância.
O TikTok parece estar ciente de que os usuários estão cansados disso. A empresa introduziu controles que permitem aos usuários reduzir a quantidade de conteúdo gerado por IA que veem e investiu em iniciativas de alfabetização em IA. No entanto, a investigação sugere que esses esforços podem estar a ter dificuldades em acompanhar o ritmo das cheias. A ironia é que as redes sociais se tornaram populares porque ofereciam algo distintamente humano: criatividade, personalidade, conhecimento e conexão. A IA pode imitar todas essas coisas surpreendentemente bem. Mas imitação não é o mesmo que autenticidade. Quando quase seis em cada dez vídeos que um novo usuário vê são gerados por IA, a questão não é mais se existe lixo de IA no TikTok. A questão é se isso se tornou uma característica definidora da plataforma. E para uma geração de crianças que cresce com estes alimentos, essa resposta é mais importante do que nunca.
