Os vídeos gerados por IA estão se tornando tão realistas agora que detectar uma versão falsa de alguém on-line está se tornando mais difícil a cada semana. E para os criadores, isso abre um problema bastante incômodo: o que acontece quando seu rosto começa a aparecer em vídeos que você nunca fez? O YouTube parece estar levando essa preocupação a sério.
A plataforma está agora expandindo seu sistema de detecção de semelhança por IA para um grupo muito maior de criadores, oferecendo aos usuários qualificados novas ferramentas para rastrear e denunciar vídeos que os imitam digitalmente usando inteligência synthetic. O recurso foi anteriormente limitado a um grupo piloto menor dentro do Programa de Parcerias do YouTube, mas o YouTube afirma que começará a lançá-lo para todos os criadores qualificados com mais de 18 anos nas próximas semanas.
O YouTube quer que os criadores capturem clones de IA mais rapidamente
O novo sistema fica dentro do YouTube Studio e foi projetado para ajudar os criadores a identificar quando seu rosto pode ter sido usado em vídeos alterados ou sintéticos enviados para a plataforma. Isso significa que as ferramentas de detecção do YouTube procuram conteúdo gerado por IA que pareça replicar a imagem de um criador. Se o sistema encontrar algo suspeito, os criadores poderão revisar o conteúdo e solicitar a remoção caso ele viole as políticas de privacidade do YouTube.
Isso é importante porque a representação gerada por IA está se tornando um problema crescente on-line. Vídeos no estilo deepfake agora podem imitar expressões faciais, vozes e até padrões de fala com uma precisão alarmante. Para os criadores que constroem confiança através da sua identidade on-line, os vídeos falsos podem rapidamente tornar-se prejudiciais ou enganosos. O YouTube afirma que a ferramenta tem como objetivo dar aos criadores mais visibilidade sobre como suas imagens são usadas, ao mesmo tempo que ajuda o público a evitar confusão sobre conteúdo manipulado.
A configuração é bastante simples – mas as partidas podem levar algum tempo
Assim que o recurso estiver disponível para sua conta, você poderá configurá-lo diretamente no YouTube Studio no computador. Veja como fazer isso:
- Abrir YouTube Estúdio na área de trabalho.
- Vá para Detecção de conteúdo > Semelhança > Começar agora.
- Dê permissão ao YouTube para usar a detecção de semelhança.
- Conclua o processo único de verificação de identidade.
Assim que a configuração for concluída, a plataforma começará a procurar vídeos gerados por IA ou alterados que possam estar usando seu rosto. Se alguma correspondência for detectada, você poderá revisar o conteúdo e solicitar a remoção diretamente pelo YouTube Studio.
Curiosamente, o YouTube também alerta que os criadores podem não ver imediatamente os vídeos sinalizados após a inscrição. Isso não significa necessariamente que o recurso esteja quebrado – pode simplesmente significar que não há muitos uploads gerados por IA usando seus rostos.
A empresa afirma que o sistema continua funcionando silenciosamente em segundo plano mesmo quando nenhuma correspondência aparece. Este lançamento também destaca uma mudança maior que está acontecendo nas plataformas on-line no momento. As ferramentas de IA estão a evoluir mais rapidamente do que a maioria dos sistemas de moderação consegue acompanhar, e as empresas são cada vez mais pressionadas a criar salvaguardas em torno do uso indevido de identidade, dos meios de comunicação sintéticos e dos deepfakes antes que esses problemas se agravem ainda mais. Para os criadores do YouTube, este novo sistema de detecção pode se tornar uma das ferramentas de segurança mais importantes da period da IA da plataforma.
