O mais recente alerta de fraude alimentado por IA: vigaristas on-line estão usando deepfakes de IA de favoritos de Hollywood, incluindo Taylor Swift e Rihanna, para atrair usuários do TikTok a se inscreverem em programas de recompensas fraudulentos.
De acordo com um novo relatório da Vazamentos de cópiasO TikTok viu um aumento nos vídeos falsos no tapete vermelho de celebridades geradas por IA, como Kim Kardashian, que parecem encorajar os usuários a se inscreverem em “serviços fraudulentos ou maliciosos”. Os exemplos incluem clipes noturnos de Swift anunciando um misterioso recurso “TikTok Pay” e clipes de circuito de imprensa de Rihanna vendendo um programa de visualizações por recompensas.
Agora você pode ter seu próprio peluche Artemis II ‘Rise’
As personificações sintéticas não são totalmente convincentes, com movimentos faciais tipicamente perturbadores e áudio não sincronizado, mas isso não impede os supostos golpistas. Muitos dos clipes usam a marca TikTok e adicionam filtros texturizados para aparentemente ignorar as ferramentas de detecção de IA da plataforma. Quando os usuários clicam nos vídeos, eles são redirecionados para websites de terceiros que solicitam informações de identificação pessoal.
Relatório de tendências do Mashable
Copyleaks relatou um aumento em golpes de deepfake habilitados por IA em plataformas de mídia social, alguns dos quais incluem deepfakes hiper-sexualizados e não consensuais de celebridades. A Meta foi recentemente alvo de uma ação coletiva movida em nome da Client Federation of America, alegando que a empresa lucrou com golpes de publicidade no Fb.
Enquanto isso, Hollywood ainda não encontrou uma solução abrangente para deepfakes não consensuais de celebridades. No início desta semana, Swift supostamente entrou com um pedido de marca registrada de sua voz e imagem em meio a deepfakes gerados por IA e à crescente atenção do público em projetos legados póstumos. Outras celebridades têm fiz o mesmo.
