Uma rede de contas X está empurrando aplicativos de nudificação de IA para mais feeds, dando às ferramentas propensas a abusos outro caminho para os usuários enquanto as vítimas lutam para conter as consequências.
Em um Relatório do Wall Street JournalO pesquisador sênior da Graphika, Matthew Patane, disse que alguns serviços de nudificação são promovidos por meio de contas sociais coordenadas que reutilizam palavras semelhantes. Uma rede incluía 45.000 contas X, com postagens baseadas em frases indiretas e recursos visuais censurados para evitar moderação.
A descoberta coloca nova pressão sobre X e websites como o Undress AI, um serviço baseado em Belize que anuncia ferramentas de imagem explícitas e provoca a criação de vídeos pagos. Undress AI e X não responderam aos pedidos de comentários.
As promoções para esses aplicativos são muito fáceis de encontrar. Usamos palavras-chave aleatórias e encontramos postagens promocionais como a abaixo:
Como as postagens se espalham
Os relatos que Patane identificou não se basearam em descrições contundentes. Eles usaram uma linguagem informal e referências suavizadas que poderiam direcionar os usuários para ferramentas de nudificação sem detalhar todos os recursos.
Undress AI também está indo além das imagens estáticas. Seu web site oferece uma opção de criação de vídeo por US$ 59 e permite que os usuários escolham poses sexualizadas, incluindo tirar a roupa e cavalgar. Também oferece créditos quando os usuários recrutam amigos.
Essa combinação dá ao serviço duas maneiras de crescer. Postagens codificadas podem chamar a atenção para o web site, e os créditos de referência fornecem aos usuários um motivo embutido para atrair mais pessoas.
Quem se machuca quando as ferramentas se espalham
As vítimas muitas vezes ficam perseguindo o dano depois que uma imagem já foi movida. Os casos relatados descrevem imagens de nudez fabricadas que circulam pelo Snapchat, corredores de escolas e redes de pares, com famílias tentando removê-las enquanto pressionam as escolas ou a polícia a agir.
Um estudante alvo de um grupo de meninos em Iowa disse que imagens feitas com Undress AI foram distribuídas entre colegas de classe. Mais tarde, ela mudou para aulas on-line.
A rede X acrescenta escala a esse risco. Uma única foto enviada pode rapidamente se tornar um castigo social, especialmente quando a promoção direciona mais usuários para ferramentas criadas para manipulação de imagens sexualizadas.
O que as plataformas devem provar agora
X proíbe amplamente atividades destinadas a enganar outras pessoas, mas a promoção coordenada de nudificação cria um teste de aplicação mais difícil. As postagens podem evitar palavras-chave óbvias e, ao mesmo tempo, direcionar os usuários para ferramentas projetadas para manipulação explícita.
O próximo sinal a observar é se as plataformas captam essas campanhas antes que elas cresçam. Você deseja bloquear imagens pessoais sempre que possível, denunciar a falsificação de identidade rapidamente e salvar as evidências antes que as postagens desapareçam.
