Nikolas Kokovlis | Nurfoto | Imagens Getty
O xAI de Elon Musk e seu chatbot Grok foram proibidos de criar imagens não consensuais de adultos e crianças geradas por IA por um tribunal holandês, aumentando a crescente pressão authorized sobre a empresa.
O Tribunal Distrital de Amesterdão emitiu uma ordem legal na quinta-feira proibir a xAI de gerar e distribuir imagens sexuais “por meio das quais as pessoas são parcialmente ou totalmente despidas sem ter dado permissão explícita para isso”, de acordo com uma tradução do Google da declaração do tribunal.
A decisão, um caso inédito contra Grok na Europa, estende-se a cloth de abuso sexual infantil e impede a plataforma X, anteriormente conhecida como Twitter, de oferecer Grok como uma função na região. A xAI enfrenta uma multa de 100.000 euros (115.000 dólares) por cada dia em que não cumprir a decisão, com multa máxima de 10 milhões de euros, de acordo com a liminar.
O caso foi movido pelo grupo holandês sem fins lucrativos Offlimits, que luta contra o abuso sexual on-line, especialmente contra crianças e jovens. A xAI também foi condenada a pagar custas judiciais Offlimits de 2,2 milhões de euros no prazo de 14 dias.
“O juiz traçou uma linha clara ontem: a tecnologia não é uma licença para violar os direitos humanos on-line”, disse Robbert Hoving, diretor-gerente da Offlimits, em comunicado. “Também é maravilhoso que ontem tenha sido realizada uma votação na Europa para a proibição das ferramentas Nudify. É uma celebração dupla, porque isso é importante. Você deve desfrutar dos mesmos direitos on-line em todos os países europeus.”
A CNBC entrou em contato com a xAI para comentar a decisão, mas ainda não recebeu resposta.
Uma estimativa três milhões de imagens sexualizadas foram gerados por Grok entre 29 de dezembro e 9 de janeiro de 2026, de acordo com o Heart for Countering Digital Hate (CCDH). Descobriu-se que mais de 23 mil dessas imagens pareciam representar crianças.
A xAI decidiu impedir que Grok criasse imagens sexualizadas de pessoas reais no X em janeiro, com a restrição se aplicando a todos os usuários, incluindo assinantes pagos. No entanto, a Offlimits concluiu que as restrições foram facilmente contornadas e o juiz decidiu que as suas medidas eram insuficientes para proteger os utilizadores de forma adequada.
Numerosos processos foram movidos contra a xAI, com Baltimore se tornando a primeira grande cidade dos EUA na terça-feira a processar a empresa por violar as leis de proteção ao consumidor da cidade e comercializar enganosamente Grok e X como seguros para os usuários.
A denúncia mencionava uma tendência de “colocá-la de biquíni”, na qual Grok period usado para nudificar imagens de outras pessoas. O CEO da xAI, Musk, também participou compartilhando uma imagem sua em um biquíni, criado por Grok.
Além disso, três adolescentes no Tennessee processaram a xAI na semana passada, depois que Grok criou conteúdo mostrando-os em poses e cenários sexualmente explícitos.
Entretanto, a Comissão Europeia abriu uma investigação sobre a xAI em Janeiro sobre a divulgação de materials sexualmente explícito de crianças e outros indivíduos de forma não consensual e está a ser investigada ao abrigo do regulamento da Lei dos Serviços Digitais (DSA).
Os reguladores de segurança on-line do Reino Unido, Ofcom e o Info Commissioner’s Workplace, lançaram suas próprias investigações separadas sobre X e a distribuição de imagens sexualizadas não consensuais.
Embora uma decisão mais ampla não tenha sido implementada em toda a Europa, os países do Sudeste Asiático, Malásia e Indonésia, bloquearam o acesso ao Grok em janeiro devido à geração de conteúdo sexual não consensual após “repetidas falhas da X Corp” para lidar com os riscos associados à ferramenta de IA.
