Na sexta-feira passada, citando preocupações não especificadas de segurança nacional, a Casa Branca ordenou que a Anthropic restringisse a exportação dos seus poderosos modelos de IA Fable e Mythos a qualquer pessoa fora dos Estados Unidos, bem como a cidadãos estrangeiros dentro do país. Pouco depois, a gigante da IA desligou apressadamente ambos os modelos, que já estavam indisponíveis para ninguém há uma semana.
O episódio é o primeiro teste actual para saber se o governo dos EUA pode usar controlos de exportação para conter a IA de fronteira da forma como tentou, com resultados muito desiguais, conter a encriptação e o adware antes dele. E por mais dramático que possa parecer, a forma como este deadlock será resolvido poderá moldar não apenas o acesso da Antrópico aos mercados estrangeiros, mas também o livro de regras que outros laboratórios de IA terão de construir.
Algum contexto primeiro. Desde que a Anthropic lançou o Mythos em abril, a empresa o comercializou como uma espécie de máquina cibernética do Juízo Ultimate que poderia causar estragos na Web se fosse divulgada de forma muito ampla – razão pela qual, antes da proibição, apenas cerca de 150 empresas e organizações governamentais avaliadas tinham acesso a ele. O objetivo period ajudar os defensores a proteger seus softwares e serviços antes que os bandidos pudessem alcançar capacidades semelhantes às do Mythos.
Então, o que desencadeou a proibição? Dois eventos subsequentes, supostamente. A primeira: a Anthropic deu a uma empresa de telecomunicações sul-coreana acesso à Mythos através do seu programa de parceria limitada, e as autoridades norte-americanas ficaram alarmadas depois de identificarem a empresa como uma empresa que suspeitavam ter ligações com a China. (A empresa, amplamente divulgado ser SK Telecom, tem negado qualquer conexão com a China.) O CEO da Amazon, Andy Jassy, também supostamente alertou a administração depois que os próprios pesquisadores da Amazon, disse ele, encontraram uma maneira de contornar as salvaguardas do Fable 5. A Anthropic contesta o rótulo de “jailbreak”, chamando-o de um problema restrito e já corrigido, em vez de uma derrota whole das medidas de segurança do modelo.
O resultado foi o mesmo: o Departamento de Comércio emitiu uma directiva de controlo de exportações e a Anthropic teve de lutar para limitar imediatamente o acesso aos seus produtos – cerca de 90 minutos após ter sido notificada, segundo alguns relatos.
Nada disso é novo, no entanto. Durante décadas, os governos tentaram utilizar controlos de exportação para limitar a proliferação daquilo que consideram ser uma tecnologia cibernética perigosa, mas o seu historial tem sido, na melhor das hipóteses, mediano.
O governo dos EUA esteve por trás daquele que é talvez o fracasso mais espectacular desta abordagem na história, no início e meados da década de 1990. Na época, os cientistas da computação estavam desenvolvendo tecnologias de criptografia para proteger os dados enquanto viajavam pela Web. Um desses produtos de criptografia chamava-se Fairly Good Privateness, ou PGP, um software program well-liked que poderia criptografar dados e torná-los praticamente impossíveis de desembaralhar, mesmo se interceptados enquanto viajavam para o destinatário pretendido pela Web.
O governo dos EUA inicialmente viu o PGP como uma arma perigosa, temendo que impedisse as suas agências de inteligência de bisbilhotar os e-mails enquanto estes cruzavam os seus fios. Para impedir a distribuição de PGP, o Serviço de Alfândega dos EUA abriu uma investigação criminal contra o criador do PGP, Phil Zimmermann, por supostamente violar os controles de exportação de armas. Ele reagiu publicando o código-fonte do PGP como um livro impressoiniciando o que hoje é conhecido como “Guerra Criptográfica”.
Mais tarde, Zimmermann venceu uma batalha importante quando a investigação foi encerrada, abrindo caminho para algoritmos cruciais de criptografia de ponta a ponta, como o usado por bilhões de usuários do Sign e do WhatsApp.
Mais tarde, no início da década de 2010, os pesquisadores começaram a descobrir adware de fabricação ocidental usado contra dissidentes no Oriente Médio. Em resposta, vários governos concordaram em expandir o Acordo de Wassenaarum tratado internacional que limita a exportação de software program e tecnologias de dupla utilização utilizados em aplicações civis e militares.
A ideia period classificar software program de vigilância e hacking como de dupla utilização, forçando assim os fabricantes de adware a obter licenças de exportação para vender os seus produtos no estrangeiro.
Contate-nos
Você tem mais informações sobre a proibição do Mythos? A partir de um dispositivo e rede que não seja de trabalho, você pode entrar em contato com Lorenzo Franceschi-Bicchierai com segurança no Sign pelo telefone +1 917 257 1382, ou by way of Telegram e Keybase @lorenzofb, ou e-mail.
Mas Wassenaar sempre teve duas fraquezas inerentes. Existem vários países que não aderem ao acordo, incluindo Israel, que abriga alguns dos fabricantes de adware mais ativos do mundo.
O acordo também depende de os países o aplicarem às empresas dentro das suas fronteiras, a seu próprio critério. Durante algum tempo, o governo italiano concedeu a um dos maiores fabricantes de adware do país, a Hacking Crew, uma licença para exportar as suas ferramentas para todo o mundo, apesar do histórico da empresa de venda de adware para opressivo governos que usei para hackear jornalistas e ativistas de direitos humanos.
Desde então, outro países na Europa têm sido negligentes com fabricantes de adware como a Itália. Apesar dos numerosos escândalos, a Europa, lar de muitos fabricantes de adware e ferramentas de hacking, falhou continuamente em conter a exportação de spyware aos regimes autoritários. Os críticos dizem que um esforço recentemente renovado em todo o bloco de 27 estados membros para resolver o seu problema crescente de exportações de adware para estados autoritários “não vai longe o suficiente”.
Vários fabricantes de adware, como a Intellexa, um consórcio sancionado de empresas de adware, simplesmente transferiram as suas operações para países com controlos de exportação frouxos. Outros fabricantes de adware procuraram transferir as suas operações para a Arábia Saudita por razões semelhantes.
Houve algumas vitórias. FinFisher, fabricante de adware com sede na Alemanha encerrado em 2022 após uma investigação de vários anos realizada por promotores alemães sobre a empresa por supostamente vendendo spyware para a Turquia sem licença de exportação. Os investigadores descobriram anteriormente que o adware FinFisher havia sido implantado nos telefones de críticos do governo da Turquia.
No momento em que este artigo foi escrito, o deadlock entre a administração Anthropic e Trump permanecia. Há uma possibilidade razoável de a administração ceder e levantar a restrição no interesse de manter as empresas americanas de IA competitivas em todo o mundo – uma medida que equivaleria ao reconhecimento tácito de que os laboratórios de IA noutros lugares, incluindo na China, provavelmente alcançarão capacidades semelhantes, independentemente do que os EUA restringirem. Ou, as empresas americanas de IA podem acabar por necessitar da aprovação do governo antes de servirem clientes estrangeiros, um fardo de conformidade que invariavelmente prejudicaria os seus resultados financeiros.
Dadas as experiências passadas que os governos mundiais tiveram na tentativa de controlar o alcance do software program, é pouco provável que os controlos de exportação exigidos pelo governo sejam a abordagem correcta para impedir que intervenientes mal-intencionados abusem de poderosas tecnologias cibernéticas de dupla utilização.
Quando você compra por meio de hyperlinks em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.
