Dois ex-OpenAI funcionários e um grupo de organizações sem fins lucrativos de segurança de IA estão alertando que o laboratório de IA de Elon Musk, xAI, pode se tornar um passivo para potenciais investidores na SpaceX, que está se preparando para registrar o que se espera ser a maior oferta pública inicial na história de Wall Road.
Em um carta direcionado aos investidores publicado na terça-feira, os ex-funcionários destacaram o que descrevem como “riscos não precificados” relacionados ao xAI que poderiam complicar os planos relatados da SpaceX de levantar até US$ 75 bilhões como parte de seu IPO. A avaliação privada da empresa de foguetes disparou para mais de US$ 1 trilhão depois que ela adquiriu a xAI no ano passado. Musk afirmou que sua empresa de foguetes poderia lançar centros de dados no espaço para seu laboratório de IA, mas os autores da carta argumentam que o histórico ruim da xAI em questões de segurança poderia complicar a forma como os investidores veem a empresa combinada enquanto ela se prepara para apresentar seu Apresentação de prospecto de IPO.
Um dos signatários e coautores da carta é uma nova organização sem fins lucrativos chamada Guidelight AI Requirements, que foi cofundada pelo ex-pesquisador de segurança da OpenAI Steven Adler e pelo ex-conselheiro de políticas da OpenAI Web page Hedley. O grupo, que é apoiado por doadores privados, visa melhorar as práticas de segurança das empresas fronteiriças de IA. Outras organizações sem fins lucrativos de segurança de IA também aderiram, incluindo Authorized Advocates for Protected Science and Know-how, Encode AI e The Midas Mission.
Hedley disse à WIRED em uma entrevista que acredita que xAI tem as piores práticas de segurança “quase generalizadas” em comparação com outros desenvolvedores de IA de ponta, incluindo OpenAI, Google DeepMind e Anthropic. Como resultado, argumenta ele, a SpaceX pode enfrentar um risco maior de regulamentação e litígio do que outros laboratórios de IA.
Os autores da carta argumentam que a SpaceX deveria fazer várias divulgações aos investidores, incluindo se a xAI pretende continuar a desenvolver modelos de IA de fronteira. SpaceX recentemente fechou um acordo para vender uma parte significativa de sua capacidade de GPU para a Antrópicae a carta afirma que o acordo “não deixa claro se a xAI ainda é um concorrente de ponta da IA dentro de uma holding maior”. Se a xAI continuar a desenvolver modelos de IA de fronteira, dizem os autores, deverá ser obrigada a publicar um plano de segurança pública e governação.
SpaceX e xAI não responderam imediatamente ao pedido de comentários da WIRED.
A carta também descreve exemplos de como a xAI não acompanhou as práticas de segurança padrão da indústria, como a publicação de estruturas detalhadas para mitigar os riscos em torno de seus modelos de IA usados em ataques cibernéticos. Os autores também descrevem incidentes de segurança específicos no xAI que, segundo eles, merecem um exame mais minucioso. Entre os mais notáveis está quando o principal chatbot de IA da xAI, Grok, espontaneamente trouxe à tona o genocídio branco em suas respostas. Noutro caso, a xAI permitiu que Grok gerasse milhares de imagens sexualizadas de mulheres e crianças, que se espalharam amplamente pela plataforma de redes sociais X de Musk. Este último caso levou pelo menos 37 procuradores-gerais dos EUA a enviar uma carta exigindo que o laboratório de IA de Musk tomasse medidas para proteger mulheres e crianças na sua plataforma.
Hedley diz que o número de incidentes de segurança que a xAI sofreu e a atenção regulatória que recebeu é “muito desproporcional à sua participação no mercado”. À medida que os legisladores ficam cada vez mais alarmados com as capacidades cibernéticas dos modelos avançados de IA, como Claude Mythos, da Anthropic, novas regulamentações de segurança podem estar no horizonte. A administração Trump supostamente já está pesando uma ordem executiva isso daria às agências de inteligência dos EUA mais supervisão sobre os modelos de IA.
“É preciso um investimento sério para controlar [AI safety] riscos, e parece que xAI tem historicamente subinvestido aqui”, diz Adler. A carta cita reportagens do The Washington Publish que diziam que xAI tinha acabado de “dois ou três” pessoas que trabalham com segurança a partir de janeiro. “Uma questão que os investidores deveriam estar se perguntando é se o xAI permanecer na fronteira, quão caro pode ser, de fato, gerenciar esses [risks] com responsabilidade? Se não o fizerem, quais poderão ser as consequências?”
