Você não precisa ser um fã de IA para reconhecer que às vezes a IA pode ser uma ferramenta útil na busca por novos conhecimentos. Se algum desses novos conhecimentos for uma receita de arma biológica, acho que a maioria das pessoas concordará que isso seria uma droga.
Sam Altman, CEO da OpenAI, e Dario Amodei, CEO da Anthropic não concordo muitomas eles concordam que isso seria péssimo e assinaram seus nomes em uma carta aberta dizendo isso. A própria carta chama este “um raro momento de acordo entre partes interessadas que muitas vezes estão em desacordo”.
Outros signatários de cartas incluem Demis Hassabis e Alexandr Wang, respectivamente os chefes de IA do Google Deepmind e Meta, juntamente com outros empresários e pesquisadores de IA, além de dezenas de cientistas e especialistas em políticas.
A ideia central da carta, na verdade, não tem nada a ver com IA; é dirigido aos decisores políticos e simplesmente pede que seja aprovada legislação exigindo que aqueles com capacidade para manter o ácido nucleico sintético o façam. Especificamente, pede que quando cheguem pedidos de ADN (e provavelmente de ARN, embora a carta não o mencione), sejam digitalizados em busca de “sequências preocupantes” e que a “legitimidade do cliente” seja verificada antes do ácido nucleico sintetizado ser enviado pelo correio. Também pede que os dados sobre os pedidos sejam registados e potencialmente disponibilizados aos investigadores, alegando: “A própria consciência da rastreabilidade impede o uso indevido”.
O rápido desenvolvimento da IA apenas acrescenta urgência. A carta diz que, como a IA está a progredir tão rapidamente, “existe uma possibilidade actual de que as barreiras de conhecimento que historicamente impediram os maus actores de obter armas biológicas se erodam significativamente”.
Com fio notas que a carta foi organizada por dois grupos de reflexão: o Institute for Progress, que é descrito como apartidário, e a Basis for American Innovation, que aparentemente é de direita.
A OpenAI, por sua vez, tem tomado recentemente medidas que parecem destinadas a associar a empresa e o seu líder à responsabilidade. Lançou um documento técnico sobre políticas Terça-feira, delineando um plano para a verificação de modelos de IA em nível federal que é mais rigoroso do que o plano em um recente ordem executiva do presidente Trump. Na quarta-feira, Altman também se reuniu com Bernie Sanders, o mais feroz crítico da IA atualmente no Senado dos EUA.
