A misteriosa caixa preta authentic não period um modelo de IA, mas a Kaaba, o cubo preto no centro da Mesquita Sagrada de Meca. Antes da conquista de Meca por Maomé, a Kaaba era uma espécie de repositório universal de 360 símbolos sagrados de toda a região. Se você fosse, digamos, um comerciante ocupado a caminho de Medina, quaisquer que fossem as grandes verdades espirituais do universo, elas estavam lá em algum lugar, então uma oração à Kaaba o cobriu no departamento de deuses e você estava pronto para ir.
A Antrópica parece estar fazendo algo nesse sentido com Claude.
Na semana passada, representantes da Anthropic – juntamente com a OpenAI – participaram de um evento em Nova York chamado mesa redonda “Religion-AI Covenant”. O Conselho de Rabinos de Nova York, a Sociedade do Templo Hindu da América do Norte, a Igreja de Jesus Cristo dos Santos dos Últimos Dias, a Com sede nos EUA A Coalizão Sikh e a Arquidiocese Ortodoxa Grega da América estiveram presentes.
No mês passado, escrevi sobre uma série de reuniões e jantares que a Antrópica organizou com um grupo de 15 líderes cristãos. A Antrópica procurava conselhos dos cristãos e orientação sobre o suposto “desenvolvimento espiritual” do seu modelo Claude AI. Na época, a Anthropic disse que estava trabalhando na organização de reuniões com pensadores morais que representavam outros grupos.
Não está claro a partir de um novo artigo da Associated Press sobre a reunião do Religion-AI Covenant, se essas últimas conversas com líderes religiosos e as reuniões anteriores com cristãos faziam parte de um programa único e coerente na Antrópico, e se os membros da equipe que participaram da cúpula cristã participaram desta também. O Gizmodo pediu clareza à Anthropic sobre isso no sábado, mas a Anthropic não retornou nosso pedido até o momento desta redação.
A Related Press também diz que a OpenAI e a Anthropic “iniciaram a divulgação”, mas também que um ONG suíça A organização chamada Aliança Inter-religiosa para Comunidades Mais Seguras organizou-o e tem planos para eventos futuros em linhas semelhantes na China, no Quénia e nos Emirados Árabes Unidos. Também mencionada como “parceira chave” foi a Baronesa Joanna Shields, membro da Câmara dos Lordes britânica.
Não há uma única conclusão clara na história da AP – nenhuma instrução religiosa apresentada por todos esses líderes espirituais. Mas o que Antrópico chama Constituição de Claude inclui uma dissecação do trabalho ethical filosoficamente carregado que Antrópico é pelo menos tentando o que fazer injetando ethical em uma máquina: fazer com que ela tome a decisão de uma pessoa com valores perfeitos quando não há como escrever uma regra para uma situação que surge e as consequências de tomar a decisão errada podem ser terríveis. Isso, escreve a Anthropic, ocorre “fundamentalmente porque tememos que nossos esforços para dar a Claude valores éticos bons o suficiente fracassarão”.
Para este fim, a história da Related Press extrai alguns comentários silenciosamente devastadores de Rumman Chowdhury, CEO de uma organização sem fins lucrativos chamada Humane Intelligence: “Acho que uma abordagem muito ingênua que o Vale do Silício teve por alguns anos em relação à IA generativa foi que poderíamos chegar a algum tipo de princípios universais de ética”, disse Chowdhury à AP, acrescentando: “Eles rapidamente perceberam que isso simplesmente não é verdade. Isso não é actual. Então agora eles estão olhando talvez para a religião como uma forma de lidar com a ambigüidade de situações eticamente cinzentas”.
Na verdade, eles estão olhando talvez para a religião. Mas é difícil imaginar a Anthropic saindo dessas reuniões convertida e inserindo um conjunto de doutrinas religiosas específicas em Claude. Eles estão apenas tentando colher verdades éticas de alto nível e demonstrando ao mundo que – aparentemente – não deixaram pedra sobre pedra na busca por elas.
Sua milhagem irá variar dependendo se você acha que uma máquina encarregada de tomar decisões ou dar conselhos importantes seria, quando as coisas estivessem ruins, seria capaz de sintetizar an ethical very best graças às reuniões que seus criadores realizaram com administradores de algumas das principais religiões da humanidade. Isto provavelmente não faz mal, é como acenar com a cabeça para a Kaaba pré-islâmica. Mas, novamente, só Deus sabe com certeza.
