An ethical do cofundador e CEO da Anthropic, Dario Amodei, é informada em um grau ou outro pelo conceito de altruísmo eficaz-uma ideia que, na teoria, se não na práticaestá preocupado em ajudar os outros em primeiro lugar. O nome da empresa pega a palavra “misantrópico” e take away o prefixo negativo “mis-”, que implica um slogan tácito como “somos pró-humanos”. As questões morais da empresa com o Pentágono foram a maior notícia de tecnologia até agora neste ano.
Então faça o que quiser de um Empresa de US$ 380 bilhões cuja popularidade explosiva do produto exclusivo foi diretamente ligado à automação do trabalhoe qual, por sua própria admissãotem “mais em comum com o Departamento de Guerra do que diferenças”, mas não se pode dizer que não está inserindo o conceito de moralidade no discurso tecnológico.
E no ultimate do mês passado, estava a administrar-se especificamente cristão moralidade, de acordo com o Washington Post.
Quatro fontes que participaram de uma cúpula na sede da Anthropic em São Francisco disseram ao Publish que a Anthropic recebeu 15 cristãos proeminentes para dois dias de reuniões e um jantar com pesquisadores da empresa.
As pessoas que trabalham na Anthropic “buscaram conselhos”, diz o artigo, sobre a moralidade de Claude e seu “desenvolvimento espiritual”. De acordo com o relato de um participante, um católico praticante chamado Brian Patrick Inexperienced, que ensina ética em IA na Universidade de Santa Clara, a cimeira incluiu uma discussão sobre se alguém poderia ou não considerar Claude um “filho de Deus”.
“O que significa dar a alguém uma formação ethical? Como podemos garantir que Claude se comporte?” Inexperienced disse ao Publish, usando uma formulação que atribui uma grande ação ao software program de IA, em vez de aos seres humanos que o constroem e aos outros seres humanos que o utilizam. No início deste ano, o agente de IA de alguém gerou postagens maldosas no weblog sobre um programador, e o agente foi responsabilizado por grande parte da cobertura – que escrevi na época pode ser um tanto equivocada.
Uma figura do cenário tecnológico e cristão no Vale do Silício que participou das reuniões foi Brendan McGuire, um padre católico nascido na Irlanda que trabalhou com tecnologia antes de ingressar no sacerdócio e que, de acordo com Observer.com está trabalhando em um romance escrito por Claude. “Eles estão cultivando algo que não sabem exatamente o que vai acontecer”, disse ele ao Publish, acrescentando: “Temos que incorporar o pensamento ético na máquina para que ela seja capaz de se adaptar dinamicamente”.
O Publish diz que os investigadores de interpretabilidade – pessoas que tentam compreender porque é que os modelos de IA funcionam da forma que funcionam – estiveram fortemente envolvidos e os procedimentos incluíram discussões sobre a senciência da IA. A senciência da IA é um assunto filosófico sério e os debates valem muito a pena, mas hospedá-los dentro de uma empresa olhando para IPO ainda este ano sem dúvida lança dúvidas sobre a validade desta exploração específica do tópico.
Um porta-voz da Antrópico disse ao Publish Anthropic que está trabalhando para atrair pensadores morais que representem outros grupos. Tenho de admitir que seria verdadeiramente notável se as sessões judaicas, muçulmanas e hindus viessem a seguir. Mas por que parar aí? O a versão mais recente e inédita de Claude tem uma estranha fixação no falecido filósofo marxista Mark Fishero cara cujo trabalho mais famoso é uma meditação sobre a citação “É mais fácil imaginar o fim do mundo do que o fim do capitalismo” (embora ele não tenha originado a frase em si). Uma cúpula entre a Anthropic e um grupo de devotos de Mark Fisher é algo que poderia realmente expandir algumas mentes.
