Filósofo Nick Bostrom recentemente postou um artigoonde postulou que uma pequena probabilidade de a IA aniquilar todos os humanos poderia valer o risco, porque a IA avançada poderia aliviar a humanidade da “sua sentença de morte common”. Essa aposta otimista é um grande salto em relação às suas reflexões sombrias anteriores sobre IA, que fizeram dele um padrinho condenador. Seu livro de 2014 Superinteligência foi um exame inicial do risco existencial da IA. Um experimento psychological memorável: uma IA encarregada de fazer clipes de papel acaba destruindo a humanidade porque todas essas pessoas carentes de recursos são um impedimento para a produção de clipes de papel. Seu livro mais recente, Utopia Profundareflete uma mudança em seu foco. Bostrom, que dirige o Instituto Futuro da Humanidade de Oxford, debruça-se sobre o “mundo resolvido” que surgirá se acertarmos na IA.
STEVE LEVY: Utopia Profunda é mais otimista do que seu livro anterior. O que mudou para você?
NICK BOSTROM: Eu me considero um otimista inquieto. Estou muito entusiasmado com o potencial para melhorar radicalmente a vida humana e desbloquear possibilidades para a nossa civilização. Isso é consistente com a possibilidade actual de as coisas darem errado.
Você escreveu um artigo com um argumento marcante: já que todos vamos morrer de qualquer maneira, o pior que pode acontecer com a IA é morrermos mais cedo. Mas se a IA funcionar, poderá prolongar as nossas vidas, talvez indefinidamente.
Esse artigo aborda explicitamente apenas um aspecto disso. Em qualquer trabalho acadêmico, você não pode abordar a vida, o universo e o significado de tudo. Então, vamos apenas olhar para esse pequeno problema e tentar resolvê-lo.
Isso não é um pequeno problema.
Acho que fiquei irritado com alguns dos argumentos apresentados por destruidores que dizem que se você construir IA, você vai matar a mim e aos meus filhos e como você se atreve. Como o livro recente Se alguém construir, todo mundo morre. Ainda mais provável é que se ninguém constrói, todo mundo morre! Essa tem sido a experiência nos últimos 100 mil anos.
Mas no cenário catastrófico todo mundo morre e não nascem mais pessoas. Grande diferença.
Obviamente tenho estado muito preocupado com isso. Mas neste artigo, estou a olhar para uma questão diferente, que é: o que seria melhor para a população humana actualmente existente como você e eu e as nossas famílias e as pessoas no Bangladesh? Parece que a nossa esperança de vida aumentará se desenvolvermos IA, mesmo que seja bastante arriscado.
Em Utopia Profunda você especula que a IA poderia criar uma abundância incrível, tanto que a humanidade poderia ter um enorme problema em encontrar um propósito. Eu moro nos Estados Unidos. Somos um país muito rico, mas o nosso governo, aparentemente com o apoio do povo, tem políticas que negam serviços aos pobres e distribuem recompensas aos ricos. Penso que mesmo que a IA fosse capaz de proporcionar abundância a todos, não a forneceríamos a todos.
Você pode estar certo. Utopia Profunda toma como ponto de partida a postulação de que tudo corre extremamente bem. Se fizermos um trabalho razoavelmente bom em matéria de governação, todos receberão uma parte. Há uma questão filosófica bastante profunda sobre como seria uma boa vida humana sob estas circunstâncias ideais.
O sentido da vida é algo que você ouve muito nos filmes de Woody Allen e talvez na comunidade de filósofos. Estou mais preocupado com os meios para se sustentar e ter uma participação nesta abundância.
O livro não trata apenas de significado. Esse é um entre vários valores diferentes que ele considera. Esta poderia ser uma emancipação maravilhosa do trabalho penoso a que os humanos foram submetidos. Se você tiver que abrir mão, digamos, de metade de suas horas de vigília como adulto apenas para sobreviver, fazendo algum trabalho que você não gosta e no qual não acredita, essa é uma condição triste. A sociedade está tão acostumada com isso que inventamos todos os tipos de racionalizações em torno disso. É como uma forma parcial de escravidão.
