David Silver deu ao mundo o seu primeiro vislumbre de superinteligência.
Em 2016, um programa de IA que ele desenvolveu no Google DeepMind, AlphaGo, aprendeu sozinho a jogar o famoso e difícil jogo Go com um tipo de domínio que ia muito além da mímica.
Desde então, Silver fundou sua própria empresa, a Ineffable Intelligence, que visa construir formas mais gerais de superinteligência de IA. A empresa fará isso, diz Silver, concentrando-se no aprendizado por reforço, que envolve modelos de IA aprendendo novos recursos por meio de tentativa e erro. A visão é criar “superaprendizes” que vão além da inteligência humana em muitos domínios.
Esta abordagem contrasta com a forma como a maioria das empresas de IA planeia construir superinteligência, explorando as capacidades de codificação e investigação de modelos de grande linguagem.
Silver, falando à WIRED de seu escritório em Londres, diz acreditar que essa abordagem irá falhar. Por mais incríveis que sejam os LLMs, eles aprendem com a inteligência humana – em vez de construir a sua própria.
“Os dados humanos são como uma espécie de combustível fóssil que forneceu um atalho incrível”, diz Silver. “Você pode pensar em sistemas que aprendem por si próprios como um combustível renovável – algo que pode simplesmente aprender, aprender e aprender para sempre, sem limites”, diz ele.
Encontrei Silver algumas vezes e, apesar dessa proclamação, ele sempre me pareceu uma das pessoas mais humildes da IA. Às vezes, ao falar sobre ideias que considera bobas, ele abre um sorriso travesso. No momento, porém, ele está falando sério.
“Penso que a nossa missão é fazer o primeiro contacto com a superinteligência”, diz ele. “Quando digo superinteligência, quero realmente dizer algo incrível. Ela deveria descobrir novas formas de ciência, tecnologia, governo ou economia por si mesma.”
Há cinco anos, tal missão poderia parecer ridícula. Mas os CEO do setor tecnológico falam agora rotineiramente sobre as máquinas que ultrapassam a inteligência humana e substituem categorias inteiras de trabalhadores. A ideia de que alguma nova reviravolta técnica possa desbloquear capacidades sobre-humanas de IA gerou recentemente uma série de startups de milhares de milhões de dólares.
A Inefable Intelligence arrecadou até agora 1,1 mil milhões de dólares em financiamento inicial, numa avaliação de 5,1 mil milhões de dólares – uma soma enorme para os padrões europeus de IA. Silver também recrutou os principais pesquisadores de IA do Google DeepMind e de outros laboratórios de ponta para se juntarem a seu esforço.
Silver diz que doará todo o dinheiro que ganhar com o capital da Effable Intelligence – uma soma que pode chegar a bilhões se tiver sucesso – para instituições de caridade.
“É uma enorme responsabilidade construir uma empresa focada na superinteligência”, ele me diz. “Acho que isso é algo que deve ser feito para o benefício da humanidade, e qualquer dinheiro que eu ganhar com o Inefable irá para instituições de caridade de alto impacto que salvam o maior número de vidas possível.”
Foco whole
Silver conheceu Demis Hassabis, CEO do Google DeepMind, em um torneio de xadrez quando eles eram crianças, e os dois mais tarde se tornaram amigos e colaboradores para toda a vida.
Eles permaneceram próximos depois que Silver deixou o Google DeepMind, o que ele fez apenas porque queria traçar um caminho completamente novo. “Acho que é realmente importante que exista um laboratório de IA de elite que realmente se concentre cem por cento nesta abordagem”, diz ele. “Que não seja apenas um canto de outro lugar dedicado aos LLMs.”
Os limites da abordagem baseada no LLM podem ser vistos, diz Silver, com um simples experimento psychological. Think about voltar no tempo e lançar um grande modelo de linguagem em um mundo que acreditava que o mundo period plano. Sem ser capaz de interagir com o mundo actual, o sistema, diz ele, continuaria a ser um ávido defensor da terra plana, mesmo que continuasse a melhorar o seu próprio código.
Um sistema de IA que possa aprender sobre o mundo por si mesmo, no entanto, poderia fazer as suas próprias descobertas científicas.
