O cineasta Spike Jonze forneceu uma visão quase profética do futuro com seu romance de ficção científica de 2013 Delaem que um homem muito solitário e cada vez mais retraído se apaixona gradualmente por um sistema operacional de inteligência synthetic com o qual conversa por comando de voz.
Mais de uma década depois, a vida (de certa forma) imitou a arte e Jonze está preocupado com os seus perigos.
Além de se tornar um culto moderno de meditação clássica sobre a solidão e a necessidade inerentemente humana de intimidade, Dela também foi sem dúvida uma fonte de inspiração para o ChatGPT da OpenAI. CEO da OpenAI, Sam Altman famosa referência ao filme no X ao anunciar o GPT-4o, o modelo de chatbot que mais tarde se encontraria no centro de várias controvérsias sobre psicose e dependência de IA devido às suas tendências bajuladoras. A empresa até estreou o chatbot com uma nova voz que supostamente foi baseada sem consentimento em Scarlett Johanssonque dublou o sistema de IA no filme de Jonze.
Depois que a popularidade do ChatGPT explodiu e catapultou os chatbots de IA para a vida cotidiana, Jonze diz que as comparações com seu filme surgiram rapidamente. Em uma conversa na conferência Vibecon da empresa de codificação de vibrações Replit, na cidade de Nova York, na quarta-feira, o diretor-roteirista falou sobre a estranheza das pessoas elogiando a “incrível interface de usuário” que ele criou para a personagem de Johansson, Samantha. Ele diz que o filme é menos sobre tecnologia e mais sobre relacionamentos e intimidade, por isso queria que o público sentisse que o chatbot tinha autonomia, o que difere da tecnologia com a qual estamos lidando atualmente.
“É superficialmente semelhante, mas para mim pessoalmente não é semelhante, e acho que as IAs que fingem ser humanas são, você sabe, manipuladoras”, disse Jonze. “As crianças precisam crescer sabendo que estes serão muito, muito convincentes e muito sedutores – e muito úteis e muito poderosos – mas ainda são apenas um sistema, um sistema incrível de reconhecimento de padrões.”
Os sentimentos de Jonze ecoam uma ansiedade mais ampla na cultura. Os chatbots são projetados em torno do envolvimento máximo, o que fez com que as pessoas desenvolvessem dependências da tecnologia. Nos últimos dois anos, Vício em IA e o termo que o acompanha, psicose de IA, entraram rapidamente no léxico on-line. O fenômeno tornou-se tão grande que as pessoas estão se organizando grupos de apoio ao vício em chatbot. Em alguns casos, os usuários também buscaram relacionamentos íntimos com esses chatbots, até mesmo sofrendo quando um modelo foi aposentado, como aconteceu quando a OpenAI cortou o acesso ao GPT-4o.
Em vários casos de grande repercussão, o resultado foi trágico. Na maioria das vezes, as vítimas são usuários vulneráveis, como crianças ou pessoas com problemas de saúde psychological. Como no caso de um 14 anos que se matou momentos depois de um chatbot Character.AI modelado a partir de um Guerra dos Tronos personagem supostamente pediu que ele “voltasse para casa” para ela. Ou no ano passado, quando um homem com deficiência cognitiva morreu enquanto tentava chegar à cidade de Nova Iorque para “conhecer” O personagem sedutor de IA de Meta chatbot com o qual ele estava conversando.
O papel da IA em Hollywood
Apesar de suas reservas sobre o design do chatbot, Jonze experimentou usar IA em seu trabalho. Em O tigreum curta-metragem repleto de estrelas que ele fez para a Gucci no last do ano passado com a cineasta holandesa Halina Reijn, Jonze usou IA para animar uma colagem para uma sequência de pesadelo que dura cerca de meio minuto. Embora tenha dito que period “interessante” experimentar a tecnologia, ele alertou contra depender dela durante a maior parte do processo criativo.
“Isso lhe dá a ilusão de que você está realmente fazendo algo, porque faz algo muito rapidamente”, disse Jonze, mas no last do dia, o processo criativo requer tempo para lutar e fazer com que “as palavras saiam de você”.
“Acho que o oposto de desleixo é quando vem de dentro de você”, disse Jonze.
A inteligência synthetic está entrando rapidamente na indústria cinematográfica e Hollywood parece polarizada sobre qual deveria ser o seu papel. De um lado, você tem aqueles que aceitam a inteligência synthetic no espaço criativo. O diretor Martin Scorsese assinou recentemente como parceiro e consultor de uma startup de geração de imagens de IA, dizendo que a ferramenta pode ser útil no storyboard de pré-produção. No início deste mês, o Tribeca Movie Pageant, liderado por Robert De Niro, estreou um filme totalmente gerado por IA. Outros artistas, de Reese Witherspoon para Steven Soderberghtambém apoiaram a adoção da IA na indústria cinematográfica.
Mas, por outro lado, há artistas firmemente contra isso. Diretor Guilherme Del Toro disse que prefere morrer a usar IA generativa em seus filmes. Outro crítico ferrenho da IA, Seth Rogennão apenas chamou os vídeos on-line de IA de “a merda de cachorro mais estúpida que já vi na minha vida”, mas também disse que se você usa IA para escrever, então talvez você não devesse ser um escritor.
Jonze parece estar mais satisfeito com a incorporação da tecnologia em sua prática do que alguns de seus colegas, mas ainda está preocupado com o impacto de sua aceitação no atacado.
“É uma entidade com muita fome e vai querer receber tanto quanto nós dermos, e você sabe, há certas coisas, como colaborar com outros artistas, que quero proteger”, disse Jonze. “Acho que é uma ferramenta incrível, mas também não é e não deve substituir a colaboração humana; é aí que acontece alguma eletricidade que não pode ser definida.”
Criar através da inteligência synthetic é uma experiência particular person, disse Jonze, e para ser usada pelas indústrias criativas, a tecnologia deve priorizar a evolução de uma forma que promova mais colaboração.
“Deveria haver aspectos sociais na IA que espero, ou presumo, que venham, mas precisam estar na vanguarda”, disse Jonze. “Precisa estar de acordo com o tempo, a plataforma e o engajamento.”
