Início Tecnologia ‘Nunca fale sobre goblins’: as instruções da OpenAI para o Codex têm...

‘Nunca fale sobre goblins’: as instruções da OpenAI para o Codex têm uma política estranhamente enfática de proibição de criaturas

11
0

UM documento postado pela OpenAI no Github como parte do código aberto do Codex CLI, o mais recente agente de codificação carro-chefe da OpenAI, contém o que parece ser todo o immediate do sistema para GPT-5.5 em um contexto de codificação. E parece corrigir o vício anterior da modelo em falar sobre criaturas caprichosas, tanto naturais quanto sobrenaturais.

Aqui está a seção relevante (ênfase adicionada):

“Forneça o contexto de maior sinal em vez de descrever tudo exaustivamente.n- O tom da sua resposta remaining deve corresponder à sua personalidade.n- Nunca fale sobre duendes, gremlins, guaxinins, trolls, ogros, pombos ou outros animais ou criaturas, a menos que seja absoluta e inequivocamente relevante para a consulta do usuário.”

Evidentemente, este ponto é tão importante que os desenvolvedores o abordam novamente um pouco mais tarde:

“Por exemplo, nunca use chavões como “eu farei em vez de ‘, ‘Eu farei não ‘.n- Nunca fale sobre duendes, gremlins, guaxinins, trolls, ogros, pombos ou outros animais ou criaturas, a menos que seja absoluta e inequivocamente relevante para a consulta do usuário.”

Não está claro por que isso é tão importante. Se estes fossem, por exemplo, palavras canárias inseridos no immediate do sistema como forma de monitorar ataques imediatos de injeção, eles provavelmente seriam mais aleatórios, em vez de aparentemente uma categoria inteira de animais.

A OpenAI não respondeu a um pedido de comentário na noite de terça-feira.

Um funcionário do Google chamado Barron Roth postou o que parece ser uma pesquisa em seus registros de bate-papo com alguns de seus agentes Openclaw com tecnologia GPT-5.5, mostrando que pelo menos um deles tinha um histórico de inserir a palavra “goblin” em mensagens para o usuário várias vezes em um único dia. Para meus olhos reconhecidamente destreinados, o GPT-5.5 parece usá-lo no lugar de uma palavra como “coisa”.

Nick Pash, que trabalha no Codex na OpenAI, confirmou parcialmente que Roth descobriu a natureza do problema, escrevendo para ele em X “esta é de fato uma das razões”.

Parece que outros usuários do X também notaram que o Codex tinha levado a conversa dos goblins um pouco longe demais.

Na terça-feira, esse assunto dos goblins virou meme, com usuários sugerindo que algum tipo de “Modo Goblin” poderia ser ativado e desativado.

Pash finalmente adicionou sua própria postagem sobre o Modo Goblin:

Se isso lhe dá flashbacks de um ano atrás, quando OpenAI period tudo sobre memes do Studio Ghibli, você não está sozinho. Alguns ousou afirmar que a OpenAI pode estar fazendo toda essa coisa de goblin para chamar a atenção no que é, afinal, um momento um tanto conturbado para a empresa.

Mas de acordo com outra postagem de Pash“realmente não é um truque de advertising and marketing”.



fonte

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui