Os chatbots de IA tornaram surpreendentemente fácil falar sobre qualquer coisa, e isso inclui alguns dos tópicos mais pesados que se possa imaginar. Essa abertura sempre foi uma faca de dois gumes. A OpenAI agora está dando um passo para resolver isso, com um novo recurso que traz uma pessoa de confiança para a cena quando as coisas ficam sérias.
A empresa está lançando um novo recurso chamado Contato confiávele está começando a aparecer nas configurações do ChatGPT para usuários adultos. Ele permite que os usuários nomeiem uma pessoa que pode ser alertada se o ChatGPT detectar um problema sério de automutilação.
Como funciona o Contato Confiável?
Configurar um contato confiável é opcional, mas se você decidir configurá-lo, deverá certificar-se de que o contato que você está nomeando tem pelo menos 18 anos, ou 19 na Coreia do Sul. Depois que você nomeia alguém, ele recebe um convite explicando o que a função realmente significa e tem uma semana para aceitá-lo antes que o recurso seja lançado. Se eles recusarem, você pode escolher outra pessoa.
O sistema de alerta em si não é automático. Se os sistemas do ChatGPT sinalizarem uma conversa como potencialmente preocupante, o chatbot primeiro informa ao usuário que seu contato confiável pode ser notificado e também incentiva o usuário a entrar em contato diretamente com algumas sugestões para iniciar a conversa. Uma pequena equipe de revisores humanos especialmente treinados intervém para avaliar a situação. Somente se confirmarem um risco sério o contato será realmente notificado, por e-mail, mensagem de texto ou notificação no aplicativo. O alerta não compartilha transcrições ou detalhes de conversas. Ele simplesmente diz que a automutilação surgiu de uma forma potencialmente preocupante e pede ao contato para verificar. A OpenAI afirma que pretende concluir essa revisão humana em menos de uma hora.
Por que a OpenAI está adicionando isso agora?
O contato confiável faz parte de um conjunto mais amplo de recursos de segurança na plataforma. Anteriormente, a OpenAI adicionou recursos que permitiam que os pais recebessem alertas quando uma conta adolescente vinculada mostrasse sinais de perigo. O Contato confiável é a extensão desse mesmo recurso voltada para adultos. Foi supostamente desenvolvido com contribuições de médicos, pesquisadores e organizações de saúde psychological, incluindo a American Psychological Affiliation.
Dito isto, vale ressaltar que o Trusted Contact não substitui linhas diretas de crise, serviços de emergência ou cuidados profissionais de saúde psychological. O ChatGPT ainda direcionará os usuários para esses recursos quando necessário. Os usuários podem remover ou alterar seu contato confiável a qualquer momento, e os contatos podem remover-se quando quiserem.
A realidade é que o ChatGPT está sendo usado para algumas conversas profundamente pessoais, quer a OpenAI tenha planejado isso ou não. Adicionar um recurso como Contato confiável é um passo na direção certa e também uma admissão de que um chatbot não pode fazer muito.
