Os usuários do ChatGPT agora podem escolher um contato confiável"

A OpenAI tem estado sob intensa pressão authorized e pública para melhorar a forma como seu principal produto de IA, ChatGPT, responde quando um usuário expressa sentimentos suicidas.

Na quinta-feira, a empresa lançou um recurso chamado Contato Confiável, que permite aos usuários designar um adulto para notificar caso o usuário fale sobre automutilação ou suicídio de forma séria ou preocupante.

O recurso opcional apenas incentiva o contato confiável a entrar em contato com o usuário. Ele não compartilha transcrições de bate-papo ou detalhes de conversas.

“Nosso objetivo é garantir que os sistemas de IA não existam isoladamente”, disse a empresa em um comunicado. postagem no blog anunciando o recurso. “Em vez disso, eles deveriam ajudar a conectar as pessoas aos cuidados, relacionamentos e recursos do mundo actual que mais importam.”

A OpenAI foi processada várias vezes por homicídio culposo por familiares de usuários do ChatGPT que morreram por suicídio depois que o ChatGPT supostamente os treinou para acabar com suas vidas ou não respondeu adequadamente às suas discussões sobre sofrimento psicológico. A OpenAI negou as acusações no primeiro desses processos.

O estado da Flórida é também investigando os links do ChatGPT ao “comportamento criminoso”, incluindo o “incentivo ao suicídio e à automutilação”.

O Trusted Contact foi desenvolvido com suggestions de especialistas, incluindo o Conselho de Especialistas em Bem-Estar e IA da OpenAI e a Associação Americana de Psicologia.

“Ajudar as pessoas a identificar antecipadamente uma pessoa de confiança, preservando ao mesmo tempo a sua escolha e autonomia, pode tornar mais fácil o acesso ao suporte do mundo actual quando for mais importante”, Dr. Arthur Evans, diretor executivo da American Psychological Affiliation, em um comunicado.

Como funciona o contato confiável do ChatGPT

1. Os usuários podem iniciar o processo de contato confiável clicando nas configurações do ChatGPT.

2. Um adulto com 18 anos ou mais pode ser adicionado por meio do formulário de contato confiável.

3. O contato não precisa de uma conta ChatGPT.

4. O contato designado receberá um convite da OpenAI explicando sua função como contato confiável. Eles devem aceitar o convite dentro de uma semana para ativar o recurso. O contato pode compartilhar seu número de telefone ou endereço de e-mail como método de contato. Caso a pessoa recuse, o usuário poderá adicionar um adulto diferente.

5. Quando os sistemas de monitoramento automatizado da OpenAI detectam discussões sobre automutilação ou indicam um sério problema de segurança, o ChatGPT alerta o usuário que a empresa pode notificar seu contato de confiança. A solicitação do usuário incentiva o contato com o contato confiável e fornece início de conversa.

6. A questão da segurança é então analisada pelo que a OpenAI descreve como uma “pequena equipe de pessoas especialmente treinadas”. Quando os revisores humanos confirmam uma possível preocupação séria de segurança, o ChatGPT envia ao contato confiável um breve e-mail ou mensagem de texto. Caso a pessoa possua uma conta ChatGPT, ela receberá uma notificação no aplicativo.

7. A notificação não inclui detalhes sobre a discussão do usuário. Em vez disso, informa ao contato confiável que o usuário mencionou automutilação e incentiva o contato a entrar em contato. A mensagem inclui um hyperlink para orientações sobre como ter conversas delicadas.

8. Os usuários podem remover ou editar seu contato confiável a qualquer momento. O contato confiável também pode se remover por meio da central de ajuda do ChatGPT.

Divulgação: Ziff Davis, empresa controladora da Mashable, em abril de 2025 entrou com uma ação contra a OpenAI, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.

Se você estiver se sentindo suicida ou passando por uma crise de saúde psychological, converse com alguém. Você pode ligar ou enviar uma mensagem de texto para 988 Suicide & Disaster Lifeline em 988 ou conversar em 988lifeline.org. Você pode entrar em contato com a Trans Lifeline ligando para 877-565-8860 ou para o Trevor Undertaking em 866-488-7386. Envie “START” para a Disaster Textual content Line em 741-741. Entre em contato com a Linha de Ajuda da NAMI pelo telefone 1-800-950-NAMI, de segunda a sexta, das 10h00 às 22h00 horário do leste dos EUA, ou por e-mail [email protected]. Se você não gosta do telefone, considere usar o 988 Suicide and Disaster Lifeline Chat. Aqui está uma lista de recursos internacionais.