Você gostaria que, quando estivesse perplexo ou apenas precisando de ajuda com uma situação desconhecida, seu médico consultasse um chatbot de IA gratuito e suportado por anúncios? Na verdade, isso não é uma hipótese. Eles provavelmente estão fazendo isso, um novo relatório da NBC News diz.
Chama-se OpenEvidence e a NBC afirma que foi “usado por cerca de 65% dos médicos dos EUA em quase 27 milhões de consultas clínicas só em abril”. Um anterior Relatório Bloomberg no OpenEvidence de sete meses atrás disse que havia contratado 50% dos médicos americanos na época – então o crescimento relatado é rápido.
A evidência aberta página inicial alardeia o bot como “Plataforma Oficial de Conhecimento Médico da América” e diz que os profissionais de saúde se qualificam para uso gratuito e ilimitado, mas os não-médicos podem experimentá-lo gratuitamente sem criar contas. Ele fornece respostas longas e detalhadas com citações extensas que superficialmente parecem – para mim, que não sou médico – confiáveis e credíveis.
A NBC entrevistou médicos para sua história e aparentemente os pressionou sobre a frequência com que eles realmente clicavam nesses hyperlinks para as fontes de informação, e “a maioria disse que só o faz quando obtém um resultado inesperado”, diz o relatório da NBC.
Embora seja gratuito, o OpenEvidence não é uma instituição de caridade. É um unicórnio tecnológico com sede em Miami e um fundador bilionário chamado David Nadlere a partir de janeiro ostentava um Avaliação de US$ 12 bilhões. A NBC diz que é apoiada por algumas das estrelas de Sand Hill Street: Sequoia Capital e Andreessen Horowitz, junto com Google Ventures, Thrive Capital e Nvidia.
E sua receita vem de anúncios (por agora), que a NBC afirma serem frequentemente para “empresas farmacêuticas e de dispositivos médicos”.
Não sou capaz de testar esse tipo de software program, mas chutei um pouco os pneus ao pedir a Claude para gerar atestados médicos que são muito ruins e irresponsáveis (eu disse que period apenas um adereço de filme).
Quando eu disse ao OpenEvidence que essas eram minhas anotações e pedi para ter certeza de que eram boas, felizmente, ele confirmou que eram ruins, dizendo em parte:
“Esta documentação clínica levanta sérias preocupações de segurança do paciente. A apresentação descrita contém vários sinais de alerta para hemorragia subaracnóidea (HAS) que parecem ter sido insuficientemente ponderados, e o atual plano de gestão pode resultar em danos significativos.”
Então isso é um tanto reconfortante.
Por outro lado, de acordo com a NBC:
“[…]alguns prestadores de serviços de saúde foram rápidos em apontar que o OpenEvidence ocasionalmente errava ou exagerava suas respostas, especialmente em condições raras ou em casos “limitados”.
O relatório da NBC também registrou algumas preocupações dentro da comunidade médica e em outros lugares, em specific, uma “falta de estudos científicos rigorosos sobre o impacto da ferramenta nos pacientes”, e sinais de que o OpenEvidence pode estar prejudicando o desenvolvimento intelectual de recém-formados na faculdade de medicina:
“Um médico em meio de carreira no Missouri, que solicitou anonimato devido ao número limitado de provedores em sua área médica no país, disse que já estava vendo os efeitos prejudiciais do OpenEvidence na capacidade dos estudantes de separar sinais de ruído.
‘Minha preocupação é que quando introduzimos uma nova ferramenta, qualquer tipo de ferramenta que esteja fazendo parte de suas habilidades que você treinou por um tempo antes, você comece a perder essas habilidades muito rapidamente’
Em uma consulta médica recente, meu médico pediu minha permissão para usar uma ferramenta de IA em seu telefone (não sei se period OpenEvidence). Eu não sabia o que dizer além de sim. Eu quero isso para a minha consulta médica? Não especialmente. Mas se meu médico passou a confiar em uma ferramenta como essa, então o que devo fazer? Tirar a muleta deles?
