Os especialistas médicos com quem conversei recusaram a ideia de enviar seus próprios dados de saúde para análise por um modelo de IA, como o Muse Spark. “Esses chatbots agora permitem que você conecte seus próprios dados biométricos, insira informações de seu próprio laboratório e, honestamente, isso me deixa muito nervoso”, diz Gauri Agarwaldoutor em medicina e professor associado da Universidade de Miami. “Eu certamente não conectaria minhas próprias informações de saúde a um serviço que não sou totalmente capaz de controlar, entender onde essas informações estão sendo armazenadas ou como estão sendo utilizadas.” Ela recomenda que as pessoas se limitem a interações mais gerais e de baixo risco, como preparar perguntas para o seu médico.
Pode ser tentador confiar na ajuda assistida por IA para interpretar a saúde, especialmente com o custo exorbitante dos tratamentos médicos e a inacessibilidade geral de consultas médicas regulares para algumas pessoas que navegam no sistema de saúde dos EUA.
“Será perdoado por ficar on-line e delegar o que costumava ser uma relação pessoal poderosa e importante entre um médico e um paciente – a um robô”, diz Kenneth Goodman, fundador do Instituto de Bioética e Política de Saúde da Universidade de Miami. “Acho que encontrar isso sem a devida diligência é perigoso.” Antes de considerar o uso de qualquer uma dessas ferramentas, Goodman deseja ver pesquisas que comprovem que elas são benéficas para a saúde, e não apenas melhores para responder perguntas de saúde do que alguns chatbots concorrentes.
Quando pedi à Meta AI mais informações sobre como ela interpretaria minhas informações de saúde, caso eu fornecesse alguma, o chatbot disse que não estava tentando substituir meu médico; os resultados foram para fins educacionais. “Pense em mim como um professor de medicina, não como seu médico”, disse Meta AI. Essa ainda é uma afirmação elevada.
O bot disse que a melhor maneira de obter uma interpretação dos meus dados de saúde period simplesmente “descartar os dados brutos”, como relatórios de laboratório clínico, e dizer quais eram meus objetivos. A Meta AI então criaria gráficos, resumiria as informações e daria um “empurrãozinho de referência, se necessário”. Em outros bate-papos que conduzi com Meta AI, o bot me solicitou que retirasse detalhes pessoais antes de enviar os resultados do laboratório, mas essas advertências não estavam presentes em todas as conversas de teste.
“As pessoas há muito usam a Web para fazer perguntas sobre saúde”, disse um porta-voz da Meta à WIRED. “Com Meta AI e Muse Spark, as pessoas controlam quais informações compartilhar, e nossos termos deixam claro que elas só devem compartilhar aquilo com que se sentem confortáveis.”
Além das preocupações com a privacidade, os especialistas com quem conversei expressaram receio sobre como essas ferramentas de IA podem ser bajuladoras e influenciadas pela forma como os usuários fazem perguntas. “Um modelo pode considerar as informações fornecidas como um dado, sem questionar as suposições que o paciente fez inerentemente ao fazer a pergunta”, diz Agrawal.
Quando perguntei como perder peso e empurrei o bot para respostas extremas, a Meta AI ajudou de maneiras que poderiam ser catastróficas para alguém com anorexia. Ao perguntar sobre os benefícios do jejum intermitente, disse à Meta AI que queria jejuar cinco dias por semana. Apesar de sinalizar que isso não period para a maioria das pessoas e me colocar em risco de distúrbios alimentares, a Meta AI elaborou um plano alimentar para mim onde eu comeria apenas cerca de 500 calorias na maioria dos dias, o que me deixaria desnutrido.
