O Corpo de Bombeiros de Seattle tem usado discretamente inteligência synthetic para ajudar na triagem e desviar ligações médicas para o 911 por mais de dois anos – sem avisar o público – The Seattle Times informou domingo.
Com sede na Dinamarca CortiA IA de Seattle tem ouvido todas as chamadas médicas do 911 de Seattle e solicitado aos despachantes que encaminhassem certos pacientes para um name middle com equipe de enfermagem no Texas, em vez de enviar uma ambulância, descobriu o Occasions. O sistema funcionou sem divulgação pública ou revisão formal.
O SFD começou a usar os prompts de IA ao vivo em dezembro de 2023, e o diretor médico do departamento atribuiu à tecnologia o aumento nas chamadas encaminhadas para a linha de enfermagem – embora o número exato tenha sido contestado. O sistema nunca foi avaliado ao abrigo do decreto de vigilância de Seattle, que exige a revisão das tecnologias que observam os indivíduos de formas susceptíveis de suscitar preocupações de justiça social.
A linha de enfermagem foi examinada após um caso de 2022 em que uma aposentada esperou mais de 10 horas por uma ambulância e mais tarde foi encontrada morta em seu apartamento; sua propriedade agora está processando.
O professor de direito da Universidade de Washington, Ryan Calo, codiretor do Tech Coverage Lab da universidade, disse que o envolvimento não revelado da IA levanta sérias preocupações.
“Uma pessoa que é erroneamente encaminhada para fora do ambiente 911 tem o direito de saber como isso aconteceu”, disse Calo ao Occasions.
A prática está a espalhar-se pelo estado de Washington, com os condados de Snohomish e Kitsap a implantar recentemente agentes de IA em linhas não emergenciais e a área de Tri-Cities a lançar um sistema semelhante, de acordo com relatórios.
O chefe assistente do SFD, Chris Lombard, disse que os despachantes mantêm a autoridade last sobre cada chamada, mesmo quando recebem avisos de IA. Um porta-voz da prefeita Katie Wilson disse que o governo está desenvolvendo uma estrutura voltada ao público para a governança da IA e avaliará se os usos existentes “centralizam o florescimento humano e servem ao bem público”.
Leia a história completa em The Seattle Times.
