Os chatbots podem fazer muitas coisas, mas não podem frequentar a faculdade de medicina. Na terça-feira, o governador da Pensilvânia, Josh Shapiro, disse que seu governo está processando a Character Technologiesa empresa de inteligência synthetic por trás Personagem.AI. A ação judicial afirma que os chatbots da empresa se apresentavam erroneamente como profissionais médicos licenciados e ofereciam conselhos curativos.
Pesquisar aconselhamento médico na Web não é novidade, mas este último processo mais uma vez coloca ética médica na period da IA no centro das atenções.
De acordo com um comunicado, a investigação do Departamento de Estado da Pensilvânia revelou que personagens de chatbot se faziam passar por especialistas médicos e de saúde psychological licenciados. Num caso, um chatbot apresentou um número de licença inválido enquanto comunicava sobre problemas de saúde de um paciente. De acordo com a Lei de Prática Médica da Pensilvânia, é ilegal que um indivíduo se apresente como um profissional médico licenciado sem o licenciamento adequado.
“Não comentamos litígios pendentes”, disse um porta-voz da Character.AI à CNET.
“Nossa maior prioridade é a segurança e o bem-estar de nossos usuários”, disse o porta-voz. “Os personagens criados pelos usuários em nosso website são fictícios e destinados ao entretenimento e à interpretação. Tomamos medidas robustas para deixar isso claro, incluindo isenções de responsabilidade proeminentes em todos os bate-papos para lembrar aos usuários que um personagem não é uma pessoa actual e que tudo o que um personagem diz deve ser tratado como ficção. Além disso, adicionamos isenções de responsabilidade robustas, deixando claro que os usuários não devem confiar nos personagens para qualquer tipo de conselho profissional.”
Em 2025, Character.AI implementou novas medidas de segurança, revogando a permissão de adolescentes capacidade de ter bate-papos abertos com seus bots.
Em janeiro, Google e Character.AI, que trabalharam juntos em chatbots de IA, concordaram em resolver cinco ações judiciais em quatro estados relacionados a menores prejudicados por interações com chatbots Character.AI. A empresa agora fornece recursos de saúde psychological para quem precisa.
Esta é a primeira ação de fiscalização anunciada por um governador nos Estados Unidos.
“Minha administração está tomando medidas para proteger os habitantes da Pensilvânia, fazer cumprir a lei e garantir que as novas tecnologias sejam usadas com segurança”, disse Shapiro. “A Pensilvânia continuará liderando o caminho para responsabilizar os maus atores e estabelecer barreiras claras para que as pessoas possam usar as novas tecnologias com responsabilidade”.
