O Microsoft Phrase está contratando um agente jurídico de IA, o que parece útil até que você se lembre de como isso já aconteceu antes. O novo Agente Jurídico pode revisar contratos, sugerir edições, comparar versões e sinalizar cláusulas arriscadas dentro do Phrase. No papel, esses recursos parecem bastante úteis e convenientes, no entanto, casos de ferramentas generativas de IA alucinando e inventando casos inteiros, citações e citações do nada já arrastaram algumas pessoas reais para problemas judiciais reais antes.
O que o Agente Authorized da Microsoft pode fazer?
Microsoft diz Agente Jurídico está disponível por meio do Copilot no Phrase para usuários do programa Frontier nos EUA. Atualmente funciona no Phrase para desktop do Home windows. Não há necessidade de aplicativo ou instalação separada, embora alguns usuários possam precisar reiniciar o Phrase antes que o agente apareça.
O Agente Jurídico destina-se à revisão de contratos e documentos. A Microsoft diz que pode verificar cláusula por cláusula do contrato em relação a um handbook jurídico, revisar um acordo completo, comparar diferentes versões, sinalizar riscos e obrigações e sugerir edições com alterações rastreadas. Ele também mantém intactos a formatação authentic, tabelas, listas e histórico de negociações.
A empresa também está tentando evitar o óbvio cenário de pesadelo para seus usuários e para ela mesma. O recurso possui salvaguardas integradas, como o fornecimento de citações vinculadas ao idioma de origem, para que os revisores possam verificar as sugestões antes de usá-las, juntamente com isenções de responsabilidade claras de que não fornece aconselhamento jurídico, pode produzir conteúdo impreciso e ainda requer revisão por um profissional jurídico qualificado antes de qualquer coisa ser confiável.
Por que os advogados ainda deveriam estar nervosos?
Já existe precedente de IA desonesta em ambientes jurídicos, já que dois advogados de Nova York foram sancionados em 2023 e condenados a pagar uma multa de US$ 5.000 após apresentarem um processo judicial que incluía casos falsos gerados pelo ChatGPT. Michael Cohen, ex-advogado de Donald Trump, também admitiu que, sem saber, deu ao seu advogado citações de casos falsos gerado pelo Google Bard. Embora Cohen não tenha sido sancionado, o juiz ainda considerou o episódio constrangedor e enfatizou a necessidade de ceticismo ao usar IA em trabalhos jurídicos.
Não são casos isolados, pois Juízes questionaram ou disciplinaram advogados em vários casos envolvendo registros assistidos por IA, e um cientista de dados e advogado francês identificou centenas de documentos judiciais contendo citações falsas e referências inexistentes durante o ano passado.
O maior problema é que as alucinações permanecem sem solução. Os chatbots de IA ainda podem produzir respostas que parecem confiantes, embora parcial ou totalmente erradas. No trabalho jurídico, isso é especialmente perigoso, porque uma citação inventada ou um caso inventado pode acabar num processo e criar consequências graves.
A Microsoft colocou muitas salvaguardas no Agente Authorized para evitar esses problemas, no entanto, a lição já está escrita nos autos do tribunal. A IA pode acelerar o trabalho jurídico, mas a responsabilidade da verificação dos factos ainda recai sobre o advogado.
