Siga ZDNET: Adicione-nos como fonte preferencial no Google.
Principais conclusões da ZDNET
- Apenas 23% dos gestores de TI têm controlo complete sobre os seus agentes.
- A maioria afirma que as barreiras de segurança serão inadequadas nos próximos seis meses.
- O gerenciamento de agentes precisa ser uma “disciplina de primeira classe”.
Agentes de IA – tão fáceis de criar – estão proliferando fora do controle de todos. E isso está se tornando um problema que pode minar quaisquer benefícios que estejam proporcionando.
Essa é a conclusão de um recém-lançado enquete pela Rubrik ZeroLabs, que conclui que menos de um em cada quatro gestores de TI (23%) afirma ter controlo “completo” sobre os agentes nas suas organizações. Para piorar a situação, estes agentes não estão necessariamente a proporcionar a produtividade pretendida. A maioria, 81%, relata que os agentes sob sua alçada exigem mais tempo em auditoria e monitoramento manuais do que deveriam economizar por meio de melhorias no fluxo de trabalho. A segurança também não é excelente, acrescenta a pesquisa.
Além disso: o dimensionamento da IA agente exige uma base de dados sólida – quatro etapas a serem executadas primeiro
Criar agentes de IA é fácil, e o problema é que “os usuários geralmente desligam VPNs ou contornam os controles de segurança para ativar agentes para atuarem como assistentes”, afirmam os autores do relatório. O resultado é um grande quantity de aplicações de IA não sancionadas, tanto internamente como lançadas por fornecedores.
A expansão de agentes se assemelha à adoção inicial da nuvem
Em todo o setor, existe a preocupação de que os agentes estejam começando a ficar fora de controle, sendo a expansão dos agentes um problema generalizado. “Já estamos vendo padrões semelhantes à adoção inicial da nuvem, onde as equipes criam agentes de forma independente, usando diferentes estruturas e fornecedores”, disse Kriti Faujdar, gerente sênior de produtos da Microsoft. “Isto leva à fragmentação, à governação inconsistente e às lacunas de segurança ocultas”.
Os autores da pesquisa ZeroLabs encontraram uma desconexão entre o controle percebido e a realidade operacional entre os agentes. Quase todos os gestores de TI, 86%, prevêem que a proliferação de agentes ultrapassará as barreiras de segurança no próximo ano. Mais da metade (52%) espera que isso aconteça nos próximos seis meses. Além disso, quase todos os entrevistados indicaram que não possuem os recursos de “desfazer” necessários para reverter ações não intencionais do agente.
Além disso: como construir melhores agentes de IA para o seu negócio – sem criar problemas de confiança
Com a proliferação de agentes nos sistemas empresariais, os observadores da indústria temem que tal expansão esteja a tornar-se demasiado difícil de gerir e conter. “Qualquer equipe com acesso à API pode criar um agente em uma tarde”, disse Nik Kale, engenheiro principal da Coalition for Safe AI. “Multiplique isso em uma grande empresa e você terá centenas de agentes com permissões sobrepostas, nenhum modelo de identidade consistente e ninguém que possa lhe informar o inventário completo”.
A observabilidade dos agentes pode ser notoriamente desafiadora, e os autores do ZeroLabs apontam para uma necessidade crescente de telemetria para compreender cadeias de ações dos agentes, pontuadas por pontos de aplicação para segurança.
5 perguntas pós-implantação
Rastrear a viabilidade do agente significa responder às seguintes questões pós-implantação, conforme identificadas pelos autores do estudo ZeroLabs:
- O que o agente fez? Chamada de rastreamento, é a capacidade de reproduzir ou pelo menos reconstruir exatamente o que aconteceu.
- Por que isso aconteceu? O que o agente acredita que o levou a tomar certas medidas?
- O que isso tocou? As trilhas de auditoria devem conter uma lista abrangente de quaisquer dados ou ferramentas com as quais um agente interagiu.
- Foi bem-sucedido, com segurança e a que custo? Como as organizações estão medindo a taxa de sucesso de tarefas, os resultados citados, as violações de políticas ou os escalonamentos humanos para uma compreensão precisa do ROI?
- Onde falhou? Podemos reproduzir a falha para resolvê-la?
Estas são questões que atualmente não estão sendo respondidas, afirma o relatório. Como resultado, muitos administradores e suas organizações são incapazes de “definir um comportamento de agente aceitável; auditar quais recursos e ferramentas os agentes podem acessar; criar políticas para acionar um humano no circuito; ou reverter ações de agente”.
Commerce-off entre velocidade e governança
Como os agentes agem de forma autónoma, representam um risco maior do que o software program tradicional, disse Faujdar. No ambiente atual, existe um compromisso entre velocidade e governação. “As organizações querem avançar rapidamente, mas sem barreiras claras, correm o risco de criar sistemas difíceis de confiar, auditar ou dimensionar. Os vencedores serão aqueles que tratarem a gestão de agentes não como uma reflexão tardia, mas como uma disciplina de primeira classe”.
Manter os agentes atualizados também é um desafio incômodo – já que seus modelos básicos tendem a se desviar. “O agente que você certificou no primeiro trimestre tem comportamento diferente no terceiro trimestre, sem culpa da plataforma”, disse Renze Jongman, fundador e CEO da Liberty91. “Seu modelo de governança tem que assumir os movimentos básicos.”
Além disso: perguntei a 5 líderes de dados sobre como eles usam IA para automatizar – e acabar com os pesadelos de integração
Neste ponto, há “muitos agentes operando fora de qualquer limite de governança, incluindo aqueles que as próprias equipes constroem”, disse Kale, que aconselha manter a camada de orquestração na pilha de agentes separada das camadas de modelo e governança. “Se todos os três vivem dentro da plataforma de um fornecedor, você entregou o cérebro do seu agente, suas permissões e sua cadeia de responsabilidade em um único contrato.”
A supervisão do agente, acrescentou Kale, “deve envolver segurança, arquitetura e a unidade de negócios que possui os resultados, não apenas a equipe que deseja entregar o mais rápido”.
