Apresentado por Splunk
A Agentic AI está tornando as equipes de TI e segurança dramaticamente mais eficientes. Mas também está eliminando o aprendizado que há muito produz operadores experientes.
À medida que as organizações automatizam mais do trabalho antes realizado por analistas e engenheiros juniores, elas enfrentam um desafio que tem tanto a ver com o design da força de trabalho quanto com o design da arquitetura: como construir a próxima geração de especialistas quando a IA lida com o trabalho que antes os treinou.
O que a força de trabalho júnior tem feito
Por duas décadas, o caminho para se tornar um analista de SecOps, SRE ou engenheiro de NetOps de classe mundial passou pela repetição.
Triagem de falsos positivos. Procurando contexto em painéis. Lendo registros às 2 da manhã que se revelaram benignos. A indústria tratou esse trabalho como um trabalho penoso, e em muitos aspectos period mesmo.
Mas também serviu como aprendizado.
As milhares de horas que um analista passou observando os padrões de tráfego construíram a intuição que os tornou inestimáveis quando um ataque actual ocorreu. Essa intuição não foi ensinada em um único curso ou capturada em um handbook. Foi acumulado por meio de exposição, reconhecimento de padrões, fracasso e escalada. Com o tempo, é assim que as pessoas ganham profunda experiência analítica.
No entanto, a IA de agência está agora começando a automatizar as mesmas tarefas que antes serviam de campo de treinamento para essa experiência. Isso não é motivo para desacelerar. O trabalho penoso custava caro. O esgotamento foi actual. As organizações devem usar agentes para reduzir o trabalho sempre que possível.
Ao mesmo tempo, à medida que eliminamos esse ciclo de aprendizagem, precisamos de fornecer aos operadores algo melhor em seu lugar. A forma como as organizações abordam esta questão hoje determinará os vencedores do futuro.
As organizações que abordarem esta questão deliberadamente produzirão os operadores qualificados para terem sucesso na próxima década. As organizações que apostam nisso podem encontrar-se hoje com sistemas mais rápidos, mas com menos pessoas que os compreendam profundamente o suficiente para governá-los amanhã.
Quando a automação esvazia a responsabilidade
Há também uma segunda dimensão nesta conversa que recebe menos atenção do que deveria.
Em ambientes regulamentados, o trabalho penoso da aprendizagem faz parte da camada de responsabilização. Estruturas que vão da SOX ao PCI DSS, da HIPAA ao NIS2 pressupõem que há uma cadeia de julgamentos humanos por trás de uma decisão de controle.
Os auditores não entrevistam modelos. Eles entrevistam pessoas que podem explicar por que um sistema fez o que fez, por que a decisão foi acertada e se os controles corretos foram implementados.
Quando a população de profissionais que podem explicar essa cadeia começa a diminuir, o risco pode não aparecer imediatamente. O controle ainda pode passar. O fluxo de trabalho ainda pode ser executado. O painel ainda pode parecer verde.
Mas a memória organizacional subjacente começa a esvaziar-se.
Este não é simplesmente um problema de ferramentas. É também um problema de habilidade e design da força de trabalho. E para as organizações que avançam rapidamente na adoção por agentes, o risco está mais próximo do que muitos pensam.
Construindo experiência humana para governar a IA
Quando perdermos parte da camada de responsabilização para os agentes, os seres humanos assumirão um tipo diferente de papel de governação. Governar um sistema agente significa implementar proteções automatizadas que se adaptam ao comportamento não determinístico do agente e garantemé os agentes se comportam adequadamente sob condições que ninguém previu totalmente. Significa projetar critérios de escalonamento que detectem as anomalias certas sem sobrecarregar os humanos com as erradas. Significa implementar ferramentas, alertas e processos dinâmicos para revisar as decisões da máquina e detectar desvios, preconceitos e falhas de raciocínio que nenhum caso particular person revelaria.
A capacidade de avaliar e responder a estas exceções requer um julgamento construído ao longo de anos de experiência, reconhecimento de padrões de aprendizagem que o antigo modelo de aprendizagem costumava produzir.
É por isso que a questão da força de trabalho e a questão da arquitectura são agora a mesma questão. Se esperamos que os humanos governem sistemas cada vez mais autónomos, precisamos de caminhos intencionais que ajudem as pessoas a gerir a escala e a velocidade dos sistemas de IA, ao mesmo tempo que desenvolvem a intuição e o julgamento nos operadores humanos necessários para realizar esse trabalho.
Na period da IA, as plataformas mais valiosas não automatizarão simplesmente a maioria das tarefas. Ajudarão as pessoas a tornarem-se mais capazes, mais credíveis e mais essenciais à medida que os sistemas à sua volta se tornam mais rápidos e mais inteligentes.
Isso significa que as organizações precisam investir em todo o ecossistema de conhecimentos especializados para os operadores: comunidades que difundem práticas partilhadas, certificações ou outras provas que tornem os conhecimentos especializados visíveis, e explicações e verificações orientadas para o ser humano na IA, juntamente com percursos de aprendizagem que desenvolvam capacidades. Empowerment é uma escolha de design de arquitetura
O empoderamento humano é uma parte crítica da conversa em torno do uso prático da IA. No entanto, sem uma estratégia intencional para apoiar isto, corre o risco de se tornar o tipo de frase que não significa nada porque pode significar qualquer coisa.
O empoderamento dos sistemas de agência não pode ser apenas um requisito conceitual. Tem que ser um conjunto de opções de design incorporadas ao comportamento dos sistemas. Um sistema agente que capacita seus operadores humanos e aumenta seu conjunto de habilidades profissionais faz quatro coisas:
1. Expõe o raciocínio, com a linhagem de dados por trás dele
Cada recomendação que um agente faz deve ser rastreável aos dados que considerou, à lógica que aplicou e à proveniência das entradas que utilizou. Os operadores que conseguem ver o raciocínio desenvolvem um julgamento sobre quando confiar nele. Os operadores entregaram apenas conclusões, não.
2. Níveis de autoridade por confiança e impacto
Padrões familiares e de baixo risco podem ser tratados de forma autônoma. Situações ou ações novas com raio de explosão significativo devem aumentar por padrão. O limite deve ser explícito e configurável pelas equipes que controlam as consequências.
3. Trata as divergências como um sinal de correção
Quando um engenheiro experiente ignora um agente, ele está fazendo mais do que discordar. Eles estão corrigindo o sistema com um julgamento que o modelo não tinha: uma dependência frágil, uma peculiaridade no ambiente, uma restrição que os dados nunca viram. Um sistema que registra a substituição, mas ignora o raciocínio por trás dela, não aprende nada desde o momento em que um humano soube melhor.
4. Captura resoluções como conhecimento entre domínios
Como um incidente é resolvido é uma lição que raramente fica na mesma faixa. Um incidente de SecOps pode expor uma fraqueza do ITOps. Um problema de rede pode estar relacionado ao impacto nos negócios. Quando essa conexão reside apenas dentro de um ticket fechado, a próxima equipe a acertá-la começa do zero. As resoluções devem viajar através dos domínios, e não morrer onde foram arquivadas.
Estas não são qualidades aspiracionais. São capacidades de produto testáveis. Os líderes que avaliam os sistemas de agente devem ser capazes de identificar onde residem essas capacidades, o que acontece quando elas falham e se a habilidade do operador melhora após a implantação.
A próxima vantagem é quando humanos e IA escalam juntos
Para que os sistemas de IA sejam práticos, confiáveis e funcionem em escala, o ponto crítico do projeto é que a IA trabalhe profundamente ao lado e capacite os operadores humanos.
Como tal, a period da agência não é uma história sobre a substituição de humanos. É uma história sobre redesenhar os sistemas que os humanos operam para que estas operações possam acontecer à velocidade e à escala da máquina, enquanto a experiência humana cresce ao mesmo tempo. Juntos, e não às custas um do outro.
Esse resultado não é um dado adquirido. Isso só acontecerá quando os líderes tratarem o desenvolvimento dos operadores como uma prioridade e não como uma reflexão tardia. Para conseguir isso, os sistemas de ação devem ser intencionalmente projetados para expor o raciocínio, capturar o aprendizado e encaminhar o trabalho de volta aos humanos de maneira que desenvolvam habilidades e carreira, em vez de corroer ambas.
Os agentes continuarão cada vez mais inteligentes e rápidos. A capacidade dos operadores que trabalham com eles de aprender e crescer em sincronia determinará se a próxima década de resiliência digital será algo que as organizações realmente possuem ou algo que elas alugam de um conjunto cada vez menor de conhecimentos especializados.
Saiba mais sobre como Cisco Data Fabric desenvolvido pela plataforma Splunk está ajudando as equipes a acelerar as operações dos agentes.
Kamal Hathi é vice-presidente sênior e gerente geral da Splunk, uma empresa da Cisco.
Artigos patrocinados são conteúdos produzidos por uma empresa que paga pela postagem ou tem relacionamento comercial com a VentureBeat, e estão sempre claramente marcados. Para mais informações, entre em contato vendas@venturebeat.com.
