Siga ZDNET: Adicione-nos como fonte preferencial no Google.
Principais conclusões da ZDNET
- O cibercrime alimentado pela IA representa um risco crescente para as empresas.
- A maioria dessas organizações se sente desprotegida contra a ameaça.
- A EY destaca alguns passos importantes para a construção de defesas cibernéticas.
Os ataques cibernéticos impulsionados pela IA são quase universalmente considerados uma grave ameaça para as empresas atualmente. No entanto, por razões financeiras e logísticas, a maioria das organizações sente-se inadequadamente protegida e carece de um roteiro claro para reforçar as suas defesas internas.
Essa lacuna entre a consciência e a prontidão é a grande conclusão de uma relatório publicado quinta-feira pela consultoria EY. Com base num inquérito de dezembro realizado a mais de 500 altos funcionários de segurança cibernética de todos os setores, o relatório concluiu que 96% dos inquiridos acreditam que “os ataques de cibersegurança possibilitados pela IA são uma ameaça significativa para as suas organizações”, enquanto menos de metade desse número (46%) afirma sentir-se “fortemente confiante” de que as suas organizações dispõem de mecanismos de cibersegurança adequados para manter a ameaça sob controlo.
Além disso: 5 táticas de segurança que sua empresa não pode errar na period da IA – e por que elas são críticas
Além disso, a maioria dos entrevistados (67%) disse que ainda está “em modo piloto” quando se trata de definir a sua estratégia para manter as suas organizações protegidas desta nova onda de ataques cibernéticos.
Mas o modo piloto não é suficiente num mundo onde a IA fornece continuamente aos cibercriminosos novos meios de ataque, de acordo com Ganesh Devarajan, líder de risco cibernético da EY Americas.
“Estamos navegando em um cenário único onde a IA está transformando o ambiente digital em uma arma, assim como fortalece nossas defesas”, disse ele à ZDNET. “Se eu estivesse sentado em frente a um [chief information security officer] hoje, o meu conselho seria simples: o tempo de “esperar para ver” acabou. Proteger uma empresa agora significa construir uma estratégia holística onde a IA e os funcionários não apenas trabalhem lado a lado, mas também amplifiquem os pontos fortes uns dos outros.”
Além disso: a IA tornará a segurança cibernética obsoleta ou o Vale do Silício está confabulando novamente?
Um platô intersetorial
A segurança cibernética não é o único domínio em que as empresas que fazem experiências com IA não conseguem lançar-se de uma forma robusta e significativa. Apesar de um elevado grau de interesse em utilizar a tecnologia internamente, muitas empresas estão a lutar para o fazer de uma forma que gere retornos reais. As organizações estão presas numa espécie de patamar enquanto tentam transformar iniciativas internas de IA em crescimento sustentado; a força de vontade existe, mas o caminho muitas vezes não é claro.
Um estudo frequentemente citado do MIT publicado em Agosto, por exemplo, relatou que 95% das iniciativas internas de IA das empresas não conseguiram proporcionar qualquer ROI substancial. Foi um alerta para os desenvolvedores de IA e seus clientes empresariais. Resumindo, algo na abordagem atual de implantação de IA nas organizações não estava funcionando.
Além disso: por que os agentes empresariais de IA podem se tornar a maior ameaça interna
Alguns meses mais tarde, um inquérito a milhares de líderes empresariais em 21 países concluiu que a grande maioria (87%) afirmou que a IA iria “transformar completamente” a forma como a sua organização realiza o trabalho durante o próximo ano, mas apenas 29% disseram que as suas equipas tinham as competências e a formação necessárias para que esse resultado acontecesse.
Obstáculos para a segurança cibernética
Ambos os temas foram refletidos no novo relatório da EY.
Além disso: as ameaças de IA vão piorar: 6 maneiras de igualar a tenacidade de seus adversários digitais
Em linhas gerais, a empresa de consultoria descobriu que, embora a maioria dos profissionais de alto nível em segurança cibernética estejam conscientes do facto de que a IA está rapidamente a equipar os seus adversários com modos de ataque novos e mais sofisticados (como phishing e fraudes deepfake), eles são prejudicados pela falta de um plano claro para construir a sua segurança interna.
As restrições financeiras foram consideradas um problema significativo: 85% dos entrevistados na pesquisa da EY disseram que o “orçamento atual de segurança cibernética do seu empregador é insuficiente para enfrentar as ameaças habilitadas pela IA”, de acordo com o relatório. No lado positivo, a EY também descobriu que o número de organizações que dedicam pelo menos 25% do seu orçamento de segurança cibernética à construção de soluções baseadas em IA especificamente deverá crescer dos 9% actuais para 48% nos próximos dois anos.
Por outras palavras, o consenso parece ser que a melhor forma de combater as novas ameaças cibernéticas impulsionadas pela IA é com defesas impulsionadas pela IA – uma tendência que já começou a manifestar-se no sector financeiro.
Especificamente, a pesquisa da EY descobriu que a IA terá mais controle em seis áreas principais da segurança cibernética:
- Detecção avançada de ameaças persistentes
- Detecção de fraude em tempo actual
- Gerenciamento de identidade e acesso
- Gestão de riscos de terceiros
- Privacidade e conformidade de dados
- Defesa contra deepfakes e outros usos de IA para se passar por pessoas reais
Além disso: a IA também está tornando os fluxos de trabalho dos cibercriminosos mais eficientes, descobriu a OpenAI
A governança também foi uma grande restrição: 97% dos entrevistados disseram que uma estrutura de segurança robusta para uso interno de IA period “essencial” para gerar ROI, mas apenas 20% disseram que desenvolveram totalmente essa estrutura.
Quatro dicas
OK, mas o que os especialistas em segurança cibernética podem realmente fazer agora para enfrentar a nova onda de ameaças alimentadas por IA? A EY destacou quatro áreas principais nas quais deveriam se concentrar.
- Os orçamentos devem ser reformulados “para priorizar a segurança cibernética impulsionada pela IA”.
- Em vez de tentar usar uma infinidade de IA para automatizar tarefas específicas – que a EY sugeriu ser um gargalo importante que mantém as empresas presas na fase piloto – as organizações deveriam mudar para uma abordagem “orquestrada e orientada por agentes”. Em outras palavras, implementar um modelo de controle de cima para baixo para uso interno de IA para que os líderes de segurança cibernética possam visualizar facilmente as ações dos agentes de IA e, se necessário, corrigi-las.
- As equipes precisam “investir agressivamente” no treinamento dos funcionários existentes para colaborar de forma segura e eficaz com os agentes de IA.
- Adote uma mentalidade de corrida armamentista para manter as proteções internas, porque à medida que as defesas cibernéticas assistidas por IA melhoram, também melhorarão as táticas implementadas pelos cibercriminosos assistidos por IA. “As organizações que tratam a governação como um sistema vivo – melhorando continuamente e integrando-se na cultura e nas operações – estão melhor posicionadas para construir confiança, gerir riscos emergentes e traduzir a inovação da IA em vantagem competitiva durável”.
