Expertise em cyber perde o passo para ameaças de IA

A Vanta, plataforma de gestão de confiança com inteligência artificial, divulgou ontem seu terceiro Relatório Anual sobre o Estado da Confiança (State of Trust Report ), uma análise aprofundada que revela tendências globais em IA, segurança, conformidade e confiança, a partir de uma pesquisa com 3.500 líderes de TI e negócios nos EUA, Reino Unido, França, Alemanha e Austrália.

O estudo indica que para 72% das organizações os riscos de segurança nunca foram tão altos — um aumento de 17 pontos percentuais em relação a 2024, quando 55% diziam isso. À medida que as ameaças cibernéticas impulsionadas por IA proliferam, as organizações admitem que não conseguem acompanhar o ritmo, com a maioria dos líderes de negócios (59%) e de TI alertando que as ameaças cibernéticas com IA estão avançando mais rápido do que a capacidade de suas equipes de segurança de lidar com elas. No último ano, metade de todas as organizações relatou um aumento em phishing gerado por IA (49%), malware com tecnologia de IA (48%) e roubo de identidade ou fraude impulsionados por IA (47%).

Por outro lado, o número de empresas que utilizam agentes de IA para se protegerem contra ciberataques de IA está aumentando drasticamente, com 8 em cada 10 líderes atualmente usando agentes de IA ou planejando usá-los este ano. No entanto, o uso da IA ​​não corresponde à compreensão da tecnologia — particularmente quando se trata de agentes, com quase dois terços (65%) afirmando que seu uso de IA com agentes supera sua compreensão da mesma.

“A IA mudou completamente a equação da segurança”, disse Jeremy Epling, Diretor de Produtos da Vanta. “Ela está criando novos riscos em uma velocidade sem precedentes, mas também é uma das ferramentas mais poderosas que temos para fortalecer as defesas e limitar o esgotamento das equipes de segurança sobrecarregadas. O desafio agora é o equilíbrio: adotar a IA de maneiras que aprimorem a segurança sem perder o controle ou a visibilidade. Como evidenciado pelos dados do State of Trust, para realmente construir uma confiança duradoura, precisamos de estruturas que ajudem a garantir que a IA seja confiável, segura e verificável em suas tomadas de decisão.”

A adoção de IA ativa é alta, mas o controle é baixo.

Para combater o aumento de novos vetores de ataque, as equipes de segurança estão confiando à IA (Inteligência Artificial) tudo, desde a tomada de decisões até a estratégia de segurança. Mas a falta de governança ameaça causar mais danos do que benefícios:

• 79% dos líderes estão usando ou planejando usar agentes de IA para se proteger contra ataques cibernéticos de IA.
• 61% afirmam confiar na IA ativa para substituir a tomada de decisões humanas em determinados cenários, como suspender uma extensão de navegador ou sessão de risco quando uma violação de política for detectada.
• 71% das equipes se sentem confortáveis ​​com a IA atuante fornecendo informações sobre a estratégia de segurança.
• Mas o uso da IA ​​não corresponde à compreensão — quase dois terços (65%) afirmam que seu uso da IA ​​assistiva supera sua compreensão dela.
• Apenas 48% desenvolveram uma estrutura para conceder ou limitar a autonomia em sistemas de IA.

O teatro da segurança está atrapalhando a proteção real.

O paradoxo da segurança na IA significa que, à medida que os clientes exigem mais provas de segurança, muitas equipes estão gastando mais tempo provando a segurança do que aprimorando-a.

Embora 8 em cada 10 pessoas acreditem que a melhoria da segurança e da conformidade aumenta diretamente a confiança do cliente, os líderes afirmam que suas organizações investem apenas metade do que deveriam em segurança — dedicando 10% dos orçamentos de TI à segurança, em comparação com o ideal de 17%. Isso equivale a 12 semanas de trabalho por ano dedicadas a tarefas relacionadas à conformidade (contra 11 no ano passado) e 9 semanas de trabalho por ano a revisões de segurança de fornecedores e avaliações de risco (contra 7 no ano passado).

Como resultado, 61% afirmam gastar mais tempo comprovando a segurança do que aprimorando-a, e 64% dizem que as estruturas de segurança atuais parecem um “teatro da segurança”.

A inteligência artificial elimina o esgotamento profissional das equipes de cibersegurança.

Em meio à crescente pressão por conformidade, a IA surge como uma válvula de escape e uma ferramenta de reinvenção. Ela ajuda equipes sobrecarregadas a fazerem mais com menos, automatizando tarefas manuais e liberando tempo para trabalhos de segurança mais significativos.

• 76% dos líderes de segurança e conformidade afirmam que as ferramentas de IA e automação estão reduzindo o esgotamento profissional e melhorando a produtividade diária.
• 95% acreditam que a IA e a automação melhoraram a eficácia das equipes de segurança.
• 1 em cada 2 afirma que as avaliações de risco e os tempos de resposta a incidentes são mais rápidos e precisos com IA.