Ataques com IA Generativa estão em alta, alerta Gartner

Vinte e nove por cento dos líderes de cibersegurança disseram que suas organizações sofreram um ataque à infraestrutura de aplicações corporativas de inteligência artificial generativa (GenAI) nos últimos 12 meses, de acordo com uma pesquisa do Gartner.

A pesquisa foi realizada entre março e maio de 2025 com 302 líderes de cibersegurança na América do Norte, Europa, Oriente Médio e África (EMEA) e Ásia/Pacífico.

O levantamento revelou que, nos últimos 12 meses, 62% das organizações sofreram um ataque com deepfake envolvendo engenharia social ou exploração de processos automatizados, enquanto 32% disseram ter enfrentado um ataque a aplicações de Inteligência Artificial (IA) que explorou prompt da aplicação.

Assistentes de chatbot são vulneráveis a uma variedade de técnicas de prompts adversariais, como atacantes que geram prompts para manipular Grandes Modelos de Linguagem (LLMs) ou modelos multimodais para produzir respostas enviesadas ou maliciosas.

Impacto da GenAI no Cenário de Ataques (Percentual de Respondentes)

Fonte: Gartner (Setembro 2025)

"À medida que a adoção acelera, ataques que utilizam GenAI para phishing, deepfakes e engenharia social se tornaram comuns, enquanto outras ameaças, como ataques à infraestrutura de aplicações de GenAI e manipulações baseadas em prompts, estão surgindo e ganhando força", afirma Akif Khan, Vice-Presidente Analista do Gartner.

Embora 67% dos líderes de cibersegurança tenham dito que os riscos emergentes de GenAI exigem mudanças significativas nas abordagens atuais de segurança cibernética, o Gartner afirma que é necessária uma estratégia mais equilibrada. "Em vez de realizar mudanças radicais ou investimentos isolados, as organizações devem fortalecer os controles centrais e implementar medidas direcionadas para cada nova categoria de risco", diz Khan.