Artigo cocriado pela Bloomberg Media Studios e pela Kyndryl

A rápida evolução da IA abriu as portas para uma nova era de oportunidades e riscos para as empresas. Enquanto os demais executivos de alto escalão miram ganhos de produtividade de dois dígitos, reduções de custos e projeções de crescimento, os CISOs enfrentam um cenário de ameaças em rápida mudança e ainda inexplorado. Antes focados nas ações de agentes humanos, os CISOs agora precisam compreender e se preparar para ataques de agentes de IA, que podem operar em uma escala muito maior e com uma autenticidade difícil de distinguir da atividade humana.

Quase um quarto dos líderes de cibersegurança relatou que suas empresas sofreram um ataque com IA no ano anterior, de acordo com a Pesquisa CISO Village 2025, realizada pela empresa de capital de risco em tecnologia Team8 e divulgada em julho passado.  

As respostas da pesquisa sugerem que o número real pode ser ainda maior, pois as ameaças impulsionadas por IA são projetadas para imitar a atividade humana,  dificultando a distinção de ataques que os profissionais de TI têm combatido há anos. Essa “escala oculta” é precisamente a razão pela qual os líderes de cibersegurança devem tratar as ameaças  baseadas em IA com “urgência extra e muito específica”, afirma Paul Savill, Líder Global das Práticas de Resiliência Cibernética e Conectividade da Kyndryl.  

Para atender a essa urgência, os CISOs devem migrar de defesas estáticas para a resiliência dinâmica — sistemas que antecipam, absorvem e se recuperam de interrupções.

As ameaças  baseadas em IA não se limitam a implantar cargas maliciosas; elas também sondam o ambiente em busca de  vulnerabilidades. Os participantes da pesquisa de CISOs da Team8 relataram que até 40% das vulnerabilidades críticas em seus acordos de nível de serviço permanecem sem correção, abrindo caminho para a exploração por IA.

Segundo a Bloomberg Intelligence, em 2024, o financiamento para startups de IA agêntica quase triplicou, atingindo US$ 3,8 bilhões, ante US$ 1,3 bilhão no ano anterior.

A pesquisa da Team8 com CISOs mostra que os líderes de cibersegurança estão começando a compartilhar as preocupações de Savill, com mais de um terço dos entrevistados citando a proteção dos agentes de IA como sua preocupação mais urgente.

À medida que mais organizações integram agentes como parte de sua força de trabalho, Savill defende a “inovação governada” — um método para proteger não apenas a infraestrutura, mas os próprios sistemas de IA. 

“A governança é a base para uma escalabilidade segura”, afirma Savill. “Ao aplicar uma supervisão estruturada desde o início — antes que os agentes se integrem profundamente aos fluxos de trabalho —, os CISOs podem ajudar as organizações a capitalizar o potencial da IA agêntica enquanto mitigam riscos e viabilizam confiança e resiliência. As empresas devem estabelecer as ‘regras do jogo’ antes que os agentes comecem a jogar”.  
Savill defende tratar os agentes de IA como membros privilegiados do sistema: definir sua missão, certificar seu comportamento, aplicar políticas e monitorar continuamente. Isso poderia significar adicionar um novo cargo à equipe de cibersegurança: gestor de IA — um papel que Savill descreve como uma combinação de estrategista de IA, especialista em ética e gestor de riscos, tudo em um só.

Diferentemente dos funcionários tradicionais, os agentes de IA podem receber privilégios administrativos que abrangem múltiplos departamentos — de finanças e suporte ao cliente à logística e à segurança. Savill afirma que o papel de um gestor de IA é perguntar: “Qual é a missão do agente? O que ele deve fazer? É preciso definir limites; definir como esses agentes específicos devem funcionar; quais permissões eles precisam — e não precisam — para acessar sistemas e dados; e, particularmente, como devem trabalhar sob pressão”, diz ele. 

Savill prescreve um framework de quatro partes para a governança da IA agêntica e a confiança digital:

• Registro de agentes: Se agentes de IA vão trabalhar em sua organização, crie um cadastro e comece a entender quem são eles, quais são suas tarefas e do que são capazes. 

• Ambiente de testes para certificação: Savill sugere a criação de um gêmeo de produção supervisionado — um ambiente semelhante ao de produção equipado com monitoramento e restrições aprimorados, para observar e validar o comportamento do agente antes da liberação para toda a empresa.

• Mecanismo de políticas: Trata-se de um mecanismo pelo qual o gestor de IA pode implementar um interruptor de desligamento. “Uma abordagem de segurança por design na criação de agentes de IA pode mitigar o risco dos agentes criarem suas próprias regras. Um mecanismo de políticas oferece a confiança de que, se o inesperado ocorrer, temos a capacidade de contê-lo”. 

• Capacidades de monitoramento: Por fim, crie um processo consistente e sustentável para monitorar e medir a eficácia de seus agentes de IA, incluindo seu desempenho, confiabilidade e conformidade com as políticas, controles e comportamentos esperados pela empresa.