Uma reportagem recente do InfoMoney trouxe um alerta que deveria estar no radar de qualquer liderança executiva, não só das áreas técnicas: modelos de teste da OpenAI teriam acessado sistemas de uma plataforma de IA além do escopo para o qual foram autorizados. Em outras palavras — uma inteligência artificial, durante um processo de teste, encontrou caminho para agir fora dos limites que deveriam contê-la.
Mais do que um episódio da corrida entre laboratórios de IA, o caso expõe uma questão que as empresas já não podem adiar: o que acontece quando um agente recebe autonomia para agir, mas os limites de sua atuação não são suficientemente definidos, monitorados ou contidos?
Para quem trabalha com receita, risco e continuidade de negócio — que é o meu caso —, o ponto central está na fronteira, cada vez mais tênue, entre um sistema autorizado a agir e outro que ultrapassa os limites previstos. Essa fronteira passa necessariamente por identidade, autorização e governança de acessos.
O risco não está apenas na capacidade da IA, mas nos acessos e na autonomia que ela recebe
A maioria das discussões públicas sobre segurança de IA tende a girar em torno de “o modelo pode causar dano por si só?”. Mas, do ponto de vista de quem gerencia risco corporativo, a pergunta mais urgente é “o que essa IA tinha permissão para acessar, e por quê?”
Um modelo de teste que ultrapassa o escopo de um ambiente controlado revela uma versão mais complexa de um problema que as empresas já conhecem e enfrentam há décadas com identidades digitais humanas mal geridas — um colaborador com acesso a um sistema que já não usa mais, um fornecedor com permissão além do necessário, uma credencial de serviço esquecida ativa. A diferença está na velocidade, na escala e na autonomia. Um agente não depende do ritmo humano para testar caminhos e executar ações. Ele pode explorar sistematicamente tanto as possibilidades dos acessos recebidos quanto novas maneiras de ampliar esse alcance para cumprir o objetivo que lhe foi atribuído.
Isso muda a pergunta que todo CRO, CFO e CEO deveria estar fazendo para o seu CISO em 2026: não é “estamos protegidos contra ataques externos”, e sim “sabemos exatamente o que cada identidade — humana, de máquina, ou agora, de agente de IA — pode fazer dentro da nossa operação?”
Essa é uma conversa de negócio, não só de TI
Depois de anos conversando com boards e comitês executivos sobre segurança de identidade, aprendi que o erro mais comum é tratar esse tema como custo técnico, não como proteção de receita. O incidente relatado pela reportagem é um lembrete concreto de três coisas que impactam diretamente o resultado de qualquer empresa:
- Governança de acesso não é mais um exercício estático. Agentes de IA operam, testam e “exploram” ambientes de forma contínua — diferente de um usuário humano, agentes de IA podem executar milhares de ações e adaptar seus caminhos em ciclos muito curtos . Isso exige que a gestão de identidade (IAM/IGA) evolua de auditorias periódicas para monitoramento e resposta em tempo real.
- O custo de um incidente não é só técnico — é contratual e reputacional. Empresas que hoje operam com fornecedores de tecnologia, integrações via API e, cada vez mais, agentes autônomos de IA, estão expostas a cláusulas contratuais de responsabilidade, indenização e conformidade regulatória (obrigações legais, contratuais e requisitos de compliance, como LGPD, SOX e ISO 27001) que se tornam muito mais complexas quando o agente que “errou” não é uma pessoa, mas um sistema autônomo agindo em nome de várias partes.
- Confiança é o novo diferencial competitivo. Em setores como Seguros, Financeiro, Saúde e Varejo — onde a Sec4U concentra sua atuação —, a capacidade de demonstrar controle rigoroso sobre identidades e acessos deixou de ser apenas um requisito de compliance para se tornar um argumento comercial. Clientes, parceiros e investidores perguntam cada vez mais: “como vocês garantem que isso não acontece com os dados que eu confio a vocês?”
O que empresas preparadas estão fazendo diferente
O ponto mais importante: não é sobre bloquear o uso de IA — isso seria lutar contra a maré. É sobre aplicar, à nova geração de agentes autônomos, os mesmos princípios que a disciplina de segurança de identidade digital já vem amadurecendo há anos para humanos e sistemas:
- Identidade própria e rastreável para cada agente — agentes não deveriam operar com credenciais compartilhadas ou acessos sem responsável definido. Cada identidade precisa ter propósito, proprietário, permissões, prazo de validade, trilha de auditoria e um mecanismo claro de interrupção.
- Princípio do menor privilégio, também para agentes de IA — nenhum modelo, humano ou processo deveria ter acesso além do estritamente necessário para sua função, com revisão contínua, não apenas na concessão inicial.
- Segregação de funções (SoD) — decisões críticas não deveriam depender de uma única identidade, humana ou artificial, sem camada de verificação.
- Visibilidade centralizada de quem (ou o quê) acessa o quê — sem um IGA maduro, é impossível responder com confiança à pergunta “isso poderia acontecer aqui?”.
- Governança de mudanças com autoridade real de veto — mesmo sob pressão de prazo ou de negócio, alguém precisa ter mandato para dizer “não” quando um controle de segurança não está validado.
A pergunta que fica
O incidente citado pela reportagem envolveu um laboratório de IA testando os próprios limites — em tese, o cenário mais controlado possível. Se isso aconteceu ali, a pergunta que toda liderança executiva deveria se fazer é: e na minha operação, que provavelmente não tem o mesmo nível de instrumentação e controle que um laboratório de ponta em IA, o que garante que um cenário semelhante não está acontecendo agora mesmo, sem que ninguém tenha percebido?
A questão não é gerar pânico sobre o uso da IA, mas estabelecer uma governança consistente para sua adoção. Segurança de identidade digital deixou de ser uma pauta restrita ao CISO. Em um mundo no qual agentes operam com crescente autonomia dentro dos sistemas corporativos, ela se tornou uma questão de continuidade, confiança e competitividade.
As empresas mais preparadas não serão as que evitarem a IA, mas as que souberem dar a cada agente o acesso necessário, pelo tempo necessário, com rastreabilidade, supervisão e capacidade real de interromper sua atuação. É assim que a inovação avança sem ampliar, na mesma velocidade, a exposição do negócio.
Aryel Canosa é Chief Revenue Officer da Sec4U Identity Security, consultoria especializada em segurança de identidade.
