Segurança em soluções agênticas: checklist mínimo

Agente em produção sem checklist de segurança é piloto com blast radius. O modelo pode ser excelente e ainda assim vazar credencial, misturar tenants ou executar ferramenta demais.

Este checklist é o mínimo defensável antes do go-live — alinhado à governança de 2026 e ao combate ao Shadow AI.

Por que “segurança de LLM” não basta

Bloquear prompt injection ajuda. Não resolve:

• Credencial de CRM no texto do system prompt
• Um agente enxergando dados de outro cliente
• Ferramenta de “enviar mensagem” sem teto nem aprovação
• Log só no provedor do modelo, inacessível ao seu time de risco

A TIC Empresas 2025 (Cetic.br) mostra que a maior parte das empresas compra IA pronta. Comprar desloca o risco para a plataforma: isolamento, cofre, RBAC e auditoria precisam estar no produto — não só no slide de compliance.

Checklist mínimo (vá item a item)

1. Identidade e acesso

• Cada agente roda com identidade própria (não “usuário genérico de TI”)
• RBAC define quem publica, quem aprova, quem só visualiza logs
• Segredos ficam no cofre; o modelo recebe handle, não a chave

2. Dados e isolamento

• Tenant/unidade isolados por padrão (RLS ou equivalente)
• Retenção e base legal definidas — especialmente em saúde (LGPD art. 11, dado sensível)
• Export e exclusão de dados testados, não só documentados

3. Ferramentas (tools)

• Cada ferramenta tem escopo mínimo (least privilege)
• Efeitos externos (e-mail, WhatsApp, pagamento, escrita em CRM) exigem política ou humano
• Há teto de gasto / rate limit por agente

4. Human-in-the-loop

• Critérios claros de quando escalar (ver HITL)
• Inbox de aprovação com prazo e responsável
• Recusa também fica auditada

5. Auditoria e rollback

• Log imutável: pedido, decisão, execução, resultado
• Dá para responder “quem aprovou a ação X?” em minutos
• Plano de rollback se a ferramenta disparar efeito errado

6. Conteúdo e compliance

• Guardrails de copy para setores regulados (publicidade de saúde)
• Fontes e claims sensíveis passam por revisão humana

Ordem sugerida de implementação

1. Cofre + identidades
2. Isolamento multi-tenant
3. Política de ferramentas + HITL
4. Auditoria consultável
5. Só então aumentar volume de leads/tarefas

Pular para volume (ex.: WhatsApp até o agendamento) sem os quatro primeiros itens multiplica incidente.

O que medir depois do go-live

• Tentativas bloqueadas por política
• Aprovações pendentes > SLA
• Falhas de ferramenta por mil execuções
• Incidentes de vazamento / misturação de dados (meta: zero)

Esses sinais alimentam o ROI em produção: segurança ruim vira custo de incidente e de confiança.

Perguntas frequentes

Preciso de pentest antes do primeiro agente?

Idealmente sim para superfície externa. No mínimo: revisão de ferramentas, segredos e isolamento com alguém de segurança — mesmo que interno.

Isolamento multi-tenant é exagero para uma clínica?

Se há mais de uma unidade, marca ou parceiro no mesmo ambiente, não. Misturar histórico de pacientes é incidente LGPD, não “bug de UX”.

Onde a Chegai encaixa?

A plataforma trata cofre, aprovação, auditoria e isolamento como parte do runtime — o checklist acima vira configuração, não planilha paralela. Detalhes em cheg.ai/seguranca.

Shadow AI entra neste checklist?

Sim: se o time usa agente fora da plataforma, nenhum item acima se aplica. Por isso governança e catálogo único importam tanto quanto o controle técnico.

Critério de “pronto para produção”

Considere o agente aprovado para volume quando:

1. Todos os itens do checklist estão marcados ou explicitamente aceitos como risco residual.
2. Há responsável nomeado pelo inbox de aprovação.
3. Você consegue explicar, com log, a última execução sensível.
4. Existe teto de gasto e teste de falha de ferramenta documentado.

Se faltar qualquer um dos quatro, o próximo passo não é mais tráfego — é fechar o buraco. Escalar inseguro só aumenta a superfície.

Como usar este checklist em comitê

Imprima ou compartilhe o checklist com segurança, produto e operação. Cada item “não” vira um risco residual nomeado: dono, prazo e mitigação. Sem dono, o item volta para a próxima sprint — não para produção.

Depois do go-live, revise mensalmente as ferramentas com efeito externo e a taxa de bloqueio por política. Isso conversa direto com governança e com compliance em saúde quando o canal for mídia ou WhatsApp clínico. Detalhes de produto: cheg.ai/seguranca.

Evidência para auditoria

Para cada item marcado, guarde um artefato: print do RBAC, trecho de política, exemplo de log, teste de isolamento. Auditoria sem evidência vira entrevista. Com evidência, o comitê fecha em minutos.

Repita o exercício quando mudar modelo, provedor ou ferramenta. Mudança de modelo sem revalidar escopo de tools é um dos regressões mais comuns em produção agêntica.