Quanta autoridade você deve conceder a um agente de IA no mainframe?

O mundo dos mainframes está caminhando em direção à IA agente, mas a maioria das organizações está lhe concedendo muita autonomia muito cedo, ou pouca autonomia para que seja útil. Aqui está a estrutura.

A pergunta que todo líder de TI está fazendo agora.

A verdadeira questão que os líderes de TI enfrentam hoje é quanto controle conceder a um agente de IA e quando conceder mais. A maioria das equipes já decidiu se usará IA em operações. O que ainda não foi definido é onde a autoridade do agente deve terminar.

A pressão é real. As janelas de processamento em lote estão cada vez menores. O volume de alertas continua aumentando. Os especialistas capazes de analisar um despejo de memória do sistema às 3 da manhã estão se aposentando mais rápido do que você consegue substituí-los. Os agentes de IA prometem diagnosticar, decidir e agir na velocidade das máquinas.

Mas os sistemas que você opera processam pagamentos, liquidam sinistros e movimentam registros de pacientes. Estão pedindo que você confie em algo que não consegue ver completamente, dentro de um ambiente que não pode se dar ao luxo de ter um dia ruim.

Essa hesitação não é irracional. É uma percepção correta dos riscos. O que se segue é uma estrutura prática para expandir a autoridade da IA ​​com segurança: o que delegar agora, o que reter e como conquistar mais autonomia ao longo do tempo.

O que é IA com interação humana e por que isso é importante?

A IA com interação humana é um modelo operacional no qual o agente de IA recomenda e prepara ações, e um humano as revisa e autoriza antes de qualquer execução. O agente realiza a análise e o trabalho braçal. O humano mantém a decisão final e a responsabilidade.

Situa-se entre dois extremos:

• A IA focada apenas em insights extrai informações e para por aí. É segura, mas deixa todo o trabalho para sua equipe.
• A IA totalmente autônoma age sem aprovação prévia para cada ação. É rápida, mas cada decisão se baseia exclusivamente no julgamento do agente.

Para setores regulamentados, o meio-termo é onde a maioria das operações precisa estar hoje em dia. Você obtém a velocidade do diagnóstico e do planejamento baseados em IA e mantém um profissional humano responsável por cada mudança consequente.

A maioria dos líderes de TI já opera dessa forma. De acordo com uma pesquisa encomendada pela Rocket Software à Hanover Research, 48% dos líderes de TI permitem que a IA tome ações limitadas, enquanto os humanos permanecem responsáveis, e 34% permitem que a IA forneça apenas insights. Pouquíssimas organizações concederam autonomia total à IA. Sua cautela reflete uma clara compreensão do que está em jogo.

A Escada da Autoridade da IA: Como expandir a confiança gradualmente

Você deve estender a autoridade da IA ​​um nível de cada vez, com base na precisão demonstrada, em vez de decidir no primeiro dia quanta autonomia um agente terá.

A Escada de Autoridade da IA ​​é uma estrutura de quatro degraus para fazer exatamente isso. Cada degrau concede ao agente de IA mais autoridade do que o degrau abaixo dele, e cada degrau precisa ser conquistado por meio de desempenho comprovado no nível anterior.

• Nível 1, Observar: A IA monitora os sistemas e exibe informações. Ela não toma nenhuma ação e não faz recomendações.
• Nível 2, Recomendação: A IA sugere ações específicas e explica seu raciocínio. Um humano decide se deve agir.
• Nível 3, Agir com Aprovação: A IA prepara e executa ações, mas etapas de alto risco aguardam aprovação humana antes de prosseguir.
• Nível 4, Agir de forma autônoma: A IA executa tarefas dentro de um escopo predefinido e bem testado, sem necessidade de aprovação individual para cada ação.

A maioria dos ambientes de mainframe regulamentados deve operar nos níveis 2 e 3 atualmente. É aí que se concentra a maior parte do valor, incluindo diagnóstico mais rápido, remediação preparada e menos horas perdidas com triagem manual, mantendo a responsabilidade humana pelas mudanças que realmente importam.

Dois princípios fazem a escada funcionar na prática.

Primeiro, atribua autoridade por tipo de ação, não por agente. O mesmo agente pode estar no Nível 4 para abrir chamados de incidentes e no Nível 2 para qualquer ação relacionada a configurações de segurança. Uma configuração única para todo o agente é ou muito permissiva ou muito restritiva.

Em segundo lugar, o Nível 4 é conquistado, nunca presumido. Monitore com que frequência as recomendações do agente coincidem com o que seus especialistas teriam feito. Quando um tipo de ação demonstra precisão consistente por um período significativo, promova-o. Caso contrário, ele permanece onde está.

O que "alto risco" realmente significa em um contexto de mainframe.

Uma ação é considerada de alto risco se for difícil de reverter, afetar dados de transações em tempo real ou tiver dependências subsequentes em outros sistemas. Se alguma dessas condições se aplicar, ela deverá ser aprovada por um ser humano.

Ações que sempre devem exigir aprovação humana:

• Reiniciar trabalhos em lote de produção durante o horário comercial.
• Modificar configurações de segurança ou permissões de acesso.
• Eliminar ou arquivar dados
• Alterações que abrangem vários subsistemas simultaneamente.

Ações geralmente seguras para execução autônoma dentro de parâmetros definidos:

• Correlação de registros e sinalização de anomalias
• Geração de resumos de diagnóstico
• Abertura e enriquecimento de chamados de incidentes
• Revelando padrões históricos que coincidem com incidentes passados

Observe o padrão. Tudo na lista de ações autônomas gera informações. Tudo na lista de aprovações altera o estado do sistema. Essa distinção oferece à sua equipe uma regra simples e defensável para começar, e você pode refiná-la à medida que o agente demonstra seu valor.

Como é, na prática, uma boa arquitetura de governança?

Uma boa arquitetura de governança de IA vincula cada ação a uma identidade, registra cada decisão de forma imutável e protege todas as ações de alto risco com autorização humana explícita. Esses três requisitos são inegociáveis ​​antes de se estender a autoridade da IA ​​em qualquer nível da hierarquia.

• Cada ação está vinculada a uma identidade. Você deve conseguir ver qual agente agiu e qual humano a aprovou, em dois registros separados.
• Cada decisão é registrada de forma imutável. O registro do que a IA fez e por quê não pode ser editado posteriormente.
• Toda ação de alto risco é bloqueada. O agente não pode prosseguir até que um humano autorize explicitamente a etapa.

Foguete^® EVA^™ Foi desenvolvido para este modelo. O Rocket EVA opera com aprovação humana em ações de alto risco: o agente diagnostica, recomenda e prepara a correção, e um humano a autoriza antes da execução. Cada ação está vinculada tanto à identidade do agente quanto à de um aprovador humano registrado, permitindo que você responda às perguntas de um auditor sem precisar reconstruir eventos a partir de registros dispersos.

O Rocket EVA também impõe regras operacionais por meio de políticas como código e um núcleo de execução determinístico, de modo que os agentes só podem realizar ações validadas dentro dos limites aprovados. Você não precisa começar pelo topo da hierarquia. Muitas equipes começam com casos de uso de menor risco, como a triagem noturna de falhas em lote, desenvolvem confiança na precisão do agente e expandem sua autoridade um tipo de ação por vez.

É assim que se moderniza sem interrupções. A ascensão é gradual, com provas concretas a cada degrau.

Veja como a arquitetura de governança da Rocket EVA gerencia a autoridade da IA ​​em todos os níveis.

Rocket é uma marca registrada da Rocket Software, Inc. e suas afiliadas.