Quanta autorità dovresti concedere a un agente IA sul mainframe?

Il mondo dei mainframe si sta muovendo verso l'intelligenza artificiale agente, ma la maggior parte delle organizzazioni le sta concedendo troppa autonomia troppo presto, o troppo poca per renderla utile. Ecco il quadro di riferimento.

La domanda che ogni responsabile IT si sta ponendo in questo momento

La vera questione che i responsabili IT si trovano ad affrontare oggi è quanta autonomia concedere a un agente di intelligenza artificiale e quando delegarne di più. La maggior parte dei team ha già deciso se utilizzare l'IA nelle operazioni. Ciò che non hanno ancora deciso è dove debba fermarsi l'autorità dell'agente.

La pressione è reale. Le finestre temporali per l'elaborazione dei batch si riducono sempre di più. Il volume degli avvisi continua ad aumentare. Gli esperti in grado di analizzare un dump di sistema alle 3 del mattino vanno in pensione più velocemente di quanto si riesca a sostituirli. Gli agenti basati sull'intelligenza artificiale promettono di diagnosticare, decidere e agire alla velocità di una macchina.

Ma i sistemi che gestite elaborano i pagamenti, liquidano i sinistri e trasferiscono le cartelle cliniche dei pazienti. Vi viene chiesto di fidarvi di qualcosa che non potete vedere completamente, in un ambiente che non può permettersi una giornata storta.

Tale esitazione non è irrazionale. È una corretta consapevolezza del rischio. Quello che segue è un quadro pratico per estendere l'autorità dell'IA in modo sicuro: cosa delegare ora, cosa tenere per sé e come guadagnarsi nel tempo una maggiore autonomia.

Che cos'è l'IA con intervento umano e perché è importante?

L'IA con intervento umano è un modello operativo in cui l'agente IA raccomanda e prepara le azioni, che vengono poi esaminate e autorizzate da un essere umano prima della loro esecuzione. L'agente si occupa dell'analisi e del lavoro preliminare, mentre l'essere umano mantiene la decisione finale e la responsabilità.

Si colloca tra due estremi:

• L'IA che si limita a fornire informazioni si limita a far emergere i dati e si ferma lì. È sicura, ma lascia tutto il lavoro al tuo team.
• L'intelligenza artificiale completamente autonoma agisce senza approvazione per ogni singola azione. È veloce, ma ogni decisione si basa esclusivamente sul giudizio dell'agente.

Per i settori regolamentati, la soluzione ideale per la maggior parte delle operazioni oggi è un compromesso. Si ottiene la velocità della diagnosi e della preparazione basate sull'intelligenza artificiale, mantenendo al contempo una persona specifica responsabile di ogni cambiamento significativo.

La maggior parte dei responsabili IT opera già in questo modo. Secondo una ricerca commissionata da Rocket Software a Hanover Research, il 48% dei responsabili IT consente all'IA di intraprendere azioni limitate, mantenendo la responsabilità umana, e il 34% permette all'IA di fornire solo informazioni. Pochissime organizzazioni hanno concesso all'IA piena autonomia. Questa cautela riflette una chiara comprensione di ciò che è in gioco.

La scala dell'autorità dell'IA: come estendere gradualmente la fiducia

È opportuno estendere l'autorità dell'IA un livello alla volta, in base all'accuratezza dimostrata, anziché decidere fin dal primo giorno quanta autonomia debba avere un agente.

La scala di autorità dell'IA è una struttura a quattro livelli che ha proprio questo scopo. Ogni livello conferisce all'agente IA maggiore autorità rispetto a quello sottostante, e ogni livello deve essere guadagnato dimostrando prestazioni eccellenti al livello precedente.

• Livello 1, Osservazione: L'IA monitora i sistemi e visualizza le informazioni. Non intraprende alcuna azione e non formula raccomandazioni.
• Livello 2, Raccomandazione: L'IA suggerisce azioni specifiche e ne spiega il ragionamento. Un essere umano decide se agire.
• Livello 3, Agisci con approvazione: l'IA prepara ed esegue le azioni, ma i passaggi ad alto rischio vengono sospesi in attesa dell'approvazione umana prima di procedere.
• Livello 4, Agire in modo autonomo: l'IA opera entro un ambito predefinito e ben testato, senza necessità di approvazione per ogni singola azione.

Oggigiorno, la maggior parte degli ambienti mainframe regolamentati dovrebbe operare ai livelli 2-3. È a questo livello che si ottiene il maggior valore aggiunto, tra cui una diagnosi più rapida, interventi di ripristino preconfezionati e un minor numero di ore perse nella valutazione manuale, mantenendo al contempo la responsabilità umana per le modifiche rilevanti.

Due principi sono alla base del funzionamento pratico della scala.

Innanzitutto, assegnate l'autorità in base al tipo di azione, non all'agente. Lo stesso agente potrebbe trovarsi al livello 4 per l'apertura di ticket di incidente e al livello 2 per qualsiasi operazione relativa alle configurazioni di sicurezza. Un'unica impostazione valida per tutti gli agenti è o troppo permissiva o troppo restrittiva.

In secondo luogo, il livello 4 si conquista, non si dà per scontato. Monitora la frequenza con cui i consigli dell'agente corrispondono a ciò che avrebbero fatto i tuoi esperti. Quando una tipologia di azione dimostra una precisione costante per un periodo significativo, promuovila. In caso contrario, lasciala dov'è.

Cosa significa effettivamente "ad alto rischio" nel contesto di un mainframe

Un'azione è ad alto rischio se è difficile da annullare, se riguarda dati di transazione in tempo reale o se presenta dipendenze a valle tra diversi sistemi. Se si verifica una qualsiasi di queste condizioni, l'azione deve essere approvata da una persona.

Azioni che dovrebbero sempre richiedere l'approvazione umana:

• Riavvio dei processi batch di produzione durante l'orario di lavoro
• Modifica delle configurazioni di sicurezza o delle autorizzazioni di accesso
• Eliminazione o archiviazione dei dati
• Modifiche che interessano più sottosistemi contemporaneamente

Azioni generalmente sicure per l'esecuzione autonoma entro parametri definiti:

• Correlazione dei log e segnalazione delle anomalie
• Generazione di riepiloghi diagnostici
• Apertura e arricchimento dei ticket di incidente
• Emergono corrispondenze con schemi storici relativi a incidenti passati.

Osservate lo schema. Tutto ciò che è presente nell'elenco autonomo produce informazioni. Tutto ciò che è presente nell'elenco di approvazione modifica lo stato del sistema. Questa distinzione offre al vostro team una regola semplice e difendibile da cui partire, che potrete poi perfezionare man mano che l'agente dimostra la sua efficacia.

Come si presenta in pratica una buona architettura di governance.

Una buona architettura di governance dell'IA associa ogni azione a un'identità, registra ogni decisione in modo immutabile e vincola ogni azione ad alto rischio all'esplicita autorizzazione umana. Questi tre requisiti non sono negoziabili prima di estendere l'autorità dell'IA a qualsiasi livello della gerarchia.

• Ogni azione è associata a un'identità. Dovresti essere in grado di vedere quale agente ha agito e quale persona l'ha approvata, come due record separati.
• Ogni decisione viene registrata in modo immutabile. La registrazione di ciò che l'IA ha fatto e del perché, non può essere modificata a posteriori.
• Ogni azione ad alto rischio è soggetta a una procedura controllata. L'agente non può procedere finché un essere umano non autorizza esplicitamente il passaggio.

Rocket^® EVA^™ Rocket EVA è stato progettato per questo modello. Funziona con fasi di approvazione umana per le azioni ad alto rischio: l'agente diagnostica, raccomanda e prepara la soluzione, e un operatore umano la autorizza prima che l'esecuzione proceda. Ogni azione è associata sia all'identità di un agente che a un responsabile dell'approvazione registrato, in modo da poter rispondere alle domande di un revisore senza dover ricostruire gli eventi da registri sparsi.

Rocket EVA impone anche regole operative tramite policy-as-code e un nucleo di esecuzione deterministico, in modo che gli agenti possano intraprendere solo azioni validate entro limiti approvati. Non è necessario iniziare dal livello più alto. Molti team iniziano con casi d'uso a basso rischio, come la gestione notturna degli errori di elaborazione batch, acquisiscono fiducia nell'accuratezza dell'agente ed espandono la sua autorità un tipo di azione alla volta.

Ecco come ci si modernizza senza sconvolgimenti. Si procede con metodo, dimostrando la propria efficacia a ogni passo.

Scopri come l'architettura di governance di Rocket EVA gestisce l'autorità dell'IA a ogni livello.

Rocket è un marchio commerciale di Rocket Software, Inc. e delle sue affiliate.