Quali tracce di controllo deve lasciare un agente di intelligenza artificiale?

Un revisore interno pone al team operativo una semplice domanda: perché qualcuno ha riavviato il processo di liquidazione dei pagamenti notturni alle 2:47? Il registro dello scheduler mostra un riavvio. Il ticket riporta "rieseguito su raccomandazione dell'IA". Nessuno sa dire cosa abbia visto l'agente IA, cosa gli fosse consentito fare o chi abbia approvato l'operazione.

In breve: un agente di intelligenza artificiale dovrebbe lasciare una traccia che permetta di ricostruire l'intero processo decisionale, non solo il comando. Tale traccia dovrebbe indicare quale agente e quali persone sono state coinvolte, il contesto e le prove che hanno motivato la raccomandazione, l'autorità dell'agente, chi ha approvato l'azione, cosa è stato eseguito esattamente e cosa è successo in seguito.

Questo articolo illustra la struttura in otto parti proposta da Rocket Software per la registrazione di tali dati. Include anche un esempio di registro di controllo tratto da un incidente reale in un sistema batch mainframe, che è possibile adattare al proprio ambiente.
 

Che cos'è una traccia di controllo (audit trail) di un agente di intelligenza artificiale?

La traccia di controllo di un agente di IA è la prova che collega la raccomandazione di un agente di IA all'autorità, all'approvazione, all'azione e al risultato che l'hanno determinata. Utilizzate questa definizione come punto di partenza:

La traccia di controllo di un agente di intelligenza artificiale è una registrazione cronologica e a prova di manomissione che collega l'identità dell'agente, il contesto e le prove decisionali utilizzate, la raccomandazione formulata, l'autorità di cui disponeva, l'approvazione umana ricevuta, l'azione autorizzata eseguita e il risultato convalidato. Consente a un revisore, a un operatore o a un team di gestione del rischio di ricostruire chi ha fatto cosa, perché e con quale autorizzazione.

La parola chiave è collegamenti. La maggior parte di queste informazioni esiste già da qualche parte nel vostro ambiente. Il registro delle attività dell'agente AI le collega, in modo che nessuno debba ricostruire la storia a posteriori utilizzando cinque strumenti diversi.
 

Perché i log di sistema tradizionali non sono sufficienti per l'intelligenza artificiale agentiva?

I registri di sistema tradizionali registrano gli eventi, non le decisioni. Un registro può mostrare che un ID utente ha impartito un comando in un momento specifico, ma non può indicare perché un agente di intelligenza artificiale abbia raccomandato quel comando, quali prove lo abbiano supportato o se sia stato approvato da una persona con il ruolo appropriato.

I log di sistema sono necessari ma non sufficienti. È comunque necessario disporre dei record SMF (System Management Facilities), dei log dei processi, dei log della console e dei log di sicurezza, perché dimostrano cosa è successo a livello di sistema. Tuttavia, un agente di intelligenza artificiale aggiunge un nuovo livello decisionale tra l'avviso e il comando. Se la traccia di controllo salta questo livello, "è stata l'IA" diventa l'unica spiegazione possibile.

Ecco in cosa differiscono i due record:

I leader considerano già questa lacuna come un ostacolo alla produzione. In uno studio condotto nel giugno 2026 Rocket Software e Hanover Research su 250 responsabili IT del settore dei servizi finanziari, il 46% ha affermato di aver bisogno di solidi controlli di governance e flussi di lavoro di approvazione prima di poter utilizzare l'IA in produzione per la diagnostica operativa. Un altro 43% ha richiesto una comprovata accuratezza convalidata rispetto a incidenti storici. Gli intervistati hanno anche indicato la mancanza di interpretabilità e verificabilità tra le loro principali preoccupazioni riguardo all'IA agentiva in operazioni regolamentate.

IDC riporta un modello simile. Secondo IDC, i primi ad adottare l'IA agentiva citano costantemente la visibilità per i requisiti di conformità e audit come una sfida. IDC osserva inoltre che la creazione di fiducia dipende dal monitoraggio di informazioni, azioni e risultati attraverso registri, tracce di audit e politiche chiare per la supervisione umana.

Un registro di controllo dell'IA dovrebbe registrare il ragionamento dell'agente?

Una traccia di controllo dell'IA dovrebbe registrare le prove delle decisioni dell'agente e la giustificazione dichiarata, non la catena di pensiero nascosta del modello. I revisori devono verificare su cosa si è basato l'agente e a quali conclusioni è giunto. Non hanno bisogno, e in genere non possono ottenere in modo affidabile, il processo interno token per token di un modello linguistico di grandi dimensioni.

Concentrati su ciò che è osservabile e verificabile:

• Input: le fonti di dati e i record recuperati dall'agente
• Prova: i segnali specifici citati, come un codice di errore o un'attesa di blocco.
• Raccomandazione: l'azione proposta
• Giustificazione: la spiegazione in linguaggio semplice fornita all'operatore
• Incertezza: ciò che non è stato possibile confermare e qualsiasi prova contrastante

Un revisore può verificare questa registrazione. Può aprire lo stesso registro delle attività, confermare lo stesso codice di errore e valutare se la raccomandazione deriva dalle prove. Questa è una base di responsabilità più solida rispetto a una generica e poco chiara spiegazione.

Come deve essere riportata l'approvazione umana nel verbale di audit?

L'approvazione umana dovrebbe apparire come una fase separata e attribuibile tra la raccomandazione dell'agente e l'azione eseguita. La documentazione dovrebbe rendere impossibile qualsiasi fraintendimento della sequenza:

1. L'agente A ha raccomandato un'azione specifica, allegando le relative prove.
2. La persona B ha approvato esattamente quell'azione, utilizzando la propria identità e il proprio ruolo.
3. L'agente A ha eseguito l'azione approvata, nell'ambito delle sue competenze autorizzate.
4. Il sistema C ha registrato l'esito e i risultati della validazione.

Ogni passaggio necessita di un proprio identificativo e di un timestamp. Se la Persona B ha approvato "riavvio da STEP040" e l'agente ha eseguito "riavvio da STEP010", il record dovrebbe segnalare automaticamente la discrepanza.

Questa sequenza corrisponde anche a livelli graduali di autorità dell'IA: Osserva, Raccomanda, Agisci con approvazione e Agisci autonomamente. La maggior parte delle azioni di produzione di rilievo rientrano nel livello Agisci con approvazione. La traccia di controllo dimostra quale livello è stato applicato a ciascuna azione.  

Cosa rende difendibile una traccia di controllo dell'IA?

Una traccia di controllo dell'IA difendibile è completa, attribuibile e a prova di manomissione. Se qualcuno la contesta sei mesi dopo, dovrebbe reggere senza fare affidamento sulla memoria di nessuno.

Verifica la traccia di controllo in base a questi criteri:

• Attribuzione: Ogni voce è collegata a un singolo agente o identità umana, mai a un account condiviso.
• Integrità: i record non possono essere alterati senza essere rilevati. L'hashing o la firma digitale garantiscono questo risultato.
• Immutabilità: Scrivi il record immutabile in una memoria che agenti e operatori non possono modificare o eliminare.
• Marcatura temporale: utilizzare fonti di temporizzazione affidabili e sincronizzate tra sistemi mainframe, distribuiti e cloud.
• Ambito: Il record mostra i limiti della policy e le autorizzazioni in vigore al momento della decisione, non le impostazioni odierne.
• Tracciabilità: un revisore può seguire un filo conduttore dall'incidente alle prove, alla raccomandazione, all'approvazione, all'azione e al risultato.
• Conservazione: conservare i documenti in conformità con i requisiti legali, normativi e organizzativi applicabili.

I periodi di conservazione variano a seconda del settore, della giurisdizione e del tipo di documento. Tali periodi devono essere stabiliti dai team preposti alla conformità, all'ufficio legale e alla gestione del rischio.

Come si presenta un registro di controllo dell'IA durante un incidente batch su mainframe?

Un utile registro di controllo dell'IA si presenta come una breve e verificabile descrizione di un incidente. Ecco come dovrebbe apparire il riavvio del processo di liquidazione delle 2:47 del mattino, tratto dallo scenario iniziale.

Scenario: Il job di liquidazione dei pagamenti notturni, PAYSETL01, si interrompe in STEP040 con Db2^® SQLCODE -911. Una transazione online del Customer Information Control System (CICS) ha superato la finestra temporale prevista e ha mantenuto dei blocchi sulla tabella di liquidazione. Un agente AI indaga, identifica il conflitto di blocco e raccomanda un riavvio una volta che il detentore del blocco viene rimosso. L'operatore di turno segnala il problema al responsabile delle operazioni batch, che approva la richiesta.

Osservate cosa fa questo registro. Un revisore può verificare ogni reclamo senza dover chiamare nessuno. L'operatore può vedere perché l'agente ha effettuato quella chiamata. Il team addetto all'applicazione riceve un riscontro chiaro anziché rimanere nell'incertezza.

Dove si colloca Rocket EVA ?

Rocket^® EVA^™ È ideale laddove i team operativi necessitano di diagnosi assistite dall'IA che producano prove che un essere umano possa esaminare prima che venga apportata qualsiasi modifica alla produzione.

Secondo IDC, Rocket EVA consente agli operatori IT e agli sviluppatori di porre domande in linguaggio naturale e di ricevere raccomandazioni sullo stato degli incidenti, le dipendenze e le correlazioni delle cause principali da fonti quali IBM Db2^®, SMF, TMON/SDSF e dati del gestore dei carichi di lavoro. IDC sottolinea inoltre che Rocket EVA si integra con sistemi di ticketing come Jira, il che aiuta a collegare una raccomandazione al record dell'incidente e alle modalità con cui l'organizzazione ha risolto problemi simili in passato.

Ciò si collega direttamente agli elementi Contesto, Evidenza e Raccomandazione del framework. Quando una raccomandazione arriva con i segnali di supporto allegati, gli operatori possono convalidarla e i revisori possono tracciarla in seguito. Aiuta inoltre il personale meno esperto a condurre un'indagine, mentre gli esperti in materia del mainframe mantengono il controllo delle decisioni che richiedono un'attenta valutazione.

Per gli elementi Identità, Autorità, Approvazione umana e Azione, verifica le funzionalità attuali con la documentazione ufficiale di Rocket Software. L'obiettivo rimane lo stesso in entrambi i casi: una migliore diagnosi e azioni governate sui sistemi già in uso, senza interrompere i processi di cui i tuoi team si fidano.