Che cos'è l'identità di un agente e perché probabilmente la tua IA non la possiede?

La maggior parte degli strumenti di intelligenza artificiale si autentica utilizzando le credenziali dell'operatore umano. Questo rappresenta un problema di conformità. Ecco come si presenta una corretta identità dell'agente e perché questa differenza è importante ora.

Il problema dell'autenticazione di cui nessuno parla

Quando il tuo agente di intelligenza artificiale interviene sui tuoi sistemi, sotto quale identità agisce?

Per la maggior parte degli strumenti di intelligenza artificiale odierni, la risposta è "tu". L'agente accede con le credenziali dell'operatore umano, eredita le sue autorizzazioni e svolge il suo lavoro a nome di quest'ultimo. Ogni voce di registro, ogni set di dati letto e ogni comando impartito sembrano essere stati eseguiti da un essere umano.

È un progetto facile da realizzare e da dimostrare. Si integra perfettamente con i sistemi di controllo accessi già in uso. E poiché finora non si è verificato alcun problema, la maggior parte dei team non si è nemmeno accorta dello spazio vuoto che lascia.

Il problema con la condivisione delle credenziali non è la sua insicurezza attuale, ma la sua potenziale non conformità futura. Gli agenti basati sull'intelligenza artificiale stanno passando dal rispondere a domande all'agire direttamente nei sistemi di produzione. Di conseguenza, revisori e autorità di regolamentazione si porranno una domanda a cui la condivisione delle credenziali non può rispondere: è stata una persona a compiere questa azione o l'IA?

Che cos'è l'identità dell'agente nei sistemi di intelligenza artificiale?

L'identità dell'agente è una credenziale univoca, verificabile e a tempo limitato, assegnata all'agente di intelligenza artificiale stesso, indipendentemente dall'utente umano. Conferisce all'agente un nome proprio all'interno dei sistemi, consentendo di attribuire ogni azione compiuta all'agente anziché all'operatore.

La corretta identità dell'agente si compone di tre elementi:

• Le proprie credenziali. L'agente si autentica con se stesso. Non utilizza né condivide mai le credenziali di accesso dell'utente.
• Accesso limitato. L'agente può accedere solo a ciò che è necessario per l'attività specifica.
• A tempo limitato. Le credenziali scadono al termine della sessione e non possono essere riutilizzate.

In che modo l'identità dell'agente differisce da quella di un account di servizio?

L'identità dell'agente e gli account di servizio risolvono problemi diversi. Un account di servizio è una credenziale condivisa e persistente assegnata a una funzione, come un'attività pianificata o un'integrazione di sistema. Spesso rimane attivo per anni, accumula autorizzazioni nel tempo e serve a più processi.

L'identità dell'agente è limitata all'attività e alla sessione. Viene rilasciata per una specifica attività, limitata a quanto necessario per tale attività e revocata alla chiusura della sessione. Se si sostituiscono le credenziali dell'operatore con un account di servizio generico, non si risolve il problema. Si è semplicemente scambiata un'identità condivisa con un'altra.

Perché un agente di intelligenza artificiale non dovrebbe utilizzare le credenziali dell'operatore?

Il trasferimento delle credenziali utente a un agente di intelligenza artificiale crea tre problemi: errore di attribuzione, ampliamento incontrollato dell'ambito di applicazione e crescente divario in termini di conformità.

Errore di attribuzione. Un revisore esamina una modifica a un lavoro di produzione e chiede se sia stata apportata da un essere umano o dall'IA. Se l'agente ha agito con l'ID dell'operatore, il registro mostra un unico nome per entrambi. Non è possibile distinguere ciò che ha deciso l'operatore da ciò che ha fatto l'agente in autonomia.

Estensione incontrollata dell'ambito di applicazione. L'agente eredita l'intero set di autorizzazioni dell'utente, non solo quelle necessarie per l'attività. Un programmatore di sistemi senior potrebbe avere diritti su centinaia di set di dati, definizioni di sicurezza e pianificazioni di processi. Un agente che diagnostica un errore di batch con quell'ID ottiene tutti i diritti.

Lacuna in materia di conformità. Gli enti regolatori si stanno orientando verso l'aspettativa che le azioni degli agenti di intelligenza artificiale siano attribuibili e gestite in modo indipendente. Le credenziali condivise, per loro stessa natura, non soddisfano questo standard, a prescindere da quanto siano rigorosi i controlli perimetrali.

Ciò che rende questo rischio facile da non notare è che le credenziali condivise funzionano perfettamente fino a quando qualcuno non chiede di dimostrare chi ha fatto cosa. Non individuerai questa falla in un penetration test. La scoprirai durante un audit.

Che cos'è l'autorizzazione con ambito per gli agenti IA?

L'autorizzazione con ambito limitato significa che l'agente può accedere e agire solo su ciò che è richiesto dall'attività specifica, e su nient'altro. Se l'attività consiste nella diagnosi di un processo batch non riuscito, l'agente ottiene l'accesso in lettura ai log, all'output e ai dati sulle prestazioni relativi a tale processo. Non ha la possibilità di modificare le definizioni di sicurezza, annullare processi non correlati o eliminare set di dati.

Oggi la maggior parte degli strumenti di intelligenza artificiale funziona in modo diverso. L'agente riceve lo stesso livello di accesso dell'operatore umano, a prescindere da ciò che il compito richiede. Questo approccio conferisce a ogni sessione dell'agente la massima portata possibile.

L'autorizzazione con ambito limitato è importante perché il principio del minimo privilegio è già un requisito fondamentale negli ambienti regolamentati. Il framework NIST per la gestione del rischio dell'IA presuppone che ogni identità disponga solo dell'accesso necessario al proprio ruolo e i controlli di accesso che i revisori verificano riflettono lo stesso standard. Questo standard è già richiesto agli utenti umani. Anche gli agenti di IA dovrebbero rispettarlo, e l'autorizzazione con ambito limitato è il modo in cui ciò avviene.

Come si presenta in pratica una corretta identità di agente.

Consideriamo uno scenario comune. Un'operazione di liquidazione notturna si interrompe in modo anomalo (ABEND) alle 2:14 del mattino. L'operatore di turno chiede a un agente di intelligenza artificiale di diagnosticare l'errore.

Con una corretta identità dell'agente:

• L'agente si autentica con le proprie credenziali temporanee, separate dalle credenziali di accesso dell'operatore.
• L'accesso a tali dati è limitato ai soli registri delle attività, ai messaggi di sistema e ai dati sulle prestazioni pertinenti.
• Ogni lettura e ogni raccomandazione vengono registrate con l'identità dell'agente, mentre l'operatore viene indicato come responsabile dell'approvazione.
• Se l'agente propone una soluzione, l'operatore la autorizza e il registro registra entrambe le identità.
• Le credenziali scadono al termine della sessione.

Con credenziali condivise:

• L'agente effettua l'accesso come operatore e detiene i diritti di accesso completi dell'operatore.
• Può avere un impatto ben maggiore di quanto richiesto dalla diagnosi.
• Il registro mostra solo l'ID dell'operatore. Tre mesi dopo, quando un revisore dei conti chiede quali passaggi siano stati eseguiti dall'IA e quali dall'essere umano, nessuno sa rispondere.

Entrambi i metodi potrebbero risolvere il problema altrettanto rapidamente. Solo uno dei due, però, ti fornisce una risposta quando qualcuno ti chiede come sia potuto succedere.

Questa è l'architettura Rocket^® EVA^™ Rocket EVA assegna a ciascun agente una propria credenziale temporanea e con ambito limitato, separata dall'identità dell'operatore umano. Attribuisce ogni azione all'identità dell'agente e registra l'approvazione da parte dell'operatore umano. Le credenziali scadono al termine della sessione e non possono essere riutilizzate.

Rocket EVA garantisce inoltre il rispetto dei limiti operativi tramite policy-as-code e registra le attività in una traccia di controllo immutabile. Funziona in parallelo con i controlli di gestione delle identità e degli accessi esistenti, consentendo di rafforzare la governance senza dover ricostruire il modello di sicurezza. Il team ottiene diagnosi più rapide e il team di conformità dispone di una documentazione affidabile da poter utilizzare a fini di verifica.

Come valutare se il tuo fornitore di IA possiede una vera identità di agente

Poni queste quattro domande a qualsiasi fornitore di intelligenza artificiale:

1. Il tuo agente si autentica con la propria identità o con le credenziali dell'operatore?
2. Questa identità ha una durata limitata? Scade al termine della sessione?
3. L'autorizzazione è limitata al compito specifico o l'agente eredita tutte le autorizzazioni dell'utente?
4. Puoi produrre una registrazione che distingua ciò che ha fatto l'agente da ciò che ha fatto l'essere umano?

Presta attenzione alle risposte specifiche e di tipo architetturale. Un fornitore che non è in grado di rispondere in modo specifico a tutte e quattro le domande non dispone di un'architettura di identità degli agenti governata.

Scopri come Rocket EVA gestisce l'identità dell'agente.

Rocket è un marchio commerciale di Rocket Software, Inc. e delle sue affiliate.