¿Qué es la identidad del agente y por qué probablemente tu IA no la tenga?

La mayoría de las herramientas de IA se autentican mediante las credenciales del operador humano. Esto supone un problema de cumplimiento normativo. A continuación, se explica cómo debe ser una identidad de agente adecuada y por qué esta diferencia es importante ahora.

El problema de autenticación del que nadie habla

Cuando tu agente de IA realiza una acción en tus sistemas, ¿bajo qué identidad actúa?

En la mayoría de las herramientas de IA actuales, la respuesta es suya. El agente inicia sesión con las credenciales del operador humano, hereda sus permisos y realiza su trabajo bajo su nombre. Cada entrada de registro, cada conjunto de datos leído y cada comando emitido parece haber sido realizado por un humano.

Es un diseño fácil de construir y de demostrar. Además, se integra perfectamente con los controles de acceso que ya utilizas. Y como hasta ahora no ha habido ningún problema, la mayoría de los equipos no han notado la carencia que deja.

El problema con el paso de credenciales no radica en su inseguridad actual, sino en que dejará de cumplir con la normativa en el futuro. Los agentes de IA están pasando de responder preguntas a tomar decisiones en sistemas de producción. A medida que esto ocurra, los auditores y reguladores plantearán una pregunta que las credenciales compartidas no pueden responder: ¿lo hizo una persona o la IA?

¿Qué es la identidad del agente en los sistemas de IA?

La identidad del agente es una credencial única, verificable y con validez limitada, asignada al propio agente de IA, independientemente del usuario. Le otorga al agente un nombre propio en sus sistemas, lo que permite atribuirle cada acción que realiza, en lugar de al operador.

La identidad adecuada del agente tiene tres componentes:

• Su propia credencial. El agente se autentica como sí mismo. Nunca toma prestada ni comparte las credenciales de inicio de sesión del usuario humano.
• Autorización limitada. El agente solo puede acceder a lo que requiere la tarea específica.
• De duración limitada. La credencial caduca al finalizar la sesión y nadie puede volver a utilizarla.

En qué se diferencia la identidad del agente de una cuenta de servicio.

La identidad del agente y las cuentas de servicio resuelven problemas diferentes. Una cuenta de servicio es una credencial compartida y persistente asignada a una función, como una tarea programada o una integración de sistema. Suele tener una vida útil de varios años, acumula permisos con el tiempo y presta servicio a múltiples procesos.

La identidad del agente está limitada a tareas específicas y sesiones. Se asigna a una tarea concreta, se limita a lo que esa tarea requiere y se elimina al finalizar la sesión. Si se reemplazan las credenciales del operador por una cuenta de servicio general, no se soluciona nada. Simplemente se cambia una identidad compartida por otra.

¿Por qué un agente de IA no debería usar las credenciales del operador?

Transmitir las credenciales de usuario a un agente de IA genera tres problemas: fallos en la atribución, ampliación del alcance y una creciente brecha de cumplimiento.

Error de atribución. Un auditor revisa un cambio en un trabajo de producción y pregunta si lo realizó una persona o la IA. Si el agente actuó con la ID del operador, el registro muestra un solo nombre para ambos. No es posible separar la decisión del operador de las acciones del agente por su cuenta.

Exceso de alcance. El agente hereda el conjunto completo de permisos del usuario, no solo los necesarios para la tarea. Un programador sénior de sistemas podría tener derechos sobre cientos de conjuntos de datos, definiciones de seguridad y programaciones de tareas. Un agente que diagnostica un fallo en un lote con ese ID obtiene todos esos permisos.

Brecha de cumplimiento. Los reguladores están exigiendo que las acciones de los agentes de IA sean atribuibles y estén reguladas de forma independiente. Las credenciales compartidas no cumplen con este estándar por diseño, independientemente de la solidez de los controles perimetrales.

Lo que hace que este riesgo pase desapercibido es que las credenciales compartidas funcionan perfectamente hasta que alguien te pide que demuestres quién hizo qué. No detectarás esta vulnerabilidad en una prueba de penetración. La encontrarás en una auditoría.

¿Qué es la autorización limitada para agentes de IA?

La autorización limitada implica que el agente solo puede acceder y actuar sobre lo que requiere la tarea específica, y nada más. Si la tarea consiste en diagnosticar un trabajo por lotes fallido, el agente obtiene acceso de lectura a los registros, la salida y los datos de rendimiento relacionados con dicho trabajo. No tiene la capacidad de modificar las definiciones de seguridad, cancelar trabajos no relacionados ni eliminar conjuntos de datos.

La mayoría de las herramientas de IA funcionan de manera diferente hoy en día. El agente recibe el mismo acceso que el operador humano, independientemente de las necesidades de la tarea. Este enfoque otorga a cada sesión del agente el mayor alcance posible.

La autorización limitada es importante porque el principio de mínimo privilegio ya es una expectativa básica en entornos regulados. El Marco de Gestión de Riesgos de IA del NIST parte de la base de que cada identidad solo tiene el acceso que requiere su función, y los controles de acceso que sus auditores evalúan reflejan el mismo estándar. Usted ya exige este estándar a los usuarios humanos. Los agentes de IA también deberían cumplirlo, y la autorización limitada es la forma en que lo hacen.

Cómo se ve una identidad de agente adecuada en la práctica

Consideremos un escenario común. Un trabajo de liquidación nocturna termina de forma anormal a las 2:14 a. m. El operador de guardia le pide a un agente de IA que diagnostique la falla.

Con la identidad de agente adecuada:

• El agente se autentica con su propia credencial de corta duración, independiente del inicio de sesión del operador.
• Su acceso abarca únicamente los registros de trabajo relevantes, los mensajes del sistema y los datos de rendimiento.
• Cada lectura y cada recomendación queda registrada bajo la identidad del agente, y el operador figura como la persona que aprueba el trabajo.
• Si el agente propone una solución, el operador la autoriza y el registro captura ambas identidades.
• La credencial caduca cuando finaliza la sesión.

Con credenciales compartidas:

• El agente inicia sesión como operador y tiene acceso completo al operador.
• Puede abarcar mucho más de lo que requiere el diagnóstico.
• El registro solo muestra la identificación del operador. Tres meses después, cuando un auditor pregunta qué pasos realizó la IA y cuáles realizó el humano, nadie puede responder.

Ambos métodos podrían solucionar el problema con la misma rapidez. Solo uno de ellos te ofrece una respuesta cuando alguien te pregunta cómo ocurrió.

Esta es la arquitectura Rocket^® EVA^™ Rocket EVA asigna a cada agente una credencial temporal y específica, independiente de la identidad del operador humano. Atribuye cada acción a la identidad del agente y mantiene un registro del aprobador humano. Las credenciales caducan al finalizar la sesión y no se pueden reutilizar.

Rocket EVA también refuerza los límites operativos mediante políticas como código y registra la actividad en un registro de auditoría inmutable. Funciona junto con sus controles de gestión de identidades y accesos existentes, lo que le permite fortalecer la gobernanza sin necesidad de reconstruir su modelo de seguridad. Su equipo obtiene diagnósticos más rápidos y su equipo de cumplimiento obtiene un registro que puede defender.

Cómo evaluar si su proveedor de IA tiene una identidad de agente real

Hazle estas cuatro preguntas a cualquier proveedor de IA:

1. ¿Su agente se autentica con su propia identidad o con las credenciales del operador?
2. ¿Esa identidad tiene una duración limitada? ¿Caduca al finalizar la sesión?
3. ¿La autorización está limitada a la tarea o el agente hereda todos los permisos del usuario?
4. ¿Puede usted presentar un registro que distinga lo que hizo el agente de lo que hizo el ser humano?

Presta atención a las respuestas específicas y arquitectónicas. Un proveedor que no pueda responder a las cuatro preguntas de forma específica no cuenta con una arquitectura de identidad de agente gobernada.

Vea cómo Rocket EVA gestiona la identidad del agente.

Rocket es una marca registrada de Rocket Software, Inc. y sus filiales.