¿Cuánta autoridad se le debe otorgar a un agente de IA en el sistema central?

El mundo de los mainframes avanza hacia la IA con capacidad de gestión, pero la mayoría de las organizaciones le otorgan demasiada autonomía demasiado pronto, o muy poca para que sea útil. Aquí está el marco de referencia.

La pregunta que todo líder de TI se está haciendo ahora mismo

La verdadera pregunta que se plantean hoy los líderes de TI es cuánto control otorgar a un agente de IA y cuándo concederle más. La mayoría de los equipos ya han decidido si utilizarán IA en sus operaciones. Lo que aún no han decidido es dónde debe terminar la autoridad del agente.

La presión es real. Los tiempos de procesamiento por lotes se reducen constantemente. El volumen de alertas aumenta sin cesar. Los expertos capaces de analizar un volcado de sistema a las 3 de la madrugada se jubilan más rápido de lo que se pueden reemplazar. Los agentes de IA prometen diagnosticar, decidir y actuar a la velocidad de la máquina.

Pero los sistemas que usted administra procesan pagos, liquidan reclamaciones y transfieren historiales médicos. Se le pide que confíe en algo que no puede ver completamente, dentro de un entorno que no puede permitirse un mal día.

Esa vacilación no es irracional. Es una correcta comprensión del riesgo. A continuación, se presenta un marco práctico para extender la autoridad de la IA de forma segura: qué delegar ahora, qué no delegar y cómo ganar autonomía con el tiempo.

¿Qué es la IA con intervención humana y por qué es importante?

La IA con intervención humana es un modelo operativo en el que el agente de IA recomienda y prepara acciones, y un humano las revisa y autoriza antes de que se ejecuten. El agente realiza el análisis y el trabajo preliminar. El humano conserva la decisión final y la responsabilidad.

Se sitúa entre dos extremos:

• La IA que solo proporciona información preliminar la muestra y ahí se detiene. Es segura, pero deja a tu equipo haciendo todo el trabajo.
• La IA totalmente autónoma actúa sin aprobación previa a cada acción. Es rápida, pero cada decisión se basa únicamente en el criterio del agente.

Para las industrias reguladas, la solución intermedia es donde la mayoría de las operaciones deben operar hoy en día. Se obtiene la velocidad del diagnóstico y la preparación impulsados ​​por IA, y se mantiene a una persona responsable de cada cambio significativo.

La mayoría de los líderes de TI ya operan de esta manera. Según un estudio encargado por Rocket Software a Hanover Research, el 48 % de los líderes de TI permiten que la IA realice acciones limitadas, mientras que los humanos siguen siendo responsables, y el 34 % solo permiten que la IA proporcione información. Muy pocas organizaciones han otorgado total autonomía a la IA. Su cautela refleja una clara comprensión de lo que está en juego.

La escalera de autoridad de la IA: cómo extender la confianza de forma gradual

Deberías ampliar la autoridad de la IA un nivel a la vez, basándote en la precisión demostrada, en lugar de decidir desde el primer día cuánta autonomía tendrá un agente.

La Escalera de Autoridad de IA es un marco de cuatro peldaños para lograr precisamente eso. Cada peldaño otorga al agente de IA más autoridad que el anterior, y cada peldaño debe ganarse demostrando un rendimiento óptimo en el nivel precedente.

• Nivel 1, Observar: La IA supervisa los sistemas y muestra información. No toma ninguna medida ni hace recomendaciones.
• Nivel 2, Recomendación: La IA sugiere acciones específicas y explica su razonamiento. Un humano decide si actuar o no.
• Nivel 3, Actuar con aprobación: La IA prepara y ejecuta las acciones, pero los pasos de alto riesgo se detienen para obtener la aprobación humana antes de continuar.
• Nivel 4, Actuar de forma autónoma: La IA se ejecuta dentro de un ámbito predefinido y probado sin necesidad de aprobación para cada acción.

Actualmente, la mayoría de los entornos de mainframe regulados deberían operar en los niveles 2 y 3. Ahí es donde se obtiene la mayor parte del valor, incluyendo un diagnóstico más rápido, una remediación preparada y menos horas perdidas en la clasificación manual, al tiempo que se mantiene la responsabilidad humana sobre los cambios importantes.

Dos principios hacen que la escalera funcione en la práctica.

En primer lugar, asigne la autoridad por tipo de acción, no por agente. Un mismo agente podría estar en el nivel 4 para abrir tickets de incidentes y en el nivel 2 para cualquier asunto relacionado con la configuración de seguridad. Una configuración general para todo el agente es demasiado laxa o demasiado estricta.

En segundo lugar, el Nivel 4 se gana, nunca se da por sentado. Controla con qué frecuencia las recomendaciones del agente coinciden con las que habrían tomado tus expertos. Cuando un tipo de acción demuestre una precisión constante durante un período significativo, dale prioridad. Si no, se queda donde está.

Qué significa realmente "alto riesgo" en el contexto de un sistema central.

Una acción se considera de alto riesgo si es difícil de revertir, afecta a datos de transacciones en tiempo real o tiene dependencias con otros sistemas. Si se cumple alguna de estas condiciones, debe ser aprobada por una persona.

Acciones que siempre deberían requerir aprobación humana:

• Reinicio de los trabajos por lotes de producción durante el horario laboral.
• Modificar las configuraciones de seguridad o los permisos de acceso.
• Eliminación o archivo de datos
• Cambios que afectan a múltiples subsistemas al mismo tiempo.

Acciones generalmente seguras para su ejecución autónoma dentro de parámetros definidos:

• Correlacionar registros e identificar anomalías.
• Generación de resúmenes de diagnóstico
• Tickets de apertura y enriquecimiento de incidentes
• Descubriendo patrones históricos coincidentes a partir de incidentes pasados.

Observa el patrón. Todo lo que aparece en la lista autónoma genera información. Todo lo que aparece en la lista de aprobación modifica el estado del sistema. Esta distinción proporciona a tu equipo una regla sencilla y sólida como punto de partida, y puedes perfeccionarla a medida que el agente demuestre su valía.

Cómo se ve una buena arquitectura de gobernanza en la práctica

Una buena arquitectura de gobernanza de la IA vincula cada acción a una identidad, registra cada decisión de forma inmutable y restringe cualquier acción de alto riesgo a la autorización explícita de un ser humano. Estos tres requisitos son innegociables antes de otorgar autoridad a la IA en cualquier nivel.

• Cada acción está vinculada a una identidad. Debería poder ver qué agente actuó y qué persona lo aprobó, como dos registros separados.
• Cada decisión queda registrada de forma inmutable. El registro de lo que hizo la IA, y por qué, no se puede editar posteriormente.
• Todas las acciones de alto riesgo están restringidas. El agente no puede continuar hasta que un humano autorice explícitamente el paso.

Rocket^® EVA^™ Rocket EVA fue diseñado para este modelo. Opera con controles de aprobación humana para acciones de alto riesgo: el agente diagnostica, recomienda y prepara la solución, y un humano la autoriza antes de su ejecución. Cada acción está vinculada a la identidad del agente y a un aprobador humano registrado, lo que permite responder a las preguntas de un auditor sin necesidad de reconstruir los eventos a partir de registros dispersos.

Rocket EVA también aplica reglas operativas mediante políticas como código y un núcleo de ejecución determinista, de modo que los agentes solo pueden realizar acciones validadas dentro de los límites aprobados. No es necesario empezar desde lo más complejo. Muchos equipos comienzan con casos de uso de menor riesgo, como la clasificación de fallos por lotes nocturnos, generan confianza en la precisión del agente y amplían su autoridad gradualmente, añadiendo un tipo de acción a la vez.

Así es como se moderniza sin interrupciones. Se asciende con determinación, demostrando su eficacia en cada peldaño.

Vea cómo la arquitectura de gobernanza de Rocket EVA gestiona la autoridad de la IA en todos los niveles.

Rocket es una marca registrada de Rocket Software, Inc. y sus filiales.