Wie viel Autorität sollte man einem KI-Agenten auf dem Großrechner geben?

Die Mainframe-Welt bewegt sich in Richtung agentenbasierter KI, doch die meisten Organisationen geben ihr entweder zu früh zu viel oder zu wenig Autonomie, um wirklich nützlich zu sein. Hier ist das Rahmenwerk.

Die Frage, die sich jeder IT-Leiter im Moment stellt

Die zentrale Frage für IT-Verantwortliche heute ist, wie viel Kontrolle sie einem KI-System einräumen und wann sie diese erweitern sollten. Die meisten Teams haben bereits entschieden, ob sie KI im operativen Betrieb einsetzen werden. Unklar ist jedoch, wo die Befugnisse des Systems enden sollen.

Der Druck ist enorm. Die Verarbeitungsfenster werden immer kleiner. Die Anzahl der Warnmeldungen steigt stetig. Die Experten, die noch um 3 Uhr nachts einen Systemabbild analysieren können, gehen schneller in Rente, als man sie ersetzen kann. KI-Systeme versprechen, in Maschinengeschwindigkeit zu diagnostizieren, Entscheidungen zu treffen und zu handeln.

Aber die Systeme, die Sie betreiben, verarbeiten Zahlungen, regeln Schadensfälle und übertragen Patientendaten. Sie sollen also etwas vertrauen, das Sie nicht vollständig überblicken können, und das in einem Umfeld, das sich keinen Fehler erlauben kann.

Dieses Zögern ist nicht unbegründet. Es zeugt von einem angemessenen Risikobewusstsein. Im Folgenden finden Sie einen praktischen Rahmen für die sichere Erweiterung der KI-Autorität: Was Sie jetzt delegieren, was Sie behalten sollten und wie Sie sich im Laufe der Zeit mehr Autonomie erarbeiten können.

Was ist KI mit menschlicher Interaktion und warum ist sie wichtig?

Bei der KI mit Mensch-Maschine-Interaktion handelt es sich um ein Betriebsmodell, bei dem der KI-Agent Aktionen empfiehlt und vorbereitet, die dann von einem Menschen geprüft und freigegeben werden, bevor sie ausgeführt werden. Der Agent übernimmt die Analyse und die praktische Arbeit. Der Mensch trifft die endgültige Entscheidung und trägt die Verantwortung.

Es liegt zwischen zwei Extremen:

• KI, die nur Erkenntnisse liefert, belässt es dabei. Das ist zwar sicher, aber Ihr Team muss die ganze Arbeit selbst erledigen.
• Vollständig autonome KI handelt ohne Genehmigung für jede einzelne Aktion. Sie ist schnell, aber jede Entscheidung beruht allein auf dem Urteilsvermögen des Agenten.

Für regulierte Branchen ist der Mittelweg derzeit der optimale Ansatz. Man profitiert von der Geschwindigkeit KI-gestützter Diagnose und Vorbereitung und stellt gleichzeitig sicher, dass für jede wichtige Änderung eine namentlich genannte Person verantwortlich ist.

Die meisten IT-Leiter arbeiten bereits so. Laut einer von Rocket Software in Zusammenarbeit mit Hanover Research durchgeführten Studie erlauben 48 % der IT-Leiter der KI, begrenzte Aktionen durchzuführen, während die Verantwortung weiterhin bei Menschen liegt. 34 % gestatten der KI lediglich, Erkenntnisse zu liefern. Nur sehr wenige Organisationen haben der KI vollständige Autonomie eingeräumt. Ihre Vorsicht zeugt von einem klaren Verständnis der damit verbundenen Risiken.

Die KI-Autoritätsleiter: Wie man Vertrauen schrittweise ausbaut

Sie sollten die KI-Autorität schrittweise, basierend auf nachgewiesener Genauigkeit, erweitern, anstatt bereits am ersten Tag festzulegen, wie viel Autonomie ein Agent erhalten soll.

Die KI-Autoritätsleiter ist ein vierstufiges Rahmenwerk, das genau dies ermöglicht. Jede Stufe verleiht dem KI-Agenten mehr Autorität als die darunter liegende, und jede Stufe muss durch nachgewiesene Leistung auf der vorherigen Stufe erworben werden.

• Stufe 1, Beobachten: Die KI überwacht Systeme und stellt Informationen bereit. Sie ergreift keine Maßnahmen und gibt keine Empfehlungen ab.
• Stufe 2, Empfehlung: Die KI schlägt konkrete Aktionen vor und erläutert ihre Begründung. Ein Mensch entscheidet, ob er handelt.
• Stufe 3, Handeln mit Genehmigung: Die KI bereitet Aktionen vor und führt sie aus, jedoch werden Schritte mit hohem Risiko vor der Fortsetzung zur Genehmigung durch einen Menschen angehalten.
• Stufe 4, Autonomes Handeln: Die KI führt Aktionen innerhalb eines vordefinierten, gut getesteten Rahmens ohne Genehmigung pro Aktion aus.

Die meisten regulierten Mainframe-Umgebungen sollten heute auf den Stufen 2–3 arbeiten. Dort lässt sich der größte Nutzen erzielen, darunter schnellere Diagnose, vorbereitete Fehlerbehebung und weniger Zeitverlust durch manuelle Fehlersuche, während gleichzeitig die Verantwortung für wichtige Änderungen bei den Mitarbeitern liegt.

Zwei Prinzipien sorgen dafür, dass die Leiter in der Praxis funktioniert.

Weisen Sie zunächst Berechtigungen nach Aktionstyp und nicht nach Agent zu. Derselbe Agent könnte beispielsweise für das Erstellen von Incident-Tickets auf Stufe 4 und für alle Änderungen an Sicherheitskonfigurationen auf Stufe 2 eingestuft sein. Eine pauschale Einstellung für alle Agenten ist entweder zu lasch oder zu restriktiv.

Zweitens: Stufe 4 muss man sich verdienen, sie wird nicht vorausgesetzt. Verfolgen Sie, wie oft die Empfehlungen der Agenten mit den Empfehlungen Ihrer Experten übereinstimmen. Wenn eine Aktionsart über einen relevanten Zeitraum hinweg konstant gute Ergebnisse liefert, fördern Sie sie. Andernfalls bleibt sie auf ihrer bisherigen Stufe.

Was „hohes Risiko“ im Kontext eines Mainframes tatsächlich bedeutet

Eine Aktion birgt ein hohes Risiko, wenn sie schwer rückgängig zu machen ist, Live-Transaktionsdaten betrifft oder systemübergreifende Abhängigkeiten aufweist. Trifft eine dieser Bedingungen zu, muss die Aktion von einem Mitarbeiter genehmigt werden.

Handlungen, die stets einer menschlichen Genehmigung bedürfen:

• Neustart von Produktionsaufträgen während der Geschäftszeiten
• Ändern von Sicherheitskonfigurationen oder Zugriffsberechtigungen
• Daten löschen oder archivieren
• Änderungen, die mehrere Teilsysteme gleichzeitig betreffen

Aktionen, die im Allgemeinen innerhalb definierter Parameter sicher autonom ausgeführt werden können:

• Protokolle korrelieren und Anomalien kennzeichnen
• Erstellung von Diagnosezusammenfassungen
• Eröffnung und Anreicherung von Vorfallstickets
• Aufdecken historischer Musterübereinstimmungen aus vergangenen Vorfällen

Beachten Sie das Muster. Alle Einträge in der Liste der autonomen Prozesse erzeugen Informationen. Alle Einträge in der Genehmigungsliste ändern den Systemstatus. Diese Unterscheidung bietet Ihrem Team eine einfache, nachvollziehbare Regel als Ausgangspunkt, die Sie im Laufe der Zeit verfeinern können, sobald sich der Agent bewährt hat.

Wie eine gute Governance-Architektur in der Praxis aussieht

Eine gute Architektur für die KI-Governance verknüpft jede Aktion mit einer Identität, protokolliert jede Entscheidung unveränderlich und sichert jede risikoreiche Aktion durch explizite menschliche Autorisierung ab. Diese drei Anforderungen sind unabdingbar, bevor die KI-Autorität auf irgendeiner Ebene erweitert wird.

• Jede Aktion ist mit einer Identität verknüpft. Sie sollten in zwei separaten Datensätzen sehen können, welcher Agent gehandelt und welche Person die Aktion genehmigt hat.
• Jede Entscheidung wird unveränderlich protokolliert. Die Aufzeichnung dessen, was die KI getan hat und warum, kann nachträglich nicht bearbeitet werden.
• Jede risikoreiche Aktion ist überwacht. Der Agent kann erst fortfahren, wenn ein Mensch den Schritt ausdrücklich autorisiert.

Rocket^® EVA^™ Rocket EVA wurde speziell für dieses Modell entwickelt. Es arbeitet mit manuellen Genehmigungsmechanismen für risikoreiche Aktionen: Der Agent diagnostiziert, empfiehlt und bereitet die Abhilfemaßnahme vor, die dann von einem Mitarbeiter autorisiert wird. Jede Aktion ist sowohl mit der Identität eines Agenten als auch mit dem Namen des Genehmigers verknüpft, sodass Sie die Fragen eines Auditors beantworten können, ohne Ereignisse aus verstreuten Protokollen rekonstruieren zu müssen.

Rocket EVA setzt außerdem Betriebsregeln durch Richtlinien als Code und einen deterministischen Ausführungskern durch, sodass Agenten nur validierte Aktionen innerhalb genehmigter Grenzen ausführen können. Sie müssen nicht gleich mit den erweiterten Funktionen beginnen. Viele Teams starten mit weniger risikoreichen Anwendungsfällen wie der nächtlichen Fehleranalyse von Batch-Verarbeitungen, gewinnen Vertrauen in die Genauigkeit der Agenten und erweitern deren Befugnisse schrittweise um jeweils einen Aktionstyp.

So modernisiert man ohne Umwege. Man geht überlegt vor und beweist es auf jeder Stufe.

Erfahren Sie, wie die Governance-Architektur von Rocket EVA die KI-Autorität auf jeder Ebene verwaltet.

Rocket ist eine Marke der Rocket Software, Inc. und ihrer Tochtergesellschaften.