Die Herausforderung
KI-Agenten ohne Berechtigungskonzept
Ein KI-Agent bekommt ein Ziel und wählt seine Werkzeuge selbst. Ein Berechtigungskonzept nach dem Muster der Servicekonten beschreibt für ihn etwas, das es nicht gibt.
Die Herausforderung
Wo KI-Agenten zum Problem werden
-
Übermäßige Rechte
Niemand weiß vorher, welche Werkzeuge ein Agent aufruft. Also bekommt er vorsorglich alles, was er brauchen könnte, und Least Privilege wird zur Schätzung.
-
Fremde Identitäten
Läuft ein Agent unter dem Konto der Person, die ihn gestartet hat, steht im Protokoll nur diese Person. Was der Agent selbst entschieden hat, ist nicht mehr zu erkennen.
-
Versteckte Anweisungen
Ein Agent liest Mails, Dokumente und Tickets. Steht darin eine versteckte Anweisung, führt er sie womöglich aus wie einen Auftrag. Fachlich heißt das Prompt Injection.
-
Agenten, die keiner kennt
Mitarbeitende legen Agenten in Werkzeugen wie Copilot Studio an, ohne dass die IT davon erfährt. In keinem Register taucht so ein Agent auf.
-
Auswirkungen
Ohne Berechtigungskonzept
Eine Anmeldung klärt, wer der Agent ist. Ob seine nächste Aktion zulässig ist, sagt sie nicht.
- Übermäßige Rechte bei jedem Lauf
- Im Protokoll kein Unterschied zwischen Agent und Auftraggeber
- Versteckte Anweisungen werden ausgeführt
- Zahlungen und Auszahlungen ohne Freigabe je Aktion
- Unbekannte Agenten mit Zugriff auf Kundendaten
-
Unser Ansatz
Least Privilege für Agenten
Ein Agent bekommt wie jeder Mitarbeitende nur die Rechte, die seine Aufgabe braucht. Weil er seine Werkzeuge erst während der Arbeit wählt, wird bei jeder Aktion an vier Prüfpunkten entschieden, ob sie zulässig ist.
- Eigene Identität, kurzlebig und an einen Schlüssel gebunden
- Autonomiestufe je System und Datenklasse
- Aufgabenkatalog mit den erlaubten Operationen
- Rechte je Aufgabe und für Minuten
- Freigabe je Aktion bei Geld, Rechten und Löschung
Ergebnisse
Was klare Rechte für Agenten bewirken
-
Lückenloses Protokoll
Im Protokoll stehen immer der Agent und sein Auftraggeber. Mit einer durchgängigen Kennung lässt sich jede Handlung rekonstruieren.
-
Rechte je Aufgabe
Der Agent erhält seine Berechtigung für die Dauer einer Aufgabe und gibt sie danach zurück. Auf Vorrat bekommt er nichts.
-
Kontrolle bei jeder Aktion
Auftrag, Daten, Werkzeug und Ergebnis werden einzeln geprüft. Eine Anweisung aus einem gelesenen Dokument zählt nicht als Auftrag.
-
Prüffähig nach DORA
Jede Ebene des Kontrollmodells ist einer Fundstelle in den DORA-RTS zugeordnet, aus den Artikeln 12, 20 und 21.
Vorgehen
Vom Register bis zum Pilot
-
01
Bestandsaufnahme
Register aller Agenten mit Zweck, Eigentümer, Zielsystemen und letzter Nutzung, auch der selbst angelegten.
-
02
Autonomiestufen festlegen
Je System und Datenklasse wird festgelegt, ob ein Agent beobachten, beraten oder mit Freigabe handeln darf.
-
03
Aufgabenkatalog und Stellvertretung
Für jeden Agenten ist festgelegt, welche Operationen er ausführen darf und in wessen Auftrag er handelt.
-
04
Prüfpunkte einrichten
Eine zentrale Richtlinie entscheidet bei Auftrag, Daten, Werkzeug und Ergebnis. Durchgesetzt wird nah am Werkzeug.
-
05
Pilot und Nachweis
Ein Anwendungsfall mit allen sechs Ebenen des Kontrollmodells, danach Rezertifizierung der Agentenrechte und geübtes Anhalten.
Bereit für den nächsten Schritt
Erstgespräch zu Ihren KI-Agenten
Vielen Dank für Ihre Anfrage.
Ihre Nachricht wurde erfolgreich übermittelt. Unser Team meldet sich zeitnah bei Ihnen.