Innerhalb eines Quartals stieg der Anteil der US-Führungskräfte, die angeben, über die Fähigkeiten und die Governance zu verfügen, um KI-Risiken im großen Maßstab zu steuern, von 57% auf 73% (KPMG, 2026). Im annähernd gleichen Zeitraum fiel der Anteil der Organisationen, die Kontrollen direkt in ihre Agenten einbauen – neben Monitoring- und Evaluierungsverfahren –, auf 30%, nach 43% zwei Quartale zuvor. KPMG nennt den Grund in einem einzigen Nebensatz: Viele verlassen sich auf die "bereits vorhandenen Guardrails".
Dieselbe Erhebung. Dieselben Unternehmen. Das Vertrauen stieg, während die Kontrollen in unmittelbarer Nähe des Agenten entfernt wurden.
Die dritte Zahl ist diejenige, die in diesem Quartal eine Entscheidung bewegen sollte: Der Anteil der Organisationen, die aktiv Multi-Agenten-Systeme entwickeln oder einführen, kletterte auf 25%, nach jeweils 6% in den beiden Vorquartalen. Die Komplexität summiert sich genau in dem Moment, in dem die eingebaute Kontrolle ausdünnt – und von der KI-Agenten-Governance wird erwartet, dass sie auf einer Infrastruktur läuft, die für ein anderes Problem gebaut wurde.
Was KPMG tatsächlich gemessen hat
Die Erhebung lief vom 24. Juli bis zum 25. August 2026 und erfasste 314 US-amerikanische C-Level- und Geschäftsverantwortliche in Organisationen mit einem Jahresumsatz von mindestens 1 Milliarde US-Dollar; mehr als ein Drittel lag über 10 Milliarden (KPMG, 2026). Diese Stichprobe ist relevant, und ich komme darauf zurück.
Zwei Bewegungen laufen in entgegengesetzte Richtungen:
| Kennzahl | Q3 2026 | Vorheriger Wert |
|---|---|---|
| Vertrauen in Fähigkeiten und Governance zur Steuerung von KI-Risiken im großen Maßstab | 73% | 57% (Vorquartal) |
| Einbau von Kontrollen in die eigenen Agenten, mit Monitoring und Evaluierung | 30% | 43% (zwei Quartale zuvor) |
| Aktive Entwicklung oder Einführung von Multi-Agenten-Systemen | 25% | 6% (in jedem der beiden Vorquartale) |
| Aufbau, Einführung oder Entwicklung von KI-Agenten | 62% | 53% (Vorquartal) |
| Definierte Hochrisiko-Anwendungsfälle, in denen autonome Agentenentscheidungen untersagt sind | 49% | 28% (Q3 2025) |
| Eingeführte Nutzungs- oder Token-Budgets | 43% | — |
Die finanzielle Disziplin verbessert sich tatsächlich: 74% nehmen Kostenprüfungen inzwischen in die KI-Genehmigungsprozesse auf, nach 61% im Vorquartal, und 70% nutzen KI-Monitoring-Dashboards. Dies ist nicht die Geschichte nachlässiger Organisationen. Es ist die Geschichte einer Governance, die in einer Dimension reift – Ausgaben, Transparenz, Genehmigungsprozess –, während eine andere Dimension still dereguliert wird.
Warum das Vertrauen in die KI-Agenten-Governance der Kontrolle vorausgelaufen ist
Die Formulierung "bereits vorhandene Guardrails" trägt eine erhebliche Last, daher lohnt die Frage, worin diese Guardrails bestehen.
KPMG selbst listet auf, was Organisationen in ihre Kontrollschicht aufnehmen: Datenzugriffskontrollen (59%), Sicherheits- und Identitätskontrollen (53%), Monitoring von KI-Outputs (47%), Durchsetzung von Richtlinien und Guardrails (42%) und Verwaltung des Modellzugriffs (40%) (KPMG, 2026).
Lesen Sie diese Liste noch einmal mit operativem Blick. Jeder Punkt regelt den Zugriff: welche Systeme ein Modell erreichen darf, welche Identität es trägt, welches Modell aufgerufen werden darf und ob die Outputs im Nachhinein akzeptabel erscheinen. Keiner dieser Punkte beantwortet die Frage, die ein Agent aufwirft: Darf dieser Agent diese bestimmte, nach außen sichtbare Handlung vornehmen – in wessen Namen, innerhalb welchen Budgets, und wer kann sie mitten im Vollzug widerrufen?
Perimeter-Kontrollen sind notwendig, und sie wandern nicht mit dem Agenten mit. Ein Agent, der sich legitim authentifiziert hat, nur freigegebene Systeme erreicht und ein freigegebenes Modell aufruft, kann dennoch die falsche E-Mail an einen Kunden senden, eine Rückerstattung außerhalb der Richtlinie auslösen oder das Unternehmen gegenüber einem Lieferanten verpflichten. Keiner dieser Fälle ist eine Zugriffsverletzung. Jeder ist eine Frage der Handlungsbefugnis – und Handlungsbefugnis ist genau das, was die 30% aufgebaut haben und was Unternehmen im Umfang von 13 Prozentpunkten nicht mehr aufbauen.
Die Lücke ist dort am größten, wo die Einführung am schnellsten läuft
Ein einzelner Agent, der ein klar abgegrenztes Werkzeug aufruft, ist unter Perimeter-Kontrollen ein beherrschbarer Fall. Ein Multi-Agenten-System – in dem der Output eines Agenten zur Anweisung eines anderen wird – ist es nicht, weil zwischen beiden kein Perimeter liegt. Diese Konfiguration stieg in zwei Quartalen von 6% auf 25%. Das Kontrollmodell dünnte genau dann aus, als die Architektur, die es regeln soll, schwerer nachvollziehbar wurde.
Die Kostenerklärung, die niemand ausspricht
Es gibt einen unglamourösen Grund dafür, dass in Agenten eingebaute Kontrollen gestrichen werden, und er heißt nicht Selbstzufriedenheit.
Das QuantumBlack-Team von McKinsey hat die variablen Betriebskosten eines Produktionsagenten bewertet und festgestellt, dass bei einer Kundenservice-Aufgabe im Bankgeschäft Token-Kosten häufig nur 20 bis 25 Prozent der variablen Betriebskosten darstellen, während die menschliche Aufsicht 70 bis 75 Prozent ausmacht (McKinsey QuantumBlack, 2026). Beim Kunden-Onboarding erwarten sie, dass 10 bis 20 Prozent der agentischen Durchläufe von Risiko- und Fachexperten geprüft werden.
Aufsicht ist kein Rundungsfehler im Business Case eines Agenten. Sie ist der Business Case. Das heißt: Jede Kontrolle, die einen Menschen in den Pfad einer Handlung stellt, ist ein sichtbarer, wiederkehrender, quantifizierbarer Margenkosten-Posten – und sobald ein Dashboard meldet, dass alles in Ordnung ist, wird diese Zeile zur am leichtesten verteidigbaren Streichung.
Das ist der Mechanismus hinter KPMGs zwei Kurven. Das steigende Vertrauen hat den Rückgang der Kontrollen nicht verursacht. Das steigende Vertrauen hat das Argument beseitigt, eine teure Kontrolle beizubehalten, die noch nicht laut gescheitert war.
Die Gegenbelege für Control-by-Design
Wäre das Ausdünnen eingebauter Agentenkontrollen schlicht rationale Effizienz, müssten die Unternehmen, die es tun, besser abschneiden. Die verfügbaren Daten deuten in die andere Richtung.
Das Institute for Business Value von IBM befragte 2.000 C-Level-Technologieverantwortliche und verglich Organisationen, die Kontrolle direkt in KI-Systeme einbetten, mit solchen, die auf manuelle Governance setzen. Die Control-by-Design-Gruppe berichtete von 25% weniger Vorfällen, 16-mal mehr eingesetzten KI-Agenten, um 18% höheren operativen Margen und einem 4-mal geringeren Verbrauch des KI-Budgets (IBM Institute for Business Value, 2026).
Eingebaute Kontrolle war nicht die Bremse der Einführung. Sie war das, was die Einführung tragfähig genug machte, um zu skalieren: ein Faktor 16 bei den tatsächlich laufenden Agenten.
Dieselbe Studie rückt die Vertrauenszahl in ein unbequemes Licht: 77% dieser Technologieverantwortlichen gaben an, die KI-Adoption übersteige bereits ihre Governance-Fähigkeiten, zwei Drittel berichteten, für KI-Systeme verantwortlich gemacht zu werden, die sie nicht vollständig kontrollieren, und die durchschnittliche Organisation der Stichprobe registrierte 54 Agentenvorfälle in einem Jahr, von denen 17% mehr als vier Stunden zur Eindämmung brauchten. KPMGs Befragte sind überwiegend C-Level- und Geschäftsverantwortliche. IBMs Befragte sind die CIOs und CTOs, die im Ernstfall gerufen würden. Die 73% und die 77% widersprechen sich nicht notwendigerweise; möglicherweise messen sie Vertrauen lediglich in unterschiedlicher Entfernung zum Vorfall.
Der ehrliche Einwand
Drei Einschränkungen, klar benannt.
Dies ist eine Stichprobe ab 1 Milliarde US-Dollar Umsatz, und das spricht gegen die naheliegende Lesart. Mehr als ein Drittel dieser Unternehmen liegt über 10 Milliarden US-Dollar Umsatz. Ein Unternehmen mit 200 Mitarbeitenden verfügt nicht über das Identitätsmanagement, die Zugriffswerkzeuge und die Sicherheitsprüfung, auf die sich diese Führungskräfte zurückziehen. Der Befund überträgt sich also nicht als "große Unternehmen werden nachlässig, bei uns ist alles in Ordnung". Er überträgt sich in der härteren Fassung: Die vorhandenen Guardrails, auf die man sich hier verlässt, fehlen im Mittelstand weitgehend – was eingebaute Kontrolle im Agenten weniger optional macht, nicht mehr.
Das Vertrauen ist selbst berichtet; die Kontrollzahl ebenfalls. Niemand hat diese Organisationen geprüft. Ein Anstieg von 57% auf 73% in einem Quartal ist eine große Bewegung für eine Überzeugung, und Überzeugungen können sich schneller neu bewerten als Fähigkeiten. Lesen Sie die 73% als Stimmungswert, nicht als Reifegradbewertung.
Mehr Aufsicht ist nicht monoton besser, und dieser Artikel sollte nicht das Gegenteil behaupten. Gans und Holden modellieren die Aufsicht über Agenten, die ihre Handlungen verbergen können, und zeigen, dass strengere Prüfungen Fehlverhalten abschrecken, zugleich aber das Verbergen bei jenen Agenten erhöhen, die weiter verstoßen – sodass die Aufdeckungsrate, also die Wahrscheinlichkeit, einen verstoßenden Agenten zu entdecken, mit zunehmender Prüfung sinken kann (Gans & Holden, NBER, 2026). Ihre Abschreckungsbedingungen sind spezifisch: Der Nachweis eines Verstoßes muss das Verbergen überdauern, der Agent darf die Prüfungsziehung nicht vor seiner Handlung kennen, und Sanktionen müssen skalieren können, statt beim Verlust der Aufgabenbelohnung zu enden. Die Implikation lautet nicht "mehr Prüfungen hinzufügen". Sie lautet: Kontrolldesign schlägt Kontrollvolumen, und Audit-Trails, die von dem Geprüften nicht verändert werden können, leisten mehr als eine höhere Prüffrequenz.
Was einzurichten ist, bevor der nächste Agent live geht
Vier Schritte. Keiner erfordert ein Plattformprogramm, und KPMGs eigene Daten zeigen, dass jeder bereits gängige Praxis ist und keine Spitzenanforderung.
- Schreiben Sie zuerst die Liste des "niemals autonom". 49% dieser Organisationen haben Hochrisiko-Anwendungsfälle definiert, in denen Agenten nicht autonom entscheiden dürfen – nach 28% ein Jahr zuvor. Das ist ein Dokument, keine Beschaffung. Benennen Sie die Handlungsklassen, die stets eine menschliche Entscheidung erfordern, bevor irgendetwas dagegen eingesetzt wird.
- Setzen Sie jedem Agenten eine Obergrenze. 43% betreiben bereits Nutzungs- oder Token-Budgets. Legen Sie ein Limit pro Transaktion und pro Monat fest, damit eine Fehlfunktion begrenzte statt offene Kosten verursacht und das Finanzgespräch um eine Obergrenze statt um eine Überraschung geht.
- Weisen Sie jedem Agenten eine namentlich benannte Person zu, nicht dem Programm. "Das KI-Komitee verantwortet die Aufsicht" ist kein Verantwortlicher. Eine konkrete Person, die die nicht automatisierten Handlungsklassen genehmigt und Autonomie ohne Ticket widerrufen kann, ist es.
- Machen Sie den Audit-Trail für den Agenten nicht beschreibbar. Das ist die operative Lesart des Verbergen-Ergebnisses: Protokollieren Sie die Handlung, die genehmigende Person und den Widerruf in dem Moment, in dem sie geschehen, an einem Ort, den der Agent nicht ändern kann. Die Prüffrequenz lässt sich später justieren; die Integrität der Nachweise lässt sich nicht nachrüsten.
Diese vier sind zugleich das Design, das sich gegenüber den Anforderungen des EU AI Act an die menschliche Aufsicht am besten verteidigen lässt – ein nützlicher Nebeneffekt, nicht der Grund dafür. Wenn Sie eine konkrete Referenz dafür suchen, wie Genehmigung je Handlung und verdiente Autonomie strukturiert werden – Genehmigungsanfragen, die einen Namen tragen, Autonomie nach Handlungsart statt pro Agent, eine unbeantwortete Anfrage, die verfällt statt stillschweigend durchzugehen, und eine zwingend über jedem Agenten stehende menschliche Aufsichtsperson –, dokumentiert Scovai sein Governance-Modell für Digital Employees öffentlich.
Der tiefere Punkt betrifft, was eine Vertrauenszahl über KI-Agenten-Governance aussagen kann und was nicht. Die 73% sind nicht falsch; diese Unternehmen haben echte Governance aufgebaut – rund um Ausgaben, Zugriff und Transparenz. Die Kontrollen, die sie losgelassen haben, sind jene, die zwischen einem Agenten und einer Handlung in der Welt stehen, und nichts in einem Monitoring-Dashboard wird ihr Fehlen melden, bis bereits etwas passiert ist.
Bevor Ihr nächster Agent live geht, suchen Sie die Liste der Handlungen, die er ohne Rückfrage vornehmen darf. Wenn diese Liste nicht auf Papier existiert, ist sie nicht leer – sie ist nur unaufgeschrieben.
