Bei einer kurzen Anweisung lag GPT-4o zu 91 % richtig. Bei einer längeren Version derselben Aufgabe lag es zu 1 % richtig. Nicht 70 %. Nicht 40 %. Ein Prozent — statistisches Rauschen (PNAS Nexus, 2026).
Dieser Kollaps ist die wichtigste einzelne Zahl, die ein Head of Operations 2026 in eine Entscheidung über agentische KI mitnehmen kann, denn sie kippt die Annahme, auf der jede Einführung stillschweigend aufgebaut ist: dass ein KI-Agent, der eine Aufgabe in einer Demo gut bewältigt, eine etwas schwierigere Version derselben Aufgabe nur etwas schlechter bewältigen wird. Das stimmt nicht. Er wird sie bis zu einer Schwelle nahezu perfekt bewältigen und dann fast vollständig versagen. Die Frage für Operations lautet nicht, ob man einem Agenten vertrauen soll. Sie lautet, genau zu wissen, wo die Klippe liegt — und ein menschliches Kontrolltor im Prozess davor zu setzen.
Der Befund: eine Klippe, keine Rampe
Die Studie stammt von Suketu Patel und Jin Fan von der CUNY, veröffentlicht in PNAS Nexus und im Juni 2026 öffentlich bekannt geworden (PsyPost, 2026). Ihre Methode ist gerade deshalb elegant, weil sie alt ist. Sie wandten die Stroop-Aufgabe an — den klassischen kognitionspsychologischen Test, bei dem man die Tintenfarbe eines Wortes benennen muss, während das Wort selbst eine andere Farbe buchstabiert — auf modernste Sprachmodelle und erhöhten die Last, indem sie die Liste widersprüchlicher Elemente von wenigen bis auf vierzig verlängerten.
Die Ergebnisse sind eindeutig. GPT-4o beantwortete inkongruente Durchgänge bei kurzen Fünf-Element-Listen zu 91 % richtig. Erhöht man die Liste auf zwanzig oder vierzig widersprüchliche Elemente, fiel seine Genauigkeit auf 1 %. Claude 3.5 Sonnet hielt länger stand — aber auch es fiel schließlich, auf etwa 10 % bei Vierzig-Element-Listen (PNAS Nexus, 2026).
Lesen Sie die Form dieser Kurve, nicht nur die Endpunkte. Die Leistung verfiel nicht sanft, während die Aufgabe schwerer wurde. Sie hielt sich auf nahezu menschlichem Niveau und stürzte dann über eine Klippe. Das ist der Befund, der neu ordnen sollte, wie Operations über Agenten-Zuverlässigkeit denkt: Die Gefahrenzone ist aus der Demo heraus unsichtbar. Ein sauberer Pilot an einem einfachen Fall sagt Ihnen nichts darüber, wo das Modell bricht, denn der Bruch ist diskontinuierlich.
Warum hier die exekutive Kontrolle versagt — nicht die Intelligenz
Es wäre leicht, das unter „KI macht eben noch Fehler" abzulegen und weiterzugehen. Diese Lesart verfehlt den Mechanismus, und der Mechanismus ist der ganze Punkt.
Die Stroop-Aufgabe misst nicht Wissen oder Denkleistung. Sie misst exekutive Kontrolle — konkret die Fähigkeit, ein Ziel im Kopf zu halten („benenne die Tintenfarbe") und eine stärkere, automatische konkurrierende Reaktion zu hemmen („lies das Wort"). In der menschlichen kognitiven Neurowissenschaft zerfällt Aufmerksamkeit in unterschiedliche Systeme, und die exekutive Kontrolle ist jenes, das die Zielerhaltung unter Konflikt steuert. Es ist eine andere Fähigkeit als bloße Mustererkennung.
Das haben die Modelle über sich selbst offenbart. Transformer-Architekturen sind außergewöhnlich bei der präpotenten Reaktion — der schnellen, automatischen, statistisch wahrscheinlichen Antwort, das maschinelle Äquivalent dazu, das Wort zu lesen, statt die Farbe zu benennen. Was ihnen fehlt, ist robuste Hemmung, wenn der Kontext länger wird oder sich mit widersprüchlichen Signalen füllt. Die Autoren rahmen dies als eine fehlende Kapazität für jene exekutive Kontrolle, die echte allgemeine Intelligenz erfordern würde (PNAS Nexus, 2026).
Für Operations übersetzt: Ein KI-Agent ist kein Junior-Mitarbeiter, der proportional zur Arbeitslast ermüdet und nachlässig wird. Er ist ein System, das ein Ziel großartig hält, bis die Zahl konkurrierender Randbedingungen eine Linie überschreitet — an diesem Punkt verschlechtert sich die Zielerhaltung nicht, sie verdampft. Das Versagen ist nicht „schlechtere Ausgabe". Es ist das Modell, das still auf das falsche, leichtere Ziel optimiert und dabei flüssigen, selbstsicheren Text produziert, der genau wie Erfolg aussieht.
Wie „lang und widersprüchlich" auf Ihrer Fläche aussieht
Zwanzig widersprüchliche Wörter in einem Labor sind abstrakt. Ihre realen Arbeitsabläufe sind schlimmer.
Denken Sie daran, was Sie einen Agenten tatsächlich tun lassen. Eine Rechnung mit einem Vertrag abgleichen, der drei Nachträge, eine Sonderkonditionsklausel und eine Ausnahme hat, die jemand letzte Woche per E-Mail geschickt hat. Eine Kundenbeschwerde nach einer Richtlinie leiten, die das eine sagt, einer Daueranweisung eines Managers, die das andere sagt, und einer Promotion, die beide bis Freitag außer Kraft setzt. Eine Compliance-Antwort verfassen, die der Aufsichtsbehörde, der Risikohaltung des Rechtsteams und der Beziehung des Account Managers genügen muss — drei Ziele, die sich nicht vollständig decken.
Jedes davon ist eine Stroop-Aufgabe mit voll aufgedrehter Lautstärke. Langer Kontext, mehrere gleichzeitige Randbedingungen und eine starke „offensichtliche" Antwort, die sich als falsch erweist, sobald man die Ausnahmen berücksichtigt. Das sind genau die Bedingungen, die laut Studie die exekutive Kontrolle über die Klippe treiben. Und es sind zugleich genau die Aufgaben, die Mid-Market-Operations am dringendsten automatisieren möchte, weil es die mühsamen, urteilslastigen sind, die die Stunden eines Teams verschlingen.
Das ist die Falle. Die Aufgaben mit dem höchsten Automatisierungsreiz überschneiden sich stark mit den Aufgaben, die am ehesten einen stillen Kollaps auslösen. Der Agent liefert eine tadellose Demo auf der sauberen Rechnung und versagt fast vollständig bei der mit drei Nachträgen — und er versagt selbstsicher, was der gefährliche Teil ist.
Die Geschäftskosten, die Klippe zu ignorieren
Das ist keine theoretische Sorge, und der Markt preist sie bereits ein. Gartner prognostiziert, dass mehr als 40 % der agentischen KI-Projekte bis Ende 2027 abgebrochen werden, unter Verweis auf steigende Kosten, unklaren Geschäftswert und unzureichende Risikokontrollen (Gartner, 2025).
Der Stroop-Befund sagt Ihnen, warum so viele scheitern werden. Teams pilotieren einen Agenten an einem kuratierten, konfliktarmen Ausschnitt der Arbeit, sehen eine Genauigkeit im Stil von 91 % und skalieren ihn in die unordentliche, konfliktreiche Produktionsrealität — wo derselbe Agent jenseits seines Kollapspunkts arbeitet und still eine Ausgabe von 1 %-Qualität bei den schwersten Fällen liefert. Die folgenden Kosten sind nicht als „KI-Versagen" etikettiert. Sie zeigen sich als Abstimmungsfehler, die drei Schritte weiter unten entdeckt werden, als Compliance-Antworten, die vollständige menschliche Nacharbeit brauchen, und als Erosion des Vertrauens, die am Ende die gesamte Initiative einmottet. Das Projekt stirbt nicht an einem dramatischen Vorfall. Es stirbt an angehäuften stillen Fehlern genau bei den Fällen, die es rechtfertigen sollten.
Die Organisationen, die ihre agentischen Projekte aus diesen 40 % heraushalten, werden nicht jene mit den besten Modellen sein. Alle haben Zugang zu denselben Spitzenmodellen. Es werden jene sein, die für die Klippe entworfen haben, statt so zu tun, als sei die Kurve eine glatte Rampe.
Wo das Kontrolltor zu setzen ist
Der Instinkt, wenn ein Agent unterdurchschnittlich abschneidet, ist, zu besseren Prompts zu greifen. Diese Studie sagt, Prompting ist der falsche Hebel. Man kann sich nicht aus einem strukturellen Fehlen exekutiver Kontrolle heraus-prompten; man kann die Klippe nur leicht verschieben. Der dauerhafte Hebel ist architektonisch: ein menschliches Kontrolltor im Prozess (Human-in-the-Loop), vor den Kollapspunkt gesetzt, nicht nach dem Vorfall.
Konkret bedeutet das drei Schritte für dieses Quartal.
1. Kartieren Sie Ihre Abläufe nach Konfliktlast, nicht nach Aufgabentyp
Hören Sie auf, Kandidatenaufgaben in „einfach" und „komplex" zu sortieren. Sortieren Sie sie danach, wie viele konkurrierende Randbedingungen sie tragen und wie lang der relevante Kontext ist. Eine Aufgabe mit hohem Volumen und einer klaren Regel ist ein sicheres Automatisierungsziel. Eine Aufgabe mit geringerem Volumen, drei überlappenden Richtlinien und einem Stapel Ausnahmen ist der Ort, an dem die Klippe lebt — so routiniert sie sich auch anfühlt.
2. Setzen Sie das Kontrolltor vor die Schwelle, empirisch
Fügen Sie bei jedem Agenten-Ablauf mit widersprüchlichen Randbedingungen oder langem Kontext einen verpflichtenden menschlichen Prüfpunkt ein. Raten Sie nicht, wo das Modell bricht — testen Sie es so wie die Studie. Füttern Sie den Agenten mit zunehmend unordentlicheren Versionen einer realen Aufgabe und beobachten Sie die Diskontinuität. Setzen Sie den menschlichen Prüfpunkt auf deren nahe Seite.
3. Instrumentieren Sie für stilles Versagen, nicht für laute Fehler
Der Kollaps kündigt sich nicht an; die Ausgabe bleibt flüssig. Sie können sich also nicht darauf verlassen, dass der Agent seine eigenen Fälle geringer Konfidenz meldet. Bauen Sie Stichproben und Spot-Audits in jeden konfliktreichen Ablauf ein und behandeln Sie „die Demo hat funktioniert" als Beginn der Validierung, nicht als Ende.
Nichts davon erfordert neue Technologie. Es erfordert, Agenten-Zuverlässigkeit als Eigenschaft des Workflow-Designs zu behandeln, nicht des Modells — und zu akzeptieren, dass die Kompetenz des Modells eine Kante hat, die Sie finden, aber nicht weg-prompten können.
Die Entscheidung für dieses Quartal
Holen Sie die Liste der Prozesse hervor, die Ihr Team in den nächsten zwei Quartalen an einen KI-Agenten übergeben will. Notieren Sie neben jedem zwei Dinge: wie viele widersprüchliche Regeln oder Ausnahmen er trägt und wie lang der Kontext ist, den ein Agent halten müsste. Die Aufgaben, die bei beiden hoch punkten, sind nicht Ihre schnellen Erfolge. Sie sind Ihre Klippenfälle — und die Studie sagt, sie werden den Piloten bestehen und an der echten Arbeit scheitern.
Für die ist der Zug nicht ein besserer Agent. Es ist ein Mensch im Prozess (Human-in-the-Loop), bewusst vor den Kollapspunkt gesetzt. Die 40 % der agentischen Projekte, die auf Abbruch zusteuern, werden überwiegend jene sein, die eine Demo mit einer Garantie verwechselt haben. Ein Agent, der den sauberen Fall meistert und am unordentlichen kollabiert, ist kein Werkzeug, das Sie eingeführt haben. Er ist eine Haftung, die Sie noch nicht entdeckt haben. Finden Sie die Klippe, bevor sie Sie findet.
