На короткой инструкции GPT-4o отвечал верно в 91% случаев. На более длинной версии той же самой задачи он отвечал верно в 1% случаев. Не 70%. Не 40%. Один процент — статистический шум (PNAS Nexus, 2026).
Этот коллапс — важнейшее единичное число, которое Head of Operations может взять с собой в решение об агентном ИИ в 2026 году, потому что оно опрокидывает допущение, на котором молча строится любое внедрение: что если ИИ-агент хорошо справляется с задачей в демо, то с чуть более сложной версией той же задачи он справится лишь чуть хуже. Это не так. Он справится с ней почти идеально вплоть до порога, а затем откажет почти полностью. Вопрос для операций не в том, доверять ли агенту. А в том, чтобы точно знать, где находится обрыв, — и поставить человеческий контрольный шлюз в контуре прямо перед ним.
Находка: обрыв, а не пандус
Исследование выполнено Suketu Patel и Jin Fan из CUNY, опубликовано в PNAS Nexus и предано огласке в июне 2026 года (PsyPost, 2026). Их метод элегантен именно потому, что стар. Они применили задачу Струпа — классический тест когнитивной психологии, где нужно назвать цвет чернил слова, тогда как само слово пишет другой цвет, — к передовым языковым моделям, наращивая нагрузку удлинением списка конфликтующих элементов от нескольких до сорока.
Результаты резки. GPT-4o отвечал на неконгруэнтные пробы верно в 91% случаев на коротких списках из пяти элементов. Доведите список до двадцати или сорока конфликтующих элементов — и его точность падала до 1%. Claude 3.5 Sonnet держался дольше, но и он в итоге упал, до примерно 10% на списках из сорока элементов (PNAS Nexus, 2026).
Читайте форму этой кривой, а не только крайние точки. Производительность не деградировала плавно по мере усложнения задачи. Она держалась на почти человеческом уровне, а затем сорвалась с обрыва. Именно эта находка должна перестроить то, как операции думают о надёжности агентов: опасная зона невидима из демо. Чистый пилот на простом случае не говорит вам ничего о том, где ломается модель, потому что слом разрывен.
Почему это отказ исполнительного контроля — а не интеллекта
Легко отнести это к «ИИ всё ещё ошибается» и идти дальше. Такое прочтение упускает механизм, а механизм — это и есть вся суть.
Задача Струпа не измеряет знания или мощь рассуждения. Она измеряет исполнительный контроль — конкретно способность удерживать цель в уме («назови цвет чернил») и подавлять более сильную автоматическую конкурирующую реакцию («прочитай слово»). В человеческой когнитивной нейронауке внимание раскладывается на отдельные системы, и исполнительный контроль — та из них, что управляет удержанием цели в условиях конфликта. Это иная способность, нежели простое распознавание паттернов.
Вот что модели раскрыли о себе. Архитектуры Transformer выдающиеся в препотентном ответе — быстром, автоматическом, статистически вероятном, машинном эквиваленте чтения слова вместо называния цвета. Чего им недостаёт — так это устойчивого торможения, когда контекст удлиняется или наполняется конфликтующими сигналами. Авторы трактуют это как отсутствующую способность к исполнительному контролю, которого потребовал бы подлинный общий интеллект (PNAS Nexus, 2026).
Для операций переведите так: ИИ-агент — не младший сотрудник, который устаёт и халтурит пропорционально нагрузке. Это система, великолепно удерживающая одну цель, пока число конкурирующих ограничений не пересечёт черту, — и в этой точке удержание цели не деградирует, оно испаряется. Отказ — это не «результат хуже». Это модель, молча оптимизирующая под неверную, более лёгкую цель, выдавая при этом гладкий, уверенный текст, который выглядит в точности как успех.
Как «длинное и противоречивое» выглядит на вашем участке
Двадцать конфликтующих слов в лаборатории — абстракция. Ваши реальные рабочие процессы хуже.
Подумайте, что вы на самом деле поручаете агенту. Сверить счёт с договором, в котором три дополнения, пункт особых условий и исключение, присланное кем-то по почте на прошлой неделе. Маршрутизировать жалобу клиента по политике, которая говорит одно, постоянной инструкции менеджера, которая говорит другое, и акции, которая перекрывает обе до пятницы. Составить ответ по комплаенсу, который должен устроить регулятора, риск-позицию юридической команды и отношения аккаунт-менеджера, — три цели, не совпадающие полностью.
Каждая из них — задача Струпа с громкостью на максимуме. Длинный контекст, множество одновременных ограничений и сильный «очевидный» ответ, который оказывается неверным, стоит учесть исключения. Это ровно те условия, что, согласно исследованию, сталкивают исполнительный контроль за обрыв. И это же — именно те задачи, которые операции среднего бизнеса больше всего жаждут автоматизировать, потому что они нудные и требующие суждения, пожирающие часы команды.
Вот и ловушка. Задачи с наибольшей привлекательностью для автоматизации сильно пересекаются с задачами, наиболее склонными запускать тихий коллапс. Агент безупречно отработает демо на чистом счёте и почти полностью провалится на том, где три дополнения, — и провалится уверенно, что и есть опасная часть.
Бизнес-цена игнорирования обрыва
Это не теоретическая тревога, и рынок уже её закладывает. Gartner прогнозирует, что более 40% проектов агентного ИИ будут отменены к концу 2027 года, ссылаясь на растущие затраты, неясную бизнес-ценность и недостаточные средства контроля рисков (Gartner, 2025).
Находка Струпа говорит вам, почему столь многие провалятся. Команды пилотируют агента на отобранном, малоконфликтном срезе работы, видят точность в стиле 91% и масштабируют его в грязную, высококонфликтную производственную реальность — где тот же агент работает за своей точкой коллапса и молча выдаёт результат качества 1% на самых трудных случаях. Следующие за этим издержки не помечены как «отказ ИИ». Они всплывают как ошибки сверки, обнаруженные тремя шагами ниже по потоку, ответы по комплаенсу, требующие полной ручной переделки, и эрозия доверия, которая в итоге отправляет всю инициативу на полку. Проект гибнет не от драматического инцидента. Он гибнет от накопленных тихих отказов ровно на тех случаях, что должны были его оправдать.
Организации, удерживающие свои агентные проекты вне этих 40%, будут не теми, у кого лучшие модели. У всех доступ к одним и тем же передовым моделям. Это будут те, кто проектировал под обрыв, а не притворялся, что кривая — гладкий пандус.
Куда поставить шлюз
Инстинкт, когда агент недорабатывает, — потянуться за лучшими промптами. Это исследование говорит: промптинг — неверный рычаг. Промптом нельзя выйти из структурного отсутствия исполнительного контроля; можно лишь слегка сдвинуть обрыв. Долговечный рычаг архитектурен: человеческий контрольный шлюз в контуре (human-in-the-loop), поставленный до точки коллапса, а не после инцидента.
Конкретно это означает три шага на этот квартал.
1. Картируйте процессы по нагрузке конфликта, а не по типу задачи
Перестаньте сортировать задачи-кандидаты на «простые» и «сложные». Сортируйте по тому, сколько конкурирующих ограничений они несут и насколько длинен релевантный контекст. Высокообъёмная задача с одним ясным правилом — безопасная цель автоматизации. Задача меньшего объёма с тремя перекрывающимися политиками и стопкой исключений — там и живёт обрыв, сколь бы рутинной она ни казалась.
2. Ставьте шлюз до порога, эмпирически
Для любого агентного процесса с конфликтующими ограничениями или длинным контекстом вставьте обязательную точку человеческой проверки. Не гадайте, где ломается модель, — испытайте её так, как это сделало исследование. Подавайте агенту всё более грязные версии реальной задачи и следите за разрывом. Ставьте человеческую контрольную точку на ближней его стороне.
3. Оснащайтесь под тихий отказ, а не под громкие ошибки
Коллапс не объявляет о себе; вывод остаётся гладким. Поэтому нельзя полагаться на то, что агент сам пометит свои случаи низкой уверенности. Встройте выборку и точечный аудит в любой высококонфликтный процесс и относитесь к «демо сработало» как к началу валидации, а не её концу.
Ничто из этого не требует новой технологии. Оно требует относиться к надёжности агента как к свойству дизайна рабочего процесса, а не модели, — и принять, что у компетентности модели есть край, который можно найти, но нельзя обойти промптом.
Решение на этот квартал
Достаньте список процессов, которые ваша команда планирует передать ИИ-агенту в следующие два квартала. Рядом с каждым напишите две вещи: сколько конфликтующих правил или исключений он несёт и насколько длинен контекст, который агенту пришлось бы удерживать. Задачи с высокими баллами по обоим — не ваши быстрые победы. Это ваши случаи-обрывы, и исследование говорит: они пройдут пилот и провалят реальную работу.
Для них ход — не лучший агент. Это человек в контуре (human-in-the-loop), намеренно поставленный перед точкой коллапса. Те 40% агентных проектов, что идут к отмене, будут в основном теми, кто принял демо за гарантию. Агент, который проходит чистый случай и коллапсирует на грязном, — не инструмент, который вы внедрили. Это обязательство, которое вы ещё не обнаружили. Идите и найдите обрыв прежде, чем он найдёт вас.
