Với một chỉ dẫn ngắn, GPT-4o trả lời đúng 91% số lần. Với một phiên bản dài hơn của đúng cùng nhiệm vụ ấy, nó trả lời đúng 1% số lần. Không phải 70%. Không phải 40%. Một phần trăm — nhiễu thống kê (PNAS Nexus, 2026).
Sự sụp đổ đó là con số đơn lẻ quan trọng nhất mà một Head of Operations có thể mang theo vào một quyết định về AI tác nhân năm 2026, bởi nó lật đổ giả định mà mọi lần triển khai âm thầm dựa vào: rằng nếu một tác nhân AI xử lý tốt một nhiệm vụ trong bản demo, thì nó sẽ xử lý một phiên bản khó hơn một chút của cùng nhiệm vụ ấy chỉ kém đi một chút. Không phải vậy. Nó sẽ xử lý gần như hoàn hảo cho đến một ngưỡng, rồi thất bại gần như hoàn toàn. Câu hỏi cho vận hành không phải là có nên tin một tác nhân hay không. Mà là biết chính xác vách đá nằm ở đâu — và đặt một cổng kiểm soát của con người trong vòng lặp ngay trước nó.
Phát hiện: một vách đá, không phải một dốc thoải
Nghiên cứu đến từ Suketu Patel và Jin Fan tại CUNY, công bố trên PNAS Nexus và được đưa ra công khai vào tháng 6 năm 2026 (PsyPost, 2026). Phương pháp của họ tao nhã chính vì nó cổ điển. Họ áp dụng nhiệm vụ Stroop — bài kiểm tra tâm lý học nhận thức kinh điển trong đó bạn phải gọi tên màu mực của một từ trong khi bản thân từ đó lại đánh vần một màu khác — lên các mô hình ngôn ngữ tiên tiến, tăng tải bằng cách kéo dài danh sách các mục xung đột từ vài mục lên tới bốn mươi.
Kết quả thật gay gắt. GPT-4o trả lời đúng các phép thử không tương hợp 91% số lần trên danh sách ngắn năm mục. Đẩy danh sách lên hai mươi hoặc bốn mươi mục xung đột, độ chính xác của nó rơi xuống 1%. Claude 3.5 Sonnet trụ được lâu hơn — nhưng nó cũng rốt cuộc rơi, xuống khoảng 10% ở danh sách bốn mươi mục (PNAS Nexus, 2026).
Hãy đọc hình dạng của đường cong ấy, chứ không chỉ hai đầu mút. Hiệu năng không suy giảm một cách mượt mà khi nhiệm vụ trở nên khó hơn. Nó giữ ở mức gần như con người, rồi rơi khỏi một vách đá. Đây chính là phát hiện cần tổ chức lại cách vận hành nghĩ về độ tin cậy của tác nhân: vùng nguy hiểm vô hình từ bản demo. Một cuộc thử nghiệm sạch sẽ trên một ca đơn giản không nói cho bạn điều gì về nơi mô hình gãy, bởi sự gãy đổ là gián đoạn.
Vì sao đây là thất bại của kiểm soát điều hành — không phải của trí tuệ
Sẽ dễ dàng để xếp việc này vào mục "AI vẫn còn phạm lỗi" rồi bước tiếp. Cách đọc đó bỏ lỡ cơ chế, và cơ chế mới là toàn bộ điểm mấu chốt.
Nhiệm vụ Stroop không đo kiến thức hay sức mạnh suy luận. Nó đo kiểm soát điều hành — cụ thể là khả năng giữ một mục tiêu trong tâm trí ("gọi tên màu mực") và kìm nén một phản ứng cạnh tranh mạnh hơn, tự động ("đọc từ đó"). Trong khoa học thần kinh nhận thức của con người, sự chú ý phân rã thành các hệ thống riêng biệt, và kiểm soát điều hành là hệ thống chi phối việc duy trì mục tiêu dưới xung đột. Đó là một năng lực khác với việc chỉ nhận diện khuôn mẫu.
Đây là điều các mô hình đã tự phơi bày về chính mình. Kiến trúc Transformer phi thường ở phản ứng trội — câu trả lời nhanh, tự động, có xác suất thống kê cao, tương đương ở máy móc của việc đọc từ thay vì gọi tên màu. Cái chúng thiếu là sự kìm nén vững chắc khi ngữ cảnh dài ra hoặc chứa đầy tín hiệu xung đột. Các tác giả khung nó như một năng lực còn thiếu đối với kiểm soát điều hành mà một trí tuệ tổng quát thực thụ sẽ đòi hỏi (PNAS Nexus, 2026).
Với vận hành, hãy dịch thế này: một tác nhân AI không phải là một nhân viên cấp thấp mệt mỏi và cẩu thả theo tỷ lệ với khối lượng công việc. Nó là một hệ thống giữ một mục tiêu tuyệt vời cho đến khi số ràng buộc cạnh tranh vượt qua một lằn ranh, tại điểm đó việc duy trì mục tiêu không suy giảm — nó bốc hơi. Thất bại không phải là "đầu ra tệ hơn". Đó là mô hình âm thầm tối ưu hóa cho mục tiêu sai, dễ hơn, trong khi tạo ra văn bản trôi chảy, tự tin, trông y hệt như thành công.
"Dài và mâu thuẫn" trông ra sao trên hiện trường của bạn
Hai mươi từ xung đột trong phòng thí nghiệm là trừu tượng. Các quy trình làm việc thực tế của bạn còn tệ hơn.
Hãy nghĩ về điều bạn thực sự giao cho một tác nhân. Đối chiếu một hóa đơn với một hợp đồng có ba phụ lục sửa đổi, một điều khoản điều kiện đặc biệt, và một ngoại lệ ai đó gửi email tuần trước. Định tuyến một khiếu nại của khách hàng theo một chính sách nói một đằng, một chỉ thị thường trực của quản lý nói một nẻo, và một chương trình khuyến mãi ghi đè cả hai cho đến thứ Sáu. Soạn một phản hồi tuân thủ phải làm hài lòng cơ quan quản lý, lập trường rủi ro của đội pháp chế, và mối quan hệ của account manager — ba mục tiêu không hoàn toàn khớp nhau.
Mỗi việc trong số đó là một nhiệm vụ Stroop với âm lượng vặn hết cỡ. Ngữ cảnh dài, nhiều ràng buộc đồng thời, và một câu trả lời "hiển nhiên" mạnh mẽ hóa ra lại sai một khi tính đến các ngoại lệ. Đó chính xác là những điều kiện mà nghiên cứu cho thấy đẩy kiểm soát điều hành qua khỏi vách đá. Và đó cũng chính là những nhiệm vụ mà vận hành tầm trung khao khát tự động hóa nhất, bởi chúng là những việc buồn tẻ, nặng phán đoán, ngốn sạch giờ giấc của một đội.
Đó là cái bẫy. Những nhiệm vụ có sức hấp dẫn tự động hóa cao nhất trùng lặp rất nhiều với những nhiệm vụ dễ kích hoạt sự sụp đổ âm thầm nhất. Tác nhân sẽ trình diễn hoàn hảo trên hóa đơn sạch và thất bại gần như hoàn toàn trên hóa đơn có ba phụ lục sửa đổi — và nó sẽ thất bại một cách tự tin, đó mới là phần nguy hiểm.
Cái giá kinh doanh của việc phớt lờ vách đá
Đây không phải một mối lo lý thuyết, và thị trường đã đang định giá nó. Gartner dự báo rằng hơn 40% dự án AI tác nhân sẽ bị hủy vào cuối năm 2027, viện dẫn chi phí leo thang, giá trị kinh doanh không rõ ràng và kiểm soát rủi ro không đầy đủ (Gartner, 2025).
Phát hiện Stroop cho bạn biết vì sao nhiều dự án đến vậy sẽ thất bại. Các đội thử nghiệm một tác nhân trên một lát công việc được tuyển chọn, ít xung đột, thấy độ chính xác kiểu 91%, rồi mở rộng nó vào thực tế sản xuất lộn xộn, nhiều xung đột — nơi cùng tác nhân ấy vận hành vượt quá điểm sụp đổ của nó và âm thầm tạo ra đầu ra chất lượng 1% ở những ca khó nhất. Chi phí kéo theo không được dán nhãn "AI thất bại". Chúng hiện ra dưới dạng lỗi đối chiếu bị bắt ba bước phía hạ nguồn, các phản hồi tuân thủ cần làm lại hoàn toàn bằng tay, và sự xói mòn niềm tin cuối cùng đưa cả sáng kiến vào ngăn kéo. Dự án không chết vì một sự cố kịch tính. Nó chết vì những thất bại âm thầm tích tụ đúng trên những ca đáng lẽ phải chứng minh cho nó.
Các tổ chức giữ dự án tác nhân của mình nằm ngoài 40% đó sẽ không phải là những tổ chức có mô hình tốt nhất. Ai cũng tiếp cận cùng các mô hình tiên tiến như nhau. Đó sẽ là những tổ chức thiết kế cho vách đá thay vì giả vờ rằng đường cong là một dốc thoải mượt mà.
Đặt cổng ở đâu
Bản năng, khi một tác nhân kém hiệu quả, là với tay tới các prompt tốt hơn. Nghiên cứu này nói rằng prompt là đòn bẩy sai. Bạn không thể prompt để thoát khỏi một sự vắng mặt mang tính cấu trúc của kiểm soát điều hành; bạn chỉ có thể dịch vách đá đi một chút. Đòn bẩy bền vững mang tính kiến trúc: một cổng kiểm soát của con người trong vòng lặp (human-in-the-loop) đặt trước điểm sụp đổ, chứ không phải sau sự cố.
Cụ thể, điều đó có nghĩa là ba nước đi cho quý này.
1. Lập bản đồ quy trình theo tải xung đột, không theo loại nhiệm vụ
Ngừng phân loại các nhiệm vụ ứng viên thành "đơn giản" và "phức tạp". Hãy phân loại chúng theo số lượng ràng buộc cạnh tranh chúng mang và độ dài của ngữ cảnh liên quan. Một nhiệm vụ khối lượng lớn với một quy tắc rõ ràng là mục tiêu tự động hóa an toàn. Một nhiệm vụ khối lượng thấp hơn với ba chính sách chồng lấn và một chồng ngoại lệ là nơi vách đá cư ngụ — dù nó có vẻ thường nhật đến đâu.
2. Đặt cổng trước ngưỡng, một cách thực nghiệm
Với bất kỳ quy trình tác nhân nào có ràng buộc xung đột hoặc ngữ cảnh dài, hãy chèn một điểm rà soát bắt buộc của con người. Đừng đoán nơi mô hình gãy — hãy kiểm thử nó theo cách nghiên cứu đã làm. Cho tác nhân ăn những phiên bản ngày càng lộn xộn của một nhiệm vụ thực và quan sát điểm gián đoạn. Đặt điểm kiểm tra của con người ở phía gần của nó.
3. Trang bị để bắt thất bại âm thầm, không phải lỗi ồn ào
Sự sụp đổ không tự thông báo; đầu ra vẫn trôi chảy. Vậy nên bạn không thể dựa vào tác nhân để tự đánh dấu các ca độ tin cậy thấp của chính nó. Hãy tích hợp lấy mẫu và kiểm tra ngẫu nhiên vào bất kỳ quy trình xung đột cao nào, và coi "bản demo đã chạy được" là khởi đầu của việc kiểm định, không phải điểm kết thúc.
Không điều nào trong số này đòi hỏi công nghệ mới. Nó đòi hỏi coi độ tin cậy của tác nhân là một thuộc tính của thiết kế quy trình, không phải của mô hình — và chấp nhận rằng năng lực của mô hình có một mép biên mà bạn có thể tìm ra nhưng không thể prompt để vượt qua.
Quyết định cho quý này
Hãy rút ra danh sách các quy trình mà đội của bạn dự định giao cho một tác nhân AI trong hai quý tới. Bên cạnh mỗi quy trình, hãy viết hai điều: nó mang bao nhiêu quy tắc hoặc ngoại lệ xung đột, và ngữ cảnh mà một tác nhân phải giữ dài đến đâu. Những nhiệm vụ đạt điểm cao ở cả hai không phải là những chiến thắng nhanh của bạn. Chúng là những ca-vách-đá của bạn — và nghiên cứu nói rằng chúng sẽ vượt qua thử nghiệm và thất bại ở công việc thực.
Với những ca đó, nước đi không phải là một tác nhân tốt hơn. Đó là một con người trong vòng lặp (human-in-the-loop) được đặt một cách chủ đích trước điểm sụp đổ. 40% dự án tác nhân đang trên đường bị hủy phần lớn sẽ là những dự án nhầm một bản demo với một sự bảo đảm. Một tác nhân vượt qua ca sạch và sụp đổ ở ca lộn xộn không phải là một công cụ bạn đã triển khai. Nó là một khoản nợ bạn chưa phát hiện ra. Hãy đi tìm vách đá trước khi nó tìm ra bạn.
