Các kỹ sư của bạn đã chọn agent lập trình của họ. Nhưng không ai chọn những thiết lập mà các agent đó chạy trên đó — và chính những thiết lập ấy quyết định mô hình nào trả lời, bao nhiêu phần cuộc hội thoại được gửi lại ở giá đầy đủ, và bao nhiêu sub-agent được khởi chạy sau một lần nhấn phím. Một bản tiền in của Accenture Responsible AI đã định giá lại khoảng 10.000 phiên agent thực tế lấy từ các tập dữ liệu công khai và phát hiện rằng việc chuyển công việc sang mô hình đủ năng lực rẻ nhất, mà không làm xáo trộn bất kỳ cuộc hội thoại đang diễn ra, thu lại 13 đến 21% chi phí mô hình cho công việc agentic (Kwartler, Aqrawi và Abbasi, 2026).
Con số có thể chuyển giao không phải là tỷ lệ phần trăm. Đó là mẫu số nằm bên dưới nó: 41 đô la cho mỗi kỹ sư mỗi ngày hoạt động.
Sản phẩm chạy những agent lập trình của bạn là một quyết định mua sắm mà không ai từng đưa ra
Thuật ngữ bài báo dùng cho sản phẩm chạy một agent là harness — Claude Code, Codex, và mười chín sản phẩm khác mà các tác giả lập bản đồ trong một ma trận ghép nối được xây từ các tệp giấy phép và tài liệu cấu hình. Gần như không doanh nghiệp nào tự xây một cái. Họ dùng thứ mà nhà cung cấp mô hình kèm theo giấy phép, với các thiết lập mặc định của nó.
Đó là nơi tiền được quyết định. Một harness chọn mô hình nào trả lời một lượt nhất định, mô hình đó đọc bao nhiêu ngữ cảnh, cache của prompt được dùng ra sao, và những sub-agent nào chạy. Theo cách diễn đạt của các tác giả, nó vì thế chọn đơn giá trên bảng giá và ấn định khối lượng mua ở đơn giá đó. Cả hai nửa của hóa đơn, do một tệp cấu hình không ai từng rà soát quyết định.
Hãy so sánh điều đó với cách cùng tổ chức ấy đối xử với một khoản mục phần mềm 30.000 euro: đánh giá nhà cung cấp, bảng câu hỏi an toàn, một người chịu trách nhiệm có tên. Harness của agent thì đến qua ngân sách công cụ dành cho lập trình viên và giờ đây đang điều khiển một con số lớn hơn một bậc độ lớn, mà không có ai chịu trách nhiệm.
Việc định giá lại đã tìm ra điều gì
Các tác giả xây một bộ định tuyến, đặt nó giữa harness và điểm cuối của mô hình, rồi mô phỏng một doanh nghiệp 10.000 chỗ ngồi bằng hành vi được đo trong các phiên thực tế — bao gồm các lần sửa, các khoảng tạm dừng và các lần khởi chạy sub-agent.
| Chỉ số | Kết quả |
|---|---|
| Chi phí mô hình hằng năm ở trạng thái hiện tại, 10.000 chỗ | 24,4 triệu USD, tức 41 USD mỗi kỹ sư mỗi ngày hoạt động |
| Thu lại nhờ định tuyến bảo toàn cache | 13 đến 21%, tương đương 3,3 đến 5,1 triệu USD mỗi năm |
| Phiên thực tế dài rẻ hơn trên mô hình bậc cao nhất so với bậc kế dưới | 51 đến 80% |
| Phần tiết kiệm tổng đến từ riêng điểm giao nhau đó | khoảng ba phần tư |
Hãy đọc khoảng này cho kỹ, vì nó không phải khoảng tin cậy. 3,3 triệu USD là những gì bộ phân loại đang chạy thực tế của các tác giả mang lại; 5,1 triệu USD là những gì một bộ phân loại hoàn hảo sẽ mang lại. Khoảng cách giữa hai con số đó là chất lượng các quyết định định tuyến của bạn, không phải nhiễu thống kê.
Một dòng trong kết quả của họ làm cơ chế trở nên cụ thể: một thay đổi một dòng bên trong một phiên lập trình dài giảm từ 0,90 USD xuống 0,36 USD. Không phải vì mô hình rẻ đi, mà vì yêu cầu đó thôi kéo theo cả một cuộc hội thoại phía sau nó.
Một phần ba hóa đơn là làm lại, không phải làm
Phát hiện có khả năng sống sót nhất khi định giá lại ở công ty của chính bạn thì chẳng liên quan gì đến định tuyến.
Trong mô phỏng, các lần sửa — những lượt mà ai đó nói với agent rằng nó sai và nó thử lại — chiếm hơn một phần ba hóa đơn ở trạng thái hiện tại. Bỏ chúng ra và chi phí hằng tháng giảm từ 2,03 triệu USD xuống 1,31 triệu USD. Các lần sửa cũng là lý do đơn lẻ phổ biến nhất khiến người ta ngắt một agent lập trình: 32% các lần ngắt trong mẫu của nhà cung cấp mà các tác giả dẫn lại.
Đây là cùng một hình dạng với phát hiện về chi phí agent mà QuantumBlack thuộc McKinsey công bố đầu năm nay: với một agent dịch vụ khách hàng trong ngành ngân hàng, chi phí token chiếm 20 đến 25% chi phí vận hành biến đổi của một agent, còn giám sát của con người chiếm 70 đến 75% (McKinsey QuantumBlack, 2026). Khối lượng công việc khác, phương pháp khác, cùng một kết luận: phần tốn kém của một agent là phần mà một con người phải rà lại đầu ra của nó.
Có một tín hiệu chất lượng chỉ về cùng hướng ấy. Phân tích của GitClear trên 623 triệu thay đổi mã giữa 2023 và 2026 cho thấy trùng lặp khối tăng 81%, sao chép dán trong cùng một commit tăng 41%, các cấu trúc che lấp lỗi tăng 47%, và việc di chuyển dòng do refactoring giảm 70% (GitClear, 2026). Thuật ngữ họ đặt ra cho kết quả này đáng được vay dùng: các thành phần V1 vĩnh viễn — mã được phát hành và không bao giờ được hợp nhất, vì chẳng ai refactor thứ mà một agent có thể tạo lại.
Việc làm lại thì bạn trả tiền hai lần: một lần trên hóa đơn, một lần trong codebase.
Giá mỗi token không phải chi phí mỗi tác vụ
Kết quả về điểm giao nhau là kết quả phản trực giác, và là kết quả phá vỡ bản năng của mọi người phụ trách vận hành có ý thức về chi phí.
Trong các phiên dài, nặng về gọi công cụ, mô hình đắt nhất lại tốn ít hơn trên mỗi phiên so với bậc kế dưới — ở 51 đến 80% các phiên thực tế có chi phí từ 100 USD trở lên. Cơ chế là cache: một mô hình bậc cao đọc ngữ cảnh đã cache ở một nửa đơn giá của bậc dưới sẽ thắng ở bất kỳ phiên nào đọc lại lịch sử của mình đủ nhiều lần, và công việc agentic thì đọc lại liên tục. Bài báo nói thẳng về sự phụ thuộc này: bỏ mô hình bậc cao nhất ra và toàn bộ phần tiết kiệm sụp từ 13% xuống 3,1%, vì điểm giao nhau cần nó.
Vậy nên "chúng tôi đã chuyển tất cả sang mô hình rẻ" không phải một chương trình chi phí. Đó là một vụ cá cược rằng các phiên của bạn đều ngắn.
Cache chính là chiếc đồng hồ đo bị ẩn
Ba chi tiết cấu hình trong bài báo có giá trị hơn con số phần trăm ở tiêu đề, với một công ty 200 người.
Thứ nhất, thời gian sống của cache. Cache của một agent lập trình tồn tại một giờ trên thuê bao tiêu dùng, nhưng chỉ năm phút với khóa API và các nhà cung cấp cloud — mà đó đúng là cách một gateway doanh nghiệp kết nối. Anthropic tài liệu hóa cả hai lựa chọn và định giá cache một giờ ở mức gấp đôi token đầu vào cơ bản khi ghi (Anthropic, 2026). Trong hai tập dữ liệu công khai về phiên thực tế, 17 đến 27% lượt của người dùng đến sau một khoảng tạm dừng dài hơn năm phút. Mỗi lượt như vậy đều xây lại cache từ trạng thái nguội ở giá đầy đủ. TTL dài hơn không miễn phí, nhưng gần như chắc chắn rẻ hơn những gì thiết lập mặc định đang làm với bạn.
Thứ hai, bản thân gateway. Nếu proxy giữa harness và mô hình loại bỏ các dấu cache hoặc các header beta, nhà cung cấp sẽ tính phí toàn bộ cuộc hội thoại như đầu vào không được cache ở từng lượt một. Đó là một tổn thất cache âm thầm và trọn vẹn, gây ra bởi một thành phần hạ tầng mạng đang hoạt động hoàn toàn đúng.
Thứ ba, mặc định ngữ cảnh theo vai trò. Mười nghìn lần quay lại nguội với một lịch sử 300.000 token tốn 18.750 USD chỉ để gửi lại nó; tỉa nó về 30.000 token trước thì tốn 1.875 USD. Một kỹ sư đang giữa tác vụ có thể thực sự cần toàn bộ lịch sử. Một người làm marketing đang sửa bản nháp thì không cần phần lập luận đằng sau bản trước. Một ngưỡng duy nhất cho tất cả mọi người là một quyết định định giá khoác áo thiết lập mặc định.
Phản biện trung thực
Bốn giới hạn, nói thẳng.
Đây là bản tiền in, và phiên bản có ý nghĩa. arXiv 2609.28919 được đăng ngày 24 tháng 9 năm 2026 và chỉnh sửa ngày 26 tháng 9. Bản chỉnh sửa đã đổi con số tiêu đề từ 14-21% thành 13-21%, phần tiết kiệm từ 5,0 lên 5,1 triệu USD, và thay tên bài báo. Nó chưa hoàn tất phản biện đồng nghiệp. Nếu bạn từng thấy các con số trước đó được dẫn ở nơi khác, đó là số của phiên bản một.
Đây là một mô phỏng, không phải hóa đơn đã kiểm toán. Các tác giả mô hình hóa một doanh nghiệp 10.000 chỗ bằng hành vi rút ra từ các tập phiên công khai, không phải hóa đơn của một công ty cụ thể. Họ thẳng thắn rằng các tình huống của họ thiếu đại diện cho những lượt ngắn nhất — một phần tư các yêu cầu thực tế nằm trong các phiên dưới bảy yêu cầu, so với 3,8% của họ — và rằng các phiên có hình dạng giống một trong các tập tham chiếu của họ sẽ hạ mức 13% xuống còn khoảng 9%.
Phép tính bị gắn vào một bảng giá duy nhất. Mọi thứ dựa trên giá niêm yết của Anthropic ngày 21 tháng 9 năm 2026. Dưới một chế độ đọc cache đồng nhất, điểm giao nhau biến mất và phần tiết kiệm rơi xuống 6%. Các nhà cung cấp đổi giá với thời gian báo trước rất ngắn. Thứ chuyển giao được là phương pháp, không phải con số.
Bản thân việc định tuyến cũng không hoàn hảo. Bộ phân loại chỉ đúng về độ phức tạp 63% số lần, và 12,5% các lượt nó chuyển là hạ bậc sai, bị đưa xuống dưới bậc mà công việc yêu cầu. Nới ngưỡng của nó từ 0,8 xuống 0,5 chuyển thêm 46% số lượt và làm giảm phần tiết kiệm xuống 10%, vì các chuỗi sửa lỗi tốn hơn phần mà việc chuyển tiết kiệm được. Định tuyến hung hãn chính là cách bạn mua thêm việc làm lại.
Và lời cảnh báo rộng nhất: nếu chi phí token thực sự chỉ là một phần tư chi phí vận hành biến đổi của một agent, thì thu lại 13 đến 21% của khoản token tương đương thu lại khoảng 3 đến 5% những gì agent thực sự khiến bạn tốn. Đáng lấy. Nhưng không phải một chiến lược.
Cần thay đổi gì trong quý này
Bốn động thái. Không động thái nào là một lần mua, và chỉ một là mang tính kỹ thuật.
- Rút con số mỗi kỹ sư mỗi ngày hoạt động ra từ hóa đơn của chính bạn. Toàn bộ bài tập là ở đó. Ở mức 41 USD của mô phỏng, ba mươi kỹ sư trong khoảng 220 ngày hoạt động là gần 271.000 USD mỗi năm; ở mức trung bình khoảng 13 USD mà nhà cung cấp báo cáo, là gần 86.000 USD — đây là phép tính của tôi trên đơn vị của họ, không phải phát hiện của họ, và chính độ rộng đó là lý do để đo thay vì phỏng đoán.
- Hãy giao cho cấu hình harness một người chịu trách nhiệm có tên, ở cùng cấp với bất kỳ khoản chi nào cùng quy mô. Hiện tại, các thiết lập mặc định thuộc về bất kỳ ai đã phát hành chúng.
- Kiểm tra ba thiết lập trước khi nghĩ đến định tuyến: TTL của cache, gateway của bạn có chuyển tiếp các dấu cache nguyên vẹn hay không, và các giới hạn ngữ cảnh có khác nhau theo vai trò hay không. Chính thứ tự khuyến nghị của bài báo đặt những điểm này trước mọi bộ định tuyến, vì một bộ định tuyến nằm sau một gateway làm mất cache thì không tiết kiệm được gì.
- Đổi thước đo từ chi phí mỗi token hay mỗi chỗ ngồi sang chi phí mỗi tác vụ đã được xác minh — đơn vị bao gồm cả chuỗi sửa lỗi. Đó là khuyến nghị kết luận của các tác giả và là con số duy nhất dịch chuyển khi công việc thực sự tốt hơn thay vì chỉ rẻ hơn.
Điểm cuối ấy khó hơn vẻ ngoài của nó, vì nó đòi hỏi chi phí của một phần việc do agent làm và bản ghi về việc một con người đã chấp nhận nó phải nằm cùng một chỗ. Đáng để xem Scovai cấu trúc điều đó thế nào trên bề mặt Digital Employees của họ: ba nguồn chi phí được giữ tách biệt một cách có chủ ý — những gì bạn trả trên hóa đơn, những gì các bộ đếm của chính nền tảng đo được, và những gì nhà cung cấp khai báo — với các mức trần hằng tháng và theo từng giao dịch gắn vào chỗ ngồi chứ không gắn vào công cụ, cùng một quy tắc đã nêu rằng ở đâu một con số không tồn tại thì bề mặt sẽ nói vậy thay vì in ra số không.
Kết luận không dễ chịu của bài báo này là: khoản chi phí công nghệ biến đổi lớn nhất mà phần lớn các công ty sẽ thêm vào trong thập kỷ này hiện đang được ấn định bởi một tệp cấu hình đi kèm một công cụ dành cho lập trình viên. Không phải bởi một cuộc đàm phán với nhà cung cấp, không phải bởi một ngân sách, không phải bởi quyết định của bất kỳ ai.
Vậy nên hãy tìm ra, trước khi quý này đóng lại, các agent lập trình của bạn thực sự tốn bao nhiêu mỗi kỹ sư mỗi ngày hoạt động — và ai, gọi tên cụ thể, được phép thay đổi những thiết lập quyết định điều đó. Nếu câu trả lời cho câu hỏi thứ hai là không ai, bạn đã xác định được vấn đề, và nó chưa bao giờ là giá mỗi token.
