Scovai Scovai
AI & Operations 2026-10-19 1 min read

AI गवर्नेंस में भरोसा बढ़ गया। अपने एजेंट्स के भीतर नियंत्रण बनाने वाली कंपनियों का अनुपात गिर गया।

DSL

Dr. Sarah Liu

AI गवर्नेंस में भरोसा बढ़ गया। अपने एजेंट्स के भीतर नियंत्रण बनाने वाली कंपनियों का अनुपात गिर गया।

एक ही तिमाही में, बड़े पैमाने पर AI जोखिम संभालने के लिए आवश्यक क्षमताएँ और गवर्नेंस होने का दावा करने वाले अमेरिकी कारोबारी नेताओं का अनुपात 57% से बढ़कर 73% हो गया (KPMG, 2026)। लगभग इसी अवधि में, निगरानी और मूल्यांकन प्रक्रियाओं के साथ-साथ अपने एजेंट्स के भीतर नियंत्रण बनाने वाले संगठनों का अनुपात दो तिमाही पहले के 43% से गिरकर 30% रह गया। KPMG इसका कारण एक ही वाक्यांश में बताती है: कई संगठन "पहले से मौजूद गार्डरेल्स पर भरोसा कर रहे हैं।"

वही सर्वेक्षण। वही कंपनियाँ। भरोसा तब बढ़ा जब एजेंट के सबसे नज़दीक खड़े नियंत्रण हटाए जा रहे थे।

तीसरा आँकड़ा वही है जिसे इस तिमाही किसी निर्णय को बदलना चाहिए। सक्रिय रूप से मल्टी-एजेंट सिस्टम विकसित या तैनात कर रहे संगठन 25% तक पहुँच गए, जबकि पिछली दोनों तिमाहियों में यह 6% था। जटिलता ठीक उसी क्षण बढ़ रही है जब अंतर्निहित नियंत्रण पतला हो रहा है — और AI एजेंट गवर्नेंस से अपेक्षा की जा रही है कि वह ऐसे ढाँचे पर चले जो किसी और समस्या के लिए बनाया गया था।

KPMG ने वास्तव में क्या मापा

सर्वेक्षण 24 जुलाई से 25 अगस्त 2026 के बीच हुआ और इसमें 1 अरब डॉलर या उससे अधिक वार्षिक राजस्व वाले संगठनों के 314 अमेरिकी शीर्ष अधिकारी और कारोबारी प्रमुख शामिल थे; इनमें से एक-तिहाई से अधिक 10 अरब डॉलर से ऊपर थे (KPMG, 2026)। यह नमूना मायने रखता है, और मैं इस पर लौटूँगी।

दो रुझान विपरीत दिशाओं में चल रहे हैं:

संकेतकQ3 2026पिछला पाठ
बड़े पैमाने पर AI जोखिम संभालने की क्षमताओं और गवर्नेंस में भरोसा73%57% (पिछली तिमाही)
अपने एजेंट्स में नियंत्रण बनाना, निगरानी और मूल्यांकन के साथ30%43% (दो तिमाही पहले)
मल्टी-एजेंट सिस्टम का सक्रिय विकास या तैनाती25%6% (पिछली दोनों तिमाहियों में)
AI एजेंट बनाना, तैनात करना या विकसित करना62%53% (पिछली तिमाही)
परिभाषित उच्च-जोखिम उपयोग, जहाँ एजेंट के स्वायत्त निर्णय की अनुमति नहीं49%28% (Q3 2025)
लागू किए गए उपयोग या टोकन बजट43%—

वित्तीय अनुशासन वास्तव में सुधर रहा है: 74% अब AI अनुमोदन प्रक्रियाओं में लागत समीक्षा शामिल करते हैं, जो पिछली तिमाही में 61% था, और 70% AI निगरानी डैशबोर्ड का उपयोग करते हैं। यह लापरवाह संगठनों की कहानी नहीं है। यह उस गवर्नेंस की कहानी है जो एक आयाम में परिपक्व हो रही है — खर्च, पारदर्शिता, अनुमोदन प्रक्रिया — जबकि दूसरा आयाम चुपचाप ढीला पड़ रहा है।

AI एजेंट गवर्नेंस में भरोसा नियंत्रण से आगे क्यों निकल गया

"पहले से मौजूद गार्डरेल्स" वाक्यांश बहुत भार उठा रहा है, इसलिए यह पूछना उचित है कि वे गार्डरेल्स हैं क्या।

KPMG स्वयं सूचीबद्ध करती है कि संगठन अपनी नियंत्रण परत में क्या शामिल करते हैं: डेटा एक्सेस नियंत्रण (59%), सुरक्षा और पहचान नियंत्रण (53%), AI आउटपुट की निगरानी (47%), नीति और गार्डरेल प्रवर्तन (42%), और मॉडल एक्सेस प्रबंधन (40%) (KPMG, 2026)।

इस सूची को एक संचालन-प्रमुख की दृष्टि से दोबारा पढ़िए। हर मद एक्सेस को नियंत्रित करती है: कोई मॉडल किन सिस्टम तक पहुँच सकता है, वह कौन-सी पहचान रखता है, कौन-सा मॉडल बुलाया जा सकता है, और क्या आउटपुट बाद में स्वीकार्य दिखते हैं। इनमें से कोई भी उस प्रश्न का उत्तर नहीं देता जो एक एजेंट खड़ा करता है: क्या यह एजेंट बाहर दिखने वाली यह विशिष्ट कार्रवाई कर सकता है, किसके नाम पर, किस बजट के भीतर, और इसे बीच में कौन रद्द कर सकता है?

परिधि नियंत्रण आवश्यक हैं और वे एजेंट के साथ यात्रा नहीं करते। एक एजेंट जिसने वैध रूप से प्रमाणीकरण किया है, केवल अनुमोदित सिस्टम तक पहुँचता है और अनुमोदित मॉडल बुलाता है, फिर भी किसी ग्राहक को गलत ईमेल भेज सकता है, नीति के बाहर रिफंड जारी कर सकता है, या कंपनी को किसी आपूर्तिकर्ता के प्रति बाध्य कर सकता है। इनमें से कोई भी एक्सेस उल्लंघन नहीं है। हर एक कार्रवाई-अधिकार का प्रश्न है, और कार्रवाई-अधिकार ठीक वही है जो वे 30% बना रहे थे और जिसे 13 प्रतिशत अंकों के बराबर कंपनियों ने बनाना बंद कर दिया।

जहाँ तैनाती सबसे तेज़ है, वहीं अंतर सबसे चौड़ा है

एक अकेला एजेंट जो सुपरिभाषित उपकरण बुलाता है, परिधि नियंत्रण के तहत संभालने योग्य मामला है। मल्टी-एजेंट सिस्टम — जहाँ एक एजेंट का आउटपुट दूसरे का निर्देश बन जाता है — नहीं है, क्योंकि दोनों के बीच कोई परिधि होती ही नहीं। यह विन्यास दो तिमाहियों में 6% से 25% हो गया। नियंत्रण मॉडल ठीक तब पतला हो रहा था जब वह जिस वास्तुकला को संभालता है, उसे समझना कठिन होता जा रहा था।

लागत वाली वह व्याख्या जिसे कोई कहता नहीं

एजेंट्स में अंतर्निहित नियंत्रण काटे जाने की एक अनाकर्षक वजह है, और वह आत्मसंतोष नहीं है।

McKinsey की QuantumBlack टीम ने उत्पादन में चल रहे एजेंट की परिवर्तनीय परिचालन लागत आँकी और पाया कि बैंकिंग ग्राहक-सेवा कार्य में टोकन लागत अक्सर परिवर्तनीय परिचालन लागत का केवल 20 से 25 प्रतिशत होती है, जबकि मानव पर्यवेक्षण 70 से 75 प्रतिशत का हिस्सा रखता है (McKinsey QuantumBlack, 2026)। ग्राहक ऑनबोर्डिंग में वे अपेक्षा करते हैं कि 10 से 20 प्रतिशत एजेंटिक रन की समीक्षा जोखिम और कार्यक्षेत्र विशेषज्ञ करें।

पर्यवेक्षण किसी एजेंट के बिज़नेस केस में गोलमाल आँकड़ा नहीं है। वह स्वयं बिज़नेस केस है। इसका अर्थ है कि हर वह नियंत्रण जो किसी कार्रवाई के रास्ते में इंसान खड़ा करता है, एक दृश्यमान, आवर्ती और मापने योग्य मार्जिन लागत है — और जिस क्षण कोई डैशबोर्ड कहता है कि सब ठीक है, कटौती के समय वही पंक्ति सबसे आसानी से बचाव योग्य बन जाती है।

KPMG की दो वक्र रेखाओं के पीछे यही तंत्र है। बढ़ते भरोसे ने नियंत्रण गिराए नहीं। बढ़ते भरोसे ने एक महँगे नियंत्रण को बनाए रखने का तर्क हटा दिया, जो अब तक ज़ोर से विफल नहीं हुआ था।

डिज़ाइन-से-नियंत्रण का प्रतिसाक्ष्य

यदि एजेंट्स में अंतर्निहित नियंत्रण पतला करना महज़ तर्कसंगत दक्षता होती, तो ऐसा करने वाली कंपनियों का प्रदर्शन बेहतर होना चाहिए था। उपलब्ध साक्ष्य उल्टी दिशा में इशारा करते हैं।

IBM के Institute for Business Value ने 2,000 C-स्तरीय प्रौद्योगिकी अधिकारियों का सर्वेक्षण किया और उन संगठनों की तुलना की जो नियंत्रण को सीधे AI सिस्टम में अंतर्निहित करते हैं, उनसे जो मैनुअल गवर्नेंस पर निर्भर हैं। डिज़ाइन-से-नियंत्रण समूह ने 25% कम घटनाएँ, 16 गुना अधिक तैनात AI एजेंट, 18% अधिक परिचालन मार्जिन और AI बजट की 4 गुना कम खपत दर्ज की (IBM Institute for Business Value, 2026)।

अंतर्निहित नियंत्रण तैनाती का ब्रेक नहीं था। वही वह चीज़ थी जिसने तैनाती को इतना टिकाऊ बनाया कि उसे बढ़ाया जा सके: वास्तव में चल रहे एजेंट्स में 16 गुना का अंतर।

वही अध्ययन भरोसे के आँकड़े को असहज रोशनी में रखता है: इन प्रौद्योगिकी अधिकारियों में से 77% ने कहा कि AI अपनाना पहले ही उनकी गवर्नेंस क्षमताओं से आगे निकल चुका है, दो-तिहाई ने बताया कि उन्हें ऐसे AI सिस्टम के लिए जवाबदेह ठहराया जाता है जिन्हें वे पूरी तरह नियंत्रित नहीं करते, और नमूने के औसत संगठन ने एक वर्ष में 54 एजेंट घटनाएँ दर्ज कीं, जिनमें से 17% को नियंत्रित करने में चार घंटे से अधिक लगे। KPMG के उत्तरदाता मुख्यतः शीर्ष अधिकारी और कारोबारी प्रमुख हैं। IBM के उत्तरदाता वे CIO और CTO हैं जिन्हें घटना के समय बुलाया जाएगा। 73% और 77% अनिवार्य रूप से विरोधाभासी नहीं हैं; संभव है वे केवल घटना से अलग-अलग दूरी पर भरोसा माप रहे हों।

ईमानदार प्रतिवाद

तीन सीमाएँ, स्पष्ट रूप से।

यह 1 अरब डॉलर और उससे ऊपर के राजस्व वाला नमूना है, और यह स्पष्ट पाठ के विरुद्ध जाता है। इनमें से एक-तिहाई से अधिक कंपनियों का राजस्व 10 अरब डॉलर से ऊपर है। 200 कर्मचारियों वाली कंपनी के पास वह पहचान प्रबंधन, एक्सेस उपकरण और सुरक्षा समीक्षा नहीं होती जिस पर ये नेता लौट रहे हैं। इसलिए निष्कर्ष यह नहीं है कि "बड़ी कंपनियाँ ढीली पड़ रही हैं, हम ठीक हैं।" निष्कर्ष कठिन संस्करण में आता है: जिन पहले से मौजूद गार्डरेल्स पर यहाँ भरोसा किया जा रहा है, वे मध्य-बाज़ार में अधिकांशतः अनुपस्थित हैं — जिससे एजेंट में अंतर्निहित नियंत्रण कम वैकल्पिक हो जाता है, अधिक नहीं।

भरोसा स्व-घोषित है; नियंत्रण का आँकड़ा भी। किसी ने इन संगठनों का ऑडिट नहीं किया। एक तिमाही में 57% से 73% तक जाना किसी धारणा के लिए बड़ी छलांग है, और धारणाएँ क्षमताओं से तेज़ी से बदल सकती हैं। 73% को परिपक्वता आकलन नहीं, भावना-पाठ के रूप में पढ़िए।

अधिक पर्यवेक्षण एकरेखीय रूप से बेहतर नहीं है, और इस लेख को इसका विपरीत दिखाने का नाटक नहीं करना चाहिए। Gans और Holden ऐसे एजेंट्स के पर्यवेक्षण का मॉडल बनाते हैं जो अपनी कार्रवाइयाँ छिपा सकते हैं, और दिखाते हैं कि कड़ा ऑडिट कदाचार को रोकता है पर उन एजेंट्स में छिपाव बढ़ा देता है जो फिर भी उल्लंघन करते रहते हैं — इसलिए पकड़ने की दर, यानी उल्लंघन करने वाले एजेंट को पकड़ पाने की संभावना, ऑडिट बढ़ने के साथ गिर सकती है (Gans & Holden, NBER, 2026)। उनकी निवारण शर्तें विशिष्ट हैं: उल्लंघन का साक्ष्य छिपाव के बाद भी बचा रहना चाहिए, एजेंट कार्रवाई से पहले ऑडिट की चयन-प्रक्रिया जान न सके, और दंड कार्य के पुरस्कार की हानि पर रुकने के बजाय बढ़ाए जा सकें। निहितार्थ "और समीक्षाएँ जोड़िए" नहीं है। निहितार्थ यह है कि नियंत्रण का डिज़ाइन नियंत्रण की मात्रा से बड़ा है, और ऐसे ऑडिट रिकॉर्ड जिन्हें जाँचा जा रहा पक्ष बदल न सके, समीक्षा की आवृत्ति से अधिक काम करते हैं।

अगला एजेंट चालू होने से पहले क्या स्थापित करें

चार कदम। किसी के लिए प्लेटफ़ॉर्म कार्यक्रम आवश्यक नहीं, और KPMG के अपने आँकड़े दिखाते हैं कि हर कदम पहले ही सामान्य प्रचलन है, कोई अग्रणी माँग नहीं।

  1. पहले "कभी स्वायत्त नहीं" सूची लिखिए। इन संगठनों में से 49% ने ऐसे उच्च-जोखिम उपयोग परिभाषित किए हैं जहाँ एजेंट्स को स्वायत्त निर्णय की अनुमति नहीं है, जो एक वर्ष पहले 28% था। यह एक दस्तावेज़ है, खरीद नहीं। उन कार्रवाई-श्रेणियों के नाम लिखिए जिनमें हमेशा मानव निर्णय आवश्यक है, इससे पहले कि उनके विरुद्ध कुछ भी तैनात हो।
  2. हर एजेंट पर एक सीमा रखिए। 43% पहले से उपयोग या टोकन बजट चला रहे हैं। प्रति-लेनदेन और मासिक सीमा तय कीजिए, ताकि किसी गड़बड़ी की लागत खुली नहीं बल्कि बँधी हो, और वित्त के साथ बातचीत किसी आश्चर्य के बजाय एक सीमा पर हो।
  3. हर एजेंट के साथ नाम सहित एक व्यक्ति जोड़िए, कार्यक्रम के साथ नहीं। "AI समिति पर्यवेक्षण की ज़िम्मेदार है" कोई ज़िम्मेदार नहीं है। वह विशिष्ट व्यक्ति ज़िम्मेदार है जो उन कार्रवाई-श्रेणियों को अनुमोदित करता है जिन्हें आपने स्वचालित नहीं किया, और जो टिकट खोले बिना स्वायत्तता वापस ले सकता है।
  4. ऑडिट रिकॉर्ड को एजेंट के लिए अलिखनीय बनाइए। छिपाव वाले निष्कर्ष का संचालनगत पाठ यही है: कार्रवाई, अनुमोदक और निरस्तीकरण को उसी क्षण दर्ज कीजिए जब वे घटित हों, ऐसी जगह जिसे एजेंट बदल न सके। समीक्षा की आवृत्ति बाद में समायोजित हो सकती है; साक्ष्य की अखंडता बाद में नहीं जोड़ी जा सकती।

ये चारों EU AI Act के मानव-पर्यवेक्षण दायित्वों के सामने सबसे अधिक बचाव योग्य डिज़ाइन भी हैं — यह उपयोगी दुष्प्रभाव है, ऐसा करने का कारण नहीं। यदि आप यह समझने के लिए कार्यशील संदर्भ चाहते हैं कि प्रति-कार्रवाई अनुमोदन और अर्जित स्वायत्तता कैसे संरचित होती है — अनुमोदन अनुरोध जिन पर नाम होता है, स्वायत्तता जो एजेंट के बजाय कार्रवाई के प्रकार के अनुसार दी जाती है, अनुत्तरित अनुरोध जो चुपचाप पारित होने के बजाय समाप्त हो जाता है, और हर एजेंट के ऊपर अनिवार्य मानव पर्यवेक्षक — तो Scovai अपना Digital Employee गवर्नेंस मॉडल सार्वजनिक रूप से प्रलेखित करती है।

गहरी बात यह है कि एक भरोसे का आँकड़ा AI एजेंट गवर्नेंस के बारे में आपको क्या बता सकता है और क्या नहीं। 73% गलत नहीं है; उन कंपनियों ने खर्च, एक्सेस और पारदर्शिता के इर्द-गिर्द वास्तविक गवर्नेंस बनाई। जिन नियंत्रणों को उन्होंने छोड़ा, वे वही हैं जो एक एजेंट और दुनिया में होने वाली किसी कार्रवाई के बीच खड़े होते हैं — और किसी निगरानी डैशबोर्ड में कुछ भी उनकी अनुपस्थिति की सूचना तब तक नहीं देगा जब तक कुछ घट न चुका हो।

आपका अगला एजेंट चालू होने से पहले, उन कार्रवाइयों की सूची ढूँढिए जो वह किसी से पूछे बिना कर सकता है। यदि वह सूची कागज़ पर मौजूद नहीं है, तो वह खाली नहीं है — वह बस लिखी नहीं गई है।

Ready to go beyond the CV?

Scovai's AI-powered Talent Passport reveals what resumes can't: personality, potential, and true job fit.