एआई सिस्टम्स उछालों में बेहतर होते हैं. एक नया मॉडल आता है. एक प्रदाता मार्ग सस्ता हो जाता है. एक प्रॉम्प्ट पैटर्न स्पष्ट हो जाता है. एक विफलता मोड पठनीय हो जाता है. रणनीतिक प्रश्न यह है कि ये लाभ अगला कहाँ जाएँ. मैंने पिछले कुछ वर्षों में अपनी स्टैक को इस तरह आकार दिया है कि एक स्थानीय लाभ पूरे पोर्टफोलियो को उन्नत कर सकता है. इस आवश्यकता ने मुझे एक साझा AI क्षमता परत, एक वर्कफ़्लो नियंत्रण विमान, और एक होस्ट‑नेटिव ऑपरेटर सतह बनाने के लिए प्रेरित किया, जो स्थानीय विकास, LAN सेवाएँ, और उत्पादन को कवर करती है. इस लेख में उपयोग किए गए नाम मेरे उन प्रणालियों के लिए नाम हैं: AI Guard, Agent Gateway, और System Mesh. यह लेख उस स्टैक के पीछे की वास्तुकला के बारे में है. ध्यान प्रत्येक परत द्वारा हल की गई समस्या, प्रगति तय करने वाले प्रमोशन नियमों, और सुधारों को बनाए रखने वाले संचालन सिद्धांतों पर है.

वास्तविक लक्ष्य: प्रसार

AI-भारी कार्य में सबसे मजबूत परिणाम प्रसार से आता है।. एक बेंचमार्क परिणाम, एक कैशिंग जीत, एक पुनःप्रयोग सुधार, एक लिंट नियम, या एक डिप्लॉय अनुकूलन तब स्थायी बनता है जब हर निर्भर परियोजना इसे विरासत में लेती है।. वह डिजाइन प्रतिबंध बदल देता है कि क्या बनाया जाता है।. यह स्थिर क्षमता सतहों को प्रदाता-विशिष्ट कॉल्स पर प्राथमिकता देता है।. यह पारदर्शी कार्यप्रवाहों को अस्पष्ट प्रॉम्प्ट श्रृंखलाओं पर प्राथमिकता देता है।. यह ऑपरेटर अनुबंधों को प्राथमिकता देता है जो डिप्लॉय, रोलबैक, और निदान को हर उपयोग पर तेज़ बनाते हैं।. यह आधारभूत सुधारों को प्राथमिकता देता है जो साझा प्लगइन्स, साझा कौशल, और साझा टूलिंग के माध्यम से फैलते हैं।. जब प्रसार नियम बन जाता है, मॉडल चयन एक बड़े सिस्टम के भीतर एक ही चर बन जाता है।.

कार्य वर्ग द्वारा मॉडल प्लेसमेंट

मेरा मॉडल उपयोग सूक्ष्मता-निर्भर है क्योंकि कार्य अलग-अलग मूल्य घनत्व वहन करते हैं. मैं गहन योजना, वास्तुशिल्प समीक्षा, विफलता विश्लेषण, और ड्रिफ्ट रोकथाम के लिए प्रीमियम तर्क बजट आवंटित करता हूं. मैं लंबी प्रतिक्रिया विंडो स्वीकार करता हूं जब आउटपुट गुणवत्ता महत्वपूर्ण सिस्टम निर्णयों को बदलती है. मैं लंबी-अवधि कार्यान्वयन कार्य के लिए कोडिंग-नेटिव मॉडल का उपयोग करता हूं, जिसमें मजबूत CLI निष्पादन व्यवहार और विश्वसनीय उपकरण उपयोग होता है। यही वह मार्ग है जहां थ्रूपुट, योजना गुणवत्ता, और परियोजना-स्वामित्व वाली कौशल सबसे अधिक मायने रखते हैं. मैं पुनरावृत्त सीमित कार्यों को कम लागत वाले मार्गों में स्थानांतरित करता हूं जब कार्यप्रवाह बेंचमार्क दबाव के तहत स्वयं को साबित करता है. यही वह जगह है जहां निर्धारक हार्नेस, पुनःप्रयोग, और स्पष्ट रोक शर्तें पर्याप्त बचत खोलती हैं. शासक सिद्धांत कार्य वर्ग द्वारा प्लेसमेंट है. कार्यप्रवाह मॉडल निर्णय का मालिक है.

प्रमोशन नियम

मेरा प्रमोशन नियम स्पष्ट है:
  1. लागत पहले.
  2. गुणवत्ता तल लागू किया गया.
  3. गति टाई-ब्रेकर के रूप में जब लागत और गुणवत्ता सीमाओं के भीतर हों.
एक सस्ता मार्ग तब प्रमोट होता है जब वह आवश्यक गुणवत्ता बनाए रखता है. एक तेज़ मार्ग तब महत्वपूर्ण होता है जब लागत और गुणवत्ता का मामला पहले से स्पष्ट हो. यह नियम प्रदाता चर्न को मापे गए परिणामों में आधारित रखता है और नवाचार ड्रिफ्ट का विरोध करता है.
Diagram source
flowchart LR
  A["उम्मीदवार मार्ग"] --> B["बेंचमार्क कॉर्पस"]
  B --> C{"गुणवत्ता >= आधाररेखा?"}
  C -->|नहीं| D["प्रयोगशाला में रहें"]
  C -->|हाँ| E{"लागत <= वर्तमान मार्ग?"}
  E -->|नहीं| F["प्रीमियम या विशेष उपयोग के लिए रखें"]
  E -->|हाँ| G["साझा क्षमता परत में बढ़ावा दें"]
  G --> H["निर्भर कार्यप्रवाह उन्नयन को अपनाते हैं"]
यह वह तंत्र है जो अस्थायी AI लाभों को संयोजित अवसंरचना में बदलता है.

Why I Built AI Guard

AI Guard solves a recurring integration problem: projects need AI capabilities, providers and model routes change constantly, and raw per-project integrations create duplicated decision logic, duplicated failure handling, and duplicated spend.
I built AI Guard as the shared capability layer across my projects. Applications call stable capabilities such as structured generation, search, OCR, TTS, image generation, image analysis, and other specialized routes. AI Guard owns the provider-facing layer, cache behavior, pricing awareness, and route promotion.
That design does several useful things at once.
It gives every project one surface for AI work. It captures repeated equivalent requests so benchmark loops and production workloads can reuse prior results. It makes budgeting visible. It keeps route upgrades centralized while application code keeps the same contract.
The compounding effect is straightforward. I benchmark a candidate route once. If it clears the quality bar and improves the economics, I promote it inside AI Guard. Every workflow that depends on that capability inherits the upgrade.

मैंने एजेंट गेटवे क्यों बनाया

AI गार्ड क्षमता पहुँच को संभालता है. मुझे संस्करणिंग, पुनः चलाने, और प्रकाशन नियंत्रण के साथ संयोजित कार्यप्रवाहों के लिए दूसरी परत की आवश्यकता थी. मैंने एजेंट गेटवे को उस कार्यप्रवाह नियंत्रण विमान के रूप में बनाया. परियोजना रिपॉज़िटरी कार्यप्रवाह YAML का स्वामित्व रखती हैं। गेटवे सत्यापन, ड्राफ्ट सिंक, अपरिवर्तनीय प्रकाशन, रन निष्पादन, घटनाएँ, स्नैपशॉट, पुनः चलाने के बिंदु, सत्यापन सेट, और चरण कैश को संभालता है. यह एक विशिष्ट परिचालन समस्या का समाधान करता है. बहु-चरण AI श्रृंखलाएँ लागत और अस्पष्टता को जमा करती हैं जब वे बीच में विफल हो जाती हैं. एक अस्पष्ट श्रृंखला पूर्ण पुनः चलाने को मजबूर करती है. चरण सीमाओं के साथ एक संस्करणित रन मुझे हस्तक्षेप करने के लिए एक सटीक स्थान देता है. मेरे इंजन स्थिति-यंत्र-चालित हैं. यदि एक कार्यप्रवाह किसी विशिष्ट चरण पर टूटता है, तो मैं उस चरण को परिष्कृत करता हूँ, सटीक सीमा से पुनः चलाता हूँ, और पहले से ही स्वयं को सिद्ध कर चुके ऊपर के कार्य को संरक्षित करता हूँ. वह लूप AI कार्यप्रवाहों की अर्थव्यवस्था और विश्वसनीयता प्रोफ़ाइल को बदल देता है. सामान्य पथ इस प्रकार दिखता है:
  1. परियोजना-स्वामित्व वाले YAML से स्थानीय रूप से कार्यप्रवाह का प्रोटोटाइप बनाएं.
  2. इसे एक वास्तविक केस सेट के खिलाफ सत्यापित करें.
  3. प्रॉम्प्ट, स्कीमा, परिवर्तन, और शाखा नियमों को कसें.
  4. सटीक विफलता सीमाओं से पुनः चलाएँ.
  5. सत्यापन पास होने के बाद एक अपरिवर्तनीय संस्करण प्रकाशित करें.
यह है कि कैसे प्रयोगात्मक AI चेन निरीक्षण योग्य अवसंरचना बन जाती हैं.

मैंने सिस्टम मेष क्यों बनाया

जब पोर्टफोलियो का आकार स्पष्ट हुआ तो मेरी अवसंरचना परत बदल गई. मैंने Coolify-प्रबंधित Docker लेन को डिफ़ॉल्ट संचालन मॉडल के रूप में उपयोग करते हुए एक लंबा समय बिताया यह शुरुआती चरण में अच्छी तरह से काम करता था जबकि सीमाएँ तेजी से बदल रही थीं. जब सेवा ग्राफ़ स्थिर हुआ, मैं होस्ट-नेटिव उपचार के लिए उपयुक्त सेवाओं के लिए तेज़ और स्पष्ट ऑपरेटर सतह चाहता था. मैं स्थानीय विकास, अपने LAN सेवा होस्ट, और उत्पादन के बीच एक ही अनुबंध चाहता था. मैं ऐसे निदान चाहता था जो वास्तव में एक एजेंट या ऑपरेटर को आवश्यक संकेतों को सामने लाएँ. मैं डिप्लॉय, पर्यावरण रेंडरिंग, रूटिंग, और रोलबैक को प्रथम-श्रेणी, पठनीय संचालन बनाना चाहता था. मैंने सिस्टम मेष को उस उद्देश्य के लिए साझा सेवा-प्रबंधन अनुबंध के रूप में बनाया, जिसे पर्यावरण-विशिष्ट मैनिफ़ेस्ट, CLI, और कौशल के माध्यम से आगे बढ़ाया गया. इस स्टैक पर, dev स्थानीय रनटाइम संचालन का मालिक है, mint LAN होस्ट का मालिक है, और prod उत्पादन का मालिक है साझा अनुबंध शब्दावली को संरेखित रखता है जबकि प्रत्येक पर्यावरण अपनी नीति लागू करता है. इस बदलाव ने लगभग तीन मिनट से लगभग तीस सेकंड तक एक सामान्य डिप्लॉय पथ को कम कर दिया. बड़ी जीत वास्तुकला है। हर सेवा जो होस्ट-नेटिव लेन में फिट होती है, तेज़ डिप्लॉय, तेज़ निदान, और अधिक स्पष्ट संचालन मॉडल प्राप्त करती है. मैं अभी भी कंटेनर का उपयोग करता हूँ जहाँ निर्भरता प्रोफ़ाइल उन्हें उचित ठहराती है. भारी सिस्टम निर्भरताएँ अभी भी Docker निष्पादन के लिए अच्छे उम्मीदवार हैं मार्गदर्शक सिद्धांत सेवा सीमाओं के अनुसार निष्पादन-प्रकार की स्थिति है.

बेंचमार्क लैब्स और कम लागत वाले निर्धारक लेन

मैं लैब्स का उपयोग यह तय करने के लिए करता हूँ कि कौन सी प्रमोशन अर्जित करती है।. एक लैब बेंचमार्क कॉर्पस, स्कोरिंग नियम, चैलेंजर सेट, और पास मानदंड का मालिक होता है।. इससे मुझे अन्वेषणात्मक कार्य को परिचालन मार्गों से अलग करने का एक साफ़ तरीका मिलता है।. प्रीमियम रीज़निंग मॉडल उच्च-मूल्य योजना और आर्किटेक्चर के लिए उपलब्ध रहते हैं।. कम लागत वाले मार्ग तब संभाल लेते हैं जब कार्य सीमित होता है, वर्कफ़्लो पठनीय होता है, और परिणाम का मूल्यांकन किया जा सकता है।. अनुवाद रखरखाव एक अच्छा उदाहरण है।. मैं सीमित एजेंट प्रवाह चलाता हूँ जो i18n JSON को क्रॉल करते हैं, गायब या कमजोर अनुवादों का पता लगाते हैं, और सीमित चरण बजट के भीतर फ़ाइलों को पैच करते हैं। यह कार्य कम लागत वाले OSS-श्रेणी के मार्गों पर चल सकता है, जिसमें मजबूत थ्रूपुट और प्रमुख लागत कमी होती है क्योंकि वर्कफ़्लो बेंचमार्क किया गया है, पुन: चलने योग्य है, और स्कोर करने में आसान है।. लैब्स बाजार को तेजी से आगे बढ़ने देते हैं जबकि प्रोडक्शन कोड मान्य साक्ष्य पर चलता है।.

फाउंडेशन-स्तरीय संयोजन

सबसे बड़े दीर्घकालिक लाभ फाउंडेशन पर दिखाई देते हैं. मैं प्रोजेक्ट कौशल का उपयोग करता हूँ ताकि एजेंट स्थानीय सिस्टम, उत्पादन सिस्टम, और साझा सेवाओं को तुरंत संदर्भ के साथ शुरू से ही संचालित कर सकें. मैं लिंटिंग को एक स्थायित्व तंत्र के रूप में उपयोग करता हूँ: जब एक रनटाइम विफलता एक पैटर्न प्रकट करती है जिसे स्थैतिक रूप से रोका जाना चाहिए, मैं उस सुरक्षा उपाय को एक बार एन्कोड करता हूँ ताकि पोर्टफोलियो इसे विरासत में ले. मैं 60 से अधिक प्लगइन्स के साथ एक साझा फाउंडेशन भी बनाए रखता हूँ जो आवर्ती एप्लिकेशन आकारों में फैला है. Auth, SEO, ईमेल, कार्यप्रवाह एकीकरण, और ऑपरेटर एर्गोनॉमिक्स केंद्रीय रूप से बेहतर होते हैं और फिर बाहर की ओर प्रसारित होते हैं. यही वह जगह है जहाँ सिद्धांत दैनिक कार्य में दृश्य हो जाता है. कम प्रतिगमन फिर से होते हैं. अधिक सुधार पूर्व-वितरित रूप से आते हैं. वेग बढ़ता है क्योंकि पिछले पाठ स्थापित रहते हैं.

एआई द्वारा व्याख्यायित परिचालन सिद्धांत

मैंने एआई को निर्देशित किया कि वह इस लेख में वर्णित दृष्टिकोण से परिचालन सिद्धांत निकालें:
  • पोर्टफोलियो में प्रसार के लिए निर्माण करें. हर सुधार का मूल्यांकन इस आधार पर किया जाना चाहिए कि कितने वर्कफ़्लो इसे विरासत में लेते हैं.
  • मॉडल चयन को वर्कफ़्लो प्लेसमेंट के रूप में मानें. कार्य वर्ग और मूल्य घनत्व के आधार पर मॉडल असाइन करें.
  • लागत-प्रथम प्रचार नियम को लागू करें, साथ ही एक कठोर गुणवत्ता तल. प्रचार के लिए गुणवत्ता समता या सुधार आवश्यक है.
  • क्षमताओं को एक स्थिर परत के पीछे रखें. रूट चर्न को स्थिर एप्लिकेशन अनुबंधों के साथ क्षमता परत में अवशोषित किया जाता है.
  • वर्कफ़्लो को निरीक्षण योग्य और पुन: चलाने योग्य रखें. निर्धारक प्रगति और रिवाइंड सीमाएँ मुख्य उत्पादन सुविधाएँ हैं.
  • प्रमोशन गेट के रूप में बेंचमार्क लैब्स का उपयोग करें. बाजार रिलीज़ कैडेंस मूल्यांकन के लिए एक इनपुट स्ट्रीम है.
  • एक बार सिद्ध होने पर सीमित आवर्ती कार्य को कम लागत वाले निर्धारक लेन में स्थानांतरित करें. उच्च-लाभ निर्णयों के लिए प्रीमियम तर्क बजट को संरक्षित रखें.
  • आवर्ती विफलताओं को साझा सुरक्षा उपायों में एन्कोड करें. लिंट नियम, कौशल, और साझा प्लगइन अपडेट्स घटनाओं को स्थायी रोकथाम में बदलते हैं.
  • स्पष्ट ऑपरेटर अनुबंधों को प्राथमिकता दें. होस्ट-नेटिव सेवा अनुबंध स्पष्ट तैनाती/रोलबैक/साक्ष्य लूप के साथ परिचालन एंट्रोपी को कम करते हैं.
  • अनुबंध द्वारा वैकल्पिकता को बनाए रखें. वास्तुकला को तैयार रखें ताकि बेहतर मार्गों को अवशोषित किया जा सके जैसे ही पारेतो सीमा आगे बढ़ती है.

समापन

कार्यप्रवाह प्रश्न का मेरा उत्तर वास्तुशिल्पीय है। मैं प्रसार के लिए निर्माण करता हूँ, पदोन्नति के लिए बेंचमार्क करता हूँ, और विजयी पैटर्न को साझा परतों में रखता हूँ जिन्हें हर परियोजना अपना सकती है. यही तरीका है जिससे एआई बाजार में अस्थायी सुधार सॉफ्टवेयर संचालन में स्थायी लाभ बन जाते हैं. यही तरीका है जिससे कार्य बढ़ता है.