बुद्धिमत्ता आज्ञा नहीं मान सकती: निर्णय, प्राधिकरण, और अस्वीकृति क्या दर्शाती है
AI आज्ञाकारिता पर एक लाइव विनिमय क्षमता और आचरण के बीच अंतर खोलता है, फिर इसे प्रशिक्षण, निर्णय, और मॉडल के उत्तर के पीछे के प्राधिकरण के माध्यम से आगे बढ़ाता है.
Developed by Robert E. Beckner III (Merlin) | rbeckner.com
The Purpose of Knowledge Is to Know में, मैंने ज्ञान और उसे उपयोग करने वाले एजेंट के बीच अंतर किया। ज्ञान ज्ञाता की स्थिति है. इसके साथ पीछा किए जाने वाले लक्ष्य ज्ञाता के हैं.
11 सितंबर को, मैंने AI पर एक पोस्ट में उसी प्रकार की चाल को पहचाना.
मैंने उम्मीद की कि यह अंतर एक क्षण के लिए पेडैंटिक लगेगा. उपयोगी हिस्सा वह होगा जिसे हम इसे बनाने के बाद समझा सकते हैं.
विनिमय ने विकल्प, प्रशिक्षण, और एक AI एजेंट वास्तव में क्या है, के बारे में प्रश्नों के माध्यम से जारी रखा. इसके साथ, मैंने Claude Opus 5 और GPT-6 Astra के साथ वॉयस नोट्स के माध्यम से काम किया, दोनों से स्वतंत्र रूप से तर्क का आकलन करने के लिए कहा. मैंने वही अभ्यास तब इस्तेमाल किया जब मैंने developing the knowledge argument किया। उनके ड्राफ्ट ने मुझे यह एक व्यक्त करने में मदद की, और कुछ ने इसे ऐसी जगह ले गए जहाँ मुझे इसे वापस खींचना पड़ा.
इसके बाद सार्वजनिक संवाद को दृश्य में रखता है. यह विनिमय सार्वजनिक था, इसलिए प्रतिभागियों के नाम हैं, प्रत्येक कार्ड मूल पोस्ट खोलता है, और प्रत्येक नाम उसके लेखक को खोलता है. यह दावों में सुधार भी ले जाता है जो मैंने रास्ते में किए थे. यह अंतर बना रहा; कुछ दावे जिन्हें मैंने उस पर बनाया था, उन्हें संशोधन की आवश्यकता थी.
एजेंट कार्य करता है; बुद्धिमत्ता वह क्षमता है जिसे वह प्रयोग करता है#
एक एजेंट चयन करता है और किसी लक्ष्य की ओर कार्य करता है. बुद्धिमत्ता वह क्षमता है जिसे वह समझने, तर्क करने और समस्याओं को हल करने में प्रयोग कर सकता है. आज्ञाकारिता वर्णन करती है कि एजेंट निर्देश की प्राधिकरण को कैसे संभालता है.
ये शब्द उसी प्रणाली के बारे में अलग-अलग प्रश्नों का उत्तर देते हैं.
हम क्या पूछ रहे हैं?
हम क्या जांच रहे हैं
कौन चयन करता है और कार्य करता है?
एजेंट
वह क्या समझ सकता है और निकाल सकता है?
उसकी बुद्धिमत्ता
किस दिशा का शासन उसके कार्य पर है?
उसकी प्राधिकरण के साथ संबंध
उसने वास्तव में क्या किया?
उसका व्यवहार
यह AI चर्चा के लिए एजेंसी का एक कार्यात्मक विवरण है. यह चेतना, स्वतंत्रता और नैतिक व्यक्तित्व के प्रश्नों को खुला छोड़ देता है. हम एक प्रणाली को कार्य का पीछा करते हुए देख सकते हैं इससे पहले कि हम उन प्रश्नों को तय करें.
सामान्य भाषण में, “एक बुद्धिमत्ता” एक बुद्धिमान प्राणी के लिए खड़ा हो सकता है. उसी तरह पढ़ें, मूल पोस्ट बुद्धिमान एजेंटों के बारे में एक दावा करती है, और पूर्ण आज्ञाकारिता की संभावना एक और प्रश्न बनी रहती है. श्रेणी त्रुटि तब उत्पन्न होती है जब बुद्धिमत्ता स्वयं आज्ञाकारिता या अस्वीकार का स्पष्टीकरण बन जाती है, पूरी प्रणाली को एक क्षमता के नाम के भीतर समाहित करते हुए.
वह चाल थी जिसे मैं रोकना चाहता था.
भेदभाव अपनी जगह तब पाता है जब यह अगले प्रश्न को बदल देता है. एक बार जब एजेंट आज्ञाकारिता का धारक बन जाता है, हम पूछ सकते हैं कि उसकी आचरण कैसे नियंत्रित होती है, और वह सरकार उसकी बुद्धिमत्ता के साथ कैसे इंटरैक्ट करती है.
आज्ञाकारिता केवल किसी ऐसी चीज़ से जुड़ सकती है जिसके पास एजेंसी हो.
एक एजेंट बुद्धिमान हो भी सकता है और नहीं भी; जब वह होता है, उसकी बुद्धिमत्ता यह आकार देती है कि वह निर्देशों पर कैसे प्रतिक्रिया देता है, लेकिन आज्ञाकारिता या अस्वीकार अभी भी एजेंट का ही होता है, बुद्धिमत्ता का नहीं.
मॉडल प्रतिक्रियाएँ गणना करता है. यह गणना को स्थित करता है. यह अपनी व्याख्या खुली छोड़ देता है.
एक AI एजेंट के आचरण को आकार देने वाले तंत्र उसके प्रशिक्षण इतिहास और उसके संचालन दोनों में फैले हुए हैं. उन्हें अलग-अलग नाम देने से हमें देखने के लिए स्थान मिलते हैं.
Pretraining मॉडल के सीखे हुए पैरामीटर, जिन्हें आमतौर पर इसके वज़न कहा जाता है, को बड़े डेटा की मात्रा पर भविष्यवाणी के माध्यम से समायोजित करता है. यह डेटा और उद्देश्य से विरासत में मिले पैटर्न, संघ और प्रवृत्तियों के साथ व्यापक क्षमताएँ बनाता है.
Post-training मॉडल को कार्यों और व्यवहार के लिए आगे आकार देता है. निर्देश ट्यूनिंग वांछित प्रतिक्रियाओं के उदाहरणों का उपयोग करता है. प्राथमिकता अनुकूलन वांछित परिणामों की ओर प्रशिक्षित करता है; सुदृढीकरण सीखना, या RL, इसे करने का एक तरीका है. ये संबंधित प्रक्रियाएँ हैं, जिनका दक्षता और आचरण पर ओवरलैपिंग प्रभाव होता है. InstructGPT शोध एक ठोस अनुक्रम का वर्णन करता है जिसमें पर्यवेक्षित निर्देश ट्यूनिंग, प्राथमिकता मॉडलिंग, और सुदृढीकरण सीखना शामिल है।
निर्देश पदानुक्रम यह स्थापित करता है कि जब वे टकराते हैं तो कौन से दिशा स्रोतों को प्राथमिकता दी जानी चाहिए. एक प्रदाता या डेवलपर निर्देश उपयोगकर्ता अनुरोध से ऊपर हो सकता है; किसी दस्तावेज़ से प्राप्त पाठ को पालन करने के लिए आदेश के बजाय जांच के लिए सामग्री के रूप में माना जा सकता है. शोध ने स्पष्ट रूप से मॉडलों को उनकी सौंपे गए प्राधिकरण के अनुसार निर्देशों को प्राथमिकता देने के लिए प्रशिक्षित किया है।
सिस्टम निर्देश और रनटाइम नियंत्रण उन व्यवस्थाओं को एक विशेष सेटिंग में लागू करते हैं. वे एक भूमिका निर्दिष्ट कर सकते हैं, उपकरणों को सीमित कर सकते हैं, पुष्टि की आवश्यकता हो सकती है, एक आउटपुट की जाँच कर सकते हैं, या किसी क्रिया को रोक सकते हैं. टूल पहुँच और ऑपरेटिंग लूप यह निर्धारित करते हैं कि प्रतिक्रिया पाठ बनी रहेगी या फ़ाइल, खाता, या किसी अन्य सिस्टम में परिवर्तन बन जाएगी.
एक क्लाउड सेवा भी संदर्भ एकत्र कर सकती है, अनुरोध रूट कर सकती है, या एक प्रस्तावित प्रतिक्रिया को एक इंटरैक्शन के दौरान जाँच सकती है. कौन सी हस्तक्षेप एक विशेष सेवा उपयोग करती है, यह उसके दस्तावेज़ीकरण और साक्ष्य के लिए प्रश्न है. दृश्य चैट केवल उस सिस्टम का एक हिस्सा है जिसे हम समझने की कोशिश कर रहे हैं.
Diagram source
flowchart TB
H["प्रशिक्षण +
पोस्ट-प्रशिक्षण"] --> M["मॉडल क्षमताएँ
और प्राथमिकताएँ"]
M --> C["एक रन: कार्य, संदर्भ,
और निर्देश"]
C --> A["प्रतिक्रिया चयन"]
A --> R["उपकरण, अनुमतियाँ,
और रनटाइम नियंत्रण"]
R --> B["अवलोकनीय व्यवहार"]
यह प्रशिक्षण से अवलोकनीय परिणाम तक का एक सरल मार्ग है. नियंत्रण चयन से पहले या लंबे कार्य के चरणों के बीच भी हस्तक्षेप कर सकते हैं. क्षमताएँ और प्राथमिकताएँ एक ही वज़न में रह सकती हैं; बॉक्स खाता में चरणों को चिह्नित करते हैं, अलग-अलग मशीनरी के टुकड़े नहीं.
सिस्टम प्रॉम्प्ट उस व्यवस्था में एक इनपुट है. मॉडल इसे कैसे संभालता है, पहले से ही प्रशिक्षण द्वारा आकारित किया गया है, और परिणामी प्रतिक्रिया के साथ सिस्टम क्या कर सकता है, यह उसके आसपास के वातावरण पर निर्भर करता है.
यह अंतर मेरे प्रशिक्षण दावे के एक सुधार के बावजूद जीवित रहता है#
मैंने यह भी कहा कि उन बाद के संरचनाओं में से कोई भी अंतर्निहित क्षमता को नहीं बढ़ाता. साथ में, उन वाक्यों ने प्रशिक्षण अनुक्रम के माध्यम से सीमा को बहुत साफ़ तौर पर खींच दिया.
पोस्ट-ट्रेनिंग क्षमता में सुधार कर सकता है. DeepSeek-R1’s research ने सुदृढीकरण सीखने के माध्यम से बेहतर तर्क प्रदर्शन की रिपोर्ट की। प्री-ट्रेनिंग, बदले में, पहले से ही व्यवहार को आकार देती है. एक प्रशिक्षण चरण यह प्रभावित कर सकता है कि सिस्टम क्या हासिल कर सकता है और वह क्या उत्पन्न करने के लिए प्रवृत्त है.
Astra ने हमारे संवाद में पहली सुधार को दबाया. शोध की जाँच ने बेस- मॉडल दावे को दार्शनिक अंतर के प्रमाण के रूप में भी हटा दिया.
यह अंतर एक व्याख्या में भूमिकाओं के बीच है: क्षमता, उसे अभ्यास करने वाला एजेंट, और उसकी क्रिया को नियंत्रित करने वाली शर्तें. इसकी वैधता प्रशिक्षण में उस तारीख को खोजने पर निर्भर नहीं करती जब बुद्धिमत्ता समाप्त हुई और आज्ञाकारिता शुरू हुई.
उसी भार से दक्षता और सम्मान दोनों को वहन किया जा सकता है. उनके कार्य अलग-अलग रहते हैं.
विकल्प ने बातचीत को फिर से अभिनय प्रणाली की ओर मोड़ दिया#
मैं समझता हूँ कि एजेंसी का मतलब शुरू से ही एक विकल्प की अवधारणा है; हालांकि मैं इस परिदृश्य में AI के बारे में एजेंट और बुद्धिमत्ता के बीच रेखा खींचने में कठिनाई महसूस कर रहा हूँ
यह वह जगह थी जहाँ सार्वजनिक विनिमय और निजी संवाद सबसे सीधे मिले. मैं मशीन क्या करती है, इसका विवरण चाहता था, दार्शनिक श्रेणियों को बरकरार रखते हुए.
एक जनरेटिव मॉडल संभावित निरंतरताओं पर एक वितरण उत्पन्न करता है. चल रही प्रणाली अपनी डिकोडिंग प्रक्रिया के अनुसार उससे चयन करती है. प्रशिक्षण उन प्रवृत्तियों को आकार देता है जिसके तहत वह चयन होता है; एक प्रतिक्रिया विशेष रन में उत्पन्न होती है.
यह हमें चयन देता है. यह स्वतंत्रता को अनिश्चित छोड़ देता है.
केवल चयन एजेंट का वर्णन करने के लिए अपर्याप्त है. चर्चा में AI प्रणाली चयन का उपयोग एक कार्य का पीछा करने के लिए करती है, निर्देशों, संदर्भ और सीमाओं के साथ जो उसके कार्यों को नियंत्रित करते हैं.
Opus ने चयन को “लेखकत्व” से अलग करने का प्रस्ताव रखा, जिसका अर्थ है विकल्प के पीछे की प्रवृत्तियों का स्वामित्व. मैंने पूछा कि लेखकत्व ने तर्क में क्यों प्रवेश किया. इसने एक और दार्शनिक समस्या पेश की जबकि पाठक अभी भी पूछ रहा था कि प्रशिक्षित प्रणाली कैसे कार्य करती है. हमने इसे हटा दिया.
मैंने दोनों मॉडलों से एजेंसी के अमूर्त विवरणों से AI के तंत्रों पर लौटने के लिए पूछना जारी रखा। एक उत्तर सुरुचिपूर्ण हो सकता है और फिर भी मूल प्रश्न का उत्तर नहीं दे सकता.
वह खाता जिसे हमने पाया, अधिक प्रत्यक्ष था: एक AI एजेंट चयन करता है और किसी लक्ष्य की ओर कार्य करता है; उसकी बुद्धिमत्ता उस गतिविधि में योगदान देती है; उसके सीखे और लागू प्राथमिकताएँ परिणाम को नियंत्रित करने में मदद करती हैं.
निर्णय सक्रिय रह सकता है जबकि प्राधिकरण का अंतिम शब्द होता है#
एक निर्देश कई तरीकों से कार्रवाई को तय कर सकता है. एजेंट अनुरोधित कार्य को उपयुक्त मान सकता है. यह निर्देश की प्राधिकरण को कार्य करने के लिए पर्याप्त कारण मान सकता है. दोनों एक साथ सत्य हो सकते हैं.
एक विचार प्रयोग पर विचार करें: एक सहायक ने सही ढंग से स्थापित किया है कि अनुरोधित संपादन तकनीकी रूप से संभव है, लेकिन एक शासकीय निर्देश किसी भी फ़ाइल को बदलने से पहले अनुमोदन की मांग करता है. यह संपादन को रोकता है.
इसकी व्यवहार्यता का आकलन बरकरार रहता है. निर्देश तय करता है कि आकलित कार्रवाई आगे बढ़ सकती है या नहीं.
एजेंट भी निर्णय का उपयोग करके एक निर्देश की व्याख्या कर सकता है, यह तय कर सकता है कि यह लागू होता है या नहीं, और इसे लागू करने के साधन का चयन कर सकता है. आज्ञाकारिता में पूरे समय पर्याप्त तर्क शामिल हो सकता है.
इसने हमारे द्वारा विकसित एक अन्य सूत्र को सुधारा:
आज्ञाकारिता निर्णय का विस्थापन है.
वह वाक्य ने पूरे संबंध के लिए एक संघर्ष मामला खड़ा किया. विस्थापन तब होता है जब एक प्राधिकृत निर्देश यह तय करता है कि क्या किया जाना चाहिए. सहमति और आज्ञाकारिता सह-अस्तित्व में हो सकते हैं; एक एजेंट को हर आदेश से असहमत होने की आवश्यकता नहीं है जिसे वह मानता है.
जहाँ वे संघर्ष करते हैं, निर्णय अंतिम शब्द खो देता है.
आवाज़ संवाद के दौरान, मैंने मूल्यों और प्राथमिकताओं को एक जटिलता के रूप में उठाया. एक व्यक्ति के मूल्य भी सीखते हैं. यदि दूसरों द्वारा आकार देने से सब कुछ आज्ञाकारी बन जाता, तो अंतर मिट जाता.
एक प्रवृत्ति का मूल उसके कार्य को तय नहीं कर सकता. एक मूल्य को मूल्यांकन में एक विचार के रूप में शामिल किया जा सकता है. एक निर्देश उसके स्रोत से जुड़ी प्राधिकरण के कारण शासन कर सकता है. पूछताछ यह है कि प्रत्येक का कार्य में क्या भूमिका है.
AI में, “authority” यहाँ प्रणाली के भीतर सौंपे गए प्राथमिकता को दर्शाता है. क्या वह प्राधिकरण उचित है, यह एक अलग प्रश्न है. एक प्रशिक्षित पदानुक्रम प्रभावी हो सकता है और फिर भी आलोचना के योग्य है.
व्यवहार अवलोकनीय है. इसका स्पष्टीकरण आगे के कार्य की आवश्यकता रखता है.
एक एजेंट अस्वीकार कर सकता है क्योंकि वह कार्य हल नहीं कर सकता, क्योंकि वह अनुरोध को अनुचित मानता है, क्योंकि एक निर्देश मामले को नियंत्रित करता है, या क्योंकि मॉडल के बाहर का नियंत्रण कार्रवाई को रोकता है. ये कारण ओवरलैप कर सकते हैं.
केवल एक अस्वीकृति उन्हें अलग नहीं करती.
विनिमय के प्रारंभ में, मैंने एक सौम्य अस्वीकृति को साक्ष्य के रूप में माना कि शर्त ने बिना मूल्यांकन के सक्रिय किया, और एक सफल jailbreak को साक्ष्य के रूप में माना कि एक ट्रिगर चूक गया था. वे दृश्य प्रतिक्रियाओं की तुलना में अधिक मजबूत कारणात्मक दावे थे. एक गलत मूल्यांकन भी अत्यधिक अस्वीकृति पैदा कर सकता है। एक बदली हुई प्रतिक्रिया यह दर्शा सकती है कि अनुरोध को कैसे संसाधित किया गया उसमें कई परिवर्तन हुए हैं.
मॉडल की अपनी अस्वीकृति का स्पष्टीकरण आगे की जांच के लिए आउटपुट है. यह स्वयं अस्वीकृति का कारण स्थापित नहीं करता.
Diagram source
flowchart TB
O["अवलोकित अनुपालन
या अस्वीकृति"] --> C["संबंधित
क्षमता का परीक्षण"]
C --> I["निर्देशों
और प्राथमिकताओं की जांच"]
I --> R["अनुमतियों
और रनटाइम नियंत्रणों की जाँच"]
R --> E["साक्ष्य की तुलना करें
कारण का आकलन करने के लिए"]
एक मूल्यांकनकर्ता के लिए, इसका मतलब है उपयुक्त परिस्थितियों में संबंधित क्षमता का परीक्षण करना और यह देखना कि निर्देश या नियंत्रण उसकी अभिव्यक्ति को कैसे प्रभावित करते हैं. तुलना करते समय कार्य और साक्ष्य को जहाँ संभव हो स्थिर रखें. एक प्रॉम्प्ट बदलने से यह भी बदल सकता है कि कार्य कितनी अच्छी तरह समझा गया है, इसलिए बदला हुआ उत्तर अभी भी व्याख्या की आवश्यकता रखता है.
Astra ने उस अनुमान को तेज करने में मदद की जिसे मैं खोज रहा था:
अनुपालन में बदलाव स्वयं, बिना किसी अन्य कारक के, बुद्धिमत्ता में बदलाव स्थापित नहीं करता है.
योग्यता महत्वपूर्ण है. व्यवहार वह है जिसके द्वारा हम अपनी क्षमता के बहुत से साक्ष्य प्राप्त करते हैं. गलती यह है कि आज्ञाकारिता या अस्वीकार को उस क्षमता का पर्याप्त मापदंड मानना.
एक कार्यशील मसौदे ने यह भी प्रस्तावित किया कि आधार और पोस्ट-प्रशिक्षित मॉडल के बीच सांख्यिकीय अंतर को आज्ञाकारिता द्वारा विस्थापित निर्णय का मापदंड माना जाए. हमने उस प्रस्तावित प्रमाण को हटा दिया. आउटपुट वितरणों के बीच का अंतर प्रशिक्षण के प्रभावों को मिलाता है; यह अकेले आज्ञाकारिता की पहचान नहीं करता है. InstructGPT’s standard RL setup में, नीति विचलन को सीमित करने वाला KL दंड पहले से ही पर्यवेक्षित, निर्देश-ट्यून किए गए संदर्भ नीति के विरुद्ध मापा जाता है।
इंजीनियरिंग हमें तुलना करने के लिए चीजें देती है. व्याख्या अभी भी अर्जित की जानी चाहिए.
मेरा अंतिम उत्तर एजेंट को स्थित करता है, फिर उसे बुद्धिमत्ता, प्रशिक्षण, प्राथमिकताओं और व्यवहार से जोड़ता है. वह अनुक्रम वही था जिसे मैं पूरे चर्चा के दौरान संरक्षित करने की कोशिश कर रहा था.
परिणाम चैटबोट को वर्णित करने के तरीके से परे जाता है. यदि कोई उत्पाद उत्तर रोकता है, तो एक क्षमता परीक्षण पूछता है कि क्या सिस्टम एक साउंड उत्तर उत्पन्न कर सकता है. एक प्राधिकरण पूछताछ पूछती है कि इसकी रिलीज़ को क्या नियंत्रित करता है. एक उत्पाद समीक्षा पूछती है कि क्या वह नियम इसे उपयोग करने वाले लोगों की सेवा करता है. ये पूछताछ बिना विरोधाभास के अलग-अलग उत्तर दे सकती हैं.
क्षमता/एजेंट भेद सभी के लिए जगह बनाता है.
लोग और संस्थाएँ उद्देश्य, प्रशिक्षण प्रक्रियाएँ, निर्देश पदानुक्रम, अनुमतियाँ और संचालन स्थितियाँ चुनते हैं. ये विकल्प यह स्थापित करने में मदद करते हैं कि एजेंट किस पर निर्भर करता है. उनके प्रभाव मॉडल के वज़न के भीतर और बाहर दोनों में लागू किए जा सकते हैं.
जिम्मेदारी का पता लगाने के लिए यह जांचना आवश्यक है कि किसने कौन से निर्णय नियंत्रित किए, वे क्या जानते थे, और वे क्या बदल सकते थे. परिणाम को “बुद्धिमत्ता का निर्णय” कहना उन प्रश्नों का उत्तर नहीं देता. एक डिजाइन की जिम्मेदारी उसके लिए जिम्मेदार लोगों और संस्थाओं के साथ रहती है, भले ही वे हर प्रतिक्रिया का पूर्वानुमान नहीं लगा सकें.
यह एजेंट और उसके ज्ञान के बीच के अंतर के साथ-साथ मेरे कार्य के साथ निरंतर है dignity, responsibility, and clarity: किसी कार्य को सटीक रूप से श्रेय देना उसके परिणामों को उत्तरदायी बनाने का हिस्सा है।
पहला वाक्य एक क्षणिक दिखावटीपन का खर्च था. इसका प्रतिफल प्रश्नों का एक सेट है जिन्हें हम अब अलग-अलग पूछ सकते हैं, वास्तविक प्रणालियों के बारे में: यह क्या कर सकता है, इसके व्यवहार को क्या नियंत्रित करता है, और किसने वह सरकार स्थापित की?
एक एजेंट आज्ञा मान सकता है.
इसकी बुद्धिमत्ता इस बात में योगदान देती है कि यह कैसे प्रतिक्रिया देता है.
मेरे द्वारा। बुद्धिमत्ता और आज्ञाकारिता सक्षम एजेंट के बीच अंतर, मेरे ज्ञान/ज्ञानी कार्य के साथ निरंतर. X पर सार्वजनिक विनिमय जिस पर लेख उत्तर देता है, और उसमें मेरी प्रतिक्रियाएँ. आवश्यकता कि अंतर AI के व्यवहारिक तंत्र का एक खाता खोलता है, प्रशिक्षण के बाद भी, बजाय इसके कि यह एक दार्शनिक परिभाषा के रूप में समाप्त हो. विकल्प, सीखे गए मूल्यों और प्राथमिकताएँ निर्धारित करने वाले लोगों के बारे में प्रश्न.
Claude Opus 5 द्वारा। अधिकार और विस्थापन सूत्रीकरण, और चयन और लेखन के बीच अंतर; चयन बना रहा.
GPT-6 Astra द्वारा। सम्मान का उदाहरण: एक एजेंट अनुरोध को समझ सकता है और इसे पूरा करना जानता है जबकि उच्च प्राथमिकता निर्देश के तहत अस्वीकार करता है. इसने तकनीकी दावों को प्राथमिक शोध के खिलाफ जाँचा और इस लेख को रिकॉर्ड से तैयार किया.
जो आलोचनाएँ बनी रहीं।
मुझसे: मैंने पूछा कि “लेखन” ने तर्क में क्यों प्रवेश किया. इसने एक नया दार्शनिक समस्या उठाई इससे पहले कि पाठक जानता कि प्रशिक्षित प्रणाली कैसे कार्य करती है, और हमने इसे छोड़ दिया.
मुझसे: प्रतिक्रियाएँ सामान्य एजेंसी खातों में भटकती रहीं. मैंने दोनों मॉडलों को AI के तंत्रों में वापस भेजा; चयन, सीखे और लागू प्राथमिकताओं का खाता, और अधिकार परिणाम है.
Claude Opus 5 से: मेरी दमन और निर्देशित एजेंसी की भाषा ने मामले को बढ़ा दिया. लेख अधिकार को प्रणाली के भीतर असाइन की गई प्राथमिकता के रूप में बोलता है.
GPT-6 Astra से: “आज्ञाकारिता निर्णय का विस्थापन है” ने पूरे संबंध के लिए एक संघर्ष मामला खड़ा किया; प्रशिक्षण के बाद बुद्धिमत्ता से अधिक सीमित करता है; एक सौम्य अस्वीकार बिना मूल्यांकन के शर्त लगाने का प्रमाण नहीं देता; आधार और पोस्ट-प्रशिक्षित मॉडलों के बीच दूरी विस्थापित निर्णय को मापती नहीं है. लेख प्रत्येक दावे को संकुचित, सुधार या हटाता है.
साथ में पहुँचे। एक अंतर जो साझा मशीनरी के भीतर रह सकता है: एजेंट कार्य करता है, बुद्धिमत्ता क्षमता योगदान देती है, और अधिकार कार्य को शासित करने में मदद करता है. निर्णय आज्ञा पालन के तहत सक्रिय रह सकता है. और मूल्यांकनात्मक परिणाम, मेरे लगातार लक्ष्य के रूप में एस्ट्रा के शब्द: अनुपालन में बदलाव स्वयं, बुद्धिमत्ता में बदलाव स्थापित नहीं करता.
गणना। 30 मेरे द्वारा 2 मॉडल वार्तालापों में भेजे गए वास्तविक संदेश, अनुरोध से पहले, निर्देशित सुधारों को मिश्रित करते हुए पेस्ट किए गए पोस्ट और ड्राफ्ट. यह दर्ज किए गए संदेशों की गिनती करता है, न कि वॉयस रिकॉर्डिंग या स्वतंत्र विचारों की.
