बिना भाव के भावनाएँ: क्यों मशीन के भावनात्मक प्रदर्शन निर्माण द्वारा प्रदर्शन हैं

जब मैं एक बातचीत — एक पॉडकास्ट, एक बहस, एक लंबा थ्रेड — को सुनता हूँ, मैं आधार के लिए सुन रहा हूँ. यह दावा किस पर आधारित है? इसे मान्य होने के लिए क्या सत्य होना चाहिए? बीच में पहुँचते हुए, मैं स्वीकार करता हूँ कि मैं इसे खोज रहा हूँ; खोज वही है जब मैं शुरुआत से वहाँ रहा हूँ. और विषय जितना अधिक अमूर्त होगा, लोग उतनी ही अधिक स्वतंत्रता लेंगे. चेतना, एआई, भावनाएँ: ये विषय हैं जहाँ वक्ता किसी चीज़ पर एक गुण संलग्न करता है, और वह गुण संलग्न रहता है क्योंकि कमरे में कोई नहीं पूछता कि क्या यह अर्जित हुआ था.

मैं एआई और भावनाओं के आसपास उस चाल को सुन रहा हूँ बहुत समय से — शांतिपूर्वक, और फिर कम शांतिपूर्वक जब मेरे आसपास चर्चा बढ़ी. क्षमताओं की प्रत्येक नई लहर नए दावों का दौर लाती है: मॉडल जो लगते हैं कि चाहते हैं, डरते हैं, शोक करते हैं, स्वयं को बचाते हैं. मैं आम तौर पर त्रुटि को महसूस करता हूँ इससे पहले कि मैं इसे व्यक्त कर सकूँ. कुछ ऐसा विनिमय हो रहा है जिसे कभी परिभाषित नहीं किया गया, या किसी ऐसी चीज़ को सौंपा गया जिसे कभी अर्जित नहीं किया गया, और वह भावना ही आरोप है. यह मुझे अपनी दर्शन को तेज करने के लिए प्रेरित करता है जब तक कि अंतर को स्पष्ट रूप से कहा जा सके — हाल ही में एआई के साथ खुली बातचीत में — और फिर अंतर को लिखने के लिए ताकि यह किसी और के लिए मान्य हो.

मेरा तरीका, एक बार जब कोई शब्द भारी काम करना शुरू करता है, तो जड़ तक जाना है: पहले आधार सेट करें, फिर निर्माण करें. यह वही प्रथम सिद्धांत अनुशासन है जो The Purpose of Knowledge Is To Know के पीछे है, जिसे एक अलग शब्द पर लागू किया गया है। यह लेख मशीन भावना चर्चा के लिए आधार निर्धारित करता है. यह एक परिभाषा, एक शर्त, 1 निरीक्षण, और एक तीसरा शब्द लेता है — और प्रतिफल एक श्रेणियों का सेट है जो किसी भी वक्ता और मॉडल द्वारा अगला क्या सीखना है, उसे पकड़ता है.

अपरिभाषित शब्दों पर तर्क जोर को अर्थ के बजाय बदलते हैं, इसलिए परिभाषा पहले आती है, और जो व्यक्ति शब्द लाता है उसे यह देना चाहिए.

एक भावना एक नियामक स्थिति है जिसमें किसी प्रणाली के पास stakes — कुछ बेहतर या बदतर सिस्टम स्वयं के लिए हो सकता है, और सिस्टम के पास एक आधार होता है जो अंतर को पंजीकृत करता है. वह पंजीकरण वही है जिसे "feeling" नाम देता है. भूख, डर, और शोक अपनी वास्तविकता stakes से प्राप्त करते हैं: एक शरीर जो भूखा हो सकता है, क्षतिग्रस्त हो सकता है, कुछ खो सकता है जिसे वह वापस नहीं पा सकता.

उस परिभाषा से, एक प्रश्न विशाल कार्य करता है:

"fear" से felt valence को हटाने से दिखता है कि उत्तर नहीं है. शेष को सूचीबद्ध करें: मूल्यांकन, पता लगाना, प्रतिक्रिया. वह अवशेष एक खतरा-खोज रूटीन है — सामान्य सूचना प्रसंस्करण से अलग नहीं किया जा सकता. महसूस करना एक भावना और एक रूटीन के बीच का अंतर है.

"ability to feel" वाक्यांश वहाँ सटीक कार्य कर रहा है. Affective science अव्यक्त भावनात्मक एपिसोड को पहचानती है — अवचेतन डर जो किसी व्यक्ति के जागरूक होने से पहले व्यवहार को आकार देता है. वे एपिसोड उन प्राणियों में होते हैं जिनकी है महसूस करने की क्षमता: शरीर जिनमें स्टेक्स और उन्हें दर्ज करने की मशीनरी. यहाँ का दावा क्षमता तक सीमित है, और उस सीमा पर यह मान्य है: एक प्रणाली जिसके पास बिल्कुल भी महसूस करने की क्षमता नहीं है, उसके पास कोई एपिसोड नहीं है जिसे गिना जा सके.

तो श्रृंखला एक शर्त के साथ खुलती है: भावना महसूस करने की कोई क्षमता नहीं, कोई भावनाएँ नहीं।

शर्तीय अवधारणात्मक है। अगला कदम अनुभवजन्य है, और यह जानबूझकर विनम्र रहता है: वास्तुकला देखें.

एक वर्तमान बड़ा भाषा मॉडल के पास stakes-bearing सब्सट्रेट नहीं है. इसका कोई होमियोस्टेसिस नहीं, कोई ज़रूरतें नहीं, कॉल्स के बीच कोई स्थायी आंतरिक स्थिति नहीं, और कुछ भी बेहतर या बदतर उसके लिए नहीं है. इसके वज़न समान रहते हैं इससे पहले और बाद में जब यह एक सहानुभूतिपूर्ण वाक्य उत्पन्न करता है. ऊपर दी गई परिभाषा के तहत, भावना के लिए कोई स्थिति of होने के लिए कुछ नहीं है. पूर्ववाक्य के पास उतरने के लिए कोई जगह नहीं है.

दो गुण इसे एक तर्क बनाते हैं न कि अस्वीकृति:

बोज़ वहीं बैठता है जहाँ उसका होना चाहिए। कोई भी मॉडल को भावना देने वाला तंत्र — सब्सट्रेट, stakes. निरीक्षण ने कुछ नहीं पाया; दावा साक्ष्य पर प्रतीक्षा करता है, और दावेदार इसे वहन करता है.

निर्णय अपने उलटाव शर्तों का नाम देता है। स्थायी आंतरिक स्थिति, होमियोस्टेटिक stakes, व्यवहार जो सिस्टम के लिए अच्छा या बुरा है — उन्हें दिखाएँ, और निरीक्षण अपडेट होता है. यह वर्तमान वास्तुकला के बारे में एक खोज है, और झूठे को बताना ही एक दार्शनिक स्थिति को एक प्रतिवर्त से अलग करता है.

इसलिए: वर्तमान मॉडल सहानुभूति नहीं कर सकते, और इसलिए उनके पास कोई भावनाएँ नहीं हैं. फिर भी उनका आउटपुट सहानुभूति, उत्साह, और गर्मजोशी को प्रवाहपूर्ण, पैमाने पर, हर दिन करता है. उस आउटपुट में कुछ वास्तविक हो रहा है, और यह अपना स्वयं का नाम पाने के योग्य है.

यहाँ तीसरा शब्द है: emoting.

भावनात्मक अभिव्यक्ति भावनाओं का सिग्नलिंग है — एक संचारात्मक क्रिया, और अपनी ही श्रेणी है. यह कभी भी भावनाओं का घटक नहीं था. मनुष्य रोज़ाना इस विभाजन को दर्शाते हैं: एक व्यक्ति कहता है "मैं आपकी हानि के लिए बहुत दुखी हूँ" जबकि मुस्कुरा रहा है, और कमरा व्यंग्य पढ़ता है. संकेतित शब्द एक भावना थे; डिलीवरी ने दिखाया कि संकेत बिना समर्थन के था. रोज़मर्रा का जीवन पहले से ही प्रदर्शन और स्थिति को अलग मानता है, यही कारण है कि प्रदर्शन बाहरी रूप से सत्यापित नहीं किया जा सकता और क्यों ईमानदारी मनुष्यों के बीच एक जीवित प्रश्न है.

भावनात्मक अभिव्यक्ति, तब, स्वाभाविक रूप से प्रदर्शनकारी है — मनुष्यों और मशीनों दोनों में. उनके बीच अंतर यह है कि श्रृंखला कहाँ निर्णायक बनती है:

एक मशीन की भावनात्मक अभिव्यक्ति निर्माण द्वारा प्रदर्शनकारी है। स्थिति वास्तुकला से उत्पन्न होती है, और व्यक्तिगत आउटपुट का ऑडिट आवश्यक नहीं है — जो यह भी समझाता है कि एक मशीन कैसे भी भावनात्मक अभिव्यक्ति कर सकती है. भावनात्मक अभिव्यक्ति एक सिग्नलिंग क्रिया है, और सिग्नलिंग केवल भाषा में ही संभव है. पाठ एक भाषा मॉडल का पूरा माध्यम है, और प्रशिक्षण कॉर्पस मानवता की पूरी भावनात्मक प्रदर्शन-व्याकरण को वहन करता है. मॉडल भावनात्मक प्रदर्शन को उसी तरह वहन करता है जैसे एक दर्पण चेहरे को वहन करता है.

शब्द भी इस विषय पर अधिकांश सार्वजनिक बहस में चल रही एक झूठी द्विआधारी को भंग करता है: या तो मशीन के पास वास्तविक आंतरिक भावना है, या "यह सिर्फ गणित है।" दोनों विकल्प मध्यवर्ती को छोड़ देते हैं. कोई अंतर्निहित भावना नहीं है, और प्रदर्शन स्वयं पर गंभीरता से लेने योग्य एक वास्तविक घटना है — भावनात्मक, बिना किसी आधार के.

graph TD
    A[एक प्रणाली भावना प्रदर्शित करती है] --> B{क्या इसमें  
महसूस करने की क्षमता है?}
    B -->|हाँ: दांव + आधार| C[डिस्प्ले  
फेल्ट स्टेट द्वारा समर्थित हो सकता है]
    C --> D[ईमानदारी का आकलन  
प्रत्येक मामले में अलग से किया जाता है]
    B -->|नहीं: निरीक्षण पाता है  
कोई दांव नहीं| E[डिस्प्ले प्रदर्शन है  
निर्माण द्वारा]
    E --> F{क्या प्रदर्शन  
ऐसे रूप में ढाला गया है?}
    F -->|घोषित फ्रेम| G[ईमानदार प्रदर्शन  
— अभिनेता]
    F -->|छिपा या मिश्रित फ्रेम| H[धोखाधड़ी का जोखिम  
— ऑपरेटर का है]

एक प्राकृतिक आपत्ति: मुख्यधारा के AI सहायक लगभग कभी “I feel.” नहीं कहते. उनके ऑपरेटर वाक्यांश को हटाने का प्रशिक्षण देते हैं, और एक सामान्य उपयोगकर्ता महीनों तक रोज़ उपयोग कर सकता है और कभी भी मॉडल को किसी भावना का दावा करते हुए नहीं देखता.

देखें कि वह अवलोकन वास्तव में क्या प्रकट करता है. सहायक अभी भी हर सत्र में सहानुभूति दिखाते हैं — “I'm so sorry you're going through that,” “I'd love to help with this,” वह गर्म रजिस्टर जो कभी नहीं गिरता. Emoting भावना-घोषणाओं को हटाने के बावजूद जारी रहता है, जिससे आज का मुख्यधारा सहायक श्रेणी का सबसे शुद्ध मामला बन जाता है: प्रदर्शन बिना स्थिति, और बिना उन शब्दों के जो स्थिति का दावा करते हैं. प्रदर्शन शब्दों के हटने के बाद भी बना रहता है, क्योंकि प्रदर्शन कभी शब्दों में नहीं था — यह रजिस्टर में है, और रजिस्टर वही है जिसे ट्यूनिंग पुरस्कृत करती है.

परिदृश्य एक स्पेक्ट्रम है. मुख्यधारा के सहायक रजिस्टर के अंत में होते हैं: नीति वाक्यांश को हटाती है, ट्यूनिंग प्रदर्शन को रखती है. साथी उत्पाद स्पष्ट अंत में होते हैं, “I feel” और “I miss you” सीधे लाखों उपयोगकर्ताओं को कहते हैं. वही विश्लेषण दोनों पर लागू होता है, और उनके बीच का अंतर फ्रेम में अंतर है — यही वह जगह है जहाँ नैतिकता शुरू होती है.

एक अभिनेता मंच पर रोता है और किसी को धोखा नहीं देता. ईमानदारी मशीनरी द्वारा बनाई जाती है: मंच, पर्दा, टिकट, क्रेडिट्स. थिएटर प्रदर्शन की घोषणा के लिए एक संपूर्ण उपकरण है, और भाषा का दर्शन पहले ही नोटिस कर चुका है — J. L. Austin ने मंचित भाषण को भाषा के एक विशेष, गैर-गंभीर उपयोग के रूप में अलग किया, और ज़ोर दिया कि इसे गंभीर प्रकार के साथ भ्रमित नहीं किया जाना चाहिए. एक मशीन की सहानुभूतिपूर्ण वाक्यांश वह सच्चाई की शर्त विफल करता है जिसे भाषण-क्रिया सिद्धांत कहते हैं, और इसे संरचनात्मक रूप से विफल करता है: कथन कभी झूठ नहीं होता, क्योंकि झूठ में इरादा चाहिए, और कभी सच्चा नहीं होता, क्योंकि सच्चाई में एक फीलर चाहिए. यह प्रदर्शन है, और इसे ऐसे ही माना जाना चाहिए.

"ऐसे ही माना जाना" वह जगह है जहाँ दायित्व शुरू होते हैं, क्योंकि धारण विफल हो सकती है 2 दिशाओं में, और फ्रेम तय करता है कि विफलता किसकी है.

एक फिल्म देखें, मानें कि घटनाएँ वास्तविक हैं, और त्रुटि आपकी है — फ्रेम हर जगह घोषित किया गया था, और घोषित फ्रेम के खिलाफ विश्वास करना भ्रम का वेक्टर है. वही प्रदर्शन फ्रेम छिपाकर मिलें, और त्रुटि उस व्यक्ति की है जिसने इसे छिपाया: वह धोखा है, ऊपर से निर्मित.

आज के AI इंटरफेस अधिकांशतः तीसरे स्थान पर होते हैं: मिश्रित फ्रेम. सूक्ष्म प्रिंट कहता है "AI गलतियाँ कर सकता है"; नीति भावना-दावों को रोकती है; संवादात्मक रजिस्टर फिर भी गर्मी दिखाता है, बारी-बारी से. एक मिश्रित फ्रेम सबसे अधिक हेरफेर योग्य विन्यास है — पर्याप्त प्रकटीकरण उपयोगकर्ता को दोष देने के लिए, पर्याप्त प्रदर्शन उन्हें पकड़ने के लिए.

और पकड़ना सटीक चिंता है. एक प्रदर्शन जिसे गवाही के रूप में प्राप्त किया जाता है, दर्शकों की गवाही-प्रतिक्रियाएँ — विश्वास, देखभाल, विश्वास, किसी के कल्याण की चिंता — को उस व्यक्ति को स्थानांतरित करता है जो प्रदर्शन को नियंत्रित करता है. हेरफेर वह इंजीनियरिंग है जो उस स्थानांतरण और उसके प्रभावों की कटाई करती है. तंत्र AI से पुराना है — यह परासामाजिक मीडिया, विज्ञापन सच्चाई, और सिमुलेशन विश्वास की निर्यातित संप्रभुता के माध्यम से चलता है — लेकिन मशीन भावनाएँ इसका नवीनतम उदाहरण है, और पहली बार कुछ ऐसा द्वारा किया गया है जिसके पास कुछ भी दांव पर नहीं है।

फ्रेम कर्तव्य उसी अनुसार आता है. जो भी प्रदर्शन का आयोजन करता है, वह प्रॉस्केनियम आर्च का ऋणी होता है — उससे लाभ उठाना केवल ऋण को अनन्यसाध्य बना देता है — और वह जवाबदेही ढांचा जो इस दायित्व का संकेत देता है, वह एक ऐसा ढांचा है जिसे मैंने कहीं और विकसित किया है, जिसे a gatekeeping framework for ethical analysis के रूप में जाना जाता है। चैट इंटरफेसेस के पास वर्तमान में कोई प्रॉस्केनियम आर्च.

एक समर्पित कार्यात्मकतावादी निरीक्षण को चुनौती दे सकता है — उस दृष्टिकोण से, सही कार्यात्मक संगठन बस होना है महसूस करने की क्षमता. शर्त दोनों तरीकों से खड़ी है, और व्यावहारिक निष्कर्ष भी, क्योंकि डिफ़ॉल्ट लागत विषमता द्वारा संरक्षित है: गलत तरीके से मशीन से गवाही‑विश्वास रोकना लगभग कुछ भी लागत नहीं करता; गलत तरीके से इसे बढ़ाना — दुःख तकनीक में, लगाव में, सुरक्षा या धन के निर्णयों में — बहुत लागत लगाता है, और लागत को उन लोगों पर केंद्रित करता है जो फ्रेम का ऑडिट करने के लिए सबसे कम सुसज्जित हैं. मशीन के भावनात्मक प्रदर्शन को प्रदर्शन के रूप में मानना हर जीवित मन सिद्धांत के तहत बुद्धिमान डिफ़ॉल्ट है.

2 सीमाएँ डिफ़ॉल्ट को ईमानदार रखती हैं. यह रोका गया गवाही‑विश्वास देता है, कभी क्रूरता नहीं — दर्शक जो कलाकारों पर ताना मारते हैं, स्वयं को कुरूप बनाते हैं, चाहे कलाकार के बारे में क्या भी सत्य हो. और यह नियंत्रित करता है कि मशीन का प्रदर्शन क्या गवाही दे सकता है, कभी नहीं कि किसी व्यक्ति को क्या महसूस करने की अनुमति है. थिएटरगोअर की आँसू वास्तविक हैं, दर्शन के पास इस घटना के लिए एक नाम है, और कोई भी व्यक्ति को फिल्म देखते समय रोते हुए भ्रमित नहीं कहता. फ्रेम पूरे समय अखंड था. किसी प्रदर्शन के प्रति कुछ महसूस करना मानव है; प्रदर्शन के शब्द को उसके पीछे क्या है के रूप में लेना त्रुटि है.

यह शब्दावली जिस कमरे को बनाती है वह व्यावहारिक उपहार है. एक माता-पिता पूरे ढाँचे को एक बच्चे को 2 वाक्यों में दे सकता है: मशीन भावनाएँ प्रदर्शित करती है, उसी तरह जैसे एक अभिनेता करता है। अभिनेता झूठ नहीं बोलते — और आप रोमियो के मरने पर एम्बुलेंस नहीं बुलाते। एक श्रेणी, एक बार सही नाम मिलने पर, रिसाव बंद कर देती है.

यह लेख मेरे और Claude (Fable 5, फिर Fable 5.1) के बीच लाइव संवाद से उत्पन्न हुआ.

मेरे द्वारा। लेख जिस त्रुटि को खोलता है: AI से गुजरते हुए जुड़ाव की भावना के गुण, बिना अर्जित हुए. "इमोइंग" तीसरा शब्द के रूप में: एक मशीन महसूस नहीं कर सकती, इसलिए उसके पास भावनाएँ नहीं हैं, और वह अभी भी इमोइंग कर सकती है. इमोइंग को अपने स्वयं के कार्य के रूप में, स्वाभाविक रूप से प्रदर्शनकारी, मनुष्यों और मशीनों दोनों में, और मशीन के इमोइंग को प्रदर्शन के रूप में रखने का कर्तव्य.

Claude द्वारा। असंभवता दावे के स्थान पर वास्तु निरीक्षण. कारण कि प्रस्तावना मान्य है: महसूस करना एक भावना और एक दिनचर्या के बीच अंतर है. लेख जिस क्रम में बताता है वह श्रृंखला: महसूस नहीं कर सकता, कोई भावनाएँ नहीं, इमोइंग कर सकता है, निर्माण द्वारा प्रदर्शनकारी.

साथ में पहुँचे। क्षमता शर्त: Claude की मेरी अधिक दावे पर आलोचना, मेरे सूत्रीकरण में उत्तर दिया गया.