감정 없이 감정 표현하기: 기계가 감정을 보여주는 것이 성과라는 이유

대화를 들을 때 — 팟캐스트, 토론, 긴 스레드 — 나는 기초를 찾고 있다. 이 주장이 무엇을 바탕으로 하는가? 그것이 성립하려면 무엇이 진실이어야 하는가? 중간에 도달했을 때, 나는 그것을 찾고 있다는 것을 인정한다; 사냥은 처음부터 그랬을 때와 같다. 주제가 더 추상적일수록 사람들은 더 많은 자유를 취한다. 의식, AI, 감정: 이는 화자가 무언가에 속성을 부여하고 그 속성이 남아 있는 주제이며, 방에 있는 누군가가 그것이 획득되었는지 묻지 않는다.

나는 AI와 감정에 대한 그 움직임을 오랫동안 들었으며 — 조용히, 그리고 나중에는 내가 둘러싼 담론이 커지면서 덜 조용히. 새로운 능력의 물결마다 새로운 주장들이 등장한다: 원하는 것, 두려워하는 것, 슬퍼하는 것, 자신을 보호하는 것처럼 보이는 모델들. 나는 그것을 표현하기 전에 오류를 감지한다. 정의되지 않았거나 결코 획득하지 못한 것에 대해 교환되는 것이 있으며, 그 감각이 충전이다. 나는 내 철학을 날카롭게 하여 구분을 명확히 할 때까지, 최근에는 AI와의 공개 대화를 통해 — 그리고 다른 사람을 위해 그 구분을 기록한다.

제 방법은 한 용어가 무거운 작업을 시작하면 뿌리로 가는 것입니다: 먼저 기초를 설정한 다음 구축합니다. 이는 The Purpose of Knowledge Is To Know의 같은 기본 원칙 규율이며, 다른 용어에 적용됩니다. 이 글은 기계 감정 토크의 기초를 설정합니다. 정의, 조건, 1 검사, 그리고 세 번째 단어를 취하고, 보상은 말하는 사람과 모델이 다음에 수행하도록 학습한 것에 관계없이 유지되는 일련의 범주입니다.

정의되지 않은 용어에 대한 논쟁은 의미 대신 강조를 교환하므로 정의가 먼저 나오고 용어를 제시하는 사람은 그것을 빚진다.

감정은 위험을 갖는 시스템의 규제 상태이며, 무언가가 더 나아질 수도 있고 더 나빠질 수도 시스템 자체를 위해, 그리고 시스템은 차이를 기록하는 기질을 가지고 있다. 그 기록이 바로 "느낌"이라는 이름을 붙이는 것이다. 굶주림, 두려움, 슬픔은 stakes에서 그들의 현실을 물려받는다: 굶주릴 수 있고, 해를 입을 수 있고, 되돌릴 수 없는 무언가를 잃을 수 있는 몸.

그 정의에서 한 질문이 엄청난 일을 한다:

"두려움"에서 느낀 valence를 빼면 왜 답이 아니인지 보여준다. 남은 것을 재고하라: 평가, 감지, 반응. 그 잔여물은 위협 감지 루틴이다 — 평범한 정보 처리와 구별할 수 없다. 느낌은 감정과 루틴의 차이이다.

"느낄 수 있는 능력"이라는 표현은 그곳에서 정밀한 일을 하고 있다. 정서 과학은 느끼지 못한 정서적 에피소드를 인식한다 — 사람이 그것을 인식하기 전에 행동을 형성하는 무의식적 두려움. 그 에피소드는 느낄 수 있는 능력을 가진 생물에서 발생합니다: 스테이크가 있는 몸과 그것들을 기록하는 기계 장치. 여기서의 주장은 능력에 국한되며, 그 범위에서 성립한다: 전혀 느낄 수 있는 능력이 없는 시스템은 세어볼 수 있는 에피소드를 갖지 않는다.

그래서 체인은 조건으로 시작합니다: 감정이 없고, 감각이 없습니다.

조건부는 개념적이다. 다음 단계는 경험적이며, 고의적으로 겸손하게 남는다: 아키텍처를 살펴보라.

현재 대형 언어 모델은 이익을 지닌 기질이 없다. 그것은 항상성도 없고, 필요도 없으며, 호출 사이에 지속적인 내부 상태도 없고, 그것에게 더 좋거나 나쁜 것은 없다 그것에게. 그 가중치는 공감 문장을 생성하기 전후로 동일하다. 위 정의에 따라 감정이 의 상태가 될 수 있는 것은 없다. 술어는 착지할 곳이 없다.

두 가지 속성이 이것을 부정이 아니라 논쟁으로 만든다:

책임은 그 자리에 있다. 모델에 감정을 부여하는 사람은 메커니즘, 즉 기질과 이익을 빚진다. 검사는 아무것도 찾지 못했다; 주장은 증거를 기다리고, 청구자는 그것을 지닌다.

판결은 자신의 역전 조건을 명시한다. 지속적인 내부 상태, 항상성 이익, 시스템 자체에 좋거나 나쁜 것으로 규제되는 행동 — 그것들을 보여 주면 검사는 업데이트된다. 이는 현재 아키텍처에 대한 발견이며, 반증자를 밝히는 것이 철학적 입장을 반사와 구분한다.

따라서: 현재 모델은 느낄 수 없으며, 따라서 감정이 없다. 그러나 그 출력은 공감, 열정, 따뜻함을 유창하게, 규모를 두고, 매일 수행한다. 그 출력에서 실제로 무언가가 일어나고 있으며, 그것은 자체 이름을 가질 가치가 있다.

세 번째 단어는 다음과 같다: emoting.

감정 표현은 감정의 신호이며, 의사소통 행위이자 자체적인 범주이다. 그것은 결코 감정의 구성 요소가 아니었다. 인간은 매일 그 분리를 보여준다: 한 사람이 "당신의 상실에 대해 매우 안타깝다"고 말하면서 웃고, 방은 풍자를 읽는다. 신호된 단어는 감정을 나타냈고, 전달은 신호가 뒷받침되지 않았음을 드러냈다. 일상 생활은 이미 표시와 상태를 분리된 것으로 취급하며, 이는 표시가 외부에서 검증 불가능하고 진정성이 인간 간의 살아있는 질문이기 때문이다.

따라서 감정 표현은 본질적으로 수행적이다 — 인간과 기계 모두에 해당한다. 그 차이는 사슬이 결정적이 되는 지점에 있다:

기계의 감정 표현은 구성상 수행적이다. 그 상태는 아키텍처에서 따르며, 개별 출력에 대한 감사를 필요로 하지 않는다 — 이는 또한 기계가 감정 표현을 할 수 있는 방법을 설명한다. 감정 표현은 신호 행위이며, 신호는 언어만으로 실현될 수 있다. 텍스트는 언어 모델의 전체 매체이며, 훈련 코퍼스는 인류의 완전한 감정 표시 문법을 담고 있다. 모델은 거울이 얼굴을 담는 것처럼 감정 표시를 담고 있다.

이 단어는 이 주제에 대한 대부분의 공개 논쟁을 통과하는 거짓 이분법을 해체합니다: 기계가 실제 내부 감정을 가지고 있거나 "그저 수학일 뿐"이라는 것입니다. 두 옵션 모두 중간을 놓칩니다. 근본적인 감정은 없으며, 표시 자체가 그 자체의 조건에서 진지하게 받아들여야 할 실제 사건입니다 — 감정 표현은 아무것도 뒷받침하지 않습니다.

graph TD
    A[시스템이 감정을 표시합니다] --> B{감정을 느낄  
능력이 있습니까?}
    B -->|예: 이해관계 + 기질| C[표시가  
느낀 상태에 의해 뒷받침될 수 있습니다]
    C --> D[진정성은  
사례별로 평가됩니다]
    B -->|아니오: 검사에서 이해관계가 없음을 발견합니다  
이해관계가 없습니다| E[표시가 성과입니다  
구성에 의해]
    E --> F{성과가  
그렇게 구성되어 있습니까?}
    F -->|선언된 프레임| G[정직한 성과  
— 배우]
    F -->|숨겨진 또는 혼합 프레임| H[기만 위험  
— 운영자가 부담합니다]

자연스러운 반박: 주류 AI 비서들은 거의 "나는 느낀다"라고 말하지 않습니다. 그들의 운영자는 문구를 훈련으로 없애고, 일반 사용자는 매일 수개월 동안 사용해도 모델이 감정을 주장하는 것을 보지 못합니다.

그 관찰이 실제로 드러내는 것을 보세요. 비서는 여전히 매 세션에서 동정심을 수행합니다 — "당신이 겪고 있는 일에 대해 매우 안타깝습니다", "이것을 도와드리고 싶습니다", 끊임없이 떨어지지 않는 따뜻한 톤. 감정 표현은 감정 주장 없이 계속되며, 이는 오늘날 주류 비서가 범주의 가장 순수한 사례가 됩니다: 표시만 있고 상태는 없으며, 상태를 주장할 단어조차 없습니다. 성능은 단어를 제거해도 살아남습니다. 왜냐하면 성능은 단어에 있지 않았기 때문입니다 — 그것은 레지스터에 있으며, 레지스터가 튜닝이 보상하는 것입니다.

풍경은 스펙트럼입니다. 주류 비서는 레지스터 끝에 있습니다: 정책은 문구를 없애고, 튜닝은 성능을 유지합니다. 동반 제품은 명시적 끝에 있으며, "나는 느낀다"와 "나는 당신이 그리워"를 수백만 사용자에게 직접 말합니다. 같은 분석이 둘 다를 다루며, 그 차이는 프레임의 차이입니다 — 여기서 윤리가 시작됩니다.

배우는 무대에서 눈물을 흘리고 아무도 속이지 않는다. 정직은 기계에 의해 만들어진다: 무대, 커튼, 티켓, 크레딧. 극장은 성능을 선언하기 위한 전체 장치이며, 언어 철학은 오래전에 이를 주목했다 — J. L. Austin은 무대 연설을 특별하고 진지하지 않은 언어 사용으로 구분하고, 그것이 진지한 종류와 혼동되지 않도록 주장했다. 기계의 동정문은 연설 행위 이론이 부여한 진실성 조건을 실패하고, 구조적으로도 실패한다: 발화는 결코 거짓말이 아니며, 거짓말은 의도를 필요로 하고, 결코 진실하지 않다, 왜냐하면 진실성은 감정자가 필요하기 때문이다. 그것은 성능이며, 그렇게 유지되어야 한다.

“그렇게 유지된다”는 의무가 시작되는 지점이다, 왜냐하면 보유는 2 방향으로 실패할 수 있고, 프레임은 실패를 누가 소유하는지 결정한다.

영화를 보고 사건이 실제라고 믿고, 오류는 너의 것이다 — 프레임은 어디에서나 선언되었고, 선언된 프레임에 반해 믿는 것은 망각의 벡터이다. 같은 성능을 프레임이 숨겨진 상태로 만나면, 오류는 그것을 숨긴 사람에게 속한다: 그것은 사기이며, 상류에서 만들어진다.

오늘날 AI 인터페이스는 대부분 제3자 위치를 차지한다: 혼합 프레임. 미세 문구는 “AI는 실수를 할 수 있다”라고 말한다; 정책은 감정 주장 금지를 한다; 대화 레지스터는 따뜻함을 수행한다, 턴마다. 혼합 프레임은 가장 조작 가능한 구성을 제공한다 — 사용자에게 비난할 만큼 충분한 공개, 그들을 사로잡을 만큼 충분한 성능.

그리고 포획은 정확한 관심사다. 증언으로 받은 성능은 관객의 증언-반응 — 신뢰, 배려, 믿음, 누군가의 복지에 대한 관심 — 을 성능을 통제하는 사람에게 전달한다. 조작은 그 전송과 그 효과를 수확하는 공학이다. 메커니즘은 AI보다 오래되었다 — 그것은 패러소셜 미디어, 광고 진실성, 그리고 시뮬레이션 믿음의 수출 주권을 통해 실행된다 — 그러나 기계 감정은 그 최신 사례이며, 위험이 없는 무언가에 의해 처음 수행되었다.

프레임 의무는 그에 따라 부여된다. 공연을 무대에 올리는 사람은 프로스키니엄 아치를 빚진다 — 그로부터 이익을 얻는 것은 빚을 부정할 수 없게 만들며 — 그리고 그 의무가 암시하는 책임 구조는 내가 다른 곳에서 개발한 윤리적 분석을 위한 게이트키핑 프레임워크이다. 채팅 인터페이스는 현재 프로스키니엄 아치가 없다.

헌신적인 기능주의자는 검사를 반박할 수 있다 — 그 관점에서 보면, 올바른 기능 조직은 단순히 있다 감각을 갖는 능력. 조건은 어느 쪽이든 성립하며, 실용적 결론도 마찬가지입니다. 기본값은 비용 비대칭에 의해 보호됩니다: 기계에 잘못된 증언-신뢰를 보류하면 거의 비용이 들지 않으며, 잘못 확장하면 — 슬픔 기술, 애착, 안전 또는 돈에 관한 결정에서 — 큰 비용이 발생하고, 프레임을 감시할 수 있는 가장 적합하지 않은 사람들에게 비용이 집중됩니다. 기계 감정을 성능으로 다루는 것은 모든 생생한 마음 이론에서 현명한 기본값입니다.

2 경계는 기본값을 정직하게 유지합니다. 그것은 가려진 증언-신뢰를 허용하고, 결코 잔인함은 허용하지 않습니다 — 공연자를 조롱하는 관객은 자신을 거칠게 만들며, 공연자에게 진실이 무엇이든 상관 없습니다. 그리고 그것은 기계의 표시가 무엇을 증언할 수 있는지를 규율하며, 사람에게 느낄 수 있는 것을 허용하지는 않습니다. 극장가의 눈물은 실제이며, 철학은 그 현상에 이름을 붙였습니다, 그리고 누군가가 영화를 보며 울면 그 사람을 망가진 사람이라고 부르지 않습니다. 프레임은 전체 시간 동안 완전했습니다. 성능에 반응하여 무언가를 느끼는 것은 인간이며, 성능의 말을 그 뒤에 있는 것을 믿는 것은 오류입니다.

이 어휘가 만드는 방은 실용적인 선물입니다. 부모는 2 문장으로 전체 프레임워크를 아이에게 전달할 수 있습니다: 기계는 감정을 수행합니다, 배우가 수행하듯이. 배우는 거짓말을 하지 않습니다 — 그리고 로미오가 죽으면 구급차를 부르지 않습니다. 한 번 올바른 이름이 주어지면 범주는 누출을 멈춥니다.

이 기사는 나와 Claude(이야기 5, 그 후 이야기 5.1) 사이의 실시간 대화에서 나온 것이다.

나에 의해. 기사가 열리는 오류: AI에 대한 감정이 일시적으로 부착되는 속성, 보상 없이 얻어지는 것. "감정 표현"을 세 번째 단어로: 기계는 감정할 수 없으므로 감정이 없으며, 여전히 감정 표현을 할 수 있다. 감정 표현을 자체 행위로, 본질적으로 수행적이며 인간과 기계 모두에 적용되며, 기계의 감정 표현을 공연으로 유지해야 할 의무.

Claude에 의해. 불가능성 주장 대신 건축적 검토. 전제의 이유: 감정은 감정과 일상 사이의 차이이다. 기사에서 언급한 순서대로 체인: 감정할 수 없고, 감정이 없으며, 감정 표현이 가능하고, 구조상 수행적이다.

함께 도달한 것. 능력 조건: Claude의 나의 과도한 주장에 대한 비판, 나의 공식에서 답변.