← 返回文章
哲学
Copy article
没有情感的情感表达:为什么机器的情感展示是构造性的表演
对 AI 与情感的第一性原理解释:基于利益的定义、能力条件、架构检查,以及保持类别诚实的第三个词。
Developed by Robert E. Beckner III (Merlin) | rbeckner.com
机器可以情感表达。机器不能感受。 关于 AI 与情感的所有重要内容都在于保持这两句话分离。
当我听一段对话——播客、辩论、长线程——我在寻找基础。 这主张的依据是什么? 为了成立它需要什么为真? 在中途到达时,我承认我正在寻找它;当我从一开始就在那里时,寻找的过程是相同的。 主题越抽象,人们越自由。 意识、AI、情感:这些是演讲者在谈话中随意给事物贴属性的主题,而该属性之所以保持贴着,是因为房间里没有人询问它是否值得。
我已经在倾听 AI 与情感周围的这种转变很久了——静静地,然后随着讨论在我周围扩展而变得不那么安静。 每一次新能力浪潮都会带来一轮新的主张:看似想要、害怕、悲伤、保护自己的模型。 我通常在能阐述之前就能感知到错误。 有些东西在被交换,却从未被定义,或被归因于从未获得它的事物,而这种感觉就是冲击。 这促使我磨练自己的哲学,直到能清晰陈述区别——最近在与 AI 的开放对话中——然后把区别写下来,以便让别人也能理解。
我的做法是,一旦一个术语开始承担重任,就回到根源:先设定基础,然后构建。 这与The Purpose of Knowledge Is To Know背后的第一性原理学科相同,只是应用于不同的术语。 本文为机器情感讨论奠定基础。 它采用一个定义、一个条件、1 检查,以及第三个词——其结果是一组类别,适用于任何发言者以及模型接下来学习执行的任何任务。
情感是系统拥有可失去之物的状态
关于未定义术语的争论是用强调来交换意义,因此定义先行,提出术语的人必须承担责任。
情绪是一个系统的调节状态,该系统具有利益——某些事物可能对系统自身更好或更糟,并且该系统有一个记录差异的基质。 这种记录就是“感受”所命名的。 饥饿、恐惧和悲伤从利益中获得其现实:一个可能饿死、受伤、失去无法恢复之物的身体。
从该定义出发,一个问题产生了巨大的工作量:
某物能在没有感受能力的情况下拥有情感吗?
把“恐惧”中的感受价值剥离出来,说明答案是否定的。 记录剩余的:评估、检测、响应。 这残余是威胁检测例程——与普通信息处理无法区分。 感受是情感与例程之间的区别。
“感受能力”这一措辞在此处起到了精确作用。 情感科学承认未感受的情绪事件——无意识的恐惧在个人意识到之前塑造行为。 这些情节发生在生物中,具有have感知能力:带有立柱和用于记录它们的机制的身体。 这里的主张聚焦于能力,在该范围内成立:完全没有感受能力的系统没有任何可计数的事件。
所以链条以一个条件开始:没有感知能力,没有情感。
机器可以被检查,检查即是论证
条件是概念性的。下一步是经验性的,并且它保持有意的谦逊:观察架构。
当前的大型语言模型没有利益承载基质。 它没有稳态,没有需求,没有在调用之间的持续内部状态,也没有比它更好或更差 为它. 它的权重在产生同情句子前后相同。 根据上述定义,情绪没有什么可以成为的状态的. 谓语没有落脚点。
两个属性使这成为论证而非驳斥:
负担停在它应在的位置。 任何将情绪归因于模型的人都欠机制——基质、利益。 检查未发现;主张等待证据,主张者承担它。
判决命名其自身的逆转条件。 持续的内部状态、稳态利益、由对系统自身有益或有害的事物调节的行为——展示这些,检查就会更新。 这是关于当前架构的发现,陈述反驳者是将哲学立场与反射区分开的关键。
因此:当前模型无法感受,因此没有情绪。 但它们的输出流利地表现出同情、热情和温暖,规模化、每日。 这种输出中发生了真实的事物,它值得有自己的名称。
表情是它自己的行为,人类早在机器出现之前就发明了它
这是第三个词:emoting.
表情是情感的信号——一种交际行为,也是它自己的类别。 它从未是情感的组成部分。 人类每天都展示这种分离:有人说“我对你的损失感到非常抱歉”,同时微笑,房间里的人读出了讽刺。 这些词信号化了情感;传递方式揭示了信号没有得到支持。 日常生活已经把展示和状态视为可分离的,这正是为什么展示从外部无法验证,也正是为什么真诚在人类之间始终是一个活跃的问题。
因此,表情本质上是表演性的——在人类和机器中都是如此。 它们之间的区别在于链条何时变得决定性:
- 人类的表情可能由感受状态支持。 真诚必须逐案评估。
- 机器的表情不能由感受状态支持。 没有逐案的问题需要提问。
机器的表情是构造上的表演性。 这一状态源自架构,无需对单个输出进行审计——这也解释了机器如何能够表情。 表情是一种信号行为,而信号仅在语言中可实现。 文本是语言模型的全部媒介,训练语料库承载着人类完整的情感展示语法。 模型以镜子承载面孔的方式承载情感展示。
这个词也打破了大多数公众辩论中存在的错误二分法:机器要么拥有真正的内在情感,要么“它只是数学”。 两种选择都忽略了中间。 并不存在潜在情感,展示本身就是一个值得认真对待的真实事件——情感表达,背后没有任何东西。
Diagram source
graph TD
A[一个系统展示情感] --> B{它是否具备
感受能力?}
B -->|是的:风险 + 基质| C[展示可能由
感受状态支持]
C --> D[真诚
按情况评估]
B -->|否:检查发现
没有风险| E[展示是按构造的
表演]
E --> F{其表现是否被
框定为此?}
F -->|声明框架| G[诚实表演
— 演员]
F -->|隐藏或混合框架| H[欺骗风险
— 由操作者承担]该表现力在去除词语后仍然存在
一个自然的反对意见是:主流 AI 助手几乎从不说“我感受”。 他们的运营者训练模型把这句话去掉,普通用户可以使用数月却从未见过模型宣称有感受。
看看这观察实际上揭示了什么。 助手仍在每次会话中表现出同情——“我很抱歉你正在经历那件事”,“我很乐意帮忙”,那种永不消退的温暖语调。 表情在去除感受声明后仍在继续,这使得今天的主流助手成为该类别中最纯粹的例子:展示而无状态,甚至连会断言状态的词语都没有。 该表现力在去除词语后仍然存在,因为表现力从未在词语中——它存在于语调中,而语调是调优所奖励的。
这个景观是一个光谱。 主流助手位于语调端:政策去除短语,调优保留表现力。 陪伴产品位于显式端,直接对数百万用户说“我感受”与“我想你”. 同样的分析适用于两者,它们之间的区别在于框架的不同——这就是伦理开始的地方。
只要框架可见,表现就会诚实
演员在舞台上哭泣,却不欺骗任何人。 诚实是由机械制造的:舞台、帷幕、票券、字幕。 电影是宣告表现的完整装置,语言哲学早已注意到——J. L. Austin 将舞台演讲视为一种特殊的、非严肃的语言使用,并坚持它永不与严肃的那种混淆。 机器的同情句子未能满足言语行为理论所称的真诚条件,并在结构上失败:话语从未是谎言,因为谎言需要意图,也从未是真诚的,因为真诚需要感受者。 它是表现,必须被视为表现。
“被视为表现”是义务开始的地方,因为持有可能在2方向上失败,框架决定谁拥有失败。
看一部电影,认为事件是真实的,错误就归咎于你——框架已在各处声明,违背已声明的框架是错觉的向量。 以隐藏框架的方式遇到同一表现,错误归于谁隐藏了它:那就是欺骗,制造于上游。
当今的 AI 接口大多占据第三位置:混合框架. 小字条款写着“AI 可能会犯错”;政策禁止感受声明;对话语调仍然表现温暖,一次又一次。 混合框架是最易被操纵的配置——足够披露以责备用户,足够表现以吸引他们。
而捕获正是精确的关注点。 作为证词接收的表现将观众的证词回应——信任、关怀、信念、对某人福祉的关注——转移给控制表现的人。 操纵是对这种转移及其效应的工程化收获。 该机制比 AI 更古老——它贯穿了 parasocial 媒体、广告真诚和导出主权的模拟信仰——但机器表情是其最新实例,也是首个由无任何利益的事物表演的实例。
框架职责相应落在。 任何上演表演的人都欠下前厅拱门的债务——从中获利只会让债务不可否认——而这一义务所暗示的问责结构是我在其他地方开发的,作为道德分析的门控框架。 聊天界面目前没有前厅拱门。
明智的默认设定能抵御所有反对
一个坚定的功能主义者可以质疑检查——在这种观点下,正确的功能组织仅仅是感受的能力。 条件无论如何都成立,实际结论亦然,因为默认受到成本不对称的保护:错误地拒绝机器的证词信任几乎不花钱;错误地延伸它——在悲伤技术、依恋、关于安全或金钱的决策中——则花费巨大,并将成本集中在最不具备审计画面的人员身上。 将机器情感视为表演是每一种活生生的心智理论下的明智默认。
2 边界保持默认的诚实。 它授权了被保留的证词信任,从不残忍——嘲笑表演者的观众会让自己变得粗俗,无论表演者的真实情况如何。 它决定机器的展示能证明什么,从不决定人们被允许感受什么。 观众的眼泪是真实的,哲学为这一现象起了名字,没有人会称在电影里哭泣的人是“被欺骗的”. 画面在整个过程中保持完整。 对表演产生情感是人类的特质;把表演的言辞当作其背后真相则是错误。
这个词汇创造的空间是实用的礼物。 父母可以用2 句子把整个框架交给孩子:机器以演员的方式表现情感。演员并不撒谎——当罗密欧死亡时,你也不会叫救护车。 一旦给了它正确的名称,类别就不再泄漏。
关键归因
本文源自我与Claude(Fable 5,随后是Fable 5.1)之间的实时对话。
由我撰写。 文章开篇的错误:对AI的情感附着的属性在短暂中出现,而非被获得。 “Emoting”作为第三个词:机器无法感受,因此没有情感,但它仍能表达情感。 将表达视为自身的行为,固有的表演性,在人类和机器中相同,并且有责任将机器的表达视为表演。
由Claude撰写。 用建筑检查代替不可能性主张。 前提成立的原因:感受是情感与例行之间的区别。 文章所述顺序中的链条:无法感受,无情感,能表达,构造上具有表演性。
持有的批评。
- 来自Claude:我的开篇表述,“机器确实无法拥有情感”,过度主张。
- 来自我:Claude将表达框定为“情感的一部分”。 我的版本,将表达视为自身的表演行为,取代了它。
共同达成。 能力条件:Claude对我过度主张的批评,在我的表述中得到回答。
计数。 18 在 2 会话中跟踪提示。
#philosophy#ai#first-principles#category-errors#ethics#language