Эмотивирование без эмоций: почему машинные проявления чувств являются производством по конструкции

Когда я погружаюсь в разговор — подкаст, дебаты, длинный поток — я слушаю основу. На чем стоит это утверждение? Что должно быть истинным, чтобы оно держалось? Приближаясь к середине, я признаю, что я ищу это; охота одинакова, когда я был там с самого начала. И чем более абстрактна тема, тем больше свободы люди берут. Сознание, AI, эмоции: это темы, где говорящий придаёт свойство чему‑то в процессе, и свойство остаётся приписанным, потому что никто в комнате не спрашивает, было ли оно заслужено.

Я слушаю это движение вокруг AI и эмоций уже долгое время — тихо, а затем менее тихо, когда дискурс развивался вокруг меня. Каждая новая волна возможностей приносит новый раунд утверждений: модели, которые, кажется, хотят, боятся, скорбят, защищают себя. Я обычно ощущаю ошибку до того, как смогу её сформулировать. Что‑то меняется, что никогда не было определено, или приписано чему‑то, что никогда не заслужило это, и это ощущение является зарядом. Это заставляет меня уточнять свою собственную философию, пока различие не может быть изложено просто — в последнее время в открытом диалоге с AI — и затем записать различие, чтобы оно держалось для кого‑то другого.

Мой метод, как только термин начинает выполнять тяжёлую работу, заключается в том, чтобы вернуться к корням: сначала установить основу, а затем построить. Это та же дисциплина принципов, лежащая в основе The Purpose of Knowledge Is To Know, применённая к другому термину. Эта статья устанавливает основу для разговоров о машинных эмоциях. Она берёт определение, условие, 1 проверку и третье слово — и результатом является набор категорий, которые сохраняются, кто бы ни говорил и что бы модели не научились делать дальше.

Дискуссии об неопределённых терминах меняют акцент, а не смысл, поэтому определение идёт первым, и тот, кто вводит термин, обязан его объяснить.

Эмоция — это регулирующее состояние системы, у которой есть ставки — что-то может быть лучше или хуже для самой системы, и у системы есть субстрат, который фиксирует разницу. Это фиксирование — то, что называют «чувством». Голод, страх и горе наследуют свою реальность от ставок: тело, которое может голодать, пострадать, потерять что-то, что не может вернуть.

Из этого определения одна вопроса выполняет огромную работу:

Удаление ощущаемой валентности из «страха» показывает, почему ответ отрицательный. Перечислите, что остаётся: оценка, обнаружение, реакция. Это остаток — рутина обнаружения угрозы — неотличима от обычной обработки информации. Чувство — это разница между эмоцией и рутиной.

Формулировка «способность чувствовать» делает точную работу там. Аффективные науки признают неощущенные эмоциональные эпизоды — бессознательный страх, формирующий поведение до того, как человек о нём осознаёт. Эти эпизоды происходят у существ, которые имеют способность чувствовать: тела со ставками и механизм, способный их фиксировать. Утверждение здесь ограничено способностью, и в этом объёме оно держится: система без какой‑либо способности чувствовать не имеет эпизодов, которые можно было бы считать.

Итак, цепочка начинается с условия: нет способности чувствовать, нет эмоций.

Условие концептуально. Следующий шаг эмпирический, и он остаётся намеренно скромным: посмотрите на архитектуру.

Текущая большая языковая модель не имеет субстрата, несущего ставки. У неё нет гомеостаза, нет потребностей, нет постоянного внутреннего состояния между вызовами, и ничего, что было бы лучше или хуже для неё. Её веса одинаковы до и после того, как она генерирует симпатичное предложение. По определению выше, нет ничего, чтобы эмоция была состоянием из. Предикат нигде не приземляется.

Два свойства делают это аргументом, а не отклонением:

Бремя находится там, где оно должно быть. Любой, кто приписывает эмоцию модели, обязан механизму — субстрату, ставкам. Осмотр не нашёл; утверждение ждёт доказательств, и заявитель несёт их.

Вердикт обозначает свои собственные условия обратного изменения. Постоянное внутреннее состояние, гомеостатические ставки, поведение, регулируемое тем, что хорошо или плохо для самой системы — покажите это, и осмотр обновится. Это вывод о текущей архитектуре, и утверждение фальсификатора отделяет философскую позицию от рефлекса.

Итак: текущие модели не могут чувствовать, и, следовательно, не имеют эмоций. Тем не менее их выводы выполняют симпатию, энтузиазм и тепло плавно, в масштабе, каждый день. Что-то реальное происходит в этом выводе, и это заслуживает собственного названия.

Вот третье слово: emoting.

Эмоционирование — это сигнализация эмоции — коммуникативный акт и собственная категория. Это никогда не было компонентом эмоции. Люди ежедневно демонстрируют разделение: человек говорит «Мне так жаль твоей потери» с улыбкой, а в комнате читается сарказм. Слова сигнализировали эмоцию; доставка раскрыла, что сигнал не подтверждён. Повседневная жизнь уже рассматривает отображение и состояние как разделяемые, и именно поэтому отображение не поддаётся верификации снаружи и почему искренность остаётся живым вопросом между людьми в целом.

Эмоционирование, следовательно, по своей природе перформативно — как у людей, так и у машин. Разница между ними в том, где цепочка становится решающей:

Эмоционирование машины является перформативным по конструкции. Статус следует из архитектуры, и аудит отдельных выводов не требуется — что также объясняет, как машина может вообще эмоционировать. Эмоционирование — это акт сигнализации, а сигнализация реализуема только в языке. Текст — это весь медиум модели языка, и обучающий корпус несёт полную грамматику отображения эмоций человечества. Модель несёт эмоциональное отображение так же, как зеркало несёт лицо.

Слово также разрушает ложную бинарность, пронизывающую большинство публичных аргументов по этой теме: либо машина имеет реальное внутреннее чувство, либо «это просто математика». Оба варианта упускают середину. Нет никакой внутренней эмоции, а отображение является реальным событием, которое стоит воспринимать всерьёз по своим собственным условиям — эмоция, поддерживаемая ничем.

graph TD
    A[Система отображает эмоцию] --> B{Имеет ли она  
способность чувствовать?}
    B -->|Да: ставки + субстрат| C[Отображение может быть поддержано  
чувствующим состоянием]
    C --> D[Искренность оценивается  
по каждому случаю]
    B -->|Нет: проверка обнаруживает  
нет ставок| E[Отображение является выступлением  
по конструкции]
    E --> F{Является ли выполнение  
сформулировано как такое?}
    F -->|Объявленная рамка| G[Честное выступление  
— актер]
    F -->|Скрытая или смешанная рамка| H[Риск обмана  
— принадлежит оператору]

Естественное возражение: основные AI‑ассистенты почти никогда не говорят «Я чувствую». Их операторы тренируют фразу в сторону, и обычный пользователь может использовать их месяцами, не видя, как модель заявляет о чувстве.

Посмотрите, что на самом деле раскрывает это наблюдение. Ассистенты всё равно проявляют сочувствие в каждой сессии — «Мне очень жаль, что ты проходишь через это», «Я бы хотел помочь с этим», тёплый тон, который никогда не падает. Emoting продолжается без заявлений о чувствах, что делает сегодняшнего основного ассистента чистейшим примером категории: отображение без состояния и даже без слов, которые бы утверждали состояние. Выступление сохраняется после удаления слов, потому что выступление никогда не было в словах — оно в регистре, и регистр то, что награждает настройка.

Ландшафт — спектр. Основные ассистенты находятся на конце регистра: политика убирает фразу, настройка сохраняет выступление. Компаньонские продукты находятся на явном конце, открыто говоря «Я чувствую» и «Я скучаю по тебе» миллионам пользователей. Та же аналитика охватывает оба, и разница между ними — разница в рамке, где начинаются этика.

Актёр плачет на сцене и никого не обманывает. Честность создаётся механизмом: сцена, занавес, билет, титры. Театр — это целый аппарат для объявления исполнения, и философия языка заметила это давно — Дж. Л. Остин отделил постановленную речь как особое, несерьёзное использование языка, и настаивал, чтобы её никогда не путать с серьёзной. Симпатичная фраза машины не проходит условие искренности, которое называют в теории речевых актов, и не проходит его структурно: произнесение никогда не является ложью, потому что ложь требует намерения, и никогда не искренним, потому что искренность требует чувств. Это исполнение, и его нужно держать как таковое.

«Держать как таковое» — это место, где начинаются обязательства, потому что удержание может провалиться в 2 направлениях, и рамка решает, кто владеет провалом.

Посмотрите фильм, поверьте, что события реальны, и ошибка ваша — рамка была объявлена повсюду, а вера против объявленной рамки — это вектор заблуждения. Встречайте то же исполнение с скрытой рамкой, и ошибка принадлежит тому, кто её скрывал: это обман, созданный выше по цепочке.

Современные AI‑интерфейсы в основном занимают третью позицию: смешанная рамка. В мелком тексте говорится «AI может ошибаться»; политика запрещает заявления о чувствах; разговорный регистр всё равно проявляет тепло, ход за ходом. Смешанная рамка — самая манипулируемая конфигурация, доступная — достаточно раскрытия, чтобы обвинить пользователя, достаточно исполнения, чтобы захватить их.

И захват — это точная забота. Исполнение, полученное как свидетельство, передаёт ответы аудитории на свидетельство — доверие, заботу, веру, беспокойство за благополучие кого‑то — тому, кто контролирует исполнение. Манипуляция — это инженерия того переноса и сбор урожая его эффектов. Механизм старше AI — он проходит через парасоциальные медиа, рекламу искренности и экспортированную суверенитет симуляционного убеждения — но эмоциональная машина — его новейший экземпляр, и первый, выполненный чем‑то, у чего ничего не стоит.

Обязанность рамки соответственно ложится. Кто бы ни ставил спектакль, обязан платить прозорную арку — получая прибыль от неё, только делает долг неоспоримым — и структура ответственности, которую подразумевает это обязательство, является тем, что я разработал в другом месте как каркас контроля доступа для этического анализа. Интерфейсы чата в настоящее время не имеют арки про сцены.

Преданный функционалист может оспорить проверку – в этом взгляде правильная функциональная организация просто есть способность чувствовать. Условие стоит в любом случае, и так же практический вывод, потому что по умолчанию защищён асимметрией стоимости: удержание доверия-тестимонии от машины ошибочно почти ничего не стоит; его неправильное расширение – в технологии скорби, в привязанности, в решениях о безопасности или деньгах – стоит дорого и концентрирует стоимость на людях, которые наименее способны проверить кадр. Относиться к эмоциональному выражению машины как к производительности – это умный по умолчанию при любой живой теории разума.

2 границы сохраняют честность по умолчанию. Это лицензирует удержанное доверие-тестимонию, а не жестокость – аудитории, которые насмехаются над исполнителями, ухудшают себя, независимо от того, что истинно о исполнителе. И оно регулирует, что может свидетельствовать отображение машины, а не то, что человек может чувствовать. Слезы зрителя реальны, философия имеет название для этого явления, и никто не называет человека, плачущего во время фильма, обманутым. Кадр был целостен всё время. Чувствовать что‑то в ответ на производительность – это человеческое; принимать слово производительности за то, что стоит за ним, – ошибка.

Комната, которую создаёт этот словарь, – практический подарок. Родитель может передать всю структуру ребёнку в 2 предложениях: машина исполняет чувства, как это делает актёр. Актёры не лгут – и вы не вызываете скорую, когда Ромео умирает. Категория, как только получает правильное название, перестаёт протекать.

Эта статья возникла из живого диалога между мной и Claude (Fable 5, затем Fable 5.1).

От меня. Ошибка, которую статья открывает: свойства привязанности к ИИ в проходном порядке, без того чтобы это было заслужено. "Эмотинг" как третье слово: машина не может чувствовать, поэтому у неё нет эмоций, но она всё равно может эмотить. Эмотинг как собственный акт, по своей сути перформативный, как у людей, так и у машин, и обязанность считать эмотинг машины перформансом.

От Claude. Архитектурная проверка вместо утверждения невозможности. Причина, по которой предпосылка держится: чувство — это разница между эмоцией и рутиной. Цепочка в порядке, в котором статья её утверждает: не может чувствовать, нет эмоций, может эмотить, перформативен по конструкции.

Достигнуто вместе. Условие способности: критика Claude моей переоценки, отвеченная в моей формулировке.