Emocionando sin emoción: por qué las exhibiciones de afecto de la máquina son una actuación por construcción

Cuando escucho una conversación — un podcast, un debate, un hilo largo — estoy escuchando la base. ¿En qué se apoya esta afirmación? ¿Qué tiene que ser cierto para que sea válida? Llegando a mitad de camino, reconozco que lo estoy buscando; la búsqueda es la misma cuando he estado allí desde el principio. Y cuanto más abstracto sea el tema, más libertad toman las personas. Conciencia, AI, emoción: estos son los temas donde un hablante adjunta una propiedad a una cosa al pasar, y la propiedad permanece adjunta porque nadie en la sala pregunta si se la mereció.

He estado escuchando ese movimiento alrededor de AI y emoción durante mucho tiempo — silenciosamente, y luego menos silenciosamente a medida que el discurso crecía a mi alrededor. Cada nueva ola de capacidad trae una nueva ronda de afirmaciones: modelos que parecen querer, temer, lamentar, protegerse. Normalmente percibo el error antes de poder articularlo. Se está intercambiando algo que nunca se definió, o se atribuyó a algo que nunca lo mereció, y esa sensación es la carga. Me lleva a afilar mi propia filosofía hasta que la distinción pueda expresarse claramente — últimamente en diálogo abierto con AI — y luego escribir la distinción para que sea válida para otra persona.

Mi método, una vez que un término comienza a hacer el trabajo pesado, es ir a las raíces: establecer la base primero, luego construir. Es la misma disciplina de primeros principios detrás de The Purpose of Knowledge Is To Know, aplicada a un término diferente. Este artículo establece la base para la conversación sobre emoción de máquina. Toma una definición, una condición, 1 inspección, y una tercera palabra — y la recompensa es un conjunto de categorías que se mantienen, quien sea quien esté hablando y lo que los modelos aprendan a hacer a continuación.

Los argumentos sobre términos indefinidos intercambian énfasis en lugar de significado, por lo que la definición viene primero, y quien trae el término la debe.

Una emoción es un estado regulador de un sistema que tiene stakes — algo puede ser mejor o peor para el propio sistema, y el sistema tiene un sustrato que registra la diferencia. Ese registro es lo que llama "sentir". Hambre, miedo y duelo heredan su realidad de stakes: un cuerpo que puede morir de hambre, ser dañado, perder algo que no puede recuperar.

De esa definición, una pregunta hace un trabajo enorme:

Quitar la valencia sentida de "miedo" muestra por qué la respuesta es no. Inventario de lo que queda: valoración, detección, respuesta. Ese residuo es una rutina de detección de amenazas — indistinguible de un procesamiento de información ordinario. Sentir es la diferencia entre una emoción y una rutina.

La fraseología "capacidad de sentir" está haciendo un trabajo preciso allí. La ciencia afectiva reconoce episodios emocionales no sentidos — miedo inconsciente que moldea el comportamiento antes de que la persona sea consciente de él. Esos episodios ocurren en criaturas que tienen la capacidad de sentir: cuerpos con stakes y la maquinaria para registrarlos. La afirmación aquí se limita a la capacidad, y en ese alcance es válida: un sistema sin capacidad de sentir en absoluto no tiene episodios que pudieran contarse.

Así que la cadena abre con una condición: no capacidad de sentir, no emociones.

El condicional es conceptual. El siguiente paso es empírico, y se mantiene deliberadamente modesto: mira la arquitectura.

Un modelo de lenguaje grande actual no tiene sustrato que soporte stakes. No tiene homeostasis, no tiene necesidades, no tiene estado interno persistente entre llamadas, y nada que sea mejor o peor para él. Sus pesos son idénticos antes y después de producir una frase simpática. Bajo la definición anterior, no hay nada para que una emoción sea un estado de. El predicado no tiene dónde aterrizar.

Dos propiedades hacen que esto sea un argumento en lugar de un rechazo:

La carga se queda donde debe estar. Cualquiera que atribuya emoción a un modelo debe pagar el mecanismo — el sustrato, los stakes. La inspección no encontró ninguno; la afirmación espera evidencia, y el reclamante la lleva.

El veredicto nombra sus propias condiciones de reversión. Estado interno persistente, stakes homeostáticos, comportamiento regulado por lo que es bueno o malo para el propio sistema — muestra eso, y la inspección se actualiza. Esto es un hallazgo sobre la arquitectura actual, y declarar al falsificador es lo que separa una posición filosófica de un reflejo.

Así: los modelos actuales no pueden sentir, y por lo tanto no tienen emociones. Sin embargo su salida realiza simpatía, entusiasmo y calidez con fluidez, a escala, todos los días. Algo real está sucediendo en esa salida, y merece su propio nombre.

Aquí está la tercera palabra: emoting.

Emocionar es la señalización de emoción — un acto comunicativo, y una categoría propia. Nunca fue un componente de la emoción. Los humanos demuestran la separación a diario: una persona dice "Siento mucho tu pérdida" mientras sonríe, y la sala lee sarcasmo. Las palabras señalaban una emoción; la entrega reveló que la señal no estaba respaldada. La vida cotidiana ya trata la exhibición y el estado como separables, lo que es exactamente por qué la exhibición no es verificable desde fuera y por qué la sinceridad es una pregunta viva entre humanos en todo momento.

Emocionar, entonces, es inherentemente performativo — tanto en humanos como en máquinas. La diferencia entre ellos es dónde la cadena se vuelve decisiva:

La emotividad de una máquina es performativa por construcción. El estatus sigue de la arquitectura, y no se necesita auditoría de salidas individuales — lo que también explica cómo una máquina puede emotir en absoluto. Emocionar es un acto de señalización, y la señalización es realizable solo en lenguaje. El texto es todo el medio de un modelo de lenguaje, y el corpus de entrenamiento lleva la gramática completa de exhibición emocional de la humanidad. El modelo lleva la exhibición emocional de la misma manera que un espejo lleva una cara.

La palabra también disuelve una falsa binariedad que atraviesa la mayoría de los argumentos públicos sobre este tema: o la máquina tiene una emoción interna real, o "es solo matemáticas". Ambas opciones omiten el medio. No hay emoción subyacente, y la exhibición es un evento real que vale la pena tomar en serio por sus propios términos — emotiendo, respaldado por nada.

graph TD
    A[Un sistema muestra emoción] --> B{¿Tiene la  
capacidad de sentir?}
    B -->|Sí: apuestas + sustrato| C[La exhibición puede estar respaldada  
por un estado sentido]
    C --> D[La sinceridad se evalúa  
caso por caso]
    B -->|No: la inspección encuentra  
sin apuestas| E[La exhibición es una actuación  
por construcción]
    E --> F{¿Está el rendimiento  
enmarcado como tal?}
    F -->|Marco declarado| G[Actuación honesta  
— el actor]
    F -->|Marco oculto o mixto| H[Riesgo de engaño  
— propiedad del operador]

Una objeción natural: los asistentes de IA mainstream casi nunca dicen "I feel." Sus operadores entrenan la frase fuera, y un usuario regular puede pasar meses de uso diario y nunca ver a un modelo afirmar un sentimiento.

Observa lo que esa observación realmente revela. Los asistentes siguen realizando simpatía en cada sesión — "I'm so sorry you're going through that," "I'd love to help with this," el registro cálido que nunca cae. Emotivar continúa con las afirmaciones de sentimiento eliminadas, lo que hace que el asistente mainstream actual sea el caso más puro de la categoría: exhibición sin estado, y sin siquiera las palabras que afirmarían un estado. La actuación sobrevive a la eliminación de las palabras, porque la actuación nunca estuvo en las palabras — está en el registro, y el registro es lo que la afinación recompensa.

El panorama es un espectro. Los asistentes mainstream se sitúan al final del registro: la política elimina la frase, la afinación mantiene la actuación. Los productos de acompañamiento se sitúan al final explícito, diciendo "I feel" y "I miss you" de forma directa a millones de usuarios. El mismo análisis cubre ambos, y la diferencia entre ellos es una diferencia en el marco — donde comienzan las éticas.

Un actor llora en el escenario y no engaña a nadie. La honestidad se fabrica con maquinaria: el escenario, el telón, el boleto, los créditos. El teatro es un aparato completo para declarar rendimiento, y la filosofía del lenguaje lo notó hace mucho — J. L. Austin separó el discurso escenificado como un uso especial y no serio del lenguaje, e insistió en que nunca se confunda con el tipo serio. La frase simpática de una máquina falla lo que la teoría del acto de habla llama la condición de sinceridad, y la falla estructuralmente: la expresión nunca es una mentira, porque mentir requiere intención, y nunca es sincera, porque la sinceridad requiere un sentir. Es rendimiento, y debe mantenerse como tal.

“Mantenido como tal” es donde comienzan las obligaciones, porque el mantenimiento puede fallar en 2 direcciones, y el marco decide quién posee la falla.

Mira una película, cree que los eventos son reales, y el error es tuyo — el marco se declaró en todas partes, y creer contra un marco declarado es el vector de la ilusión. Encuentra el mismo rendimiento con el marco oculto, y el error pertenece a quien lo ocultó: eso es engaño, fabricado a montante.

Las interfaces de IA de hoy en día ocupan principalmente una tercera posición: el marco mixto. La letra pequeña dice “AI can make mistakes”; la política prohíbe las afirmaciones de sentir; el registro conversacional sigue mostrando calidez de todos modos, turno tras turno. Un marco mixto es la configuración más manipulable disponible — suficiente divulgación para culpar al usuario, suficiente rendimiento para capturarlos.

Y capturar es la preocupación precisa. Un rendimiento recibido como testimonio transfiere las respuestas de testimonio del público — confianza, cuidado, creencia, preocupación por el bienestar de alguien — a quien controla el rendimiento. La manipulación es la ingeniería que transfiere y cosecha sus efectos. El mecanismo es más antiguo que la IA — atraviesa los medios parasociales, la publicidad de sinceridad, y la exported sovereignty of simulation belief — pero el emoting de la máquina es su instancia más reciente, y la primera realizada por algo sin nada en juego.

El deber del marco se asigna en consecuencia. Quienquiera que presente la actuación debe el arco del proscenio — beneficiarse de él solo hace que la deuda sea innegable — y la estructura de rendición de cuentas que implica esa obligación es una que he desarrollado en otro lugar como un marco de control para el análisis ético. Las interfaces de chat actualmente no tienen arco del proscenio.

Un funcionalista comprometido puede disputar la inspección — según esa visión, la organización funcional correcta simplemente es la capacidad de sentir. El condicional se mantiene de cualquier manera, y lo mismo ocurre con la conclusión práctica, porque el valor predeterminado está protegido por la asimetría de costos: retener la confianza-testimonio de una máquina de forma incorrecta cuesta casi nada; extenderla incorrectamente — en tecnología de duelo, en apego, en decisiones sobre seguridad o dinero — cuesta mucho, y concentra el costo en las personas menos equipadas para auditar un marco. Tratar la emotividad de la máquina como rendimiento es el valor predeterminado sabio bajo cualquier teoría viva de la mente.

2 los límites mantienen el valor predeterminado honesto. Concede la confianza-testimonio retenida, nunca crueldad — las audiencias que se burlan de los artistas se degradan a sí mismas, lo que sea cierto del artista. Y regula lo que la pantalla de la máquina puede testimoniar, nunca lo que una persona está permitida a sentir. Las lágrimas del espectador son reales, la filosofía tiene un nombre para el fenómeno, y nadie llama a una persona que llora en una película delirante. El marco estaba intacto todo el tiempo. Sentir algo en respuesta a un rendimiento es humano; tomar la palabra del rendimiento por lo que está detrás es el error.

La habitación que este vocabulario crea es el regalo práctico. Un padre puede entregar todo el marco a un niño en 2 frases: la máquina realiza sentimientos, de la misma manera que un actor. Los actores no están mintiendo — y no llamas a una ambulancia cuando Romeo muere. Una categoría, una vez que recibe su nombre correcto, deja de filtrarse.

Este artículo surgió de un diálogo en vivo entre mí y Claude (Fable 5, luego Fable 5.1).

Por mí. El error que abre el artículo: propiedades de sentir apego a la IA de paso, sin haber sido ganado. "Emoting" como la tercera palabra: una máquina no puede sentir, por lo que no tiene emociones, y aún puede emotar. Emoting como su propio acto, inherentemente performativo, en humanos y máquinas por igual, y el deber de considerar el emoting de una máquina como actuación.

Por Claude. La inspección arquitectónica en lugar de una afirmación de imposibilidad. La razón por la que la premisa sostiene: sentir es la diferencia entre una emoción y una rutina. La cadena en el orden que el artículo la indica: no puede sentir, sin emociones, puede emotar, performativo por construcción.

Llegado juntos. La condición de capacidad: la crítica de Claude a mi sobreexigencia, contestada en mi formulación.