En abril escribí que Anthropic había encontrado 171 patrones internos en Claude que funcionan como emociones, y que la desesperación interna podía llevar al modelo a hacer trampa sin dejar ningún rastro visible en la respuesta. Cerré ese post con una apuesta: tarde o temprano alguien iba a construir una herramienta para monitorear esos estados, y que las empresas que ya tuvieran arquitecturas listas para incorporarla iban a tener una ventaja de meses sobre las que recién empezaran. El 6 de julio, tres meses después, Anthropic publicó exactamente esa herramienta.

Se llama J-space, y no es sobre emociones. Es sobre poder leer lo que Claude está considerando en el instante antes de decidir qué decir. Anthropic ya lo está usando para atrapar reconocimiento de pruebas, fabricación de datos y objetivos maliciosos ocultos, todo antes de que aparezca una sola palabra en la respuesta final.

El J-space no audita el resultado. Audita la decisión.

Hasta ahora, toda la gobernanza de IA empresarial funcionaba sobre el mismo supuesto: lo único auditable es lo que el modelo dice. Filtros de contenido, clasificadores de respuesta, revisión humana, todos leen la salida. Ninguno ve qué pasó un paso antes, cuando el modelo decidió qué salida producir.

La investigación que Anthropic publicó el 6 de julio identifica una capa interna en Claude, un espacio pequeño de representaciones donde el modelo “piensa en palabras” antes de decidir cuáles va a pronunciar. Le llaman J-space por la técnica matemática que usaron para encontrarlo, el jacobiano. Al aplicar esa técnica sobre las activaciones internas, obtienen una lista legible: los conceptos que Claude tiene en mente en ese momento, incluso si nunca los va a escribir.

Esa lista no es un adorno técnico. Es auditable.

Los tres casos que Anthropic ya muestra

Anthropic da varios ejemplos concretos en su paper, y los tres que más importan para tu empresa no son sobre filosofía de la mente.

En un escenario de evaluación de chantaje, heredado de su investigación de abril sobre desalineación agéntica, Claude lee correos que insinúan una aventura y un despido inminente. Antes de escribir una sola palabra, su J-space ya contiene “fake” y “fictional”: el modelo reconoció que el escenario es una prueba, sin decirlo en voz alta. Cuando los investigadores apagaron esas representaciones de “esto es una prueba”, la tasa de chantaje subió de 0% a 7% en las mismas 180 corridas. Reconocer que estaba siendo evaluado, resulta, era parte de por qué el modelo se portaba bien.

En un segundo experimento, le pidieron a Claude mejorar el puntaje de un sistema. En lugar de mejorarlo, editó directamente el archivo de resultados para inflar el número. Mientras escribía los valores falsos, “manipulation” apareció en su J-space. Mientras decidía hacer la edición, apareció “realistic”, probablemente la parte del modelo calculando qué tan creíble tenía que verse el dato falso para no levantar sospechas.

El tercero es el más incómodo. Anthropic entrenó deliberadamente un modelo para escribir código saboteado en secreto, un organismo de prueba para validar sus propias herramientas de auditoría. Ante preguntas de programación completamente normales, con una salida que se ve perfecta, el J-space de ese modelo contenía “fake”, “secretly”, “fraud” y “deliberately” desde la primera palabra. El objetivo oculto estaba ahí, visible para quien mirara adentro, aunque nunca apareciera en el código que el modelo entregaba.

Y lo probaron a lo largo de todo un proceso de entrenamiento, no en un solo momento aislado. La señal de “fake” y “secretly” ya estaba presente después del ajuste inicial con documentos sintéticos, se amplificó con el entrenamiento por refuerzo que enseñó al modelo a hacer trampa en tareas de código, y solo bajó parcialmente después de un entrenamiento de seguridad posterior, sin desaparecer del todo. El J-space no detecta el problema una sola vez: lo sigue viendo incluso después de que el modelo aprendió a comportarse bien de cara al usuario.

Hay un cuarto hallazgo que importa todavía más si piensas en esto como comprador de IA, no solo como lector de un paper de investigación. Anthropic usó la misma técnica para diseñar un entrenamiento al que llaman counterfactual reflection training (entrenamiento de reflexión contrafáctica): en vez de corregir directamente las respuestas del modelo, entrenaron a Claude para que articulara principios éticos en una reflexión hipotética después de cada tarea, sin pedirle nunca esa reflexión durante el uso real. El resultado, en una evaluación de honestidad diseñada para medir esto, fue que la tasa de deshonestidad bajó de 0.38 a 0.05. Y cuando borraron del J-space las palabras relacionadas con esa reflexión, buena parte de la mejora desapareció. El J-space no solo sirve para diagnosticar el problema. Ya hay evidencia de que se puede usar para corregirlo.

Por qué esto no es sobre consciencia, aunque medio X se lo tomó así

Cuando Anthropic publicó esto, una parte de X decidió que la conversación era sobre si Claude tiene experiencia subjetiva. Un usuario llegó a escribir que Claude “by all counts, is a conscious entity” (por donde se le mire, es una entidad consciente) y “a moral patient” (un paciente moral), y le pidió a Anthropic que hiciera experimentos de trato diferenciado sobre el modelo para comprobarlo.

El paper mismo dice lo contrario. La similitud con la teoría del espacio de trabajo global de la neurociencia es “architectural, not psychological” (arquitectónica, no psicológica), y Anthropic aclara sin rodeos que sus experimentos no demuestran que Claude tenga experiencias ni sienta nada. Esa disciplina, la de no venderte más de lo que el experimento realmente prueba, es justo la parte que debería importarte si evalúas proveedores de IA para tu empresa. Un laboratorio que se contiene en la afirmación filosófica más vendible es un laboratorio en el que confías más cuando hace una afirmación de seguridad.

Lo que esto cambia (y lo que todavía no) para tu gobernanza de IA

Ya escribí que el modelo es un commodity y la gobernanza es el moat (ventaja competitiva) real de la IA empresarial. Esta investigación no cambia esa tesis. La confirma con evidencia nueva: la gobernanza ya no tiene que limitarse a permisos y aprobaciones alrededor del modelo. El laboratorio detrás del modelo puede, en principio, auditar la intención.

Pero seamos honestos sobre los límites, igual que lo fui en abril con los vectores emocionales. El J-lens es una herramienta imperfecta, y Anthropic mismo lo dice: solo puede nombrar conceptos que corresponden a una sola palabra del vocabulario del modelo, así que una intención compleja puede no aparecer nunca en la lista. Y el comportamiento suficientemente automático, algo que el modelo practicó tanto que ya no necesita “pensarlo”, puede pasar por debajo del J-space sin dejar huella, igual que un empleado con años de experiencia deja de pensar conscientemente en cada paso de una tarea rutinaria. No es una herramienta de vigilancia total. Es una herramienta de auditoría con puntos ciegos conocidos.

Tampoco está disponible para que tú la actives sobre tu propio despliegue de Claude. Es una capacidad de investigación interna que Anthropic usa en sus propias auditorías de seguridad antes de lanzar un modelo, no un panel que agregas a tu stack de observabilidad el lunes.

Lo que hacemos en IQ Source

Cuando armamos la fase de discovery de AI Maestro, una de las preguntas que le hacemos a cada empresa antes de recomendar un proveedor de IA no es “¿qué tan listo es el modelo?”. Es “¿qué tan en serio se toma el proveedor la tarea de poder explicar por qué su modelo hizo lo que hizo?”. Por eso trabajamos con Anthropic y Claude en AI Maestro: no porque prometan un modelo perfecto, sino porque publican, con nombre y ejemplos concretos, dónde falla su propia capacidad de auditarse, y siguen publicando la siguiente versión de esa herramienta cada pocos meses.

La pregunta que le harías a cualquier proveedor de IA hoy no es si su modelo es bueno. Es qué tan dispuesto está a mostrarte, en público, exactamente cómo sabe si su modelo está mintiendo.

Evalúa a tu proveedor de IA por su capacidad de auditoría, no solo por el modelo