LeCun tiene razón, y la misma brecha estructural está en tu stack de identidad

Yann LeCun lleva años defendiendo un argumento incisivo sobre los límites de los grandes modelos de lenguaje. Merece la pena tomárselo en serio, no solo por lo que dice sobre la IA, sino por lo que implica para la infraestructura que construimos a su alrededor.

La tesis central de LeCun: los agentes de IA realmente fiables necesitan un modelo del mundo, una representación interna de cómo las acciones conducen a consecuencias. Los LLM son extraordinariamente buenos prediciendo el siguiente token, pero no razonan de forma natural sobre lo que ocurre en el mundo después de ejecutar una acción. Pueden redactar un plan; no pueden modelar si funcionará.

Lo que se observa con menos frecuencia es que esa misma debilidad estructural existe en cómo gobernamos la identidad en los sistemas agénticos.

Generar una respuesta no es predecir una consecuencia

Un modelo puede producir una respuesta coherente y contextualmente adecuada sin ninguna representación de lo que esa respuesta provocará a continuación. Para sistemas que solo producen texto, eso es aceptable. Para sistemas que ejecutan acciones (invocan herramientas, modifican bases de datos, envían comunicaciones), es un riesgo estructural.

Un agente que actúa sin modelar las consecuencias es un agente que no puede gobernarse de forma fiable. LeCun lo dice sobre los modelos de IA. Es igual de cierto sobre los sistemas de identidad.

La misma brecha en la identidad

Un usuario se autentica. Se verifican las credenciales. Se concede el acceso. Se asume que la confianza se mantiene durante toda la sesión. Cualquier acción posterior, ya sea del usuario o de un agente de IA que actúe en su nombre, hereda esa confianza inicial sin volver a evaluarse.

Eso es, estructuralmente, el mismo problema. El evento de autenticación es el equivalente a generar un token: una evaluación puntual que produce una respuesta —«autenticado»— sin modelar lo que sucede después como consecuencia.

Un modelo del mundo para la identidad

Para la gobernanza de identidad en sistemas agénticos, el equivalente al modelo del mundo de LeCun es un modelo de propagación de confianza: una representación formal de cómo evoluciona la confianza a medida que se ejecuta una cadena de agentes, salto a salto. Esa es la idea en el núcleo del Identity Living System: la confianza como una magnitud en evolución continua, actualizada en cada paso e impulsando la aplicación de políticas en cada salto, no solo en la entrada.

• Salto 0: el usuario se autentica. Confianza 0.97. Un estado de partida conocido, no solo una marca de «autenticado».
• Salto 1: primera llamada a una herramienta. Se observan la clase de riesgo, el alcance y el volumen de datos. Confianza 0.91.
• Salto 2: se detecta un volumen de datos elevado. La confianza desciende a 0.84. Se registra, pero aún no se bloquea.
• Salto 3: desviación del alcance: se invoca una herramienta de correo cuando la intención de la sesión era una lectura del CRM. Confianza 0.71.
• Salto 4: se solicita un envío masivo. 0.71 está por debajo del umbral de 0.82 exigido para una acción irreversible de alto riesgo. Bloqueado, porque el modelo rastreó la consecuencia de cada salto anterior.

La dimensión MCP

Cada llamada a una herramienta MCP es una intervención causal en el mundo. El agente no está generando texto sobre enviar un correo: está enviando el correo. La autorización MCP actual responde a una sola pregunta: ¿tiene este agente permiso para invocar esta clase de herramienta? Ese es el equivalente en identidad de la predicción del siguiente token: localmente correcto, ciego a las consecuencias posteriores. El Identity Living System plantea una pregunta distinta en cada llamada: dado todo lo que ha ocurrido en esta cadena desde la autenticación, y la clase de riesgo de esta acción concreta, ¿debería proceder esta llamada?

La confianza no es un evento de inicio de sesión. Es una propiedad de toda la cadena de ejecución. La arquitectura que gobierna esa cadena debería modelar consecuencias, no solo credenciales.

Mientras esperamos a que los sistemas de IA desarrollen mejores modelos del mundo, la infraestructura que los rodea tiene que compensarlo. Si un agente no puede predecir las consecuencias de sus propias acciones, la capa de gobernanza debe hacerlo.

Este planteamiento está integrado en Corpilus Shield y en el Identity Living System, en preparación para su lanzamiento. Prerregístrate para el acceso anticipado.

Enseñamos la arquitectura que hay detrás de esto, en directo, junto a nuestro socio experto Avenue78.