El reinforcement learning mejora el razonamiento de los modelos, pero sale caro. Tres papers buscan la misma economía por caminos distintos: destilación auto-evolutiva, agentes que aprenden a preguntar mejor jugando al hundir la flota, y generadores de velocidad promedio que aceleran el proceso sin perder calidad.
Anthropic publicó casi en simultáneo cuatro piezas de seguridad: compartimentos removibles de conocimiento peligroso, una técnica para reducir la desalineación agéntica, un mapeo de los valores de Claude entre idiomas, y una medición de cuánto ayudan realmente los modelos de lenguaje a explotar vulnerabilidades de día N. Cuatro ángulos sobre la misma pregunta: ¿se puede aislar lo peligroso sin apagar todo lo demás?
Cada sentido tuvo históricamente su propio modelo. La tendencia ahora es unificar visión, audio y razonamiento en un solo marco: de un modelo de visión auto-supervisado a escala sin precedentes, a un sistema que entiende audio, pasando por arquitecturas que generan y comprenden imágenes al mismo tiempo.
El deep learning avanzó durante años a pura prueba y error. Ahora empiezan a aparecer los cimientos teóricos: de la destilación on-policy a la reconexión espectral de redes, pasando por un instituto que junta IA y física, y una sorpresa de la teoría de juegos sobre por qué los generalistas a veces le ganan a los especialistas.
Los mecanismos internos de un modelo de lenguaje emergen solos durante el entrenamiento — nadie los diseña a propósito. Recién ahora empezamos a poder señalarlos: cabezas de inducción que interpolan n-gramas, modelos que representan mejor la intención comunicativa de lo que después actúan, y hasta una forma de dirigir el comportamiento con la probabilidad de una moneda.
Meta viene publicando, casi sin pausa, investigación que junta inteligencia artificial y cerebro humano: de decodificar lenguaje a partir de ondas cerebrales, a leer intención desde el movimiento de los dedos sobre un teclado. Un repaso a cómo la IA se está volviendo, de a poco, una herramienta para entender la mente.
Hacer un modelo más grande es fácil si hay plata de sobra. El verdadero problema de ingeniería es hacerlo más barato y más rápido sin perder capacidad: contextos de más de dos millones de tokens con presupuesto fijo de GPU, memoria que se defragmenta sola, y caché que se injerta byte a byte entre modelos distintos.
Entrenar agentes de robótica en el mundo real es caro, por eso se entrenan en mundos virtuales. Pero imaginar bien no alcanza para actuar bien: un modelo que sueña escenarios correctos y aun así falla al ejecutarlos, y la pregunta incómoda de qué pasa cuando el agente entiende mal una instrucción ambigua.
Para actuar bien en el mundo real, un agente primero tiene que poder imaginarlo. De modelos de mundo que aprenden por observación a motores de juego repensados como simuladores de entrenamiento, este episodio recorre la apuesta más grande de la IA agéntica: pensar antes de moverse.
Anthropic dice que Claude tiene una especie de espacio de trabajo interno donde puede pensar sin escribirlo, e incluso reconocer sus propios errores. Un paper independiente, por otro lado, muestra evidencia dura de cómputo oculto en los tokens de relleno. Dos ángulos —uno corporativo, otro académico— sobre el mismo fenómeno incómodo: hay razonamiento del modelo que nunca vemos.
Gemma 4 Technical Report, el paper con el score más alto de toda la sesión. Un repaso de punta a punta a la arquitectura y las decisiones de diseño detrás del último modelo de Google.
Un modelo puede fallar sin que nadie se dé cuenta. En este episodio de Paperslab exploramos tres papers recientes sobre los puntos ciegos del razonamiento en modelos de lenguaje: fallas que no se ven en las métricas habituales, pero que están ahí, esperando. El primero, “Silent Failures in Quantized LLM Reasoning” (Renuka Oladri, Mohan Vamsi Varadaraju Priya, Jerry Wu), muestra que la cuantización —la técnica que usamos para hacer los modelos más baratos y rápidos— puede cambiar por completo cómo un modelo razona internamente, aunque el resultado final (el accuracy) se mantenga idéntico. Un hallazgo con implicaciones directas para cualquiera que despliegue LLMs en producción. El segundo, “Spectral Origins of the Self-Correction Blind Spot in Autoregressive Generation” (Ingrid Petrova, Luan Vejsiu), explica por primera vez de forma matemática un fenómeno ya documentado empíricamente: los modelos autorregresivos corrigen errores ajenos con facilidad, pero no los propios. El paper propone un análisis espectral de las dinámicas de atención que explica por qué. El tercero, “Depth-Entropy Guided Sampling for Training-Free LLM Reasoning” (Zibin Meng, Peng Xie, Kani Chen), ofrece una alternativa práctica al costoso reinforcement learning: usar la entropía de las capas internas del transformer para guiar el muestreo y mejorar el razonamiento, sin entrenar nada nuevo. Tres formas distintas de mirar el mismo problema: lo que un modelo de lenguaje esconde, incluso de sí mismo. Papers de este episodio: Silent Failures in Quantized LLM Reasoning — arxiv.org/abs/2607.09999 Spectral Origins of the Self-Correction Blind Spot in Autoregressive Generation — arxiv.org/abs/2607.09803 Depth-Entropy Guided Sampling for Training-Free LLM Reasoning — arxiv.org/abs/2607.09693
Lo que esconden los pesos¿Cómo sabe una red neuronal qué parte de sí misma cambiar cuando comete un error? En este episodio de Paperslab exploramos dos papers recientes sobre interpretabilidad mecanística y aprendizaje en redes neuronales profundas: cómo se propaga el error hacia atrás (backpropagation) y cómo se pueden recuperar, de forma dirigida, los mecanismos internos que deciden qué componentes importan dentro de un modelo grande. El primer paper, “Weight Feedback Computes the Jacobian Transpose Locally in Modern Deep Networks” (Junlong Shen, Xingyu Li), conecta el Predictive Coding —una alternativa biológicamente plausible a la backpropagation tradicional— con el cálculo exacto del Jacobiano transpuesto, eliminando la última operación no local que quedaba pendiente en ese modelo. Tiene implicaciones tanto para el aprendizaje automático como para la neurociencia computacional. El segundo, “Targeted Recovery of Weight-Space Mechanisms From Neural Networks” (Antoine Vigouroux, Lee Sharkey), presenta una técnica de descomposición de parámetros dirigida que permite escalar la interpretabilidad mecanística a modelos grandes, identificando solo los componentes relevantes para una tarea específica, sin el costo de descomponer la red entera. Un episodio para quienes quieren entender no solo qué hace un modelo de lenguaje, sino cómo aprende y qué mecanismos usa por dentro para decidir qué es importante. Papers de este episodio: Weight Feedback Computes the Jacobian Transpose Locally in Modern Deep Networks — arxiv.org/abs/2607.13380 Targeted Recovery of Weight-Space Mechanisms From Neural Networks — arxiv.org/abs/2607.13047
Episodio 6 — Existe una teoría de todo? Durante años el deep learning funcionó por prueba y error, más arte que ciencia. Tres papers —uno con la firma de un medallista Fields— se animan a preguntar si por fin estamos encontrando las leyes que explican por qué esto funciona.
Toda barrera de seguridad de una IA asume que entendemos el modelo por dentro. Dos papers muestran que no hace falta un ataque de fuerza bruta para esquivarla: alcanza con conocer bien sus grietas.
Un modelo de un trillón de parámetros que aprende a razonar sin un solo ejemplo escrito por un humano. El paper con el score más alto de todo el catálogo, explicado de punta a punta.
Cuatro papers desmontan el mito del razonamiento en la IA, a dos voces.
