No chapters are available for this episode.
S01:E09
Un modelo puede fallar sin que nadie se dé cuenta. En este episodio de Paperslab exploramos tres papers recientes sobre los puntos ciegos del razonamiento en modelos de lenguaje: fallas que no se ven en las métricas habituales, pero que están ahí, esperando.
El primero, “Silent Failures in Quantized LLM Reasoning” (Renuka Oladri, Mohan Vamsi Varadaraju Priya, Jerry Wu), muestra que la cuantización —la técnica que usamos para hacer los modelos más baratos y rápidos— puede cambiar por completo cómo un modelo razona internamente, aunque el resultado final (el accuracy) se mantenga idéntico. Un hallazgo con implicaciones directas para cualquiera que despliegue LLMs en producción.
El segundo, “Spectral Origins of the Self-Correction Blind Spot in Autoregressive Generation” (Ingrid Petrova, Luan Vejsiu), explica por primera vez de forma matemática un fenómeno ya documentado empíricamente: los modelos autorregresivos corrigen errores ajenos con facilidad, pero no los propios. El paper propone un análisis espectral de las dinámicas de atención que explica por qué.
El tercero, “Depth-Entropy Guided Sampling for Training-Free LLM Reasoning” (Zibin Meng, Peng Xie, Kani Chen), ofrece una alternativa práctica al costoso reinforcement learning: usar la entropía de las capas internas del transformer para guiar el muestreo y mejorar el razonamiento, sin entrenar nada nuevo.
Tres formas distintas de mirar el mismo problema: lo que un modelo de lenguaje esconde, incluso de sí mismo.
Papers de este episodio: