#InteligenciaArtificial #LLM #AIAgents #MachineLearning #RAG

#IA #LLM #CienciaCognitiva #FilosofiaDeLaMente #Paperslab

#AISafety #RedTeaming #PromptInjection #OpenAI #LLM

El primero, “Hidden in Thought: Transferable Chain-of-Thought Artifacts Induce Harmful Behavior” (Ali Khalil, Aly M. Kassem, Mohamed Abdelrazek, Santu Rana, Negar Rostamzadeh, et al.), muestra que las cadenas de razonamiento dañinas de un modelo comprometido se pueden trasplantar y destilar en ataques de jailbreak reutilizables — probado en 29 modelos open-source y 5 cerrados, elevando la tasa de respuestas dañinas por encima del 80% en los más vulnerables.

El segundo, “SeerGuard: A Safety Framework for Mobile GUI Agents via World Model Prediction” (Xue Yu, Bo Yuan, Pengshuai Yang, Kailin Zhao, Hong Hu, Junlan Feng), ataca un problema distinto: los agentes que operan interfaces móviles no pueden seguir siendo reactivos, tienen que anticipar la consecuencia de una acción antes de ejecutarla.

Dos ángulos sobre la misma pregunta incómoda: ¿cómo se contiene el daño antes de que pase, cuando el daño mismo es transferible?

Papers de este episodio:

• Hidden in Thought: Transferable Chain-of-Thought Artifacts Induce Harmful Behavior — arxiv.org/abs/2607.15286
• SeerGuard: A Safety Framework for Mobile GUI Agents via World Model Prediction — arxiv.org/abs/2607.15550

Trazamos el camino técnico entero: Gated DeltaNet (Songlin Yang, Jan Kautz, Ali Hatamizadeh — la regla delta que mejora Mamba2), Kimi Linear (el salto a Kimi Delta Attention, la arquitectura híbrida que hace viable un contexto de un millón de tokens) y el Technical Report de Kimi K3 (Moonshot AI: 2.8 billones de parámetros totales, apenas 104.000 millones activos por token).

No es solo una carrera de benchmarks: es la historia de cómo un mecanismo pensado para modelos de espacio de estados terminó sosteniendo uno de los modelos de pesos abiertos más grandes jamás publicados.

“Verbalizable Representations Form a Global Workspace in Language Models” (Wes Gurnee, Nicholas Sofroniew, Adam Pearce, Mateusz Piotrowski, Isaac Kauvar, et al.) presenta una técnica de interpretabilidad nueva, la “lente Jacobiana”, para identificar qué representaciones un modelo está en condiciones de verbalizar en cada punto de su proceso interno — y cuáles quedan fuera de ese “espacio de trabajo global”, el mismo concepto que la neurociencia usa para explicar la consciencia humana.

Paper de este episodio:

• Verbalizable Representations Form a Global Workspace in Language Models — arxiv.org/abs/2607.15495

El primero, “Loop the Loopies!” (Zitian Gao, Yilong Chen, Yihao Xiao, Xinyu Yang, Ran Tao, Joey Zhou, Bryan Dai), presenta Loopie, el looped Transformer más potente hasta la fecha — dos modelos Mixture-of-Experts que por primera vez logran que loopear le gane a escalar.

El segundo, “Looped Latent Attention: Cross-Loop KV Compression for Looped Transformers” (James O’Neill, Fergal Reid), resuelve el costo oculto que ese loop arrastraba: guardar una caché de memoria separada por cada vuelta del bucle, un gasto que nadie había cuestionado hasta ahora.

Papers de este episodio:

• Loop the Loopies! — arxiv.org/abs/2607.16051
• Looped Latent Attention: Cross-Loop KV Compression for Looped Transformers — arxiv.org/abs/2607.15456

El primero, “Relevant and Irrelevant: A Renormalization Group Analysis of Transformer Attention” (Parviz Haggi-Mani, Irina Rish), trata el mecanismo de atención de un Transformer como un operador de un grupo de renormalización — el mismo lenguaje que usa la física para describir transiciones de fase — y deriva predicciones verificables sobre su geometría interna.

El segundo, “Diffusion models recover accurate mixture weights despite score function insensitivity” (Andrew Dennehy, Ramchandran Muthukumar, Rebecca Willett, Nisha Chandramoorthy), resuelve una paradoja que llevaba años sin explicación: por qué los modelos de difusión aprenden bien los pesos relativos de una distribución con múltiples modos, incluso cuando la señal que deberían usar para eso es insensible a esos pesos.

Papers de este episodio:

• Relevant and Irrelevant: A Renormalization Group Analysis of Transformer Attention — arxiv.org/abs/2607.15449
• Diffusion models recover accurate mixture weights despite score function insensitivity — arxiv.org/abs/2607.15485

El primero, “Silent Failures in Quantized LLM Reasoning” (Renuka Oladri, Mohan Vamsi Varadaraju Priya, Jerry Wu), muestra que la cuantización —la técnica que usamos para hacer los modelos más baratos y rápidos— puede cambiar por completo cómo un modelo razona internamente, aunque el resultado final (el accuracy) se mantenga idéntico. Un hallazgo con implicaciones directas para cualquiera que despliegue LLMs en producción.

El segundo, “Spectral Origins of the Self-Correction Blind Spot in Autoregressive Generation” (Ingrid Petrova, Luan Vejsiu), explica por primera vez de forma matemática un fenómeno ya documentado empíricamente: los modelos autorregresivos corrigen errores ajenos con facilidad, pero no los propios. El paper propone un análisis espectral de las dinámicas de atención que explica por qué.

El tercero, “Depth-Entropy Guided Sampling for Training-Free LLM Reasoning” (Zibin Meng, Peng Xie, Kani Chen), ofrece una alternativa práctica al costoso reinforcement learning: usar la entropía de las capas internas del transformer para guiar el muestreo y mejorar el razonamiento, sin entrenar nada nuevo.

Tres formas distintas de mirar el mismo problema: lo que un modelo de lenguaje esconde, incluso de sí mismo.

Papers de este episodio:

• Silent Failures in Quantized LLM Reasoning — arxiv.org/abs/2607.09999
• Spectral Origins of the Self-Correction Blind Spot in Autoregressive Generation — arxiv.org/abs/2607.09803
• Depth-Entropy Guided Sampling for Training-Free LLM Reasoning — arxiv.org/abs/2607.09693

• Weight Feedback Computes the Jacobian Transpose Locally in Modern Deep Networks — arxiv.org/abs/2607.13380
• Targeted Recovery of Weight-Space Mechanisms From Neural Networks — arxiv.org/abs/2607.13047

Durante años el deep learning funcionó por prueba y error, más arte que ciencia. Tres papers —uno con la firma de un medallista Fields— se animan a preguntar si por fin estamos encontrando las leyes que explican por qué esto funciona.