La dieta de los modelos gigantes

Hacer un modelo más grande es fácil si hay plata de sobra. El verdadero problema de ingeniería es hacerlo más barato y más rápido sin perder capacidad: contextos de más de dos millones de tokens con presupuesto fijo de GPU, memoria que se defragmenta sola, y caché que se injerta byte a byte entre modelos distintos.