Cache

Por que cachear el razonamiento como codigo?

En lugar de que un LLM razone desde cero cada vez, cada inferencia se cristaliza en código y se almacena en caché. Una estructura similar a un compilador JIT que solo llama al LLM ante un fallo de caché, y lo que logra con el tiempo.