Por Que Cachear Raciocinio como Codigo?
Em vez de o LLM raciocinar do zero toda vez, cada inferência é cristalizada em código e guardada em cache. Uma estrutura semelhante a um compilador JIT, que só chama o LLM quando há falha de cache, e o que ela alcança com o tempo.