Кэш

Почему кэшировать рассуждения как код?

Вместо того чтобы LLM каждый раз рассуждала с нуля, каждое умозаключение кристаллизуется в код и кэшируется. Структура, похожая на JIT-компилятор, вызывающая LLM только при промахе кэша, и то, к чему она приводит со временем.