ذاكرة مؤقتة

لماذا تخزين الاستدلال كشيفرة برمجية؟

بدل أن يستدل LLM من الصفر في كل مرة، يُبلوَر كل استدلال في شيفرة ويُخزَّن مؤقتًا. بنية تشبه مترجم JIT لا تستدعي LLM إلا عند إخفاق الذاكرة المؤقتة، وما تحققه مع الوقت.