緩存，就是CPU內置的一塊小記憶體，它可以內置在單個處理器核心中，也能被部分或全部核心共同使用。這塊記憶體就安家在處理器上，離得近，作用大，確保CPU執行任務時，不必每次都跑到系統RAM那裡取數據。不同處理器的緩存容量各異，小的可能幾千位元組，大的則能達數兆位元組。
緩存如何工作？
緩存自身也分層次，主要有L1、L2和L3三級。它們同為緩存，卻各司其職。
L1緩存作為最貼近CPU的第一層，同時也是最小的，分為L1指令快取（L1i）和L1數據快取（L1d）。每個CPU核心都有專屬的L1緩存，容量僅數千位元組，主要存放CPU最近使用或將要用到的數據。一旦所需數據不在L1中，CPU就會轉向L2查詢。
L2緩存雖然也常與單個核心綁定，但在某些CPU中會被多個核心共用。它的容量遠大於L1，比如酷睿i9-12900K的每個P核心配有80KB的L1緩存和1.25MB的L2緩存，後者幾乎是前者的16倍。但伴隨容量增加，訪問延遲也會增長，意味著核心與L2間的信息交換耗時更長。考慮到CPU處理任務需爭分奪秒，L2的這點延遲不容忽視。若L2也未能命中目標數據，CPU便會求助於L3。
L3緩存則是大傢伙，跨核心共用，容量龐大。比如7950X3D擁有128MB的L3緩存加上附加的3D V-Cache，而L2僅為16MB。L3的延遲比L2更高，但其重要作用在於減少CPU直接向RAM索取數據的頻率。畢竟，相較於其他記憶體層次，RAM的速度和延遲表現較差，CPU每回訪RAM都會造成一定的效率損失。