在多核高并發場景下,緩存偽共享(False Sharing) 是導致性能驟降的“隱形殺手”。當不同線程頻繁修改同一緩存行(Cache Line)中的獨立變量時,CPU緩存一致性協議會強制同步整個緩存行,引發無效化風暴,使看似無關的變量操作拖慢整體效率。本文從緩存結構原理出發,通過實驗代碼復現偽共享問題(耗時從3709ms優化至473ms),解析其底層機制;同時深入剖析高性能緩存庫 Caffeine 如何通過 內存填充技術(120字節占位變量)隔離關鍵字段,以及 JDK 1.8 的 @Contended 注解如何以“空間換時間”策略高效解決偽共享問題,揭示緩存一致性優化的核心思想與實踐價值,為開發者提供性能調優的關鍵思路。
偽共享
偽共享(False sharing)是一種會導致性能下降的使用模式,最常見于現代多處理器CPU緩存中。當不同線程頻繁修改同一緩存行(Cache Line)中不同變量時,由于CPU緩存一致性協議(如MESI)會強制同步整個緩存行,導致線程間無實際數據競爭的邏輯變量被迫觸發緩存行無效化(Invalidation),引發頻繁的內存訪問和性能下降。盡管這些變量在代碼層面彼此獨立,但因物理內存布局相鄰,共享同一緩存行,造成“虛假競爭”,需通過內存填充或字段隔離使其獨占緩存行解決。
接下來我們討論并驗證在 CPU 緩存中是如何發生偽共享問題的,首先我們需要先介紹一下 CPU 的緩存結構,如下圖所示:

CPU Cache 通常分為大小不等的三級緩存,分別為 L1 Cache、L2 Cache、L3 Cache,越靠近 CPU 的緩存,速度越快,容量也越小。CPU Cache 實際上由很多個緩存行 Cache Line 組成,通常它的大小為 64 字節(或 128 字節),是 CPU 從內存中 讀取數據的基本單位,如果訪問一個 long[] 數組,當其中一個值被加載到緩存中時,它會額外加載另外 7 個元素到緩存中。那么我們考慮這樣一種情況,CPU 的兩個核心分別訪問和修改統一緩存行中的數據,如下圖所示:

核心 1 不斷地訪問和更新值 X,核心 2 則不斷地訪問和更新值 Y,事實上每當有核心對某一緩存行中的數據進行修改時,都會導致其他核心的緩存行失效,從而導致其他核心需要重新加載緩存行數據,進而導致性能下降,這也就是我們上文中所說的緩存偽共享問題。接下來我們用一段代碼來驗證下緩存偽共享問題造成的性能損失,如下所示:
public class TestFalseSharing {
static class Pointer {
// 兩個 volatile 變量,保證可見性
volatile long x;
volatile long y;
@Override
public String toString() {
return "x=" + x + ", y=" + y;
}
}
@Test
public void testFalseSharing() throws InterruptedException {
Pointer pointer = new Pointer();
// 啟動兩個線程,分別對 x 和 y 進行自增 1億 次的操作
long start = System.currentTimeMillis();
Thread t1 = new Thread(() -> {
for (int i = 0; i < 100_000_000; i++) {
pointer.x++;
}
});
Thread t2 = new Thread(() -?> {
for (int i = 0; i < 100_000_000; i++) {
pointer.y++;
}
});
t1.start();
t2.start();
t1.join();
t2.join();
System.out.println(System.currentTimeMillis() - start);
System.out.println(pointer);
}
}
這種情況下會發生緩存的偽共享,x 和 y 被加載到同一緩存行中,當其中一個值被修改時,會使另一個核心中的該緩存行失效并重新加載,代碼執行實際耗時為 3709ms。如果我們將 x 變量后再添加上 7 個 long 型的元素,使得變量 x 和變量 y 分配到不同的緩存行中,那么理論上性能將得到提升,我們實驗一下:
public class TestFalseSharing {
static class Pointer {
volatile long x;
long p1, p2, p3, p4, p5, p6, p7;
volatile long y;
@Override
public String toString() {
return "x=" + x + ", y=" + y;
}
}
@Test
public void testFalseSharing() throws InterruptedException {
// ...
}
}
本次任務執行耗時為 473ms,性能得到了極大的提升。現在我們已經清楚的了解了緩存偽共享問題,接下來我們討論下在 Caffeine 中是如何解決緩存偽共享問題的。
Caffeine 對緩存偽共享問題的解決方案
在 緩存之美:萬文詳解 Caffeine 實現原理 中我們提到過,負責記錄寫后任務的 WriterBuffer 數據結構的類繼承關系如下所示:

如圖中標紅的類所示,它們都是用來解決偽共享問題的,我們以 BaseMpscLinkedArrayQueuePad1 為例來看下它的實現:
abstract class BaseMpscLinkedArrayQueuePad1 extends AbstractQueue {
byte p000, p001, p002, p003, p004, p005, p006, p007;
byte p008, p009, p010, p011, p012, p013, p014, p015;
byte p016, p017, p018, p019, p020, p021, p022, p023;
byte p024, p025, p026, p027, p028, p029, p030, p031;
byte p032, p033, p034, p035, p036, p037, p038, p039;
byte p040, p041, p042, p043, p044, p045, p046, p047;
byte p048, p049, p050, p051, p052, p053, p054, p055;
byte p056, p057, p058, p059, p060, p061, p062, p063;
byte p064, p065, p066, p067, p068, p069, p070, p071;
byte p072, p073, p074, p075, p076, p077, p078, p079;
byte p080, p081, p082, p083, p084, p085, p086, p087;
byte p088, p089, p090, p091, p092, p093, p094, p095;
byte p096, p097, p098, p099, p100, p101, p102, p103;
byte p104, p105, p106, p107, p108, p109, p110, p111;
byte p112, p113, p114, p115, p116, p117, p118, p119;
}
abstract class BaseMpscLinkedArrayQueueProducerFields extends BaseMpscLinkedArrayQueuePad1 {
// 生產者操作索引(并不對應緩沖區 producerBuffer 中索引位置)
protected long producerIndex;
}
可以發現在這個類中定義了 120 個字節變量,這樣緩存行大小不論是 64 字節還是 128 字節,都能保證字段間的隔離。如圖中所示 AbstractQueue 和 BaseMpscLinkedArrayQueueProducerFields 中的變量一定會 被分配到不同的緩存行 中。同理,借助 BaseMpscLinkedArrayQueuePad2 中的 120 個字節變量,BaseMpscLinkedArrayQueueProducerFields 和 BaseMpscLinkedArrayQueueConsumerFields 中的變量也會被分配到不同的緩存行中,這樣就避免了緩存的偽共享問題。
其實除了 Caffeine 中有解決緩存偽共享問題的方案外,在 JDK 1.8 中引入了 @Contended 注解,它也可以解決緩存偽共享問題,如下所示為它在 ConcurrentHashMap 中的應用:
public class ConcurrentHashMap extends AbstractMap
implements ConcurrentMap, Serializable {
// ...
@sun.misc.Contended
static final class CounterCell {
volatile long value;
CounterCell(long x) {
value = x;
}
}
}
其中的內部類 CounterCell 被標記了 @sun.misc.Contended 注解,表示該類中的字段會與其他類的字段相隔離,如果類中有多個字段,實際上該類中的變量間是不隔離的,這些字段可能被分配到同一緩存行中。因為 CounterCell 中只有一個字段,所以它會被被分配到一個緩存行中,剩余緩存行容量被空白內存填充,本質上也是一種以空間換時間的策略。這樣其他變量的變更就不會影響到 CounterCell 中的變量了,從而避免了緩存偽共享問題。
這個注解不僅能標記在類上,還能標記在字段上,拿我們的的代碼來舉例:
public class TestFalseSharing {
static class Pointer {
@Contended("cacheLine1")
volatile long x;
// long p1, p2, p3, p4, p5, p6, p7;
@Contended("cacheLine2")
volatile long y;
@Override
public String toString() {
return "x=" + x + ", y=" + y;
}
}
@Test
public void testFalseSharing() throws InterruptedException {
// ...
}
}
它可以指定內容來 定義多個字段間的隔離關系。我們使用注解將這兩個字段定義在兩個不同的緩存行中,執行結果耗時與顯示聲明字段占位耗時相差不大,為 520ms。另外需要注意的是,要想使注解 Contended 生效,需要添加 JVM 參數 -XX:-RestrictContended。
再談偽共享
避免偽共享的主要方法是代碼檢查,而且偽共享可能不太容易被識別出來,因為只有在線程訪問的是不同且碰巧在主存中相鄰的全局變量時才會出現偽共享問題,線程的局部存儲或者局部變量不會是偽共享的來源。此外,解決偽共享問題的本質是以空間換時間,所以并不適用于在大范圍內解決該問題,否則會造成大量的內存浪費。
巨人的肩膀
維基百科 - 偽共享
小林coding - 2.3 如何寫出讓 CPU 跑得更快的代碼
知乎 - 雜談 什么是偽共享(false sharing)
博客園 - CPU Cache 與緩存行
博客園 - 偽共享(false sharing),并發編程無聲的性能殺手
審核編輯 黃宇
-
cpu
+關注
關注
68文章
11277瀏覽量
224934 -
緩存
+關注
關注
1文章
248瀏覽量
27758
發布評論請先 登錄
探秘DS2731:緩存內存電池備份管理IC的卓越性能與應用
DRAM緩存真有那么重要嗎?天碩工業級SSD固態硬盤實測告訴你答案!
C語言的緩沖區(緩存)詳解
數據全復用高性能池化層設計思路分享
串口DMA發送有緩存嗎?
本地緩存 Caffeine 中的時間輪(TimeWheel)是什么?
高性能緩存設計:如何解決緩存偽共享問題
評論