国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

用雪花算法搞了唯一ID生成,結果上線就引發了故障

jf_ro2CN3Fa ? 來源:悟空聊架構 ? 2023-01-29 10:41 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群


本文主要內容如下:

e7237a24-9f72-11ed-bfe3-dac502259ad0.png圖片

前言

最近生產環境遇到一個問題:

現象 :創建工單、訂單等地方,全都創建數據失敗。

初步排查 :報錯信息為duplicate key,意思是保存數據的時候,報主鍵 id 重復,而這些 id 都是由雪花算法生成的,按道理來說,雪花算法生成的 ID 是唯一 ID,不應該出現重復的 ID。

大家可以先猜猜是什么原因。

有的同學可能對雪花算法不熟悉,這里做個簡單的說明。(熟悉的同學可以跳到第二個段落)

基于 Spring Boot + MyBatis Plus + Vue & Element 實現的后臺管理系統 + 用戶小程序,支持 RBAC 動態權限、多租戶、數據權限、工作流、三方登錄、支付、短信、商城等功能

  • 項目地址:https://github.com/YunaiV/ruoyi-vue-pro
  • 視頻教程:https://doc.iocoder.cn/video/

一、雪花算法

snowflake(雪花算法):Twitter 開源的分布式 id 生成算法,64 位的 long 型的 id,分為 4 部分:

e7332bfe-9f72-11ed-bfe3-dac502259ad0.pngsnowflake 算法

  • 1 bit:不用,統一為 0
  • 41 bits:毫秒時間戳,可以表示 69 年的時間。
  • 10 bits:5 bits 代表機房 id,5 個 bits 代表機器 id。最多代表 32 個機房,每個機房最多代表 32 臺機器。
  • 12 bits:同一毫秒內的 id,最多 4096 個不同 id,自增模式

優點:

  • 毫秒數在高位,自增序列在低位,整個ID都是趨勢遞增的。
  • 不依賴數據庫等第三方系統,以服務的方式部署,穩定性更高,生成ID的性能也是非常高的。
  • 可以根據自身業務特性分配bit位,非常靈活。

缺點:

  • 強依賴機器時鐘,如果機器上時鐘回撥(可以搜索 2017 年閏秒 760 找到相關問題),會導致發號重復或者服務會處于不可用狀態。

閏秒 就是通過給“世界標準時間”加(或減)1秒,讓它更接近“太陽時”。例如,兩者相差超過0.9秒時,就在23點59分59秒與00點00分00秒之間,插入一個原本不存在的“23點59分60秒”,來將時間調慢一秒鐘。

看了上面的關于雪花算法的簡短介紹,想必大家能猜出個一二了。

雪花算法和時間是強關聯的,其中有 41 位是當前時間的時間戳,那么會不會和時間有關?

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 實現的后臺管理系統 + 用戶小程序,支持 RBAC 動態權限、多租戶、數據權限、工作流、三方登錄、支付、短信、商城等功能

  • 項目地址:https://github.com/YunaiV/yudao-cloud
  • 視頻教程:https://doc.iocoder.cn/video/

二、排查

2.1 雪花算法有什么問題?

既然是雪花算法的問題,那我們就來看下雪花算法出了什么問題:

(1)What:雪花算法生成了重復的 ID,這些 ID 是什么樣的?

(2)Why:雪花算法為什么生成了重復的 key

第一個問題,我們可以通過報錯信息發現,這個重復的 ID 是 -1,這個就很奇怪了。一般雪花算法生成的唯一 ID 如下所示,我分別用二進制和十進制來表示:

十進制表示:2097167233578045440

二進制表示:0001110100011010101000100111110011011000000000100001000000000000

找到項目中使用雪花算法的工具類,生成 ID 的時候有個判斷邏輯:

當前時間小于上次的生成時間就會返回 -1,所以問題就出在這個邏輯上面。(有的雪花算法是直接拋異常)

if(timestampthis.lastTimestamp){
return-1;
}
e7426538-9f72-11ed-bfe3-dac502259ad0.png圖片

由于每次 timestamp 都是小于 lastTimeStamp,所以每次都返回了 -1 ,這也解釋了為什么生成了重復的 key。

2.2 時鐘回撥或跳躍

那么問題就聚焦在為什么當前時間還會小于上次的生成時間

下面有種場景可能發生這種情況:

首先假定當前的北京時間是 900。另外上次生成 ID 的時候,服務器獲取的時間 lastTimestamp=1000,而現在服務器獲取的當前時間 timestamp=0900,這就相當于服務器之前是獲取了一個未來時間,現在突然跳躍到當前時間。

而這種場景我們稱之為時鐘回撥時鐘跳躍

時鐘回撥 :服務器時鐘可能會因為各種原因發生不準,而網絡中會提供 NTP 服務來做時間校準,因此在做校準的時候,服務器時鐘就會發生時鐘的跳躍或者回撥問題。

2.3 時鐘同步

那么服務器為什么會發生時鐘回撥或跳躍呢?

我們猜測是不是服務器上的時鐘不同步后,又自動進行同步了,前后時間不一致。

首先我們的每臺服務器上都安裝了 ntpdate 軟件,作為 NTP 客戶端,會每隔 10 分鐘NTP 時間服務器同步一次時間。

如下圖所示,服務器 1 和 服務器 2 部署了應用服務,每隔 10 分鐘向時間服務器同步一次時間,來保證服務器 1 和服務器 2 的時間和時間服務器的時間一致。

e751799c-9f72-11ed-bfe3-dac502259ad0.png圖片

每隔 10 分鐘同步的設置:

*/10****/usr/sbin/ntpdate

另外時間服務器會向 NTP Pool同步時間,NTP Pool 正在為世界各地成百上千萬的系統提供服務。它是絕大多數主流Linux發行版和許多網絡設備的默認“時間服務器”。(參考ntppool.org)

那問題就是 NTP 同步出了問題??

2.4 時鐘不同步

我們到服務器上查看了下時間,確實和時鐘服務器不同步,早了幾分鐘。

當我們執行 NTP 同步的命令后,時鐘又同步了,也就是說時間回撥了。同步的命令如下:

ntpdate<時鐘服務器?IP>

在產生事故之前,我們重啟過服務器 1。我們推測服務器重啟后,服務器因網絡問題沒有正常同步 。而在下一次定時同步操作到來之前的這個時間段,我們的后端服務已經出現了因 ID 重復導致的大量異常問題。

這個 NTP 時鐘回撥的偶發現象并不常見,但時鐘回撥確實會帶了很多問題,比如潤秒 問題也會帶來 1s 時間的回撥。

為了預防這種情況的發生,網上也有一些開源解決方案。

三、解決方案

(1)方式一:使用美團 Leaf方案,基于雪花算法。

(2)方式二:使用百度 UidGenerator,基于雪花算法。

(3)方式三:用 Redis 生成自增的分布式 ID。弊端是 ID 容易被猜到,有安全風險。

3.1 美團的 Leaf 方案

美團的開源項目 Leaf 的方案:采用依賴 ZooKeeper 的數據存儲。如果時鐘回撥的時間超過最大容忍的毫秒數閾值,則程序報錯;如果在可容忍的范圍內,Leaf 會等待時鐘同步到最后一次主鍵生成的時間后再繼續工作

重點就是需要等待時鐘同步!

e75fb020-9f72-11ed-bfe3-dac502259ad0.png圖片

3.2 百度 UidGenerator 方案

百度UidGenerator方案不在每次獲取 ID 時都實時計算分布式 ID,而是利用 RingBuffer 數據結構,通過緩存的方式預生成一批唯一 ID 列表,然后通過 incrementAndGet() 方法獲取下一次的時間,從而脫離了對服務器時間的依賴,也就不會有時鐘回撥的問題。

重點就是預生成一批 ID!

Github地址:

https://github.com/baidu/uid-generator

四、總結

本篇通過一次偶發的生產事故,引出了雪花算法的原理、雪花算法的不足、對應的開源解決方案。

雪花算法因強依賴服務器的時鐘,如果時鐘產生了回撥,就會造成很多問題。

我們的系統雖然做了 NTP 時鐘同步,但也不是 100% 可靠,而且潤秒這種場景也是出現過很多次。鑒于此,美團和百度也有對應的解決方案。

最后,我們的生產環境也是第一次遇到因 NTP 導致的時鐘回撥,而且系統中用到雪花算法的地方并不多,所以目前并沒有采取以上的替換方案。

雪花算法的代碼已經上傳到 Gitlab:

https://github.com/Jackson0714/PassJava-Platform/blob/master/passjava-common/src/main/java/com/jackson0714/passjava/common/utils/SnowflakeUtilV2.java


審核編輯 :李倩


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 數據
    +關注

    關注

    8

    文章

    7335

    瀏覽量

    94754
  • 算法
    +關注

    關注

    23

    文章

    4784

    瀏覽量

    98038
  • 開源
    +關注

    關注

    3

    文章

    4203

    瀏覽量

    46125

原文標題:我在項目里用雪花算法搞了唯一ID生成,結果上線就引發了故障...

文章出處:【微信號:芋道源碼,微信公眾號:芋道源碼】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    碩博電子IO模塊修改波特率和節點ID操作步驟

    正確設置波特率與節點ID,是保證IO模塊與控制器穩定通信的關鍵。配置不當易引發設備失聯、數據錯亂等故障。本文將詳細講解波特率與節點ID的規范修改步驟,輕松搞定配置難題。
    的頭像 發表于 01-27 10:39 ?509次閱讀
    碩博電子IO模塊修改波特率和節點<b class='flag-5'>ID</b>操作步驟

    讓AIoT創新像“逛超市”樣簡單!移遠通信AlgoStore算法超市上線

    通信AlgoStore算法超市正式上線AI開放平臺。作為站式AIoT算法平臺,AlgoStore就像個匯聚豐富前沿AI
    的頭像 發表于 01-07 19:12 ?338次閱讀
    讓AIoT創新像“逛超市”<b class='flag-5'>一</b>樣簡單!移遠通信AlgoStore<b class='flag-5'>算法</b>超市<b class='flag-5'>上線</b>

    給燒錄工程師的 checklist:新批次芯片上線前的“三道保險”

    分享我們車間總結的、可落地的新批次芯片上線檢查清單。第道保險:來料確認(IQC環節)核對標簽與實物: 檢查料盤標簽上的完整型號、批次號(Lot Code)、日期碼。取樣讀取ID: 隨機抽取3-5顆
    發表于 12-30 14:00

    FCC認證的ID號是什么東西?

    FCC認證ID號(FCC ID)是由美國聯邦通信委員會(FCC)分配的無線產品唯一識別碼,用以證明該產品已獲得FCC認證,符合美國聯邦法規的射頻(RF)技術標準,可以在美國合法銷售和使用。
    的頭像 發表于 10-31 17:45 ?1070次閱讀
    FCC認證的<b class='flag-5'>ID</b>號是什么東西?

    針對AES算法的安全防護設計

    。 圖1 AES算法中的字節替代模塊是整個算法唯一的非線性變換,不滿足f(x+m)=f(x)+f(m),因此需要單獨設計。AES的S盒包括仿射運算和GF(2^8)域上的求逆運算,其有限域運算可表示為
    發表于 10-28 07:38

    國密系列算法簡介及SM4算法原理介紹

    、10、18和24位,得到四個32位數據。將4個數據與原始數據進行異或操作,得到結果,完成Feistel操作。最后將X3與32位Feistel結果進行異或,得到下輪X0。 對
    發表于 10-24 08:25

    搜索商品ID獲取商品詳情接口

    ? ?在電商平臺或庫存管理系統中,通過商品ID快速搜索并獲取商品詳情是項核心功能。該接口允許用戶或應用程序輸入唯一的商品標識符(ID),返回結構化數據如名稱、價格、庫存等。本文將逐步
    的頭像 發表于 10-20 15:46 ?595次閱讀
    搜索商品<b class='flag-5'>ID</b>獲取商品詳情接口

    拼多多商品推廣鏈接生成API:社交裂變的轉化追蹤利器

    功能解析 專屬鏈接生成 通過API接口,開發者可動態生成攜帶 唯一追蹤參數 的推廣鏈接 支持自定義參數:活動ID、推廣渠道、用戶身份標識 多級傳播追蹤 采用樹形追蹤模型: $$ beg
    的頭像 發表于 09-08 16:22 ?751次閱讀
    拼多多商品推廣鏈接<b class='flag-5'>生成</b>API:社交裂變的轉化追蹤利器

    用戶可以通過編程或下載器設置芯片中的 UCID(唯一公司 ID)嗎?

    用戶可以通過編程或下載器設置芯片中的 UCID(唯一公司 ID)嗎?
    發表于 08-26 07:30

    請問如何保證UID(唯一ID)的唯一性?

    如何保證UID(唯一ID)的唯一性?
    發表于 08-21 08:18

    新品上線|Maix4-HAT 大模型 AI 加速套件 ,鍵解鎖樹莓派多模態 AI 力量!

    /item.htm?id=950959017990Maix4-HAT搭載愛芯元智第三代AX650芯片,支持板兩,不僅是你樹莓派5的PCIeAIHAT的算法加速
    的頭像 發表于 07-18 18:35 ?1682次閱讀
    新品<b class='flag-5'>上線</b>|Maix4-HAT 大模型 AI 加速套件 ,<b class='flag-5'>一</b>鍵解鎖樹莓派多模態 AI 力量!

    生成式人工智能認證(GAI認證)官網 - 全國統認證中文服務平臺上線

    習并掌握這技術,成為了眾多專業人士和求學者面臨的難題。近日,個令人振奮的消息傳來——生成式人工智能認證(GAI認證)中文官網正式上線,為這
    的頭像 發表于 05-14 17:30 ?1174次閱讀

    上汽大眾ID.3、ID.4 X獲首批純電能效級認證

    近日,中國汽車能效開發與檢測認證專業聯盟正式發布首批純電動乘用車能效分級測評(C-EDTC)結果,上汽大眾ID.3與ID.4 X兩款車型在四項細分測試維度中獲得全級認證,并雙雙獲得“
    的頭像 發表于 04-14 16:04 ?868次閱讀

    直流充電測試負載常見故障排查

    低溫補償算法,導致-20℃環境模擬偏差達8%。 二、功率類故障處理 電流采樣偏差:采用分流器+隔離放大器的雙路校驗方案。某800V測試平臺因霍爾傳感器磁芯飽和,引發500A以上測量值非線性失真,誤差超
    發表于 03-18 12:32

    請問stm32H5唯一設備id地址是什么?

    求問stm32H5唯一設備id地址?
    發表于 03-10 07:50