隨著“新基建”的逐步發展落地，現代數據中心迅速崛起，數據量呈指數級增長，同時各種新存儲介質和技術的應用，使得存儲系統變得越來越復雜。用戶需要一套穩定、高性能且簡單易用的存儲系統。 AI技術可以解決存儲系統使用的復雜性問題，提供簡單易用、智能化的存儲系統。AI會不斷地從存儲及其運行環境中采集存儲的各種狀態信息和性能數據，用機器學習算法分析，學習用戶的存儲使用情況，進而自動化的調整并優化存儲系統，使存儲服務能更好地適應用戶的需求。有AI加持的智能化存儲可以增強系統的可靠性，降低存儲的復雜性和維護成本。 因此，在前期的文章中，我們提出”客戶的未來，從AI加持的新存儲開始”的觀點，并介紹了存儲AIOps的五大關鍵技術：監控、學習、預測、推薦、實施。 今天我們來具體探討一下被客戶重點關注的存儲磁盤故障預測和性能容量預測技術。

1

磁盤故障預測和性能容量預測

給復雜的存儲管理做“減法”

存儲本身很復雜，數據中心環境和客戶應用也很復雜，預測性分析技術是準確預測存儲風險和故障，解決存儲的復雜性的重要一部分。預測性分析技術是通過分析歷史的日志、告警、報錯等信息，AI算法可以自動分析出問題出現前的頻繁出現的數據模式，之后在從正常存儲系統上匹配這些AI學習到模式就能形成預測。 對于一個復雜的存儲系統來說，用戶關注最多的是硬盤、性能和容量的預測分析，磁盤故障預測和性能容量預測則成為兩大關鍵功能。 為什么關注硬盤故障預測？

公開數據顯示百度數據中心4年29萬次硬件故障中，硬盤故障占比高達81.84%。對于傳統的存儲廠商來說，雖然磁盤的絕對故障率不高，但是在所有的存儲部件中，如CPU、內存、主板、網卡、HBA卡、電源等，磁盤的故障率是最高的。

雖然傳統存儲有RAID、副本等機制，但是數據重建過程中使用了大量IO資源，這導致存儲性能嚴重下降，而且重建時間很長往往以天計。因此，數據重建對客戶的業務影響很大。如果我們可以提前預測磁盤故障，用戶可以選擇業務不繁忙的時間來重建數據，那么重建帶來的影響可以忽略不計。同時，預測可以把突發事件變為計劃事件，也降低了存儲的維護成本。

為什么關注容量性能預測？

除故障外，用戶在日常使用存儲的過程中關注最多的就是容量和性能。系統容量不足會導致系統不可用，客戶業務中斷。性能指標主要指時延、帶寬、IOPS，隨著用戶業務的發展，給存儲帶來的性能壓力越來越大，性能不足會讓客戶的應用變慢甚至無響應。

利用AI技術，對存儲的性能、容量變化趨勢進行準確預測，一方面可以告知客戶進行擴容、軟硬件升級的時間點，另一方面也能提供存儲規劃的具體參考指標。

2

存儲磁盤故障預測技術 同典型的AI系統一樣，先對歷史數據進行訓練，生成AI模型，最后在新的數據到來時形成預測。具體說包括以下五個部分：輸入數據、預處理、模型訓練、優化集成和預測。對于軟件系統來說關鍵點有：數據來源、算法選擇和評估指標。

磁盤故障預測系統整體架構 數據來源

硬盤本身提供了SMART數據（Self-Monitoring Analysis andReporting Technology）。SMART是90年代定義的硬盤狀態檢測和預警系統的規范，提供了磁頭、磁盤、電機、電路等硬盤硬件的運行數據。目前幾乎所有的硬盤廠商都已經支持了該規范。下表列出了與故障相關的SMART值。

表1：故障相關的SMART值

絕大多數的廠商和科研院校都是基于SMART數據進行磁盤故障預測，且都取得了不錯的效果。但是在2020年2月的存儲頂會FAST（USENIXConference on File and Storage Technologies）上發表的最新論文表明，SMART再加上存儲性能數據可以進一步提升預測準確率。作者采用了12個磁盤IO性能指標、18個服務器性能指標、4個位置信息，基于CNN和LSTM的AI算法實現了提前10天故障預測誤報率0.5%、漏報率5.1%。我們期待著存儲產品上能應用最新的技術來進一步提高預測的準確性。

算法選擇

可用于磁盤故障預測的AI算法有很多，如傳統算法決策樹、經典的SVM（Support Vector Machine）、在各種競賽上大放異彩的XGBoost（Gradient Tree Boosting）以及深度學習算法CNN和LSTM。實際效果及頂級會議KDD、ATC、FAST的論文實驗結果都表明，XGBoost、CNN、LSTM的效果比傳統算法有明顯優勢。

評價指標在完成了歷史數據訓練，故障預測之后，我們需要對預測的效果進行評估。表2描述了機器學習中標準的評價指標。

表2：機器學習模型評價指標

基于表2中的定義，評價磁盤故障預測的主要有準確率、漏報率和誤報率：

準確率=：判定正確的盤（含好盤和壞盤）占所有盤的比例

誤報率=：好盤被誤判成壞盤占所有好盤的比例

漏報率=：沒有識別出的壞盤占所有壞盤的比例

準確率高，誤報和漏報低，是我們追求的目標。這相當于我們在發現幾乎壞盤的同時沒有把好盤誤判成壞盤。但是從算法調優的角度看，誤報率和漏報率是一對矛盾，誤報率的降低會引起漏報率的上升，漏報率的降低會引起誤報率的上升。對于同一個算法來說，如果誤報和漏洞同時降低，很可能發生了過擬合現象，當換一類盤后，誤報和漏報都會大幅上升。

3

存儲性能容量預測技術 對于存儲來說，性能和容量預測是兩件不同的事情，都為客戶帶來不同的價值。但是站在技術角度，兩者都屬于數據挖掘中時間序列預測問題（Time Series Prediction）。時間序列，也叫時間數列、歷史復數或動態數列。它是將某種統計指標的數值，按時間先后順序排到所形成的數列。預測的基本原理是：統計分析過去的時間序列數據，形成擬合函數或者AI算法模型，以擬合的函數結果或模型來預測未來的趨勢。

時間序列預測法可用于短期、中期和長期預測。造成時間序列數據發生變化的因素主要有以下四個：

趨勢性：時間序列曲線呈現出一種緩慢而長期的持續上升、下降、不變的整體趨勢。

周期性：由于外部的影響，隨季節的交替，時間序列曲線有明顯的周期性的高峰、低谷。

隨機性：個別的數據變化為隨機變動，但整體呈現出統計規律。

綜合性：以上幾種變化因素的疊加或組合。預測時可以過濾除去不規則的隨機因素，最終展現出趨勢性和周期性變動。

經典的時間序列預測算法有ARIMA、線性回歸、深度學習算法等。這些算法有各自的優劣勢，產品會根據不同的客戶應用場景來選擇不同的算法。下圖展示了各個算法的實際效果。

時間序列算法效果比較

對于存儲來說，除核心算法外，存儲還有自身的容量和性能指標。表3列出了浪潮智能存儲管理平臺InView支持的未來1天、7天、30天、90天的3個容量趨勢指標，15個性能趨勢指標。

表3：浪潮存儲性能容量預測指標

4

存儲AIOps的產業落地浪潮智能存儲管理平臺InView 存儲產業界中，作為新數據時代“新存儲”引領者，浪潮存儲推出了領先且獨具特色的智能存儲管理平臺InView，提供了預測性分析、端到端的故障定位、性能洞察等一系列的智能化功能，幫助用戶分析復雜應用環境下從虛擬機到后端存儲端到端的性能瓶頸，確定影響性能瓶頸的主要因素，并最終給出可行的優化或解決問題的建議。 其中磁盤故障預測、性能容量預測的智能化功能，可以幫助客戶預防硬件故障帶來的損失，并給出具體的擴容建議，為客戶提供更穩定、高性能、智能化的存儲服務，使存儲服務能更好地適應用戶需求，同時降低存儲的復雜性和維護成本。 注：感謝我的同事葉毓睿對本篇文章提供啟發。

原文標題：【科技放大鏡】AI加持，給復雜存儲管理做“減法”

文章出處：【微信公眾號：浪潮存儲】歡迎添加關注！文章轉載請注明出處。