您是否注意到,盡管我們的個人設備加載了多個應用程序,但我們幾乎可以不間斷地觀看喜歡的比賽,這背后是服務質量 (QoS) 功能在支持。QoS確保系統(tǒng)資源在后臺運行時,在重要的和不那么重要的關鍵應用程序之間得以充分平衡。QoS 功能提供的緩存容量和內(nèi)存帶寬使系統(tǒng)機制能夠確保系統(tǒng)資源(如緩存容量和內(nèi)存帶寬)在資源密集型和非資源密集型工作負載之間實現(xiàn)平衡。
在多租戶 IaaS/PaaS 環(huán)境中,第三方和首要工作負載運行在 Ampere SOC 上,QoS 功能可確保將共享微架構資源的最低閾值分配給更高優(yōu)先級的軟件,例如虛擬機 (VM)、容器和進程,還可以限制較低優(yōu)先級軟件對較高優(yōu)先級軟件性能的影響。
QoS 允許在相互競爭的虛擬機之間有效地分配共享內(nèi)存資源,例如系統(tǒng)級緩存 (SLC) 容量和內(nèi)存帶寬。QoS 功能提供了一種機制,通過這些機制,諸如虛擬機之類的軟件實體可以與稱為分區(qū) ID (PARTID) 的唯一標識符相關聯(lián),然后分配給 PARTID 使用的共享 SLC 容量和內(nèi)存帶寬的最小容量或最大容量。
這使系統(tǒng)軟件能夠有效地識別優(yōu)先級更高的軟件,并確保將共享資源分配給該軟件。例如,SLC 和內(nèi)存帶寬的最高優(yōu)先級將提供給在 SOC 上運行的操作系統(tǒng)和虛擬機管理程序。在此過程中,它使用 PARTID 識別該軟件,并對 SLC 和內(nèi)存帶寬 QoS 控制進行編程以提供內(nèi)存訪問,PARTID 可以根據(jù)需要完全訪問 SLC 和內(nèi)存帶寬。
同樣,使用此機制,當多個虛擬機爭奪資源時,QoS 功能通過 SLA(服務級別協(xié)議)將共享資源的必要容量提供給優(yōu)先級較高的虛擬機,而優(yōu)先級較低的虛擬機可以限制為緩存和內(nèi)存帶寬容量,因此它不會影響優(yōu)先級較高的虛擬機。

QoS 是如何工作的?AmpereOne QoS 支持兩種方法,在系統(tǒng)軟件控制下協(xié)同工作,以分配內(nèi)存系統(tǒng)的性能資源:
內(nèi)存系統(tǒng)資源(內(nèi)存帶寬、緩存容量)分區(qū)
內(nèi)存系統(tǒng)資源使用監(jiān)控
通過使用狀態(tài)監(jiān)控,系統(tǒng)軟件可以確定更高優(yōu)先級的虛擬機需要的緩存和帶寬容量,然后將其與資源分區(qū)功能相結合,以確保虛擬機獲得可用容量。因此,具有 SLA 的高優(yōu)先級虛擬機可以保證內(nèi)存帶寬和對 SLC 容量的訪問,因為 QoS 可確保對共享資源(緩存、內(nèi)存 BW)所需的訪問。相反,可以限制低優(yōu)先級虛擬機以限制對共享資源(緩存容量、內(nèi)存帶寬)的訪問。將較低優(yōu)先級的 VM 限制為較低的使用率也會限制由于應用程序爭用資源而對高優(yōu)先級虛擬機產(chǎn)生的任何性能影響。
在兩個不同核心上共同執(zhí)行延遲敏感型的視頻服務和帶寬密集型的郵件服務,這種場景將會導致爭用訪問共享 SLC 和內(nèi)存。在沒有 QoS 的情況下,由于 BW 密集型郵件應用程序不受限制地共享緩存和/或很高的內(nèi)存帶寬占用率,延遲敏感型應用的響應時間可能會受到影響。QoS 感知系統(tǒng)可確保分配共享資源的最小閾值,從而將內(nèi)存帶寬劃分到一定限制,以確保對延遲敏感的應用程序的響應時間不會受到負面影響。
對于 Ampere 生態(tài)系統(tǒng)合作伙伴來說,QoS在工作負載整合密度、性能一致性和可預測的服務交付方面實現(xiàn)了飛躍,并為云服務提供商(CSP)的最終客戶提供了更好的SLA,這確實令人興奮。此外,高效和優(yōu)化的資源利用率還降低了 CSP 的總體總擁有成本,使他們能夠提高 IaaS/PaaS 利潤率。最后,由于某些應用程序可以優(yōu)先訪問內(nèi)存/SLC,因此它允許在整個堆棧中實現(xiàn)更大的靈活性和可調(diào)性,并保證在高負載情況下為某些關鍵任務應用程序/線程和進程提供更快的響應速度和性能。
對于那些想要使用它的人來說,好消息是:Linux 對此功能的支持將很快被廣泛推廣。QoS 功能在固件設置中啟用。無需對應用程序或虛擬機進行任何更改或重新編譯。
這只是我即將分享的眾多 AmpereOne 云原生功能之一。敬請期待更多后續(xù)內(nèi)容!
關于 Ampere Computing
Ampere Computing 是一家現(xiàn)代化半導體企業(yè),致力于塑造云計算的未來,并推出了世界上首款云原生處理器。為可持續(xù)云而生,Ampere 云原生處理器兼具最高性能和最佳每瓦性能,助力加速多種云計算應用的交付,為云提供行業(yè)領先的性能、能效和可擴展性。
-
QoS
+關注
關注
1文章
138瀏覽量
46062 -
內(nèi)存
+關注
關注
9文章
3210瀏覽量
76376 -
虛擬機
+關注
關注
1文章
972瀏覽量
30478 -
Ampere
+關注
關注
1文章
81瀏覽量
4890
原文標題:創(chuàng)芯課堂|解開內(nèi)存迷宮 — QoS
文章出處:【微信號:AmpereComputing,微信公眾號:安晟培半導體】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
什么是PM QoS呢
請問為什么paho-mqtt中publish不支持Qos0?
什么是QOS
ATM QoS技術,什么是ATM QoS技術
網(wǎng)絡qos技術_qos是什么
QoS技術的研究與實現(xiàn)
192個自研核心,AmpereOne的絕對性能壓制
基于5nm工藝的全新AmpereOne系列處理器解析
AmpereOne QoS功能原理解析
評論