国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

人工智能和深度學(xué)習(xí)的對象存儲挑戰(zhàn)

存儲D1net ? 來源:企業(yè)網(wǎng)D1Net ? 2020-06-13 11:06 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

對象存儲非常適合長期備份和歸檔,如何將高性能對象存儲擴(kuò)展到大規(guī)模、高容量的工作負(fù)載,人們對此需要進(jìn)行了解。

對象存儲最有趣的方面之一是其用途的多樣性。盡管對象存儲通常用作歸檔存儲區(qū)、原有數(shù)據(jù)的目的地,以及文件服務(wù)器的替代品,但實(shí)際上有許多方法可以應(yīng)用對象存儲。隨著供應(yīng)商開始提供性能優(yōu)化的對象存儲,該技術(shù)已經(jīng)為用于一組全新的工作負(fù)載準(zhǔn)備就緒。

高性能對象存儲不僅僅需要從基于硬盤的對象存儲系統(tǒng)切換到全閃存對象存儲。向全閃存介質(zhì)的遷移無疑會有所幫助,但是對象存儲系統(tǒng)(很大程度上要?dú)w功于其豐富的元數(shù)據(jù))通常具有太多延遲,無法有效利用閃存性能。

創(chuàng)建高性能對象存儲系統(tǒng)的另一個(gè)挑戰(zhàn)是基礎(chǔ)設(shè)施的橫向擴(kuò)展特性。為了滿足容量需求,對象存儲將大量節(jié)點(diǎn)添加到存儲集群中。每個(gè)節(jié)點(diǎn)的容量都被吸收到集群中,從而創(chuàng)建一個(gè)存儲池。在大型橫向擴(kuò)展集群中,具有數(shù)十個(gè)節(jié)點(diǎn)都是比較常見的。聚合和管理這些節(jié)點(diǎn)的等待時(shí)間可能很長。

人工智能深度學(xué)習(xí)的對象存儲挑戰(zhàn)

非結(jié)構(gòu)化的大型數(shù)據(jù)工作負(fù)載(例如人工智能和機(jī)器學(xué)習(xí)以及深度學(xué)習(xí))是對象存儲架構(gòu)如何成為高性能工作負(fù)載的一個(gè)很好的例子。理論上,這些工作負(fù)載對于對象存儲而言應(yīng)該是理想的。它們擁有數(shù)百萬甚至數(shù)十億個(gè)文件,而存儲所有這些數(shù)據(jù)需要大量的SSD硬盤或HDD硬盤,因此需要許多節(jié)點(diǎn)。這些過程也是受吞吐量驅(qū)動的。

所有這些因素的結(jié)合使人工智能和深度學(xué)習(xí)針對對象存儲的高節(jié)點(diǎn)數(shù)存儲集群量身定制。大多數(shù)與人工智能通信的框架(例如TensorFlow)用于驅(qū)動人工智能和機(jī)器學(xué)習(xí)工作負(fù)載,它們都使用Amazon S3協(xié)議。大多數(shù)對象存儲系統(tǒng)也是基于S3存儲桶,并且S3存儲桶本身是高度并行的。從理論上講,對象存儲基礎(chǔ)設(shè)施應(yīng)該能夠滿足人工智能和機(jī)器或深度學(xué)習(xí)工作負(fù)載的需求。

但是,此方法不僅僅需要創(chuàng)建一個(gè)全閃存對象存儲系統(tǒng)。該系統(tǒng)必須能夠解決這樣一個(gè)問題,即可能會有數(shù)十個(gè)(即使不是數(shù)百個(gè))節(jié)點(diǎn),而元數(shù)據(jù)以及集群管理也帶來了挑戰(zhàn)。

應(yīng)對元數(shù)據(jù)挑戰(zhàn)

元數(shù)據(jù)是關(guān)于數(shù)據(jù)的數(shù)據(jù),它對高性能對象存儲帶來了挑戰(zhàn),其原因有兩個(gè):第一個(gè)挑戰(zhàn)是,對象存儲系統(tǒng)需要更多時(shí)間來管理其豐富的元數(shù)據(jù)。由于大多數(shù)對象存儲供應(yīng)商會在集群中指定一定數(shù)量的節(jié)點(diǎn)來管理和存儲元數(shù)據(jù),因此管理更加復(fù)雜。在人工智能和深度學(xué)習(xí)等工作負(fù)載中,專用的元數(shù)據(jù)控制器通常不堪重負(fù),并成為系統(tǒng)瓶頸。因此,閃存驅(qū)動器甚至硬盤無法充分發(fā)揮其潛力。

第二個(gè)挑戰(zhàn)是集群通信。大多數(shù)橫向擴(kuò)展NAS或塊存儲系統(tǒng)的節(jié)點(diǎn)數(shù)都比較少。在網(wǎng)絡(luò)附屬存儲(NAS)和塊用例中,擁有六個(gè)節(jié)點(diǎn)的存儲集群被認(rèn)為是大型的存儲系統(tǒng),但在許多對象存儲部署中,六個(gè)節(jié)點(diǎn)只是一個(gè)入門級別。而節(jié)點(diǎn)間的通信成為一個(gè)大問題,尤其是在不涉及性能的歸檔的用例中。

要創(chuàng)建高性能的大規(guī)模對象存儲解決方案,需要解決元數(shù)據(jù)性能和集群管理問題。下一代對象存儲將元數(shù)據(jù)分布在集群中的每個(gè)節(jié)點(diǎn)上,而不僅僅是幾個(gè)控制器。元數(shù)據(jù)的分布可確保每個(gè)節(jié)點(diǎn)都具有響應(yīng)I/O請求所需的所有信息。

其他高性能對象存儲問題

對象存儲系統(tǒng)還必須解決節(jié)點(diǎn)間聯(lián)網(wǎng)的問題。元數(shù)據(jù)的分布在這里有所幫助,因?yàn)樗鼫p少了東西流向的流量。供應(yīng)商必須優(yōu)化其節(jié)點(diǎn)間網(wǎng)絡(luò),因此它不會成為性能瓶頸。它們極有可能必須優(yōu)化網(wǎng)絡(luò)通信,以最大程度地減少傳輸頻率。

需要優(yōu)化的另一個(gè)領(lǐng)域是協(xié)議仿真。例如,大多數(shù)對象存儲系統(tǒng)都支持網(wǎng)絡(luò)文件系統(tǒng)(NFS)。網(wǎng)絡(luò)文件系統(tǒng)(NFS)的支持至關(guān)重要,因?yàn)樵S多物聯(lián)網(wǎng)設(shè)備不是內(nèi)部部署S3存儲桶,而是使用網(wǎng)絡(luò)文件系統(tǒng)(NFS)。其挑戰(zhàn)在于,許多對象存儲系統(tǒng)都使用一個(gè)單獨(dú)的組件在網(wǎng)絡(luò)文件系統(tǒng)(NFS)和S3存儲桶之間進(jìn)行轉(zhuǎn)換,而不是在其軟件中內(nèi)部部署運(yùn)行網(wǎng)絡(luò)文件系統(tǒng)(NFS)。其轉(zhuǎn)移的開銷很大,并且在高性能情況下會顯示出來。

網(wǎng)絡(luò)文件系統(tǒng)(NFS)在對象存儲代碼中的原生集成可實(shí)現(xiàn)更高的性能,并同時(shí)訪問相同的數(shù)據(jù)。并發(fā)訪問意味著物聯(lián)網(wǎng)設(shè)備可以通過網(wǎng)絡(luò)文件系統(tǒng)(NFS)將數(shù)據(jù)發(fā)送到對象存儲卷,同時(shí)人工智能或深度學(xué)習(xí)框架可以通過S3存儲桶對象對其進(jìn)行處理,而無需對其進(jìn)行復(fù)制或移動。

NAS適用的位置

網(wǎng)絡(luò)附屬存儲(NAS)系統(tǒng)仍在數(shù)據(jù)中心中發(fā)揮作用。對象存儲是長期歸檔和備份的理想選擇,雖然大容量網(wǎng)絡(luò)附屬存儲(NAS)仍可以在備份存儲市場上競爭。對象存儲還適合作為文件服務(wù)器的替代品,以替代性能不太重要的工作負(fù)載(例如用戶主目錄)。

高性能對象存儲非常適合需要數(shù)十或數(shù)百個(gè)節(jié)點(diǎn)以及數(shù)十PB容量的大規(guī)模工作負(fù)載。這些工作負(fù)載還取決于吞吐量,并且在I/O訪問中高度并行。在這兩個(gè)極端之間是高性能、非結(jié)構(gòu)化的數(shù)據(jù)工作負(fù)載,這些工作負(fù)載本質(zhì)上是隨機(jī)I/O,節(jié)點(diǎn)數(shù)量很少。在這些用例中,網(wǎng)絡(luò)附屬存儲(NAS)可能仍然是一個(gè)更好的選擇。

版權(quán)聲明:本文為企業(yè)網(wǎng)D1Net編譯,轉(zhuǎn)載需注明出處為:企業(yè)網(wǎng)D1Net,如果不注明出處,企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1817

    文章

    50098

    瀏覽量

    265361
  • 對象存儲
    +關(guān)注

    關(guān)注

    0

    文章

    69

    瀏覽量

    12467
  • 深度學(xué)習(xí)
    +關(guān)注

    關(guān)注

    73

    文章

    5599

    瀏覽量

    124398

原文標(biāo)題:現(xiàn)代數(shù)據(jù)中心高性能對象存儲面臨的挑戰(zhàn)

文章出處:【微信號:D1Net11,微信公眾號:存儲D1net】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    淺談人工智能(2)

    接前文《淺談人工智能(1)》。 (5)什么是弱人工智能、強(qiáng)人工智能以及超人工智能? 弱人工智能(Weak AI),也稱限制領(lǐng)域
    的頭像 發(fā)表于 02-22 08:24 ?119次閱讀
    淺談<b class='flag-5'>人工智能</b>(2)

    云知聲斬獲2025全國人工智能應(yīng)用場景典型案例

    近日,由中國人工智能學(xué)會、蘇州市人民政府、蘇州大學(xué)共同主辦的第三屆全國人工智能應(yīng)用場景創(chuàng)新挑戰(zhàn)賽總決賽暨全國人工智能+應(yīng)用場景創(chuàng)新大會在蘇州舉辦。云知聲申報(bào)的《基于大模型和語音交互技術(shù)
    的頭像 發(fā)表于 02-06 09:07 ?406次閱讀

    人工智能與機(jī)器學(xué)習(xí)在這些行業(yè)的深度應(yīng)用

    人工智能和機(jī)器學(xué)習(xí)問世以來,多個(gè)在線領(lǐng)域的數(shù)字化格局迎來了翻天覆地的變化。這些技術(shù)從誕生之初就為企業(yè)賦予了競爭優(yōu)勢,而在線行業(yè)正是受其影響最為顯著的領(lǐng)域。人工智能(AI)與機(jī)器學(xué)習(xí)
    的頭像 發(fā)表于 02-04 14:44 ?475次閱讀

    機(jī)器學(xué)習(xí)深度學(xué)習(xí)中需避免的 7 個(gè)常見錯誤與局限性

    無論你是剛?cè)腴T還是已經(jīng)從事人工智能模型相關(guān)工作一段時(shí)間,機(jī)器學(xué)習(xí)深度學(xué)習(xí)中都存在一些我們需要時(shí)刻關(guān)注并銘記的常見錯誤。如果對這些錯誤置之不理,日后可能會引發(fā)諸多麻煩!只要我們密切關(guān)注
    的頭像 發(fā)表于 01-07 15:37 ?191次閱讀
    機(jī)器<b class='flag-5'>學(xué)習(xí)</b>和<b class='flag-5'>深度</b><b class='flag-5'>學(xué)習(xí)</b>中需避免的 7 個(gè)常見錯誤與局限性

    航天宏圖人工智能技術(shù)深度賦能社會治理現(xiàn)代化

    航天宏圖多年來持續(xù)重點(diǎn)投入技術(shù)研發(fā),尤其專注人工智能深度探索。航天宏圖多以自主研發(fā)“天權(quán)大模型” 是一款基于多模態(tài)大模型技術(shù)的遙感解譯專用AI大模型,它以人工智能為底座,提供遙感影像智能
    的頭像 發(fā)表于 09-06 10:35 ?1165次閱讀
    航天宏圖<b class='flag-5'>人工智能</b>技術(shù)<b class='flag-5'>深度</b>賦能社會治理現(xiàn)代化

    利用超微型 Neuton ML 模型解鎖 SoC 邊緣人工智能

    nRF52805),只占用幾千字節(jié)的非易失性存儲器(NVM)。這使得以前被認(rèn)為不可能的應(yīng)用也能增加 ML 功能。例如,您現(xiàn)在可以在廣泛的傳感器網(wǎng)絡(luò)的每個(gè)節(jié)點(diǎn)上進(jìn)行人工智能處理,而在這種網(wǎng)絡(luò)中,傳感器的尺寸和成本
    發(fā)表于 08-31 20:54

    重磅來襲!2026全球人工智能終端展暨第七屆深圳人工智能展覽會

    深圳國際人工智能展深耕六載,始終緊跟國家人工智能發(fā)展方向,通過搭建人工智能技術(shù)與行業(yè)對話的展示平臺,致力于人工智能產(chǎn)業(yè)鏈上下游的深度聯(lián)動與資
    的頭像 發(fā)表于 08-26 18:02 ?716次閱讀

    挖到寶了!人工智能綜合實(shí)驗(yàn)箱,高校新工科的寶藏神器

    和生態(tài)體系帶到使用者身邊 ,讓我們在技術(shù)學(xué)習(xí)和使用上不再受制于人。 三、多模態(tài)實(shí)驗(yàn),解鎖AI全流程 它嵌入了2D視覺、深度視覺、機(jī)械手臂、語音識別、嵌入式傳感器等多種類AI模塊,涵蓋人工智能領(lǐng)域主要
    發(fā)表于 08-07 14:30

    挖到寶了!比鄰星人工智能綜合實(shí)驗(yàn)箱,高校新工科的寶藏神器!

    和生態(tài)體系帶到使用者身邊 ,讓我們在技術(shù)學(xué)習(xí)和使用上不再受制于人。 三、多模態(tài)實(shí)驗(yàn),解鎖AI全流程 它嵌入了2D視覺、深度視覺、機(jī)械手臂、語音識別、嵌入式傳感器等多種類AI模塊,涵蓋人工智能領(lǐng)域主要
    發(fā)表于 08-07 14:23

    超小型Neuton機(jī)器學(xué)習(xí)模型, 在任何系統(tǒng)級芯片(SoC)上解鎖邊緣人工智能應(yīng)用.

    Neuton 是一家邊緣AI 公司,致力于讓機(jī)器 學(xué)習(xí)模型更易于使用。它創(chuàng)建的模型比競爭對手的框架小10 倍,速度也快10 倍,甚至可以在最先進(jìn)的邊緣設(shè)備上進(jìn)行人工智能處理。在這篇博文中,我們將介紹
    發(fā)表于 07-31 11:38

    人工智能技術(shù)的現(xiàn)狀與未來發(fā)展趨勢

    人工智能技術(shù)的現(xiàn)狀與未來發(fā)展趨勢 ? ? 近年來,人工智能(AI)技術(shù)迅猛發(fā)展,深刻影響著各行各業(yè)。從計(jì)算機(jī)視覺到自然語言處理,從自動駕駛到醫(yī)療診斷,AI的應(yīng)用場景不斷擴(kuò)展,推動社會向智能化方向邁進(jìn)
    的頭像 發(fā)表于 07-16 15:01 ?1866次閱讀

    迅為RK3588開發(fā)板Linux安卓麒麟瑞芯微國產(chǎn)工業(yè)AI人工智能

    迅為RK3588開發(fā)板Linux安卓麒麟瑞芯微國產(chǎn)工業(yè)AI人工智能
    發(fā)表于 07-14 11:23

    最新人工智能硬件培訓(xùn)AI 基礎(chǔ)入門學(xué)習(xí)課程參考2025版(大模型篇)

    人工智能大模型重塑教育與社會發(fā)展的當(dāng)下,無論是探索未來職業(yè)方向,還是更新技術(shù)儲備,掌握大模型知識都已成為新時(shí)代的必修課。從職場上輔助工作的智能助手,到課堂用于學(xué)術(shù)研究的智能工具,大模型正在工作生活
    發(fā)表于 07-04 11:10

    中科曙光亮相2025全球人工智能技術(shù)大會

    此前,6月7日-8日,2025全球人工智能技術(shù)大會(GAITC 2025)在杭州舉辦。中科曙光攜全棧AI基礎(chǔ)設(shè)施多項(xiàng)核心成果深度參與本次大會,并攜手中國人工智能學(xué)會成功舉辦“大模型時(shí)代的AI基礎(chǔ)設(shè)施”專題活動,全方位展示在
    的頭像 發(fā)表于 06-10 16:19 ?1280次閱讀

    開售RK3576 高性能人工智能主板

    ,HDMI-4K 輸出,支 持千兆以太網(wǎng),WiFi,USB 擴(kuò)展/重力感應(yīng)/RS232/RS485/IO 擴(kuò)展/I2C 擴(kuò)展/MIPI 攝像頭/紅外遙控 器等功能,豐富的接口,一個(gè)全新八核擁有超強(qiáng)性能的人工智能
    發(fā)表于 04-23 10:55