国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

性能與安全同樣重要,蘋果的AI服務器

E4Life ? 來源:電子發燒友 ? 作者:周凱揚 ? 2024-06-25 00:10 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在不久前結束的WWDC2024上,蘋果宣布了自己的AI方案Apple Intelligence,并計劃將其深度集成到iOS 18、iPadOS 18和macOS Sequoia。Apple Intelligence通過生成式模型來改善用戶的使用體驗。事實上,蘋果一共有兩個自主開發的AI模型,一個用于設備端AI的30億參數模型,以及一個更大的LLM,其服務器資源滿足更多的查詢。

蘋果AI服務器的軟硬件組成

蘋果將其AI服務器稱為私有云計算節點(PCC),這是蘋果基于定制化服務器硬件打造的基礎設施,也是蘋果芯片在數據中心的首度應用。不過PCC并沒有搭載蘋果的任一消費級系統,而是基于iOS和macOS打造了一個強化子集系統,專為支持LLM推理量身定制。

正因其硬件架構的統一性,蘋果在設備端AI和AI服務器做到了高度一致。不過PCC用于推理,并不代表蘋果為其選擇了一樣的訓練設備。根據蘋果的說法,他們在預訓練階段,依然采用的是云端的TPU和GPU資源。由此也可以看出,在大模型的訓練資源上,蘋果選擇了與谷歌合作。

這也完全可以理解,谷歌作為TensorFlow開發者,不少基于TensorFlow開發的ML模型,都能在谷歌的TPU上獲得極高的訓練效率。不過對于蘋果而言,他們的軟件棧并不會鎖死在一個云服務供應商上,而是可以擴展并運行在其他平臺上。

AI服務器的安全性

相比起AI服務器的性能,用戶可能更在意的是隱私安全問題。畢竟在數據中心的強大AI硬件和大模型,如果沒有對用戶請求的未加密訪問和相關的個人數據,也就很難給到精準的答案。對于終端設備廠商,同時也是這些AI服務器的擁有者而言,如何做好端到端加密,也就成為最大的挑戰。

蘋果也指出了AI服務器面臨的幾大挑戰:1、云端AI安全和隱私保障難以得到驗證和執行;2、很難在云端為AI提供運行時透明;3、云端AI環境很難對特權訪問做出強有力的限制。為了解決這些挑戰,蘋果在AI服務器的設計上下了不少功夫,首先就是無狀態計算。用戶的設備將數據發送到PCC唯一目的就是滿足推理需求,PCC僅使用這些數據來執行用戶請求的操作,且數據只停留在處理請求的PCC節點上,無論是蘋果、管理員都無法獲得用戶數據。

在可驗證的透明度上,蘋果甚至做到了超過一些主流云服務商,他們將會公開PCC的生產版本軟件鏡像用于安全研究。蘋果自己也會發布和維護一套官方軟件工具,供研究人員分析PCC節點上的軟件。除此之外,蘋果的安全賞金計劃也適用于PCC,重要的研究成果同樣可以獲得該計劃的獎勵。

當然了,硬件提供的安全性也不可忽視,由于PCC基于蘋果芯片打造,所以也包含了iPhone中的安全隔區和安全啟動兩大安全子系統。這為其提供了非定位的安全性,攻擊者無法針對特定用戶的數據來發動攻擊,只能靠大規模攻擊來實現,這樣被發現的概率也會一并變高。

寫在最后

蘋果在大規模AI模型上的軟件開發倒是很早就開始了,不過在硬件上,蘋果還是落后于頭部的云服務廠商。不過蘋果只是基于自研芯片打造屬于自己的AI服務器,相較直接采用第三方方案,對于終端的用戶而言,或許這才是保證性能和安全性的最佳路徑。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 蘋果
    +關注

    關注

    61

    文章

    24600

    瀏覽量

    208370
  • AI服務器
    +關注

    關注

    3

    文章

    173

    瀏覽量

    5537
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    全球首創!RISC-V+AI架構高性能服務器CPU成功點亮

    自主研發、全球首創的RISC-V+AI融合架構智算服務器CPU已順利完成芯片點亮,并成功啟動Linux操作系統。本次芯片點亮是藍芯算力和聯想CFC團隊聯合技術攻關的成果。 ? 藍芯算力此次推出的RISC-V+AI智算
    的頭像 發表于 02-28 09:22 ?1845次閱讀

    普通服務器電源與AI服務器電源的區別(上)

    引言服務器是數據中心的核心設備,其穩定運行依賴可靠的電源供應。隨著AI技術的飛速發展,AI服務器大量涌現,與普通服務器在應用場景等方面存在顯
    的頭像 發表于 01-12 09:31 ?1036次閱讀
    普通<b class='flag-5'>服務器</b>電源與<b class='flag-5'>AI</b><b class='flag-5'>服務器</b>電源的區別(上)

    AI 服務器電源測試項目研究報告

    01項目背景隨著人工智能技術的飛速發展,AI服務器的需求急劇增加。電源作為AI服務器的關鍵組件,其性能直接影響
    的頭像 發表于 12-16 10:22 ?660次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>服務器</b>電源測試項目研究報告

    對話|AI服務器電源對磁性元件提出的新需求

    編者按: 自ChatGPT、DeepSeek等大型AI模型應用爆發以來,市場對AI服務器的需求激增,其配套電源的發展前景已成為行業共識。目前,I服務器電源企業的出貨規模仍有限,
    的頭像 發表于 10-11 14:55 ?986次閱讀
    對話|<b class='flag-5'>AI</b><b class='flag-5'>服務器</b>電源對磁性元件提出的新需求

    AI服務器電源革新催生高性能功率電感需求

    AI服務器電源架構創新對電感提出了更為苛刻的性能要求,促使電感技術必須跟上電源設計的步伐,電感產品需滿足以下需求。
    的頭像 發表于 09-19 17:49 ?1751次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>服務器</b>電源革新催生高<b class='flag-5'>性能</b>功率電感需求

    提升AI數據服務器交換機性能與效率的關鍵:永銘電容的應用

    YMIN永銘電容應用AI數據中心服務器·交換機隨著AI技術的快速發展,數據中心和服務器性能需求不斷增加。作為
    的頭像 發表于 09-01 10:04 ?393次閱讀
    提升<b class='flag-5'>AI</b>數據<b class='flag-5'>服務器</b>交換機<b class='flag-5'>性能與</b>效率的關鍵:永銘電容的應用

    AI服務器電源技術研討會部分演講嘉賓確認

    AI服務器電源是2025-2026年AI硬件確定的增量,英偉達超級芯片GB200功率到2700W,是傳統服務器電源的5-7倍,但其面臨的挑戰同樣
    的頭像 發表于 06-24 10:07 ?1156次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>服務器</b>電源技術研討會部分演講嘉賓確認

    AI 服務器電源如何迭代升級?

    AI 算力需求增長的今天,AI 服務器電源正陷入 “性能瓶頸與國產替代并行、場景適配與技術創新交織” 的雙重挑戰。 由Big-Bit商務網、廣東省磁性元器件行業協會主辦的2025中國
    的頭像 發表于 06-23 14:51 ?1386次閱讀

    本地服務器部署怎么選?一招搞定企業IT成本、性能與安全問題!

    ,往往糾結萬分。其實,企業本地服務器部署方案依然有其獨特優勢,只要選得對,照樣能在IT成本、性能安全三方面實現全兼顧!
    的頭像 發表于 05-26 13:07 ?691次閱讀
    本地<b class='flag-5'>服務器</b>部署怎么選?一招搞定企業IT成本、<b class='flag-5'>性能與</b><b class='flag-5'>安全</b>問題!

    蘋果正研發用于AI服務器的專用芯片

    據外媒報道,蘋果公司正研發用于AI服務器的專用芯片;據蘋果公司知情人士透露;蘋果芯片設計團隊正在加速研發新芯片,面向的主要領域包括智能眼鏡芯
    的頭像 發表于 05-09 11:25 ?1081次閱讀

    RAKsmart服務器如何賦能AI開發與部署

    AI開發與部署的復雜性不僅體現在算法設計層面,更依賴于底層基礎設施的支撐能力。RAKsmart服務器憑借其高性能硬件架構、靈活的資源調度能力以及面向AI場景的深度優化,正在成為企業突破
    的頭像 發表于 04-30 09:22 ?780次閱讀

    KOA電阻在AI服務器電源中的應用

    AI服務器要同時實現高性能計算能力,存儲能力,高速傳輸能力等功能,對基礎器件的性能跟穩定性也有較高要求。
    的頭像 發表于 04-16 16:33 ?960次閱讀
    KOA電阻在<b class='flag-5'>AI</b><b class='flag-5'>服務器</b>電源中的應用

    AI 推理服務器都有什么?2025年服務器品牌排行TOP10與選購技巧

    根據行業數據,AI推理服務器性能差異可以達到10倍以上。比如,用普通服務器跑一個700億參數的大模型,可能需要30秒才能出結果,而用頂級服務器
    的頭像 發表于 04-09 11:06 ?8604次閱讀
    <b class='flag-5'>AI</b> 推理<b class='flag-5'>服務器</b>都有什么?2025年<b class='flag-5'>服務器</b>品牌排行TOP10與選購技巧

    利用RAKsmart服務器托管AI模型訓練的優勢

    AI模型訓練需要強大的計算資源、高效的存儲和穩定的網絡支持,這對服務器性能提出了較高要求。而RAKsmart服務器憑借其核心優勢,成為托管AI
    的頭像 發表于 03-18 10:08 ?691次閱讀

    大功率AI服務器PSU的革新之路

    在人工智能浪潮的席卷下,AI服務器作為支撐各類復雜AI運算的關鍵硬件,其電源(PSU)的性能表現成為了決定整個系統效能的重要因素。作為大功率
    的頭像 發表于 03-10 15:07 ?2171次閱讀
    大功率<b class='flag-5'>AI</b><b class='flag-5'>服務器</b>PSU的革新之路