国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

探析OpenAI平臺架構

智能計算芯世界 ? 來源:智能計算芯世界 ? 作者:智能計算芯世界 ? 2023-05-28 10:41 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

?

本文最初發布于 THENEWSTACK 博客。自 2022 年 11 月推出 ChatGPT 以來,OpenAI 一直受到知識工作者、開發人員以及幾乎所有互聯網和 Web 用戶的廣泛關注。但是,OpenAI 已經成立很長時間了,甚至在 ChatGPT 創建之前就已經存在了,而且為開發人員提供了許多令人興奮的服務。它是首批通過簡單 REST API 端點開放生成式 AI 的平臺公司之一。

下載鏈接:ChatGPT:AI模型框架研究(2023)華為AI盤古大模型研究框架(2023) 《70+篇半導體行業“研究框架”合集》 《人工智能AI大模型技術合集》信創從“芯”開始

云計算通用可編程DPU發展白皮書(2023年)

這是 OpenAI 系列文章的第一篇,我們將探討 OpenAI 的總體情況及其平臺架構。通過這篇文章,我們將了解 OpenAI 平臺的基本原理和基本構建模塊。

OpenAI:生成式 AI 民主化

OpenAI 成立于 2015 年,是由 Ilya Sutskever、Greg Brockman、Trevor Blackwell、Vicki Cheung、Andrej Karpathy、Durk Kingma、John Schulman、Pamela Vagata 和 Wojciech Zaremba 等人創立的一家非營利性研究機構。Sam Altman 和 Elon Musk 是初始董事會成員。

微軟在 2019 年宣布投資 10 億美元,并在今年早些時候宣布了新一輪 100 億美元的投資,OpenAI 成了人們關注的焦點。企業投資者包括 Infosys 和 Khosla,個人投資者則包括 Reid Hoffman、Peter Thiel 和 Jessica Livingston。

雖然人們經常批評 OpenAI 從一家非營利性人工智能公司轉變為一家商業人工智能公司,但它一直處于生成式人工智能研究的前沿。得益于和微軟的合作伙伴關系,它獲得了由 Azure 計算服務提供支持的最先進的基礎設施。

關于 OpenAI 的歷史和發展情況,這里就不過多介紹了。現在我們看下該公司的現狀。

生成式人工智能模型使用大型數據集基于無監督學習(稱為基礎模型)進行訓練。在比較高的層面上,OpenAI 包括三個關鍵的基礎模型:GPT、DALL-E 和 Whisper。GPT 是訓練用來處理文本內容的最流行的模型之一。DALL-E 可以基于自然語言輸入生成圖像。最后,Whisper 是一個將語音轉換為文本并將一種語言翻譯成另一種語言的模型。

954ed826-fcf9-11ed-90ce-dac502259ad0.jpg

OpenAI 支持的所有用例和生成式 AI 場景都是圍繞著這三個基礎模型。其中,由于 ChatGPT 的成功,GPT 獲得的關注最多。ChatGPT 是基于 GPT 模型的最新版本 GPT-4 的。GPT 模型有多種變體,可以分別支持單詞補全、交互式聊天、校訂、改寫、摘要和文本分類等場景。類似地,DALL-E 可用于創建、編輯圖像及生成圖像變體。Whisper 模型可用于音頻文件的轉錄和翻譯。

為了方便開發人員嵌入生成式人工智能,OpenAI 已經公開了多個與應用場景對應的 API。為了集成 GPT 或 DALL-E 等模型,開發人員必須獲得 API 密鑰并使用它來訪問 Open AI REST 端點。

OpenAI API 使人們可以通過簡單的 REST 接口訪問最先進的語言和視覺模型,從而使生成式 AI 民主化。任何了解如何使用 API 的開發人員都可以將生成式 AI 的強大功能嵌入到其應用程序中。他們既不需要理解神經網絡背后的復雜數學運算,也不需要訪問基于高端 CPUGPU 的強大的計算基礎設施。

OpenAI 的基礎模型可以通過自定義的私有數據集進行調優。然后,可以使用調優后的模型在私有數據上進行推理,大幅提高生成式人工智能的價值。OpenAI 已經將調優功能作為一個 API 公開,它可以接受基礎模型的變種和自定義數據集。

下圖概括了 OpenAI 平臺的架構。最底層由基礎模型組成,上面一層是各種模型變體,每一個都針對特定的用例做了優化。最上層是 REST API,它通過廣為人知的端點公開模型。

探索 OpenAI 生態系統

OpenAI 構建了面向開發人員和最終用戶的工具、SDK 和服務。ChatGPT 就是一個面向最終用戶的服務的示例。OpenAI 主要利用 ChatGPT 從用戶那里獲得交互式反饋,這對改進 GPT 模型有很大的幫助。它還利用輸入和提示來分析用戶與模型的交互方式。

OpenAI 為開發人員提供了一個操練場,可以作為 REST API 的交互界面,用于測試調優后的模型如何響應相同的輸入或提示。開發人員還可以用它來調整影響模型準確性和創造性的參數。

雖然使用 cURL 這樣的工具調用 REST API 很簡單,但 OpenAI 官方提供了一個 Python 庫,可以簡化 Jupyter Notebook 等環境中的 API 消費。對于那些喜歡使用 JavaScript 的人,官方還提供了一個 Node.js 庫工具。OSS 社區已經針對 C#C++、Go、Kotlin 和 Swift 等語言構建了各種庫。

下圖展示了通過 cURL 調用 /vi/completions API:

958e3dcc-fcf9-11ed-90ce-dac502259ad0.png

同樣,也可以通過 OpenAI 官方維護的 Python 庫完成:

95ca2616-fcf9-11ed-90ce-dac502259ad0.png

OpenAI 還發布了將消息轉換為詞元的工具和庫——那是 GPT 等大型語言模型的基本輸入單元。這些工具可以幫助開發人員評估使用 OpenAI API 所涉及的成本。當你通過 PIP 安裝 Python 庫時,還可以獲得一個方便的 API 測試 CLI。

如果你是微軟 Azure 開發人員,則可以注冊 Azure OpenAI 服務,它與微軟的云服務實現了緊密的集成,如活動目錄、虛擬網絡、基于角色的訪問控制等。

95f83006-fcf9-11ed-90ce-dac502259ad0.jpg

在本系列的下一篇文章中,我們將深入探討提示工程以及它在處理 GPT 方面的重要性。原文鏈接:https://thenewstack.io/beyond-chatgpt-exploring-the-openai-platform/


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    91

    文章

    39755

    瀏覽量

    301355
  • 人工智能
    +關注

    關注

    1817

    文章

    50094

    瀏覽量

    265271
  • OpenAI
    +關注

    關注

    9

    文章

    1245

    瀏覽量

    10057

原文標題:探析OpenAI平臺架構

文章出處:【微信號:AI_Architect,微信公眾號:智能計算芯世界】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    高壓革命:英偉達800V平臺架構與SiC MOSFET的商業技術共生

    高壓革命:英偉達800V平臺架構的深層價值重構與SiC MOSFET的商業技術共生 全球能源互聯網核心節點賦能者-BASiC Semiconductor基本半導體之一級代理商傾佳電子(Changer
    的頭像 發表于 02-17 07:12 ?5401次閱讀
    高壓革命:英偉達800V<b class='flag-5'>平臺架構</b>與SiC MOSFET的商業技術共生

    無人機高效能動力推進系統:功能特點與平臺架構解析

    無人機高效能動力推進系統:功能特點與平臺架構解析
    的頭像 發表于 01-14 15:27 ?214次閱讀
    無人機高效能動力推進系統:功能特點與<b class='flag-5'>平臺架構</b>解析

    光伏四可裝置硬件平臺架構詳解:計算單元、通信接口與可靠性設計

    光伏四可裝置作為實現“可測、可控、可信、可用”目標的核心載體,其硬件平臺架構直接決定了功能落地的精度、效率與穩定性。在分布式光伏普及、BIPV場景多元化、電網協同需求升級的背景下,硬件平臺需突破傳統
    的頭像 發表于 01-04 15:40 ?1127次閱讀
    光伏四可裝置硬件<b class='flag-5'>平臺架構</b>詳解:計算單元、通信接口與可靠性設計

    智慧碳中樞:賦能園區凈零目標的數字化平臺架構與實施體系

    ,咨詢服務:1.3.7-5.0.0.4-6.2.0.0。這種平臺并非單一技術的堆砌,而是集數據感知、智能分析、協同調控于一體的復雜系統,其架構設計直接決定了凈零目標落地的效率與深度。
    的頭像 發表于 12-31 09:27 ?492次閱讀
    智慧碳中樞:賦能園區凈零目標的數字化<b class='flag-5'>平臺架構</b>與實施體系

    大模型支撐后勤保障方案生成系統:功能特點與平臺架構解析

    ? ? 大模型支撐后勤保障方案生成系統:功能特點與平臺架構解析 ? ?大模型支撐后勤保障方案生成系統憑借智能預測、動態調度、路徑優化、庫存管理及可視化展示等核心能力,為后勤保障方案生成系統提供關鍵
    的頭像 發表于 12-17 15:49 ?307次閱讀

    AI業界新聞:OpenAI官宣自研首顆芯片 黃仁勛時隔9年再次給馬斯克“送貨”

    設計、博通負責制造與系統集成。博通與OpenAI已經簽署戰略合作,OpenAI與博通就共同開發和供應AI芯片達成了長期協議。 據悉,這是一款專為OpenAI大模型推理而優化的芯片;OpenAI
    的頭像 發表于 10-14 18:42 ?1911次閱讀

    看點:全球首顆!中國研發全新架構閃存芯片 OpenAI拉上巨頭豪賭AI基建

    基混合架構芯片,攻克新型二維信息器件工程化關鍵難題。這也是全球首顆成功融合二維超快閃存與成熟硅基工藝的功能芯片。 芯片集成良率高達94.3%,支持8-bit指令操作和32-bit高速并行操作與隨機尋址。 OpenAI拉上巨頭豪賭AI基建
    的頭像 發表于 10-10 18:20 ?1842次閱讀

    OpenAI開源模型登陸IBM watsonx.ai開發平臺

    OpenAI 已向公眾發布了兩款 AI 模型,允許開發者和企業可自由下載、運行并進行定制。其中一款模型現已部署在 IBM watsonx.ai 開發平臺上。
    的頭像 發表于 08-26 15:36 ?1009次閱讀

    NVMe高速傳輸之擺脫XDMA設計23:UVM驗證平臺

    抽象為 PCIeTLP 事務,因此為了方便的在事務層構建復雜的測試用例,項目基于 UVM 搭建驗證平臺進行功能驗證。圖1 驗證平臺架構圖在驗證平臺中將 PCIE 集成塊從待測試設計(Design
    發表于 08-26 09:49

    雙碳目標下的分布式光伏智能運維云平臺架構與應用

    HOT 點擊藍字 關注我們 摘要 ? 本文針對分布式光伏電站存在的監管困難、火災隱患、系統繁雜及運維不規范等行業痛點,提出AcrelCloud-1200光伏運維云平臺解決方案。 平臺通過
    的頭像 發表于 08-19 08:12 ?561次閱讀
    雙碳目標下的分布式光伏智能運維云<b class='flag-5'>平臺架構</b>與應用

    NVMe高速傳輸之擺脫XDMA設計18:UVM驗證平臺

    抽象為 PCIeTLP 事務,因此為了方便的在事務層構建復雜的測試用例,項目基于 UVM 搭建驗證平臺進行功能驗證。圖1 驗證平臺架構圖在驗證平臺中將 PCIE 集成塊從待測試設計(Design
    發表于 07-31 16:39

    AI 智能重構測試測量平臺,Moku:Delta集成業內首創“生成式儀器”

    。基于“軟件定義+硬件可重構”的平臺架構,LiquidInstruments最新發布業內首創的“生成式儀器技術(GenerativeInstrumentation)”集
    的頭像 發表于 07-15 11:34 ?579次閱讀
    AI 智能重構測試測量<b class='flag-5'>平臺</b>,Moku:Delta集成業內首創“生成式儀器”

    光伏電站無人機巡檢系統平臺的設計架構

    電站中不同的運維管理需求。 根據光伏電站的運維管理工作內容,光伏電站無人機巡檢系統平臺從多個層面建設系統平臺架構,能夠全方位、智能化的實現電站的運維管理。其設計架構包含設備層、數據采集層、數據處理層、應用層以
    的頭像 發表于 05-07 11:23 ?906次閱讀
    光伏電站無人機巡檢系統<b class='flag-5'>平臺</b>的設計<b class='flag-5'>架構</b>

    物聯網平臺解決方案:實現設備智能管理與數據安全

    的設計與實施對于推動物聯網技術的廣泛普及和深度應用至關重要。 一、關鍵要素 1.平臺架構設計:平臺需兼顧靈活性、可擴展性和安全性。一個典型的物聯網平臺架構包括設備接入層、數據處理層、應用使能層以及業務應用層。設備接入層負責海
    的頭像 發表于 03-14 16:35 ?1145次閱讀