国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

OpenAI斷供API,國產大模型替代方案低成本遷移

Carol Li ? 來源:電子發燒友 ? 作者:李彎彎 ? 2024-06-27 09:04 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發燒友網報道(文/李彎彎)日前,不少國內API開發者收到了來自OpenAI的郵件。郵件稱,從7月9日起采取額外措施,阻止來自非支持國家和地區列表中的地區的API流量。根據OpenAI官網,支持訪問API服務的國家和地區列表中總計188個國家和地區,不包括中國內地與中國香港。

這意味著,OpenAI宣布終止對中國開發者提供API服務。OpenAI終止對中國提供API服務,對一些通過接入OpenAI API做大模型或應用的企業會有影響,不過這對國產大模型的長遠發展卻也有積極意義,它反而促進國產大模型的自主研發,并帶來更多應用機會。

國產大模型紛紛推出替代方案

隨著OpenAI停止對中國提供API服務,國內大模型公司紛紛行動,上線“遷移計劃”。如智譜,該公司第一時間在官微宣布,面向OpenAI API用戶提供特別搬家計劃,幫助用戶切換至國產大模型,其 GLM 大模型號稱全面對標 OpenAI 產品體系,且全鏈路技術自研、安全可控。

具體來看,智譜為開發者提供1.5億Token(5000萬 GLM-4 + 1億 GLM-4-Air),從OpenAI 到 GLM 的系列遷移培訓。對于高用量客戶,智譜提供與OpenAI使用規模對等的Token贈送計劃(不設上限),以及與 OpenAI 對等的并發規模,匹配高等級會員政策,專屬搬家顧問及5人天技術專家支持,備案培訓和輔助。

百度智能云千帆推出大模型普惠計劃,稱讓用戶0成本切換至國內調用量第一的大模型平臺,場景更豐富、模型更全面、工具鏈更完整易用、更安全可靠。

具體來看,即日起為新注冊企業用戶提供0元調用服務:文心旗艦模型首次免費,贈送ERNIE3.5旗艦模型5000萬Tokens包,主力模型ERNIE Speed/ERNIE Lite和輕量模型ERNIE Tiny持續免費 ;針對OpenAI遷移用戶額外贈送與OpenAI使用規模對等的ERNIE3.5旗艦模型Tokens包。

同時,該計劃還支持0元訓練、0元遷移、0元服務。0 元訓練:免費模型精調訓練服務 0 元遷移:零成本 SDK 遷移工具;0 元服務:專家服務(遷移 & 使用指導)。

騰訊云宣布,即日起至2024年7月31日24時,將為新遷移企業用戶免費贈送1億騰訊混元大模型tokens(標記),并提供免費專屬遷移工具和服務。目前,騰訊云提供混元Pro、Standard、Lite等多個不同版本和尺寸的模型,用戶可任意選擇。

阿里云百煉宣布,將為OpenAI API用戶提供最具性價比的中國大模型替代方案,并為中國開發者提供2200萬免費tokens和專屬遷移服務。根據斯坦福最新公布的大模型測評榜單HELM MMLU,Qwen2-72B得分為0.824,與GPT-4并列全球第四。通義千問GPT4級主力模型Qwen-plus在阿里云百煉上的調用價格為0.004元/千tokens,僅為GPT-4的50分之一。

由李開復創立的AI大模型獨角獸公司零一萬物也發起“Yi API二折平替計劃”,面向OpenAI用戶推出平滑遷移至Yi系列大模型的服務。據介紹,目前注冊使用Yi API的新客戶,零一萬物立即贈送100元額度,幫助用戶完成平穩過渡;平臺充值還將贈送50%到賬額度,上不封頂。此外,零一萬物API還將提供Prompt兼容調優服務支持。

百川智能宣布特別推出OpenAI 零成本遷移計劃,將為參與用戶免費贈送1 千萬 token,同時宣布Assitants API 免費使用。據介紹,目前百川智能開放平臺接口已完全兼容OpenAI API,支持零成本遷移,功能更豐富。借助百川技術專家隨時答疑,開發者五分鐘即可完成Api遷移。

少不了算力芯片的支持

國產大模型紛紛推出替代方案,這背后少不了需要算力芯片的支持。目前國內大模型訓練基本使用英偉達GPU,英偉達的GPU因其強大的并行處理能力和高效的計算性能,被廣泛應用于深度學習、機器學習等需要大量計算資源的領域。

如阿里通義千問大模型,它包含多個不同規模的版本,Qwen-1.8B、Qwen-7B、Qwen-14B和Qwen-72B等,據了解,阿里通義千問大模型主要使用英偉達Tesla A100、Tesla A800、Tesla H100等GPU芯片,這些GPU具有較大的顯存和強大的計算能力,能夠滿足大模型訓練的需求。

百度文心一言主要基于英偉達的A100 GPU完成其高效的深度學習計算任務。A100 GPU采用了NVIDIA最新的Ampere架構,被廣泛應用在各種AI模型和高性能計算場景中。A100 GPU在文心一言的構建和運行過程中,執行大規模并行處理任務,特別是在語義理解、語境關聯及文本生成等領域內。

除此之外,百度也兼容其他公司的GPU,在英偉達A100、H100等訓練AI用GPU遭遇進口管制的情況下,百度采用了將來自不同供應商的GPU集成到統一的計算集群中的策略,以訓練大語言模型。

字節跳動大模型在訓練過程中也是主要使用英偉達的GPU。據悉,字節跳動在2023年向英偉達訂購了超過10億美元的GPU產品,目前已經采購了10萬塊A100與H800加速卡,這兩款GPU均屬于英偉達的高性能計算產品線,非常適合用于深度學習、大模型訓練等任務。

另外,像智譜、百川智能等也主要使用英偉達的GPU。智譜AI通過與優刻得等公司的合作,利用英偉達GPU構建超千卡規模的推理集群,以滿足其大模型在文本、圖片、視頻等多場景下的大規模實時推理需求。

百川智能與鴻博股份的全資子公司英博數科合作,后者向百川智能提供的智算服務器,其單臺所提供的算力規模和性能不低于英偉達H系列8卡智算服務器所有的同等算力。這意味著百川智能大模型的訓練過程中,將直接使用到英偉達高性能的GPU資源。

除了使用英偉達GPU之外,一些國產大模型的訓練和運行也使用國內的算力芯片,如華為、科大訊飛、月之暗面等。同時,海光信息、天數智芯、摩爾線程、沐曦、景嘉微等都已經推出和搭建可以支持大模型訓練和推理的芯片、系統和智算集群。

寫在最后

總的來說,OpenAI停止對中國開發者提供API服務,對于目前一些調用通過接入OpenAI API做大模型和AI應用的企業來說有所影響,不過,國內不少大模型廠商已經紛紛推出替代方案,雖然目前國產大模型較OpenAI有一定差距,不過隨著更多的被使用,長遠來看國產大模型將會逐步實現突破。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • API
    API
    +關注

    關注

    2

    文章

    2368

    瀏覽量

    66757
  • OpenAI
    +關注

    關注

    9

    文章

    1245

    瀏覽量

    10060
  • 大模型
    +關注

    關注

    2

    文章

    3648

    瀏覽量

    5179
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    長江連接器(CJTconn)6大核心優勢,助力進口連接器國產替代

    長江連接器(CJTconn)6大核心優勢助力進口連接器國產替代—長江連接器—在連接器行業,曾經歐美日品牌曾長期占據主導地位,連接器交期動輒數月、價格居高不下、停產頻發、定制響應遲
    的頭像 發表于 02-13 11:50 ?78次閱讀
    長江連接器(CJTconn)6大核心優勢,助力進口連接器<b class='flag-5'>國產</b>化<b class='flag-5'>替代</b>

    Neway微波國產替代方案

    和零部件,在2-6周內完成定制產品的交付。技術兼容性適配無縫對接:支持原位替代TI、Murata等國際品牌,電氣參數、尺寸、引腳定義無需調整,降低客戶的替代成本,提高替代
    發表于 01-30 08:45

    Neway微波產品的國產替代方案

    替代Neway微波產品在技術兼容性方面進行了深度適配,確保國產替代方案能夠無縫對接現有系統。例如,在電源模塊替代中,Neway通過優化電
    發表于 12-18 09:24

    風華電阻:低成本與高穩定性家電應用

    風華電阻在家電應用中以低成本與高穩定性為核心優勢,通過材料創新、工藝優化及嚴格認證,為家電提供高性價比、高可靠性的解決方案 ,具體分析如下: 一、低成本實現路徑 材料替代與工藝優化 銅
    的頭像 發表于 10-29 15:39 ?402次閱讀

    如何評價OpenRouter這樣的大模型API聚合平臺?

    接口。 大模型時代商業模式大多數都是重資產,OpenAI、Anthropic談論起來都是上億美元的資本開支,不管是訓練還是推理,建設數據中心成本高昂。 OpenRouter這樣的轉發商,相比之下資本投入就低了2個數量級。 有的人
    的頭像 發表于 10-28 10:04 ?459次閱讀

    NXP 1052 國產替代推薦?

    NXP 1052 國產替代推薦
    發表于 09-29 10:47

    軟通動力攜手華為云推出iPaaS海外集成遷移聯合解決方案

    華為全聯接大會2025中,軟通動力攜手華為云正式發布基于華為云ROMA Connect平臺的“iPaaS海外集成遷移聯合解決方案”。該方案旨在助力海外企業實現系統快速集成、業務平滑遷移
    的頭像 發表于 09-28 17:44 ?1236次閱讀

    高效設計,國產精品:BT5026——LM5026的優質Pin-to-Pin替代方案

    國產芯片替代方案
    的頭像 發表于 09-02 14:50 ?1136次閱讀
    高效設計,<b class='flag-5'>國產</b>精品:BT5026——LM5026的優質Pin-to-Pin<b class='flag-5'>替代</b><b class='flag-5'>方案</b>

    騰視科技大模型一體機解決方案低成本私有化落地,重塑行業智能應用新格局

    當大模型進入 “深水區”,私有化與低成本已成為企業選型的核心考量。騰視科技大模型一體機解決方案,用技術創新打破 “安全與成本不可兼得” 的困
    的頭像 發表于 08-07 11:06 ?1900次閱讀
    騰視科技大<b class='flag-5'>模型</b>一體機解決<b class='flag-5'>方案</b>:<b class='flag-5'>低成本</b>私有化落地,重塑行業智能應用新格局

    FA模型的ServiceAbility的切換介紹

    的ServiceExtensionAbility為系統API,只有系統應用才可以創建。因此,FA模型的ServiceAbility的切換,對于系統應用和三方應用策略有所不同。下面分別介紹這兩種場景。 系統
    發表于 06-05 07:24

    非隔離5V低成本方案YD925板子最小,替代阻容降壓

    深圳市三佛科技有限公司供應 非隔離5V低成本方案YD925板子最小,原裝現貨 YD925典型應用:替代阻容降壓的小家電輔助電源。 YD925線性穩壓方案特點: 1、外圍簡單,尺寸小,可以全貼片加工
    發表于 06-03 16:53

    突發!全球三大家EDA大陸,國產EDA崛起?

    這兩天EDA的事傳的沸沸揚揚,金融時報和路透社都報道了這件事。截止到目前,最新的消息還是這兩個報告中的內容,但還不知道具體的細節。筆者認為全面即一刀切的可能性并不是很大,這樣就
    的頭像 發表于 05-30 09:16 ?2117次閱讀
    突發!全球三大家EDA<b class='flag-5'>斷</b><b class='flag-5'>供</b>大陸,<b class='flag-5'>國產</b>EDA崛起?

    如何獲取 OpenAI API Key?API 獲取與代碼調用示例 (詳解教程)

    OpenAI API Key 獲取與使用詳解:從入門到精通 OpenAI 正以其 GPT 和 DALL-E 等先進模型引領全球人工智能創新。其 AP
    的頭像 發表于 05-04 11:42 ?1.6w次閱讀
    如何獲取 <b class='flag-5'>OpenAI</b> <b class='flag-5'>API</b> Key?<b class='flag-5'>API</b> 獲取與代碼調用示例 (詳解教程)

    國產單片機倒車影像合作

    尋找國產低成本單芯片單片機AMT630,SSD101合作方案, 尋找國產低成本單芯片單片機AMT630,SSD101合作
    發表于 04-29 09:00

    國產芯片替代方案:解析沁恒以太網PHY芯片

    沁恒國產以太網PHY芯片:高性能替代方案助力國產化升級
    的頭像 發表于 03-12 10:40 ?4209次閱讀