PyTorch指定GPU進行訓練
1 直接在終端中設定：
CUDA_VISIBLE_DEVICES=1 python main.py
2 python 代碼中設定：
import os
os.environ["CUDA_VISIBLE_DEVICES"] = "0,1"
審核編輯 黃昊
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
python
+關注
關注
57文章
4876瀏覽量
90039 -
pytorch
+關注
關注
2文章
813瀏覽量
14853
發布評論請先 登錄
相關推薦
熱點推薦
PyTorch 中RuntimeError分析
? 錯誤原因
這個 RuntimeError 是因為在 PyTorch 中，upsample_nearest2d_out_frame（最近鄰2D上采樣）操作尚未對 BFloat16 數據類型提供
發表于 03-06 06:02
Pytorch 與 Visionfive2 兼容嗎？
Pytorch 與 Visionfive2 兼容嗎？
$ pip3 install torch torchvision torchaudio --index-url https
發表于 02-06 08:28
從訓練到推理：大模型算力需求的新拐點已至
在大模型產業發展的早期階段，行業焦點主要集中在大模型訓練所需的算力投入。一個萬億參數大模型的訓練可能需要數千張GPU芯片連續運行數月，成本高達數千萬甚至上億元。但隨著大模型技術的成熟和應用落地，推理
AI硬件全景解析：CPU、GPU、NPU、TPU的差異化之路，一文看懂！?
CPU作為“通用基石”，支撐所有設備的基礎運行；GPU憑借并行算力，成為AI訓練與圖形處理的“主力”；TPU在Google生態中深耕云端大模型訓練；NPU則讓AI從“云端”走向“身邊”（手機、手表
在Ubuntu20.04系統中訓練神經網絡模型的一些經驗
模型。
我們使用MNIST數據集，訓練一個卷積神經網絡（CNN）模型，用于手寫數字識別。一旦模型被訓練并保存，就可以用于對新圖像進行推理和預測。要使用生成的模型進行推理，可以按照以下步
發表于 10-22 07:03
NVIDIA Isaac Lab多GPU多節點訓練指南
NVIDIA Isaac Lab 是一個適用于機器人學習的開源統一框架，基于 NVIDIA Isaac Sim 開發，其模塊化高保真仿真適用于各種訓練環境，可提供各種物理 AI 功能和由 GPU 驅動的物理仿真，縮小仿真與現實世界之間的差距。
aicube的n卡gpu索引該如何添加？
請問有人知道aicube怎樣才能讀取n卡的gpu索引呢，我已經安裝了cuda和cudnn，在全局的py里添加了torch，能夠調用gpu，當還是只能看到默認的gpu0，顯示不了gpu1
發表于 07-25 08:18
如何在Ray分布式計算框架下集成NVIDIA Nsight Systems進行GPU性能分析
在大語言模型的強化學習訓練過程中，GPU 性能優化至關重要。隨著模型規模不斷擴大，如何高效地分析和優化 GPU 性能成為開發者面臨的主要挑戰之一。
別讓 GPU 故障拖后腿，捷智算GPU維修室來救場！
在AI浪潮洶涌的當下，GPU已然成為眾多企業與科研機構的核心生產力。從深度學習模型訓練，到影視渲染、復雜科學計算，GPU憑借強大并行計算能力，極大提升運算效率。然而，就像高速運轉的精密儀器易出狀況
摩爾線程發布Torch-MUSA v2.0.0版本 支持原生FP8和PyTorch 2.5.0
， 支持原生FP8數據類型，支持PyTorch 2.5.0 ，并通過多項針對MUSA計算平臺的性能優化，進一步提升了對AI模型和大規模數據處理的支持能力。 FP8原生支持，國產GPU的技術突破 作為
提升AI訓練性能：GPU資源優化的12個實戰技巧
在人工智能與機器學習技術迅速發展的背景下，GPU計算資源的高效利用已成為關鍵技術指標。優化的GPU資源分配不僅能顯著提升模型訓練速度，還能實現計算成本的有效控制。根據AI基礎設施聯盟2024年發布
海思SD3403邊緣計算AI數據訓練概述
AI數據訓練：基于用戶特定應用場景，用戶采集照片或視頻，通過AI數據訓練工程師**（用戶公司****員工）** ，進行特征標定后，將標定好的訓練樣本，通過AI
發表于 04-28 11:11
陣列云從訓練到推理
Auto Scaling）構建容器化訓練集群 采用優先級隊列調度算法分配GPU/NPU異構算力資源，支持搶占式實例降低成本 通過CSI卷插件掛載分布式存儲（CephFS/HDFS）或對象存儲（S3
摩爾線程GPU原生FP8計算助力AI訓練
近日，摩爾線程正式開源MT-MegatronLM與MT-TransformerEngine兩大AI框架。通過深度融合FP8混合訓練策略和高性能算子庫，這兩大框架在國產全功能GPU上實現了高效的混合
工商網監
評論