/
大模型訓練 關鍵字列表
高性能GPU服務器架構分析（上篇）
在高性能GPU計算的領域內，關鍵組件如CPU、內存模塊、NVMe存儲設備、GPU以及網絡適配器等通過PCIe（外設部件互連標準）總線或專門設計的PCIe交換機芯片實現高效順暢的連接。
從“夕發朝至”到“智算為王”：智算平臺成企業“大模型”時代成功關鍵
長期以來，人工智能與超級計算似乎是兩個獨立的領域。然而，隨著大模型訓練對算力需求的指數級增長，二者之間的界限逐漸模糊。并行科技董事長陳健一針見血地指出：“AI訓練的本質就是超算，超算也并不僅僅是CPU的超級計算機。超算架構、以GPU為核心的算力平臺成為大模型訓練的必備基礎設施。”
Llama-3公布基礎訓練設施，使用49,000個H100
Meta宣布了兩個新的24K H100 GPU集群，用于訓練大模型Llama-3，預計4月末或5月中旬上線。集群使用RoCEv2網絡和基于Tectonic/Hammerspace的存儲解決方案，支持PyTorch。
“源”大模型驅動，浪潮打造“智能客服大腦”
浪潮信息以全球領先的AI模型“源”為智能引擎，依托InService智能服務平臺，構建了“智能客服大腦”，具備超強的語言理解、數據分析、自主學習和智能推理能力。
白皮書
京公網安備 11010802021500號
