/
網絡延遲 關鍵字列表
GPU/TPU大集群組網技術分析
用于連接 GPU 服務器中的 8 個 GPU 的 NVLink 交換機也可以用于構建連接 GPU 服務器之間的交換網絡。Nvidia 在 2022 年的 Hot Chips 大會上展示了使用 NVswitch 架構連接 32 個節點（或 256 個 GPU）的拓撲結構。由于 NVLink 是專門設計為連接 GPU 的高速點對點鏈路，所以它具有比傳統網絡更高的性能和更低的開銷。
InfiniBand將乘AI東風大放異彩，還是說以太網將繼續固守陣地？
AI系統目前在整個網絡交換潛在市場中的占比“遠低于10%”，而且其中約九成部署的都是英偉達/Mellanox的InfiniBand，而非傳統以太網。這些部署將英偉達的網絡收入拉升至每年100億美元，也使其成為該領域內的第二大參與者，成功反超瞻博和Arista。
白皮書
京公網安備 11010802021500號
