用于連接 GPU 服務器中的 8 個 GPU 的 NVLink 交換機也可以用于構建連接 GPU 服務器之間的交換網絡。Nvidia 在 2022 年的 Hot Chips 大會上展示了使用 NVswitch 架構連接 32 個節點(或 256 個 GPU)的拓撲結構。由于 NVLink 是專門設計為連接 GPU 的高速點對點鏈路,所以它具有比傳統網絡更高的性能和更低的開銷。
AI系統目前在整個網絡交換潛在市場中的占比“遠低于10%”,而且其中約九成部署的都是英偉達/Mellanox的InfiniBand,而非傳統以太網。這些部署將英偉達的網絡收入拉升至每年100億美元,也使其成為該領域內的第二大參與者,成功反超瞻博和Arista。