人工智能基礎設施初創(chuàng)公司Majestic Labs今日宣布成立,并獲得1億美元初始融資。該公司由前谷歌芯片工程高管領導,致力于解決大語言模型對高內存容量的需求挑戰(zhàn)。其開發(fā)的服務器配備高達128TB內存,相當于10個機架的內存容量,但冷卻設備需求大幅減少,顯著降低硬件成本和功耗。該服務器采用定制加速器芯片和內部開發(fā)的內存接口模塊,計劃2027年開始交付。
數(shù)據(jù)中心服務器通常部署在機架或機箱中,但兩者并非同一概念。服務器機架是容納多臺服務器的金屬外殼,通常垂直堆疊;而機箱是容納服務器內部組件的外殼,是機架內的較小模塊。機架服務器體積較大,通常占用單個機箱;刀片服務器更小,可在一個機箱中部署多臺。理解兩者區(qū)別對數(shù)據(jù)中心設計至關重要,影響服務器類型選擇、冷卻效率和硬件部署方案。