當OpenAI和谷歌等科技巨頭追求更大模型時,IBM選擇專注于企業AI的推理基礎設施。通過與Anthropic和Groq的新合作,IBM將語言處理單元集成到watsonx平臺,聲稱企業智能體AI系統運行速度比傳統GPU快5倍且更具成本效益。IBM采用模塊化混合策略,整合智能、推理和治理三個層面,為企業提供跨云環境的AI解決方案,避免生態系統鎖定,專注于讓AI在實際生產環境中更實用。
數字基礎設施公司Equinix發布"AI就緒骨干網",旨在通過連接全球平臺和新軟件層引導客戶進入智能AI時代。該"分布式AI"基礎設施將統一77個市場的270多個數據中心,為多云AI工作負載提供更高可靠性。新的Fabric Intelligence軟件層將在按需全球互連平臺上提供實時感知和自動化功能,幫助企業在AI訓練和推理階段獲得更好的投資回報率。
現代數據中心的去重技術已成為標配,但各系統間獨立運作造成數據在跨系統邊界時反復重新去重,浪費CPU、內存和網絡資源。基礎設施級去重通過統一元數據和跨層運作,將存儲、計算和網絡層的去重能力整合,可減少40-60%的I/O操作,降低70-90%的網絡復制流量,消除30-50%的資源開銷。面對VMware轉型、AI工作負載增長和預算壓力,將去重從通用功能提升為戰略能力成為關鍵。
DE-CIX印度宣布成為該國首個將星鏈納入互聯網交換生態系統的平臺,開創歷史先河。隨著星鏈獲得印度電信部商業許可證,預計2025年底或2026年初正式啟動服務。星鏈將提供25-220Mbps的網速,為山區、農村等偏遠地區提供真正的寬帶服務。DE-CIX通過其全球Space-IX項目為衛星運營商提供互聯服務,確保軌道網絡與高性能地面基礎設施的無縫連接。
隨著現代AI技術對數據中心基礎設施提出新要求,"AI數據中心"一詞使用日益頻繁。然而,這一術語的定義仍不清晰,AI數據中心與傳統數據中心的區別并不明顯。AI數據中心通常具備更大容量、GPU加速硬件、優化網絡設備、高效冷卻系統等特征,但這些特性并非AI獨有。與其投資專門的AI設施,企業或許應考慮改造現有數據中心來支持AI工作負載。
隨著AI和生成式AI的快速普及,組織在數據處理和應用架構方面面臨新挑戰。傳統集中式架構難以滿足現代AI應用的性能需求,推動AI能力向數據生成和決策制定的邊緣位置轉移。邊緣AI部署面臨帶寬限制、GPU資源需求和運營復雜性等挑戰。F5應用交付和安全平臺等解決方案通過統一控制和可視化管理,為分布式AI環境提供一致的安全策略和流量管理能力。
AI繁榮面臨電力問題,但真正制約因素在基礎設施層面。隨著生成模型規模擴大,傳統銅線互連開始不堪重負。硅光子技術使用光而非電傳輸數據,速度更快、功耗更低。以色列初創公司Teramount獲得5000萬美元A輪融資,專注光纖芯片連接器。據預測,協封裝光學市場將在2028年達到21億美元。AI數據中心電力需求可能在2026年翻倍,大部分電力消耗在數據傳輸而非計算。
IDC發布了關于AI就緒數據存儲基礎設施的研究報告,該報告是四部分系列的第一部分。報告指出,不到一半的AI試點項目能夠投入生產,組織必須從以數據為中心的角度來處理AI項目。AI就緒數據存儲基礎設施需要具備五個主要屬性:性能、規模、服務水平、數據物流和數據信任。報告強調,許多AI項目失敗是因為對存儲基礎設施關注不足,導致數據孤島、數據質量差和存儲性能不足等問題。
一項調查顯示,IT 領導者對網絡安全漏洞和準備程度深感擔憂。為提高彈性、安全性和運營效率,企業正在經歷向去中心化基礎設施的"巨大"轉變。調查發現,73% 的 IT 主管認為去中心化物理基礎設施網絡對其網絡安全策略極為重要,31% 預計相關項目在兩年內將增長超過 50%。這反映了企業正在積極應對日益嚴峻的網絡威脅。
Nvidia 推出 DGX Cloud 基準測試工具包,幫助企業和開發者評估其基礎設施運行先進 AI 模型的能力。該工具包提供性能測試容器和腳本,可在不同配置下測試 AI 模型性能,支持企業在大規模部署 AI 工作負載前做出明智決策,優化基礎設施效能。
隨著人工智能的快速發展,企業在采用和部署AI時面臨諸多挑戰。從GPU短缺、網絡延遲到能源需求激增,種種瓶頸正在影響AI性能并推高成本。本文探討了這些挑戰,并提出了優化AI基礎設施的策略,包括重新設計網絡、合理分配資源和管理能耗。企業必須突破這些瓶頸,才能在AI競賽中保持領先地位,提升業務表現。
DeepSeek-R1 的出現引發了行業的擔憂,認為先進的推理可以在更少的基礎設施下實現。然而,Together AI 表示,DeepSeek 和開源推理的興起實際上增加了基礎設施的需求。該公司最近宣布完成 3.05 億美元的 B 輪融資,旨在簡化企業對開源大型語言模型的使用,并擴展其平臺以支持推理集群和自主 AI 能力。DeepSeek-R1 的高需求推動了基礎設施的增長,Together AI 還通過收購 CodeSandbox 來支持自主 AI 工作負載。
在 AI 發展的浪潮中,數據管理變得至關重要。隨著 AI 模型規模和能力的不斷擴大,企業紛紛投資建設支撐 AI 的存儲和計算基礎設施。然而,要充分發揮 AI 的潛力,優化運營并提高投資回報,企業需要在整個 AI 流程中實現高效的數據管理。這不僅涉及容量和性能,還包括數據可見性、安全性以及跨多種數據類型和存儲系統的集成管理。
云基礎設施初創公司 Together AI Inc. 在新一輪融資中籌集了 3.05 億美元,估值達到 33 億美元。此次 B 輪融資由 General Catalyst 和 Prosperity7 共同主導,參與者還包括超過十家其他投資者,如 Nvidia Corp.、Salesforce Ventures 和前思科系統公司首席執行官 John Chambers。
DataRobot收購Agnostiq公司,旨在通過增強計算編排和優化能力,促進和擴展AI代理的開發。此舉將使DataRobot能夠跨多種基礎設施和計算環境靈活部署AI代理,并根據可用性、成本和性能動態管理資源,從而提高AI創新效率。
隨著人工智能概念驗證向突破性技術演進,訪問和利用海量私有數據將成為關鍵。文章探討了數據在人工智能中的核心作用,強調了連接性的重要性,并重新引發了云計算模型的討論。文章還指出了標準化在優化人工智能方面的重要性,以及提高認知和加強合作的必要性。
英國哈維爾科學創新園區將部署 5G 獨立移動專用網絡,旨在賦能多元化研發社區。該項目由沃達豐負責建設和管理,將為先進制造、交通物流、能源和醫療等領域提供專業服務,促進創新發展。這一舉措將推動英國經濟增長和技術進步,同時為歐洲航天局的 5G/6G 研究提供支持。
隨著AI應用需求的爆發式增長,數據中心面臨著前所未有的挑戰。為滿足高算力需求,數據中心將采取更高效的建設流程、更快的部署速度以及更具創新性的解決方案。從電力需求激增到新型冷卻技術的應用,從基礎設施的精簡到多租戶數據中心的標準化,AI正在推動數據中心建設進入一個全新的時代。