英國電信集團(tuán)與亞馬遜云服務(wù)續(xù)簽五年戰(zhàn)略協(xié)議,深化云端數(shù)字化轉(zhuǎn)型。此次合作將重點(diǎn)從工作負(fù)載遷移轉(zhuǎn)向云原生基礎(chǔ)設(shè)施升級,采用微服務(wù)架構(gòu)改造傳統(tǒng)系統(tǒng)。協(xié)議還涉及將AWS技術(shù)融入移動網(wǎng)絡(luò)和無線接入網(wǎng)絡(luò),構(gòu)建基于人工智能的分布式數(shù)據(jù)平臺,實(shí)現(xiàn)自主網(wǎng)絡(luò)運(yùn)營。英國電信計(jì)劃利用AWS機(jī)器學(xué)習(xí)和生成式AI技術(shù)自動化網(wǎng)絡(luò)運(yùn)營中心流程,打造可預(yù)測、檢測并實(shí)時(shí)解決問題的自愈網(wǎng)絡(luò)。
WEKA發(fā)布NeuralMesh架構(gòu),通過并行文件系統(tǒng)軟件變革加速大規(guī)模AI應(yīng)用。該架構(gòu)采用微服務(wù)構(gòu)建動態(tài)連接的節(jié)點(diǎn)網(wǎng)格,解決傳統(tǒng)存儲在分布式AI訓(xùn)練和推理環(huán)境中的規(guī)模、延遲和并發(fā)需求。NeuralMesh可提供微秒級延遲保證,隨規(guī)模擴(kuò)展而增強(qiáng)彈性,硬件故障時(shí)可在分鐘內(nèi)重建。系統(tǒng)支持從TB到EB的容量擴(kuò)展,在genomics研究機(jī)構(gòu)實(shí)現(xiàn)從2PB到12PB的無停機(jī)擴(kuò)容。
Nvidia 推出 NeMo 微服務(wù),將 AI 智能體嵌入企業(yè)流程,實(shí)現(xiàn)數(shù)據(jù)采集、模型更新和安全管控;研究顯示,近半數(shù)企業(yè) AI 投資僅帶來微小改善,但大部分獲得良好 ROI。
英偉達(dá)為其 NeMo Guardrails 軟件工具新增了 AI 防護(hù)微服務(wù),旨在提高企業(yè)代理型 AI 應(yīng)用的準(zhǔn)確性、安全性和控制力。這些微服務(wù)包括內(nèi)容安全、話題控制和越獄檢測,有助于解決 IT 領(lǐng)導(dǎo)者在采用代理型 AI 技術(shù)時(shí)的主要顧慮,為 AI 應(yīng)用部署提供更好的治理和保障。
英偉達(dá)推出新的推理微服務(wù),旨在幫助企業(yè)開發(fā)可信、安全的 AI 代理。這些微服務(wù)包括主題控制、內(nèi)容安全和越獄保護(hù),可優(yōu)化大型語言模型的響應(yīng),提高應(yīng)用性能。此舉將幫助企業(yè)更安全、可靠地部署生成式 AI 模型,解決 AI 代理在信任、安全等方面的關(guān)鍵問題。
Traefik,作為一款云原生環(huán)境下流行的反向代理和負(fù)載均衡器,以其動態(tài)配置、智能路由和卓越性能,為構(gòu)建高性能 AI 網(wǎng)關(guān)提供了強(qiáng)大的支持。
中科江南結(jié)合在財(cái)政信息化領(lǐng)域的經(jīng)驗(yàn),研發(fā)了基于微服務(wù)架構(gòu)的財(cái)政預(yù)算管理一體化系統(tǒng)。