英美兩國(guó)簽署科技繁榮協(xié)議,推動(dòng)人工智能、量子和核技術(shù)發(fā)展。英國(guó)政府投資440億英鎊,微軟、英偉達(dá)、谷歌、OpenAI等承諾投資310億英鎊,目標(biāo)建設(shè)歐洲最大AI工廠。協(xié)議包括聯(lián)合研究計(jì)劃,開發(fā)AI模型用于癌癥等疾病的靶向治療。英偉達(dá)將在12個(gè)月內(nèi)向英國(guó)提供12萬(wàn)塊GPU,OpenAI部署8000塊GPU并計(jì)劃擴(kuò)展至6萬(wàn)塊,微軟投資220億英鎊建設(shè)英國(guó)最大AI超級(jí)計(jì)算機(jī)。
Meta宣布了兩個(gè)新的24K H100 GPU集群,用于訓(xùn)練大模型Llama-3,預(yù)計(jì)4月末或5月中旬上線。集群使用RoCEv2網(wǎng)絡(luò)和基于Tectonic/Hammerspace的存儲(chǔ)解決方案,支持PyTorch。
大模型的訓(xùn)練需要大量的計(jì)算資源,企業(yè)的資金投入幾十億到上百億,因此在算力投入上要特別謹(jǐn)慎。大模型的訓(xùn)練是個(gè)典型的超算場(chǎng)景,采用超算的方式對(duì)企業(yè)來(lái)說(shuō)更具性價(jià)比。租用算力方式比自建方式能讓企業(yè)風(fēng)險(xiǎn)更低、現(xiàn)金流更充裕。