這個模型一般的GPU肯定是跑不起來,如此大的參數在部署方面個人開發者也負擔不起(如果你有一些H100也沒問題),估計是給企業、政務公共部門用的。對于Meta即將發布的模型,就有網友潑冷水。相比OpenAI最新的GPT-4o mini版本,Llama 3.1-70B推理成本提升了3倍,但編碼的性能卻要差很多。
北京第二十六維信息技術有限公司(至頂網)版權所有. 京ICP備15039648號-7 京ICP證161336號京公網安備 11010802021500號
舉報電話:010-62641205-5060 涉未成年人舉報專線:010-62641208 舉報郵箱:jubao@zhiding.cn
網上有害信息舉報專區:https://www.12377.cn