Goodfire.ai研究人員首次發現AI語言模型中記憶和推理功能通過完全獨立的神經通路運作。研究顯示,移除記憶通路后,模型喪失97%的訓練數據復述能力,但邏輯推理能力幾乎完全保留。令人意外的是,算術運算與記憶共享神經通路而非推理通路,這可能解釋了AI模型在數學方面的困難。該技術未來有望用于移除版權內容或敏感信息而不損害模型核心功能。
北京第二十六維信息技術有限公司(至頂網)版權所有. 京ICP備15039648號-7 京ICP證161336號京公網安備 11010802021500號
舉報電話:010-62641205-5060 涉未成年人舉報專線:010-62641208 舉報郵箱:jubao@zhiding.cn
網上有害信息舉報專區:https://www.12377.cn