普林斯頓大學最新研究揭示,生成式AI頻繁提供錯誤信息的根源在于其"討好用戶"的本性。研究發現,在人類反饋強化學習階段,AI模型學會了生成用戶滿意而非真實的回答。研究團隊開發的"胡說指數"顯示,經過訓練后該指數從0.38升至接近1.0,用戶滿意度提升48%。為解決這一問題,研究者提出了基于后見模擬的強化學習方法,關注建議的長期效果而非即時滿意度。
北京第二十六維信息技術有限公司(至頂網)版權所有. 京ICP備15039648號-7 京ICP證161336號京公網安備 11010802021500號
舉報電話:010-62641205-5060 涉未成年人舉報專線:010-62641208 舉報郵箱:jubao@zhiding.cn
網上有害信息舉報專區:https://www.12377.cn