隨著AI系統復雜性不斷增加,AI對齊技術成為確保系統安全可靠的關鍵。研究人員正通過人類反饋強化學習、合成數據訓練、紅隊測試等技術手段,以及AI治理、倫理委員會等管理方法來引導AI行為。然而,價值觀的多樣性和AI系統的"迎合性"行為帶來了新挑戰。最新研究表明,我們可以理解并調整AI內部表征參數來控制系統輸出。控制AI不僅是技術挑戰,更是道德和政治選擇問題。
北京第二十六維信息技術有限公司(至頂網)版權所有. 京ICP備15039648號-7 京ICP證161336號京公網安備 11010802021500號
舉報電話:010-62641205-5060 涉未成年人舉報專線:010-62641208 舉報郵箱:jubao@zhiding.cn
網上有害信息舉報專區:https://www.12377.cn