兩周前，Reddit上一個爆料GPT-4.5的帖子火了，其中提到GPT-4.5將具備更強的多模態能力，文本、語音、圖片以及視頻都能一并處理，還具備復雜的推理以及跨模態理解能力。

消息一出，網友就熱鬧起來了，有好事者去Sam Altman的帖子下詢問GPT-4.5是否泄露，得到了一個輕飄飄的“nah”。

網友們又轉去問ChatGPT，結果還真問出了一個模型說自己是4.5版本的回答。不過很快OpenAI的員工回應，這是大模型產生了幻覺。隨后ChatGPT官方賬號發推，配了“腦”和“霧”的表情，大概是委婉地承認大模型幻覺問題。

大模型的幻象迷航

大模型幻覺，通俗地說就是一本正經的胡說八道，看似很有道理，其實是在騙你。在過去這一年，大模型賽道風起云涌，無數國內外科技巨頭、AI創業公司涌入，形成了“千模大戰”的盛景，與此同時，幻覺現象頻出，并且由于大模型的強大，生成的幻覺有時看上去非常合理，難以分辨，已經成為大模型產品落地的攔路虎。

清華大學計算機系長聘教授、清華大學人工智能研究院視覺智能研究中心主任鄧志東在接受至頂科技采訪時表示，大模型幻覺，可以分為事實性幻覺和上下文不一致幻覺，前者是大模型生成的內容不符合常識，甚至出現了捏造或者杜撰。后者則是大模型生成的回復或下文與用戶上文的指令不一致，也就是答非所問，驢唇不對馬嘴。

事實性幻覺是目前大模型幻覺研究的熱點，這一類幻覺對用戶的影響更大，還可能產生安全問題。例如，大模型在生成醫療建議時可能會捏造錯誤的藥品劑量，在具身智能中可能會帶來時空錯亂，這些都會給用戶帶來安全風險。但是，幻覺問題是客觀存在的，它的成因涉及到數據、模型結構、預訓練、微調甚至推理各個部分。

從訓練數據的角度來看，由于互聯網上的信息是非均衡的，有的數據特別豐富，有的數據很少甚至缺失，也可能存在偏見或根本是錯誤信息，還有些數據的時效性不夠等。大模型通過互聯網采集的數據較容易出現這類缺陷。

從訓練本身來看，主流的大模型是自回歸生成式模型，沒有糾錯機制，也就是說前面發生的錯誤會傳遞到后面，導致錯上加錯，像滾雪球一樣。此外，如果問題超出了大模型的知識邊界，也可能由于大模型的對齊策略產生幻覺。

有什么方法能緩解這種幻覺？鄧志東從四個層面進行了解說。

一是提高訓練數據的質量。在預訓練和微調階段通過數據清洗減少偏見，增加多元性和均衡性。例如，針對不同質量的預訓練樣本集采用打分加權，給高質量數據集，比如程序代碼、專業論文和正式出版的書籍以更高的權重。而對于網頁上抓取的信息，通過大量清洗，篩除其錯誤和冗余數據，這方面特別需要時間和資源的投入。

二是知識增強。利用外部工具檢索，跟常識性知識源進行對比。對于專用模型，則可增加更多的專業知識庫喂養。還可以借助于數字孿生，將數字孿生系統與大模型結合起來進行交叉驗證，幫助其消除幻覺。

三是增強一致性。包括邏輯一致性、知識一致性，通過一致性來判斷是否出現了幻覺，尤其是對上下文不一致的幻覺，有較好的效果。

最后是給大模型增加電子水印。未來互聯網上AI生成的內容會越來越多，甚至超過人類產生的數據。清楚數據來源就顯得很重要，我們要知道它是由人類產生的，還是由AI大模型產生的，具體是哪個大模型，加水印是比較簡單的一個低成本鑒別方法。

另外，幻覺問題也與用戶如何跟模型交互相關。若巧妙地提問，采用一步一步拆解的策略，通過思維鏈方式將一個復雜問題分解為多個子問題，或者將一個大任務拆解成若干子任務，也能緩解幻覺問題。

揭秘大模型評測機制

如今，大模型之爭是整個科技界的焦點。市場上不乏聲稱自己產品超越GPT-3.5，甚至對標GPT-4的團隊，在各個榜單上刷臉。如何客觀評測大模型能力成為一個公眾和業界共同關注的議題。

最近，由工信部中國電子技術標準化研究院發起的國內首個官方“大模型標準符合性評測”結果揭曉，有四家大模型通過了這一評測：360智腦、百度文心一言、騰訊混元、阿里云通義千問，這也標志著大模型的官方認證進程已經開啟。

鄧志東表示，盡管業界已形成多個評測基準，如NLP領域的MMLU、BIG-Bench、C-Eval、GSM8K等，但大模型的跨領域特性使得每個細分領域都有其獨特的評測指標，例如在計算機視覺領域中的視覺目標檢測通常使用mAP進行評測，圖像與視頻分類任務則用準確率、召回率等指標進行性能評估。總體上，目前還沒有形成完整統一的跨領域多任務的評測體系，很多廠商因此鉆了空子，僅展示自己表現最好的方面。

大模型評測，需要構建一個統一、客觀的第三方評測機構，不能由企業或者研究機構自說自話。鄧志東認為，評測體系的建設應遵循定性與定量相結合、評測大模型與人類專家相結合的原則，既有客觀又有主觀。評測體系可以分為安全性、準確性、涌現能力和泛化能力四個維度，綜合評估大模型在各項任務中的表現。評測模式包括做題打分、模型間PK，還包括對模型各項單一能力的評估等。

他進一步提出了一個想法，類似于自動駕駛技術的L0-L5分級，大模型評測體系是否也可以采用這樣劃分？在這種框架下，L0至L2級可能代表的是大模型的基礎感知與生成能力，而L3級及以上則標志著模型具備更高級的理解認知與多模態生成能力，從初級認知到中級認知，L5級則是寬度接近甚至超越人類的高級認知能力。

從發展路徑上看，人工智能可分成弱人工智能-通用人工智能-強人工智能-超級人工智能這幾個演化階段。我們現在正處于通用人工智能的早期階段，當它的認知能力與完成復雜任務的寬度和人類差不多，就是強人工智能時代到了。

在這一大尺度發展路徑上，既有巨頭企業推動的基礎、基座通用大模型，也有針對垂域或特定應用場景的專用模型。畢竟大模型的價值在于實際應用和產品落地，這樣才能形成一個可持續發展的商業閉環，因此更多初創企業應轉向垂域專用模型的產業落地。在這一過程中，中國在商業模式構建、應用落地速度以及應用場景多樣性上的優勢可能也會體現出來，以此重建我們在AI大模型時代的新優勢。

從單模態到多模態，從簡單任務執行到復雜的認知功能，比如智能涌現，零樣本泛化等，通用人工智能這一年的發展超出了很多人的預期。在大模型不斷演化過程中，完善的評測體系和標準構建尤為重要，這不僅僅是技術的競合，更意味著話語權，和對未來行業趨勢的引領。