大模型入端,生成式AI落地在即
與云側大模型相比,端側大模型可以更好地學習用戶個人數據在本地實現智能化,而且數據不出端、不上云,隱私信息更安全。
端側大模型有可能是最先引爆這一輪生成式AI的領域。
為什么這么說,與云側大模型相比,端側大模型可以更好地學習用戶個人數據在本地實現智能化,而且數據不出端、不上云,隱私信息更安全。
IDC也預測,終端的AI化會成為AI發展與落地的重要支持方向。到2026年,中國市場中近50%的終端設備的處理器將帶有AI引擎技術。
8月4日,華為開發者大會2023上,不僅HarmonyOS 4將受益于“盤古大模型”,華為還將大模型深度整合進手機系統,實現更高層次的融合,智慧助手小藝接入AI大模型能力,可以進行自然對話、會議紀要和輔助文案生成、圖片二次創作等。
8月14日,小米年度發布會上,小米宣布自研13億參數端側大模型,在部分場景上可以媲美行業60億參數的云端大模型,同時小米也將小愛同學升級大模型。
vivo預告了11月1日vivo開發者大會將發布全新手機操作系統OriginOS 4,首發搭載vivo自研AI大模型vivoLM。自研AI大模型矩陣包括十億、百億、千億三個不同參數量級的5個自研大模型。
OPPO安第斯智能云團隊打造了基于混合云架構的生成式大語言模型OAndesGPT。10月11日,OPPO宣布基于AndesGPT大模型打造的新版AI助手——新小布1.0開啟了第一輪公測。
2023高通驍龍峰會期間,榮耀宣布榮耀Magic6系列將搭載第三代驍龍8移動平臺,支持70億參數的端側AI大模型。靈動膠囊Magic Capsule可以基于眼神跟蹤的多模態交互技術。YOYO助手提供簡短提示來創建主題視頻,甚至可以通過與YOYO助理對話更改背景音樂或模板。
幾個月來,vivo、OPPO、小米的大模型也在兩大中文大模型評測榜單C-Eval和CMMLU上“刷榜”了一波。
很多人會問,端側芯片可以支持大模型的訓練嗎?一方面高通、聯發科等芯片巨頭也在探索將AI大模型植入端側,一方面模型也在小型化,降低所需的資源和能耗,當然我們也看到未來大模型還是會向著云側和端側相結合發展。
本期《數字化轉型方略》也將看看端側代表們,在把大模型裝進端側上都做了哪些工作。我們也希望進一步看到未來隨著端側大模型對用戶個人數據和習慣的學習成長,帶來更深入的意圖理解和更加個性化的復雜場景服務。
《數字化轉型方略》2023年第10期:http://www.meilihuayuanyanglaogongyu.cn/dxinsight/2310
本文章選自《AI啟示錄》雜志,閱讀更多雜志內容,請掃描下方二維碼