“螺獅殼裏做道場”,業界首款AIPC背後的技術和混合AI新範式

陸玖商業評論 2024-04-19 09:10:04

4月18日,在聯想創新科技大會 (Lenovo Tech World)上,聯想正式發布了具備五大特征的AI新物種 —— 業界首款真正意義上的AI PC。

相比于傳統PC,AI PC具備五大特征:內嵌個人大模型並與用戶自然交互;建立在本地的個人知識庫;包含CPU、GPU和NPU的本地異構AI算力;連接開放的人工智能應用生態;個人數據和隱私安全保護。

聯想研究院爲聯想AIPC打造了多項關鍵技術,包括智能檢索增強的本地知識服務、異構混合計算技術、領先的模型壓縮與推理加速以及混合意圖理解技術等。AIPC深度洞察用戶個人需求和偏好,可提供個性化服務和設備控制,能有效保障用戶隱私和數據安全,實現輕量快捷、高效低耗的智能調度,是您的貼心陪伴型個人助理。

知你懂你:通過個性化本地知識庫的構建和使用、模型微調和檢索增強等技術,深度整合個人知識和數據,精准洞察用戶意圖需求,服務並響應用戶個性化需求。

智能調度:利用多種異構算力,如GPU、CPU、NPU等,合理分配工作負載,協作完成推理任務。采用異構混合計算技術,智能調度各種計算單元,實現系統資源的最優配置,提供靈活的AI工作負載解決方案,滿足不同場景下的計算需求。

輕量快捷:通過場景化的定向增強、模型壓縮、異構推理加速等技術,使模型推理能高效在端側運行,實現模型的輕量化運行和快速推理,顯著提升響應速度的同時降低30%內存占用,與主流新品廠商進行全面適配和深度調優。

自然交互:混合意圖理解技術,通過融合大模型的深度理解能力、小模型的靈活性和規則庫的精確知識,確保意圖識別的准確度和廣泛適用性,實現模型的輕量化和快速響應,多層次意圖理解機制由粗到細精准捕捉用戶意圖,爲用戶打造更自然流暢的交互體驗。

聯想集團副總裁,聯想研究院人工智能實驗室負責人範建平博士帶領的團隊是聯想AI PC 背後核心技術的打造者。在大會現場舉辦的大模型分論壇上,他的主題演講《面向AI新範式的聯想解決方案》剖析了聯想AI PC背後所展現的、以混合智能(Hybrid AI) & 智能體(AI Agent) 爲代表的AI新範式。同時他也分享了聯想端側個人智能體的一系列核心技術,具體解讀了聯想AI PC的五大特征。他形象地說:“聯想AI PC就是要實現‘螺蛳殼裏做道場’”!

參加分論壇的學界和業界專家也對大模型和新的AI範式進行了解讀。複旦大學計算機科學技術學院教授、博士生導師張奇呼籲 忘記AGI、湧現、對齊、激發…… 從統計機器學習角度再出發。同濟大學百人計劃特聘研究員、OpenKG發起人王昊奮相信,檢索增強生成技術將使大模型深入千行百業,不僅讓廣泛應用成爲可能,更確保了高效和易用性。阿裏雲飛天實驗室大模型算法負責人周偉提到,小尺寸模型正在加速終端創新,而終端是大模型重要的載體和切入口,蘊含豐富的機遇和落地場景。基于端雲結合的大模型服務將成爲産業智能化的新範式。

在圓桌環節,英特爾高級首席工程師劉駿,以及AMD 軟件定制工程AIPC大模型應用首席研發總監王玮琦,與其他三位專家,一起探討了大模型端側化及其在行業中的應用、大模型在端側落地中Hybrid AI異構計算等話題。

大模型和AI智能體已成爲了推動人工智能未來發展的關鍵力量。聯想集團首席技術官、高級副總裁芮勇博士在分論壇上表示:“聯想願意與業界夥伴一起打造混合式 AI 框架,用最先進的混合式 AI 技術,發展基于大模型的智能體,構建智能設備、智能基礎設施、智能解決方案,賦能千行百業!“

0 阅读:5

陸玖商業評論

簡介:真相無法揭露,只能接近。