生成式AI生態風口,聯發科狂飙

智東西 2024-05-16 19:29:51

作者 | 程茜

編輯 | 漠影

生成式AI席卷消費級市場,移動生態迎來新機遇,生成式AI正重構智能手機。

智東西5月16日報道,上周,在聯發科天玑開發者大會(MDDC)上,聯發科聯動百川智能、vivo、OPPO、小米、moto面向全球開發者,共啓“天玑AI先鋒計劃”,並發布了生成式AI端側部署的解決方案、天玑9300+旗艦5G生成式AI移動芯片,爲生成式AI在端側加速落地添了一把旺火。

可以看出,智能手機已被深度卷入生成式AI浪潮,站上全球手機芯片出貨量第一的聯發科已然走在這一産業變革的前列。

同期,聯發科與全球市場調研機構Counterpoint攜手阿裏雲通義千問、百川大模型、虎牙、酷狗、vivo等生態夥伴聯合發布的《生成式AI手機産業白皮書》(以下簡稱《白皮書》)提到,生成式AI手機將在未來幾年保持高速成長,存量規模將在2027年突破10億大關。

面對端側生成式AI落地熱潮,智能手機的核心優勢是什麽?芯片玩家在其中扮演了什麽樣的重要角色?頭部芯片玩家聯發科在生成式AI手機的飛速發展中將産生什麽影響?

帶著這些問題,從生成式AI與智能手機的結合、聯發科的AI布局出發,本文將剖析聯發科如何爲生成式AI手機發展注入新活力,構建天玑移動生態,並引領新一輪的終端創新周期。

一、AI手機熱潮下,尋找芯片廠商的“新角色”

生成式AI正向消費級市場普及,AI手機已經成爲其中的典型代表。這與智能手機與生成式AI相結合的天然優勢有關。

首先手機擁有最多最強的端側能力。聯發科技董事、總經理暨營運長陳冠州談道,根據估算,2027年,全球智能手機端側整體AI算力會達到50000 EOPS以上。端側算力的優勢在于用戶使用AI應用可不受網絡限制、數據無需上傳雲端可保證隱私安全、可高效率運行較小規模的AI應用。

其次,手機有最大的用戶規模和靈活度。智能手機在全世界有接近50億人的用戶體量,其黏稠度、使用範圍都更高,使得智能手機成爲AI普及最天然的載體。

最後爲手機擁有完整的應用生態,目前手機上的APP高達893萬個,與用戶的衣食住行、辦公等諸多場景。要創造新的生成式AI生態鏈,最好的方法應該是在既有基礎上做升級,將這893萬個APP與AI能力做到無縫串聯。

這決定了智能手機在生成式AI時代正迸發出新的生命力。

那麽,生成式AI手機到底是什麽?《白皮書》給出了明確的定義,生成式AI手機是利用大規模、預訓練的生成式AI模型,實現多模態內容生成、情境感知,並具備不斷增強的類人能力。未來,伴隨用戶與AI大語言模型的實時交互與反饋,生成式AI手機將重塑操作系統底層和形態,成爲讓用戶暢享豐富生成式AI應用和體驗的移動智能體。

具體拆解來看,第一就是支持大模型的本地部署,通過雲端協同的方式執行複雜的生成式AI任務。生成式AI手機本身就具備強大的AI算力,無須完全依賴雲端服務器。

第二爲具備多模態能力,可以處理文本、圖像、語音等多種形式的內容輸入,以生成各種形式的輸出。

第三爲設備能夠以自然而直觀的交互方式,快速響應用戶的請求。

第四是擁有實現上述特征的硬件規格,包括但不限于基于領先工藝和先進架構設計的移動計算平台,擁有集成或者獨立的神經網絡運算單元(如APU/NPU/TPU)等。

由此看出,生成式AI的諸多特性背後繞不開手機、大模型、芯片玩家這三者,其中的芯片玩家也成爲大模型在端側部署落地的重要支撐。

一方面,對于大模型玩家而言,想要直接將雲端訓練好的模型放到手機端,往往會面臨運行效率不夠快、內存占用過高兩大痛點,並且還需考慮如何讓模型在端側運行更爲高效、速度更快、部署更容易,突破這些痛點的底層關鍵變量之一就是芯片的性能。

另一方面,手機廠商關注的是大模型有沒有在終端之上的新服務、新應用,這些與模型玩家合作誕生的新應用最終都會體現在芯片能力之上。

因此,端側芯片的AI性能在端側生成式AI的競爭格局中尤爲關鍵。聯發科技無線通信事業部生態發展資深總監章立談道,以聯發科爲例,他們正在爲大模型打造生態土壤,提供好的硬件平台、開發者工具,讓大模型在此之上順利落地。

開發者、芯片廠商、手機廠商三者的最大共同點就是,都正在爲這一擁有無限潛力的AI市場做充分的准備。

值得注意的是,芯片與大模型的發展可謂形影相伴。2017年,孕育今年大模型盛景的Transformer論文神作發布,同年,芯片設計公司已經開始商用SoC中加入獨立神經網絡運算單元,如今聯發科、高通均已發布多款支持多模態大模型端側部署的移動計算平台。

時至今日,移動芯片玩家已經在AI領域積澱了豐富經驗,爲生成式AI手機的大規模商用鋪平了道路。

二、聯發科搶先布局端側AI領域,AI已成芯片基因

不置可否,2023年Q4拿下全球出貨量份額第一的聯發科已經成爲其中的重要玩家,實際上,根據市場調研機構Counterpoint公布的數據,聯發科手機芯片出貨量全球第一已持續三年有余,擁有非常可觀的邊緣AI設備基礎。

聯發科在AI領域的優勢已逐漸凸顯,這得益于其長達7年的積累與布局。

聯發科技無線通信事業部副總經理李彥輯透露,聯發科對于AI的投入始于2017年,與Transformer架構提出同期,並是首個將擁有AI能力的硬件處理器搭載于芯片上的玩家。

事實上,聯發科對于AI的思考更早,他補充說,2015、16年,AlphaGo戰勝頂尖棋手,讓人驚覺新的AI科技洪流已來,聯發科就開始思考端側是否有能力搭上這一波技術浪潮。

在他們看來,Transformer架構出現意味著AI發展的分水嶺到來,因此,在持續投入傳統計算光學所需的分析式AI之外,他們開始布局新的算法、算子以應對未來可能出現的新AI應用。

這有一個背景是,當時這些對于AI發展的期待都處于未知狀態,聯發科憑借開放式的心態入局,並始終堅定對AI技術的投入和決心。事實證明,其當年對于行業技術發展趨勢的判斷以及AI技術投入的積累是正確的。

如今,爲了推動生成式AI在端側落地,聯發科已經率先發布了一系列旗艦、次旗艦産品。

天玑9300已搶先支持Android、Google Gemini Nano、Meta Llama 2、百度文心一言、百川大模型、阿裏雲通義千問、vivo藍心大模型BlueLM、OPPO AndesGPT等諸多全球先進的AI大模型。

此外,聯發科還將生成式AI能力引入天玑8000系列,成爲同級産品中率先支持生成式AI的芯片,天玑8300最高可支持端側運行100億參數規模AI大語言模型。

面向未來,李彥輯也十分堅定,聯發科在芯片的能力布局上不會放慢,將持續在旗艦、次旗艦上推出新的産品。

早已融入聯發科研發基因的AI,正在生成式AI新時代展現出旺盛的生命力。

三、算力支撐+生態建設,築起端側生成式AI堅實底座

去年開始,生成式AI在手機端的應用已經開始展露頭腳,李彥輯認爲,今年生成式AI在手機端的落地將從萌芽走向起飛階段。

作爲重要的芯片玩家,聯發科在其中既是重要的算力提供方,又是連接各路玩家的生態建設者。如今,其芯片布局開始加速。

聯發科最新發布的天玑9300+旗艦5G生成式AI移動芯片,延續全大核架構設計,八核CPU包含4個Cortex-X4超大核,最高頻率可達3.4GHz,還有4個主頻爲2.0GHz的Cortex-A720大核,在保證卓越性能的同時,功耗大幅降低。

天玑9300+內置了生成式AI引擎APU 790,率先在端側支持AI推測解碼加速技術,性能提升達10%,同時支持端側雙LoRA融合的天玑AI LoRA Fusion 2.0技術、AI框架ExecuTorch,能夠在端側爲用戶提供更加個性化的AI體驗。

目前,天玑9300+已支持阿裏雲通義千問大模型、百川智能百川大模型、百度文心大模型、谷歌Gemini Nano、零一萬物終端大模型、Meta Llama 2和Llama 3等前沿主流大模型。

這也是業界首款實現更高速Llama 2 7B端側運行的芯片,李彥輯透露,Llama 2 7B運行速度可以達到22 tokens/秒。

在生成式AI手機浪潮下,一方面,聯發科要做好“本職工作”,也就是爲端側設備提供強大的算力;另一方面,正如前文所述,手機、模型、芯片玩家缺一不可,一個健康、高效的生態系統也至關重要,能力越大責任越大。

爲此,聯發科聯合阿裏雲、百川智能、傳音、零一萬物、OPPO、榮耀、vivo、小米啓動了“天玑AI先鋒計劃”,面向全球開發者,整合聯發科與産業生態夥伴資源的同時,爲開發者提供開發資源、技術支持和商業機會。

面對端側生成式AI的三大關鍵環節,聯發科提出了涵蓋芯片、模型、應用的天玑AI生態戰略,爲這一産業的發展築起堅實的軟硬件技術底座。

在應用領域,聯發科的“天玑AI開發套件”集開發、應用技術之大成,其包括快速高效的GenAI最佳實踐、覆蓋全球主流大模型的GenAI Model Hub、高效提升性能的GenAI優化技術和Neuron Studio一站式視覺化開發環境等四大模塊,展現了其“快、全、強、易”的四大能力。

其中,GenAI最佳實踐通過模型量化、模型編譯和模型推理技術可以將大模型的終端部署時間從數周加速到一天。GenAI Model Hub適配了Llama系列等諸多主流大模型。

天玑AI開發套件還支持推測解碼加速、LoRA Fusion等先進的GenAI優化技術;Neuron Studio集成開發環境爲開發者提供了一站式可視化的開發環境。

章立談道,對于開發者而言其最關注的是芯片本身的能力以及解決方案和服務能力。天玑AI開發套件就是一大解法,他補充說,這些開發者套件是聯發科長期與開發者交流過程中,基于其核心需求從而研制的開發者工具。

除了AI,聯發科在遊戲領域的技術優勢也實現了全面升級。借助自適應技術軟件開發套件和硬件光線追蹤技術,星速引擎可以通過精准的性能管理、光線追蹤效果優化、網絡質量監測等關鍵技術,使得開發者打造畫面更逼真、流暢,觸控和網絡響應速度更快,續航更持久的體驗。

聯發科作爲端側生成式AI落地的先鋒,正將多年來的AI布局與積累轉變爲端側生成式AI新生態發展的原動力。

結語:每年賦能20億智能終端,聯發科加速端側生成式AI變革

聯發科在端側生成式AI領域的一系列布局,無不顯示出其對于加速這一産業變革的決心與信心。正如聯發科技董事、總經理暨營運長陳冠州所言,生成式AI徹底革新了終端應用的使用價值,智能終端是生成式AI普及的關鍵載體。

2024年生成式AI普及到端側設備上的潛力正在被放大,目前,智能手機正在作爲一個起點,撬動端側生成式AI的變革。

在這背後,聯發科憑借其每年賦能20億智能終端設備的經驗,爲生成式AI在端側的人機交互、生産力、娛樂體驗等方面帶來革新,以生成式AI手機爲切入點,全方位重塑端側市場的用戶體驗。

面向未來,端側將成爲生成式AI大規模應用落地的重要載體,聯發科與生態合作夥伴的聯手正在加速這一進程。

0 阅读:11

智東西

簡介:智能産業第一媒體!聚焦智能變革,服務産業升級。