爲降低大模型應用門檻,騰訊雲發布三大引擎

數智前線 2024-05-17 13:01:01

(圖:騰訊集團高級執行副總裁、雲與智慧産業事業群CEO 湯道生)

5月17日,“騰訊雲生成式AI産業應用峰會”在北京舉辦,大會披露了騰訊混元大模型、行業大模型的最新能力升級,並推出知識引擎等多個智能工具和場景應用。

會上,基于混元大模型的一站式AI智能體創作與分發平台——騰訊元器首次亮相,企業和開發者可以基于騰訊元器直接創建智能體,使用騰訊官方的插件和知識庫,還能將這些智能體一鍵分發到QQ、微信客服、騰訊雲等渠道上。同時,多個版本模型hunyuan-pro、hunyuan-standard、hunyuan-lite通過騰訊雲對外開放,滿足企業客戶、開發者在不同場景下的模型需求,落地最優性價比模型方案。

目前,騰訊混元大模型已經在騰訊內部600多個業務和場景中落地測試。其中騰訊會議就基于混元推出AI小助手,通過簡單自然的指令,就可以完成發言提醒、觀點總結、會議紀要等能力,大幅度提升會議效率。過去四個月,騰訊會議AI小助手的用戶日調用量增長了20倍。

騰訊雲也專門推出了三款PaaS産品——“大模型知識引擎”、“大模型圖像創作引擎”和“大模型視頻創作引擎”,打造大模型原生工具鏈,助力企業在知識服務、圖像和視頻創作上提質提效。

以知識引擎爲例,它在RAG(檢索增強生成)技術架構基礎上,整合了OCR文檔解析、向量檢索、大語言模型、多模態大模型等技術,爲企業打造使用門檻低的模型應用開發平台,能夠快速在客服營銷、企業知識社區等各種以人爲中心的業務場景落地。這種方式相當于帶著“課本”去考試,可以大幅度降低幻覺,回答內容更安全可靠。

“大模型的打造只是起點,把技術落地到産業場景,創造價值才是目標”。騰訊集團高級執行副總裁、雲與智慧産業事業群CEO湯道生表示,騰訊始終以“産業實用”,作爲發展大模型的核心戰略,通過打造高性能的模型、高效率的工具平台、高敏捷的場景應用、高可用的算力基礎設施,以及強安全的模型環境,構建離産業最近的AI,助力千行百業智能化升級。

以下爲湯道生演講全文:

構建離産業最近的AI

非常高興和大家一起探討生成式AI在産業應用中的發展。今天也是一年一度的“世界電信日”,今年的主題是“數字創新,促進可持續發展”,與我們的發布會也非常契合。

作爲數字創新最重要的領域之一,生成式AI在過去的一年風起雲湧,各種大模型層出不窮。與很多大模型廠商不同,騰訊始終以“産業實用”,作爲我們發展大模型的核心戰略。去年發布大模型的時候,我們就強調“大模型的打造只是起點,把技術落地到産業場景、創造價值才是目標”。

在過去一年裏,我們發布的全鏈路自研的混元大模型參數規模達到了萬億級別,在國內率先采用混合專家模型 (MoE) 結構。根據沙利文的評測結果,混元的通用基礎能力和專業應用能力都處于國內大模型領跑梯隊,也高于國際大模型的均線。

目前,混元已經在騰訊內部600多個業務和場景中落地測試。例如,騰訊會議就基于混元推出AI小助手,通過簡單自然的指令,就可以完成發言提醒、觀點總結、會議紀要等能力,大幅度提升會議效率。過去四個月,用戶日調用量增長了20倍。

去年騰訊所倡導的模型應用發展方向——産業實用,獲得了業界的高度認同。今天,大家對于大模型的訴求更加務實,不僅關注模型技術的領先性,也要看怎麽融合到業務場景,怎麽降本增效解決實際問題。

同時,騰訊雲智能也推出行業大模型,以高濃度的行業數據,加強模型對行業專業知識的理解;結合搜索增強與實時查詢能力,提升模型解決産業問題的實時性、准確度、安全性等能力。目前,也已經在金融、醫療、教育、汽車、能源等20多個行業落地。

此外,我們也注意到産業對模型的需求也在不斷變化。一方面,隨著産業信息的載體多元化,模型的需求不僅僅是處理單純的文字,還需要處理圖片、視頻等多種信息。大模型的能力競爭,正在從單一的文生文,拓展到文生圖、文生視頻、圖生圖、圖生視頻等多模態能力。

另一方面,大模型在産業場景落地時,所面臨的問題還是非常多,比如場景的選擇、結果的准確、數據的保密、落地的成本、內容的安全等一系列問題。

如何打破這層玻璃,讓可見變爲可用?今天我也很高興能在這裏,分享我們全新的探索成果。我們將通過打造高性能的模型、高效率的工具平台、高敏捷的場景應用、高可用的算力基礎設施,以及強安全的模型環境,構建離産業最近的AI。

首先,混元大模型能力升級,打造智能體開放生態

在基礎的大模型能力上,我們的混元也推出靈活的模型規模,基于混合專家模型 (MoE) 結構的pro、standard、lite三個版本,正式通過騰訊雲向企業和個人開發者全面開放。我們今天也正式發布基于混元大模型的一站式AI智能體創作與分發平台——騰訊元器,企業和開發者可以基于騰訊元器,直接創建智能體、插件或者是知識庫。

同時,行業大模型也在提升專業能力,在安全可控的專屬環境下,有更多行業場景的實踐落地。

比如,騰訊雲醫學行業大模型,已經達到大模型 SOTA(最優效果)的水平。6B的小模型就能支持好“問醫問藥”,也能輔助醫生撰寫專業文書,比如電子病曆、出院小結等。目前,這個模型已經在上海瑞金醫院超過10個頭部臨床科室,爲醫生和患者提供導輔診、隨訪建議、生成電子病曆等能力。以體檢報告生成爲例,平均每5秒即可自動生成一份總結報告,每天自動生成超過500份,報告采納率達到96%以上。

其次,是工具升級,助力模型應用開發高質高效。

企業非常期待將大模型快速應用于生産、銷售和服務多環節,快速創新,以應對行業激烈競爭。

文本、圖片、視頻是信息的三種基本載體。今天,我們正式推出三款PaaS産品,——“大模型知識引擎”、“大模型圖像創作引擎”和“大模型視頻創作引擎”,打造大模型原生工具鏈,助力企業在知識服務、圖像和視頻創作上提質提效。

以RAG(檢索增強生成)技術架構爲基礎,我們推出了“知識引擎”,整合了OCR文檔解析、向量檢索、大語言模型、多模態大模型等技術,爲企業打造使用門檻低的模型應用開發平台,能夠快速在客服營銷、企業知識社區等各種以人爲中心的業務場景落地。

企業可以利用自有的知識庫與專業文檔,結合多模態技術,加載到知識引擎。當用戶提問時,系統會先匹配相關文檔片段,然後大模型基于提取的內容來生成回答,因此大幅度降低幻覺,回答內容更安全可靠。

例如,在汽車購買中,都會搭載一本厚厚的汽車使用手冊,車主使用起來非常不方便。我們與一家汽車廠商合作,將50多款的汽車手冊,直接加載進知識引擎。未來,用戶只要用自然語言提問,客艙智能助手就能用圖文或者語音精准回答,還會搭配上詳細的操作示意圖,大大提升用戶體驗。

今天的企業是知識型組織,員工對專業知識的掌握,在産品服務、生産流程、組織管理中的應用,都決定了業務經營與任務執行的效果。每家企業都應該構建起專屬的大模型知識引擎,把智能助手融入到不同業務場景,提升員工的專業技能與工作效率。

比如在客服場景,知識引擎可以融入到客服系統,讓客服人員更准確、更高效率地解答客戶的問題;在産品營銷場景,知識引擎可以整合到騰訊企點營銷SCRM中,提供更優質的服務,提升客戶轉化率;在人才培訓場景,知識引擎可以結合騰訊樂享知識學習平台,把員工的智慧聚集成企業知識庫,促進內部知識分享和傳播。

最近我們也和中國大熊貓保護研究中心,聯合開展了“AI+大熊貓保護”。廣東工業大學的學生們基于我們的人工智能開發服務平台TI-one,打造出第一個“大熊貓智能行爲識別模型”。可以連續24小時記錄大熊貓進食、喝水等行爲,減輕飼養員大量重複的觀察工作。他們也在探索結合知識引擎,基于監測行爲自動生成分析報表。讓飼養員只要問一下,就知道熊貓今天的飲食情況,並且給出健康提示和飼養建議。

在知識引擎之外,我們的第二大引擎是“圖像創作引擎”,基于騰訊混元的底層模型,實現業界領先的AI圖像生成和編輯能力,支持文生圖、圖生圖等不同需求。調用我們的API接口,可以實現秒級出圖,處理時間遠低于業內平均水平,可以被廣泛應用在營銷、設計等領域。

我們的第三大引擎是“視頻創作引擎”。它基于多模態算法技術,實現了視頻轉譯、視頻風格化、畫布拓展等多種功能。我們可以將一部廣告片生成不同的風格,比如把真人轉爲動畫人物,也可以一鍵調整視頻廣告規格,把豎屏轉爲橫屏,適應不同的投放場景,大大節約了視頻二次制作的成本。

最後是模型的安全合規,保護企業的敏感數據。

安全合規是企業人工智能應用的底線。我們針對AIGC場景,推出了系統化的安全解決方案。

在內容安全方面,大模型生成內容經常會遇到虛假信息、內容侵權、誘導風險、個人隱私泄漏等風險。我們發布了騰訊雲天禦AIGC 內容風控解決方案,結合機器審核、安全專家與版權驗證等能力提供一站式服務,機器處理的准確率達到95%以上。

在數據安全方面,我們推出了大模型安全治理解決方案。通過密鑰管理、堡壘機、API安全監測等工具,在數據的收集與存儲、模型的訓練與應用全流程豎起防火牆,保護企業敏感數據,保障數據收集的安全合規。

最後我想說,大模型的發展方興未艾,我們也將與生態夥伴一起,爲産業場景挖掘新需求,創造新價值。許多行業應用廠商在不同行業深耕多年,服務于業務的核心場景;在集成了混元大模型、TI-One與知識引擎等工具後,可以爲客戶帶來産業升級的新動能,並打開新的創收機會。今天,我們也將推出生成式AI生態計劃,培育大模型賽道專業夥伴,共同推動AI落地千行百業,助力産業高質量發展。

面向智能未來,我們將堅持用技術去解決一個個實際問題,也將堅持以生態開放與行業、夥伴共建一個美好的智能未來。

0 阅读:1

數智前線

簡介:關注數字化、雲計算、智能硬件。