4月8日，騰訊雲宣布雲存儲解決方案面向AIGC場景全面升級，能夠針對AI大模型數據采集清洗、訓練、推理、數據治理全流程提供全面、高效的雲存儲支持。數據顯示，采用騰訊雲AIGC雲存儲解決方案，可將大模型的數據清洗和訓練效率均提升一倍，需要的時間縮短一半。

據介紹，騰訊雲AIGC雲存儲解決方案主要由對象存儲COS、高性能並行文件存儲CFS Turbo、數據加速器GooseFS和數據萬象CI等産品組成，是國內首個實現存儲引擎全面自研的雲存儲解決方案。目前，已經有80%的頭部大模型企業選擇了騰訊雲AIGC雲存儲解決方案，包括百川智能、智譜、元象等明星大模型企業。

今年1月，在沙利文聯合頭豹研究院發布的《2023年中國雲存儲解決方案市場報告》中，騰訊雲存儲入選“領導者”陣營，位列第一。

此前，騰訊雲已經面向AIGC場景推出了基于星脈網絡的大模型訓練集群HCC、向量數據庫、以及行業大模型服務MaaS等大模型全鏈路雲服務。

騰訊集團副總裁、騰訊雲與智慧産業事業群COO兼騰訊雲總裁邱躍鵬曾經表示，大模型將開創下一代雲服務，騰訊雲致力于打造“最適合大模型的雲”。

01

解決大模型全鏈路數據處理難題

AI大模型的研發生産流程，分成數據采集與清洗、模型訓練、推理三大環節，各環節都涉及海量的數據處理。

在數據采集與清洗環節，由于原始訓練數據規模海量，且來源多樣，對存儲技術提出了多協議支持、高性能、大帶寬的需求。

騰訊雲對象存儲COS支持單集群管理百 EB 級別存儲規模，提供便捷、高效的數據公網接入能力，並支持多種協議，充分支持大模型PB級別的海量數據采集。在數據清洗環節，大數據引擎需要快速地讀取並過濾出有效數據，COS通過自研數據加速器GooseFS提升數據訪問性能，可實現高達數TBps的讀取帶寬，支撐計算高速運行，大大提升數據清洗效率。

在模型訓練環節，通常需要每2-4小時保存一次訓練成果，以便能在GPU故障時時能回滾，因此快速地讀寫checkpoint（檢查點）文件也成了能否高效利用算力資源、提高訓練效率的關鍵。

騰訊雲自主研發並行文件存儲CFS Turbo ，面向AIGC訓練場景的進行了專門優化，每秒總讀寫吞吐達到TiB/s級別，每秒元數據性能高達百萬OPS，均爲業界第一。3TB checkpoint 寫入時間從10分鍾，縮短至10秒內，使大模型訓練效率大幅提升。

大模型推理場景對數據安全與可追溯性提出更高要求。騰訊雲數據萬象CI爲此提供圖片隱式水印、AIGC內容審核、智能數據檢索MetaInsight等能力，爲數據生産從“用戶輸入——預處理——內容審核——版權保護——安全分發——信息檢索“業務全流程提供有力支撐，優化AIGC內容生産與管理模式，順應監管導向，拓寬存儲邊界。

同時，隨著訓練數據和推理數據的增長，需要提供低成本的存儲能力，減少存儲開銷。對象存儲服務提供了高達12個9的數據持久性和 99.995% 的數據可用性，能夠爲業務提供持續可用的存儲服務。

02

業內唯一全自研存儲引擎

騰訊雲自主研發的存儲引擎與自研技術。這也是國內目前唯一實現存儲引擎全面自研的雲存儲解決方案。

騰訊雲自研的分布式對象存儲引擎YottaStore，支持任意多副本及糾刪碼冗余模式並存，在大幅提升可用性、可靠性及性能的同時大幅降低成本。基于YottaStore，騰訊雲對象存儲服務COS作爲統一的數據存儲池，支持單集群1萬台服務器，單集群百EB級的存儲。

在數據清洗環節中，數據加速器GooseFS可根據數據的使用頻率，將數據智能存儲至內存、計算集群的本地盤、或可用區的全閃存儲集群等不同級別的緩存中，低成本縮短IO路徑，提升數據訪問性能。相比起從對象存儲COS中直接讀取，GooseFS可以提供亞毫秒級的數據訪問延遲、百萬級的IOPS和Tbps級別的吞吐能力，有效提升數據清洗效率。

面向模型訓練場景的CFS Turbo，則是目前業內唯一自研的並行文件存儲系統。

基于自研分布式高性能存儲引擎Histor，CFS Turbo底層通過自研用戶態協議棧和RDMA等技術，減少數據的多次拷貝與虛擬化消耗，大幅降低了存儲時延、提升吞吐性能；在應用側，CFS Turbo自研並行文件傳輸協議，實現了多鏈路並行訪問，大大提升了吞吐效率。原來的文件存儲受限于傳統NFS協議，單客戶端只能單鏈路訪問，也導致吞吐存在性能瓶頸。

此外，針對AIGC的checkpoint記錄、大視頻文件讀寫、小圖片讀寫等場景，騰訊雲CFS Turbo還自研了分級緩存、自適應條帶化、分布式元數據的技術，大幅提升了AIGC場景下的讀寫性能。除了大模型企業以外，CFS Turbo也被廣泛應用于自動駕駛與工業仿真場景，包括博世汽車、蔚來等自動駕駛廠商，上海電氣、深勢等仿真場景，墨鏡天合、追光等影視特效場景。