讓大模型不再「巨無霸」,大模型新貴還是繞不過雲計算大佬

玩數據還有點懶 2024-04-29 09:20:19

近期,大語言模型、文生圖模型等大規模 AI 模型迅猛發展。在這種形勢下,如何適應瞬息萬變的需求,快速適配大模型至各類下遊任務,成爲了一個重要的挑戰。受限于計算資源,傳統的全參數微調方法可能會顯得力不從心,因此需要探索更高效的微調策略。上述挑戰催生了參數高效微調(PEFT)技術在近期的快速發展。

中國首個Sora級視頻大模型Vidu重磅發布

早在2023年3月,基于U-ViT架構,該團隊在開源的大規模圖文數據集LAION-5B上就訓練了10億參數量的多模態模型——UniDiffuser,並將其開源,率先完成了U-ViT架構的大規模可擴展性驗證。

Vidu也複用了生數科技在圖文任務的很多經驗,包括訓練加速、並行化訓練、低顯存訓練等等,從而快速跑通了訓練流程。

據悉,他們通過視頻數據壓縮技術降低輸入數據的序列維度,同時采用自研的分布式訓練框架,在保證計算精度的同時,通信效率提升1倍,顯存開銷降低80%,訓練速度累計提升40倍。

從圖任務的統一到融合視頻能力,Vidu可被視爲一款通用視覺模型,能夠支持生成更加多樣化、更長時長的視頻內容。

作爲自Sora發布之後全球率先取得重大突破的視頻大模型,Vidu性能全面對標國際頂尖水平,並在加速叠代提升中。未來,Vidu靈活的模型架構將能夠兼容更廣泛的多模態能力。

雲服務支撐大模型的必要性

在大模型技術迅速叠代的背景下,AWS強調雲服務不僅要支撐大模型,更要對最終的業務效果負責。Amazon Bedrock通過端到端的服務,打造了一個對客戶業務效果負責的平台。

Amazon Bedrock的新特性包括新增的模型版本、文本嵌入、模型評估工具、圖像生成器和自定義模型導入功能。這些特性爲客戶提供了更多的選擇和更低的成本,同時也簡化了模型的調試和應用。隨著AI技術的廣泛應用,安全性和合規性成爲了客戶關注的重點。Amazon Bedrock的Guardrails功能,幫助客戶防止有害內容並管理應用程序內的敏感信息。

AWS生態系統的AI融合AWS沒有選擇單一地做大模型,而是將AI技術融入到其龐大的生態系統中,使得客戶能夠自由構建生成式AI應用,而無需關注複雜的機器學習或底層基礎設施。

Amazon Bedrock的推出和更新,不僅增強了AWS在AI服務領域的競爭力,也推動了整個雲計算行業的創新和發展。它爲模型公司提供了一個公平的起點,讓客戶能夠體驗和比較不同的模型。AWS在雲計算和AI領域堅持其第一性原理,即提供最小單元化的IT基礎設施,讓開發者自由選擇與組合。這種理念在Amazon Bedrock的推出和叠代中得到了充分體現。

隨著AI技術的不斷進步和應用,雲計算行業的競爭將更加激烈。AWS通過Amazon Bedrock展現了其在AI服務領域的實力和決心。未來,AWS將如何繼續引領雲計算和AI技術的創新,值得我們持續關注。

免責聲明:

1、本號不對發布的任何信息的可用性、准確性、時效性、有效性或完整性作出聲明或保證,並在此聲明不承擔信息可能産生的任何責任、任何後果。

2、 本號非商業、非營利性,轉載的內容並不代表贊同其觀點和對其真實性負責,也無意構成任何其他引導。本號不對轉載或發布的任何信息存在的不准確或錯誤,負任何直接或間接責任。

3、本號部分資料、素材、文字、圖片等來源于互聯網,所有轉載都已經注明來源出處。如果您發現有侵犯您的知識産權以及個人合法權益的作品,請與我們取得聯系,我們會及時修改或刪除。

0 阅读:1

玩數據還有點懶

簡介:感謝大家的關注