李彥宏:大模型開源意義並不大

科技有新沸點 2024-04-14 11:17:22

最近,百度創始人、CEO李彥宏發表了一個內部講話,討論大模型開源的價值和意義。

百度布局中文大模型比較早,但他們並沒有選擇開源路線,李彥宏認爲:第一,市場開源的大模型不止一家,不缺百度這一家;第二,閉源模型在能力上會持續領先,而不是一時領先;第三,大模型開源不能等同于軟件開源的價值,閉源才會有真正的商業模式。

那麽,你同意大模型開源,還是閉源?

以下是李彥宏講話的主要內容:

爲什麽不開源?

一年前文心剛剛發布的時候,我們內部是有過非常激烈的討論的,最後當然大家也知道這個結果,我們的決定是不開源。爲什麽不開源?當時的判斷是,市場上一定會有開源的模型,而且是不止一家會開源。在這種情況下,多百度一家開源不多,少百度一家開源也不少。

我們今天看主流的開源模型:像Llama,Mistral其實都是有相當影響力的,國內的智源、百川、阿裏的通義也都是開源的,這個市場上不缺我們這一家開源的模型。我們要開源還得自己去維護一套開源的版本,這是不劃算的。

更重要的是,在我們的認知裏,閉源模型在能力上會持續地領先,而不是一時地領先。爲什麽會有這個判斷?

因爲我們覺得模型開源的意義其實不是很大,這些開源模型都是在外頭零零散散小規模地去做各種各樣的驗證應用,它沒有經過大算力的驗證。

而且模型開源也不是一個衆人拾柴火焰高的情況。這跟傳統的軟件開源一比如Linux、安卓等等很不一樣,由于是模型帶來的開源,我們也不知道參數爲什麽變成了那個樣子,這種情況下很難實現衆人拾柴火焰高。雖然Llama也鼓勵大家去貢獻各種各樣的數據、代碼,但是實際上大家明白最主要的開發者就是Meta這些人,它並不是一個真正由大家一起來協同開發的産品。

反觀閉源,是有真正的商業模式的,是能夠賺到錢的,能夠賺到錢才能聚集算力、聚集人才。其實也很簡單,大家比較一下,比如硅谷有一個優秀的人才,他有OpenAI的offer,有Meta的offer,有Llama的offer,他會去哪兒?這是非常顯而易見的選擇。

大家以爲開源是免費的,在成本上有優勢,實際上我們認爲也不是,閉源在成本上反而是有優勢的。只要是同等能力,閉源模型的推理成本一定是更低的,響應速度一定是更快的。反過來,同等參數的情況下,閉源模型的能力也是更強的。今天不管是在中國也好、在美國也好,最強的基礎模型都是閉源的,而各種各樣的小模型、最好的小模型,都是通過大模型蒸餾來的。通過大模型降維做出來的模型就是更好的,這樣也會導致閉源在成本上、在效率上也會有優勢。

創業者爲啥可以依賴文心

首先,外界一些做模型的創業公司講的所謂的“雙輪驅動”不是一個好的模式。既做模型又做應用,勢必會分散精力。創業公司的精力和資源都是有限的,同時做兩件事情和只做一件事情哪個成功率更高是不言自明的。在任何情況下我們都非常講專注力,“力出一孔”,當資源有限的時候更應該專注,而不是去搞所謂的“雙輪驅動”。

第二,對于AI創業者來說,核心競爭力本就不應該是模型本身,這太耗資源了,而且需要非常長時間的堅持才能跑出來。

創業者真正的優勢應該是在某一個領域的知識、數據。假如說你今天想找一個“黃色的無兜的男士泳褲”,你在任何一個今天的電商平台上都找不到,這種需求目前的技術是解決不了的,大模型如果有領域知識就可以解決,這就是靠領域知識能夠提供獨特價值的例子。

市面上有這麽多模型,大的、小的、開源的、閉源的,在特定應用當中怎麽樣使用這些模型的組合,是有技巧的,這是創業者可以幹的事兒,是可以提供價值增益的。

外界擔心如果用了文心或者閉源模型,做得好了它就抄你,就把你的飯吃掉了,實際上這種擔心也是沒有任何道理的。

大家去看一看,在移動時代,微信沒有去吃掉拼多多,滴滴也沒有變成騰訊的一部分,它們都各自提供了自己獨特的價值,有自己非常不一樣的競爭力,它們的興起都是依賴移動生態裏的一個封閉平台——微信,但是它們並不怕微信去搶它的飯碗,所以沒有必要擔心基礎模型通吃AI的應用。

當然更根本的就是文心的功能是最強的,性價比是最好的,我們會持續不斷地投入,有了這一點,所有其他的東西才能夠成立。(完)

0 阅读:0
评论列表
  • 2024-04-14 12:51

    誰說意義?中國人工智能如何起家?難道不是開源造就的

  • 2024-04-14 11:18

    發現被人騙了轉彎了哇。[捂臉哭],反正上次騙到的錢花的差不多了,要推下一個熱點了。

  • 2024-04-14 14:01

    百度典型的趕個早集,上個晚班 去年別人問他的大模型有什麽優勢 他說他們最大的優勢就是開始收費了 ,一度讓提問者摸不著頭腦這是什麽優勢

  • 2024-04-14 14:18

    就占了一個先發優勢,什麽都幹不過啊

  • 2024-04-14 14:28

    之前他還說過人工智能太遙遠,不知道這貨怎麽創業成功的[捂臉哭]

  • 2024-04-14 12:49

    富豪,有別于企業家和開拓者。[doge][doge][doge]

  • 2024-04-14 14:28

    搞技術這方面,李彥宏有話語權,這麽說有一定道理

  • 2024-04-14 13:06

    百度這麽好的資源搞出來個什麽大模型

  • 2024-04-14 13:59

    好像什麽都沒有搞出來

  • 2024-04-14 13:27

    我覺得開源搞一堆,沒啥用,閉源做好産品就行了

  • 2024-04-14 11:52

    李彥宏高考成績怎麽樣,什麽大學畢業的。

  • 2024-04-14 14:27

    不開源有兩種可能,一是怕人家抄,二是怕人家笑,百度是啥?

  • 2024-04-14 13:54

    開源質量把控不好,李彥宏專業的,看問題肯定比我們長遠

  • 2024-04-14 11:21

    實力能力差, 還各自自私,各自圈地保護,的不開源!不團結!無互扶持 一致對外的大格局!

  • 2024-04-14 11:43

    沒有谷歌出去了,百度還這麽悠閑嗎6

  • 2024-04-14 13:50

    還是加速發展吧,閉源有好處

科技有新沸點

簡介:感謝大家的關注