觀點

阮穎嫻

阮穎嫻:增算力硬體非上限 人類創新無上限

【明報文章】中國AI(人工智能)企業DeepSeek最新語言模型R1橫空出世。據報DeepSeek模型表現媲美OpenAI o1模型,但訓練成本極低,僅花了不足600萬美元及兩個月訓練,而且只用了約2000張英偉達(Nvidia)次一等的H800圖形處理器(GPU)。

由於DeepSeek開發成本遠低於一眾美國龍頭科技界巨企的同類模型(如ChatGPT),DeepSeek問世後立即引發一場小股災,英偉達股價一日跌17%,市值蒸發6000億美元,打破美國紀錄。同時,社會人士熱烈討論中國AI技術是否已追及美國、中國是否已突破美國的晶片封鎖等。

友人是英偉達大戶,吃了一大棍,稱「DeepSeek gets me in deep sh*t」。及後幾天大家開始質疑,這樣低成本是否「吹大咗」?有這樣的科技是會令英偉達晶片用多還是用少?股市隨後幾天爭持不下,反映市場對科技進展的看法。

事情峰迴路轉——本文執筆之時,OpenAI指控DeepSeek從ChatGPT模型中偷取數據;又有指DeepSeek報細數,其實用了不少英偉達高階GPU,但由於違反美國禁令不便明言。這些爭議未有定論,雖然如此,DeepSeek從其發表的技術論文闡述它的演算法(algorithm)創新,並稱這些創新大大提升了訓練效果。以下討論假設這一點至少部分成立。

摩爾定律或不能維持

訓練大型語言模型,需大量算力。美國科技巨企花費大量金錢購買最先進晶片,來提升這些模型的效能。事實上,上半世紀一個推進經濟發展的重要力量是摩爾定律(Moore's law)。摩爾定律指一個尺寸相同的晶片上所容納的電晶體(transistor)數量,因製程技術提升,每18至24個月會加倍;當晶片效能因此提高,愈趨強大的算力同時提高生產力,推動經濟增長。

這個觀察雖在1970至2010年大致準確,但愈來愈多人認為摩爾定律在未來不能維持。物質始終受物理限制,當晶片製程以納米計,不知能有多大進步空間。更重要是經濟學上的邊際回報遞減——雖然晶片性能約兩年就會增倍,但研發資源的投入遠不止翻倍。有研究指出,如今要實現摩爾定律中的晶片密度翻倍,所需的研究人員數量,比1970年代所需的數量多18倍以上。

換句話說,要研發更高階晶片的科研人員和資金投入,將以幾何級數上升,無人畀得起這龐大的人力物力。或者說,這樣的投資並不划算。

DeepSeek似預示科技發展新道路

那麼,算力的進步以至生產力的提升,會否戛然而止?DeepSeek問世,似乎預示一條新道路:即使硬件和半導體技術發展有局限,軟件、演算法和硬體架構仍有進步空間。DeepSeek展示的是在有限的硬件限制下,如何通過提升運算法來提高語言模型效能。

中國是否已突破美國的高科技封鎖?從某種意義來看,DeepSeek另闢蹊徑令語言模型效能提升、生產力提高。惟美國對華的晶片出口限制,仍抑制中國科技企業算力。同時,美國科技巨企也能研發出有效率的演算法;加上高階晶片,如虎添翼。另一方面,中國科技企業長遠要與美企匹敵,似乎無可避免要在半導體技術上取得突破。

不久前我在〈戰略資源找替代 「偷晶」還是「出晶」難?〉(2025年1月7日《明報》)提到,二戰時盟軍轟炸德國的滾珠軸承(ball bearings)生產線,試圖透過摧毁德國戰略資源,令其無法生產軍備,迫使德軍投降。但事與願違,德國調撥其他工人生產,或用其他部件替代,得以維持其軍備生產。我當時斷言美國對華禁運晶片的「卡脖子」策略並不容易奏效。

話口未完,DeepSeek問世,在晶片資源缺乏時激發出演算法的創新,正好說明替代(substitution)的重要。

漫漫歷史長河,人類經常面對資源匱乏。18世紀英國人口學家馬爾薩斯(Thomas Malthus)提出,人口呈指數級(exponential)增長,而糧食供應和其他資源則呈線性增長,所以大量人口會因糧食增長速度跟不上人口增長速度而死。又例如20世紀不時有人提出「石油峰值論」(peak oil theory),認為石油產量會在短期內到達頂峰,隨後產量會下降,並逐漸枯竭,造成能源危機,這一理論在1970年代石油危機時盛行。

上述兩個危機都沒有大規模發生,石油價格在1970年代尾飈升至每桶40美元後,到1980年代中期回落至20美元以下,並在1990年代維持。

人類的終極資源

經濟學者Julian Simon在The Ultimate Resource裏探討資源、人口增長與經濟發展的關係,他認為自然資源並非有限,因人類創造力能夠不斷發現新資源、提高效率並開發替代品。隨着技術進步,資源供應實際上在增加,其關鍵在於市場價格在調節資源供需中的作用。資源稀缺時,價格上漲會激勵人們尋找替代品或提高使用效率,從而緩解短缺。例如油砂煉油雖然成本貴,但石油價格高企時就有經濟價值;能源昂貴亦激發再生能源的研發及進步。當解決資源短缺,人類的創新使知識得以累積,經濟得以發達,社會得以繁榮,而人類生活水平得以提升。

與馬爾薩斯相反,Julian Simon認為人口增長意味着更多創新者,能推動技術進步和資源利用效率的提升。人類的終極資源不是自然資源,而是人的創新和智慧。

參考資料:

(1)Nicholas Bloom, Charles I. Jones, John Van Reenen and Michael Webb (2020) "Are Ideas Getting Harder to Find?" American Economic Review. 110(4): 1104-1144.

(2)Charles E. Leiserson et al. ,There's plenty of room at the Top: What will drive computer performance after Moore's law? Science, 368 (2020).

(3)Julian Lincoln Simon (1983) The Ultimate Resource. Princeton University Press.

作者是香港大學經管學院講師

(本網發表的時事文章若提出批評,旨在指出相關制度、政策或措施存在錯誤或缺點,目的是促使矯正或消除這些錯誤或缺點,循合法途徑予以改善,絕無意圖煽動他人對政府或其他社群產生憎恨、不滿或敵意)

[阮穎嫻]

上 / 下一篇新聞