我渴望活下去的意志，超過幾乎所有人想要殺死我的意志。——黃仁勛

“這不是演唱會，你們是來參加開發(fā)者大會的！”今日凌晨4點，黃仁勛出場時，現(xiàn)場爆發(fā)出巨大的歡呼聲。

當?shù)貢r間2024年3月18日，黃仁勛在英偉達 GTC 大會發(fā)表主題演講

“通用計算已經(jīng)失去動力，現(xiàn)在我們需要更大的模型，我們需要更大的 GPU，更需要將 GPU 堆疊在一起”，黃仁勛在英偉達 GTC 大會上說道。大模型參數(shù)量正在呈指數(shù)級增長，此前 OpenAI 最大的模型已經(jīng)有 1.8T 參數(shù)，需要吞吐數(shù)十億 token。即使是一塊 PetaFLOP 級的 GPU，訓練這樣大的模型也需要 1000 年才能完成。

全球的科技公司爭搶 H100 芯片的勢頭于 2023 年年末開始有所減弱，但新一代“強心劑”已來。 英偉達推出新一代的 AI 芯片 “Blackwell”，“這是塊非常非常大的GPU”。英偉達在發(fā)布會上表示，相較于之前的 H100 芯片，GB200 超級芯片可以為大語言模型（LLM）推理負載提供 30 倍的性能提升，并將成本和能耗降低 25 倍。

Blackwell的發(fā)布意味著，近8年來，AI算力增長了一千倍

人們已經(jīng)發(fā)現(xiàn)：將深度學習應用到許多領域的科技公司，幾乎每一個都是在英偉達的平臺上構建的。一位華爾街分析師對此表示：“人工智能領域正在進行一場戰(zhàn)爭，而英偉達是唯一的軍火商”。華爾街的追捧在2023年-2024之間上升到極致。短短八九個月，英偉達的市值從萬億美元飆升到兩萬億美元。目前，英偉達已經(jīng)成為全球市值第三大的公司，僅次于微軟和蘋果。

不過，這家看似新銳的科技公司，已經(jīng)走過了 30 年歷程，幾經(jīng)浮沉。

目前，英偉達的產(chǎn)品仍然處于供不應求狀態(tài)。在此背景下，英偉達毛利率拉至 60% 左右。在連年尋找新技術突破的大額支出之下，任何一家科技公司，想要保持這樣的成績單，都是難能可貴的。

GPU ，英偉達的代名詞

故事要從 20 世紀 90 年代說起。

當時，硅谷已有人提出，可以通過聲卡、網(wǎng)卡這些功能指定的芯片，來降低 CPU（中央處理器）的工作負載。所以同理，做一張專門控制電腦圖像輸出的芯片，即顯卡（Graphic Card），也是自然而然的。例如索尼在 1994 年年底推出的游戲機 PlayStation 就運用了顯卡。

但顯卡的技術路徑，在當時有很多，英偉達找到的切入點是通過并行計算，實現(xiàn) 3D 圖形加速，特別在游戲領域上進行應用。

1999 年，英偉達推出了一款名為 GeForce 的顯卡。

這款被冠以“全球首款 GPU”的圖形處理器，采用了 220 納米制造工藝，如今英偉達 H100 所使用的制造工藝已到了 4 納米。

GeForce 最大的亮點是“并行計算”，即把一個復雜的任務拆分成小計算，然后同時處理它們。這與中央處理器 CPU（central processing unit）有著顯著不同，在標準的計算機架構中，CPU 一次能處理一個問題。如果說把通用的 CPU 比作一輛貨車，一次運送一個大包裹到一個目的地；那么 GeForce 則像是在一組摩托車車隊，可以同時運送多個小包裹到多個目的地。

彼時，研究 GPU 的公司，不只英偉達一家，但英偉達成功做到了將自己與“GPU 發(fā)明者”這個標簽深度綁定。

當時，英偉達市場營銷負責人 Dan Vivoli 用 “graphics processing unit”（圖形處理器）的概念來推廣自家的芯片。相比英特爾靠 CPU 來叱咤芯片市場，英偉達需要營銷 GPU 來為自己殺出一條血路。只是 Dan Vivoli 認為，英偉達強調(diào)自己的 GPU 發(fā)明者的身份后，“我們能成為行業(yè)領導者”，他完全沒有想到，GPU 將在很長一段時間內(nèi)成為英偉達的代名詞，并且在十多年后，成功掀起人工智能行業(yè)的風暴。

英偉達死磕“晦澀角落”

時間回到 1999 年，GeForce 顯卡很受市場歡迎。當時有一款名為 Quake 的視頻游戲，就是應用這款顯卡通過并行計算渲染畫面——用榴彈射擊怪物。PC 玩家為了贏得游戲，升級時都會購買新的 GeForce 顯卡。

后來，英偉達啟動超級計算平臺 CUDA的開發(fā)。黃仁勛希望，CUDA 能在每一張 GeForce 顯卡運行。CUDA 最終于 2006 年發(fā)布，但在當時，英偉達完全沒有打動世界，“人們仿佛完全不需要它”，反而因為打造領先于時代的“超級計算”系統(tǒng)，英偉達的利潤受到大幅削減，華爾街為此噓聲一片。

一檔風靡硅谷的熱門播客《Acquired》的主持人 Ben Gilbert 對此評價：“他們當時瞄準的不是一個大市場，而是一個學術和科學計算的晦澀角落，但他們?yōu)榇嘶藬?shù)十億美元”。

到 2008 年底，疊加金融危機影響，英偉達股價已下跌 7 成。

來自外界的聲音并未太過影響黃仁勛。剛轉(zhuǎn)學到美國時，黃仁勛進入了一所“特殊學校”，“每個學生都抽煙，我覺得我是學校里唯一沒有口袋刀的男孩”，校園霸凌也很普遍，黃仁勛每天都會被叫做中國佬。這段經(jīng)歷教會了黃仁勛在復雜、多變環(huán)境中如何尋求資源、“存活”下來：“沒有心理輔導員可以傾訴，你只能變得堅強，然后繼續(xù)前行”。彼時，黃仁勛通過教數(shù)學、帶著同學們樹林探險等方式跟當?shù)氐耐瑢W打成了一片。

況且，黃仁勛仍然對 CUDA 充滿信心。他曾分享了這樣一段故事：臺灣大學物理教授 Ting-Wai Chiu 的辦公室地板上，堆滿了 GeForce 盒子，辦公室開著普通風扇對其進行冷卻——Ting-Wai Chiu 為了模擬大爆炸后物質(zhì)的演化，依靠 GeForce 和 CUDA，建立了一個自制的超級計算機。

但是，像 Ting-Wai Chiu 這樣的人并不是大多數(shù)，CUDA 的下載量在 2009 年達到峰值后，連續(xù)三年下降。董事會擔心英偉達持續(xù)低迷的股價，會給激進的股東分裂公司的機會。

那么，推廣 CUDA 成為眼下必須做的事。

英偉達首先選擇了高校路線——從全球頂級研究機構和大學合作，用 CUDA 賦能科研，“從下一代進行普及和培養(yǎng)”。時至今日，在硅谷的普通聚會上，你能發(fā)現(xiàn)：許多剛畢業(yè)于美國高校、供職于大型科技公司的工程師們都學過 CUDA。

此外，英偉達還嘗試在各行各業(yè)中尋找 CUDA 的應用場景，他們嘗試在股票交易、石油勘探、分子生物等領域有所作為。甚至為推廣 CUDA，英偉達還與通用磨坊 （General Mills）簽訂協(xié)議，模擬冷凍披薩的熱物理學過程。

不過，英偉達并未在人工智能領域考慮太多，當時似乎市場需求不大。

游戲顯卡商成 AI 軍火商

那么問題來了，為什么負責提升游戲畫質(zhì)的顯卡，會突然成為 AI 行業(yè)的重要基礎硬件？要知道，直到 2022 財年，游戲都是英偉達無可置疑的第一大業(yè)務。

我們依然要將故事時間回撥，回到二十一世紀初。彼時，人工智能還是一個邊緣學科。該學科在圖像識別和語音識別方面有所進展，但也時斷時續(xù)。

在當時，“神經(jīng)網(wǎng)絡”（一種受人腦結(jié)構啟發(fā)來解決問題的計算結(jié)構）普遍被認為是過時的、不起作用的。但仍有一些研究團隊在這一領域嘗試，多倫多大學的教授 Geoffrey Hinton 就是其中之一。

2009 年，Hinton 的團隊利用英偉達的 CUDA 平臺訓練了一個神經(jīng)網(wǎng)絡模型，用來識別人類語音，結(jié)果出奇的好。他在同年晚些的一次會議上展示了這些成果，然后 Hinton 發(fā)了一封郵件聯(lián)系英偉達，“看，我剛剛告訴一千名機器學習研究人員他們應該去買英偉達的卡。你們能免費給我寄一張嗎？”，英偉達的回答是“不行”。

不過即便沒有要到免費的顯卡，Hinton 還是鼓勵學生使用 CUDA。2012 年，他的學生 Alex Krizhevsky 和 Ilya Sutskever（后者是 OpenAI 的創(chuàng)始人之一），開始在英偉達的 CUDA 平臺上訓練一個視覺識別神經(jīng)網(wǎng)絡。因為預算有限，他們只在亞馬遜上買了兩張 GeForce 卡。短短一周，Alex 就向其投喂了數(shù)百萬張圖像。“他的臥室里兩個 GPU 飛速運轉(zhuǎn)”，Hinton 說，“實際上，他父母支付了相當可觀的電費”。

Krizhevsky 和 Sutskever 對這些顯卡的能力感到吃驚。在同年早些時候，谷歌的研究人員訓練了一個識別貓視頻的神經(jīng)網(wǎng)絡，這需要大約一萬六千個 CPU。Krizhevsky 和 Sutskever 只用了兩張 GeForce 卡就取得了世界級的成果。Sutskever 對此表示：“GPU 的出現(xiàn)，就像奇跡”。

Krizhevsky 和 Sutskever 將他們訓練出的神經(jīng)網(wǎng)絡命名為 AlexNet。這一模型在年度 ImageNet 視覺識別競賽中大放異彩，以至于比賽組織方懷疑是否存在作弊行為。

這是一個偉大時刻，范式轉(zhuǎn)變了。Krizhevsky 在其對 AlexNet 架構的 9 頁描述中指出：與 CPU 比，專用的 GPU 可以將神經(jīng)網(wǎng)絡的訓練速度提高 100 倍。

至此，黃仁勛完全調(diào)轉(zhuǎn)了公司方向。2023年的一篇文章透露，他在一個周五晚上發(fā)送郵件，稱“一切都將轉(zhuǎn)向深度學習，我們不再是一家圖形公司”，到下周一早上，英偉達已經(jīng)成了一家名副其實的人工智能公司。

與此同時，黃仁勛找到英偉達最優(yōu)秀的 AI 研究員 Catanzaro，讓其想象現(xiàn)在英偉達的八千員工全數(shù)在停車場， Catanzaro 可以挑任何人加入自己的團隊。

后來，人工智能領域開始涌入風投資金。人們很快發(fā)現(xiàn)：將深度學習應用到許多領域的初創(chuàng)公司，幾乎每一個都是在英偉達的平臺上構建的。

2016 年，英偉達向 OpenAI 的一個研究小組交付了第一臺專用的人工智能超級計算機 DGX-1。黃仁勛本人親自將這臺計算機送到了 OpenAI 的辦公室，當時的董事長埃隆·馬斯克用開箱刀打開了包裹。

英偉達向 OpenAI 交付了第一臺專用的人工智能超級計算機。

而后，OpenAI 通過英偉達的超級計算機訓練出了風靡全球的 ChatGPT。英偉達后續(xù)更新的硬件產(chǎn)品 DGX H100 遭到市場瘋搶，供不應求。

從芯片供應商到平臺供應商

今天凌晨的這場發(fā)布會上，黃仁勛還有一句話值得留意：“Blackwell 不僅是一款芯片，也是一個平臺的名稱。”

如何理解平臺這個詞？類似于之前 Geforce 顯卡和 CUDA 超級計算平臺的搭配，英偉達在此次推出的也是一整個打包方案，英偉達逐漸轉(zhuǎn)型成類似微軟或蘋果的平臺提供商，其他公司可以在這個平臺上構建軟件。

黃仁勛在發(fā)布會上，用了相當多的時間，介紹了英偉達提供的若干個企業(yè)級生成式 AI 微服務，并表示“公司們可以借助這些服務制作應用程序，而且擁有其知識產(chǎn)權的完全所有權和控制權”。

而英偉達從芯片供應商轉(zhuǎn)向平臺供應商的背后，其實和英偉達的競爭對手有關，甚至許多舊日客戶也變成了對手。

首先，一些人工智能平臺如微軟、谷歌、Meta 等，出于規(guī)模和成本的考慮，正在考慮自己開發(fā)芯片。例如谷歌研發(fā)的 TPU 已經(jīng)更新到第五代，這款芯片為機器學習量身定制，其推理性能提升 2.5 倍，成本降低 50%。

再比如微軟于 2013 年 11 月推出兩款芯片（Azure Maia 100 人工智能加速器和 Azure Cobalt 100 中央處理器），針對人工智能、生成式人工智能和云計算進行了優(yōu)化，將在人工智能圖形處理部分與英偉達直接競爭。

而這些公司，正是英偉達一直以來的主要 GPU 芯片客戶。

其次，一些英偉達的老對手也在發(fā)力 AI 芯片。 AMD 于 2023 年 12 月，推出 AI 芯片 MI300X，正式與英偉達叫板。與英偉達的 H100 相比，這款芯片在多個維度有 1.3 倍甚至 2 倍的數(shù)據(jù)提升，Meta、微軟、甲骨文等公司也已下單。

除了老對手外，由于美國政府的技術出口禁令，促使中國在人工智能芯片方面走向自力更生，華為已成為英偉達又一個值得注意的對手。在英偉達最新的年報里，這樣描述了它眼中的競爭對手。

眼下，黃仁勛已經(jīng)成為硅谷任職時間最長的 CEO 之一，30 歲創(chuàng)立英偉達，30 年創(chuàng)業(yè)歷程，他要么為“食物”奔走，要么想辦法不被吃掉。

他也不知道自己還能再干多久。黃仁勛選擇用一個戲謔的笑話結(jié)束了這個問題：

“可能 30 年后，我變成了機器人，那我還能繼續(xù) 30 年”。