現(xiàn)在，全世界都在關(guān)注 Nvidia在市場上的主導(dǎo)地位，但更深入地研究這一點很重要。Nvidia 顯然是訓(xùn)練芯片市場的領(lǐng)導(dǎo)者，但這只占 AI 芯片需求的 10% 到 20% 左右。推理芯片有一個相當(dāng)大的市場，它可以解釋經(jīng)過訓(xùn)練的模型并響應(yīng)用戶查詢。這個細(xì)分市場要大得多，沒有任何一個實體，甚至 Nvidia 都無法鎖定這個市場。

此外，我們需要打破市場。用戶將需要在邊緣和云環(huán)境中進(jìn)行推理處理。云推理將視數(shù)據(jù)中心需求而定。今天數(shù)據(jù)中心半導(dǎo)體的總市場約為 500 億美元（不包括內(nèi)存，不可否認(rèn)這是一個重要的排除）。這個推理市場不僅很大，而且相當(dāng)分散。

考慮到大量人工智能工作是在 GPU 上進(jìn)行的，英偉達(dá)可以說已經(jīng)在其中占有很大份額，而且可能是最大的。AMD 也瞄準(zhǔn)了這個市場，但他們遠(yuǎn)遠(yuǎn)落后于 Nvidia。此外，這是一個超大規(guī)模應(yīng)用程序使用大量專有芯片的領(lǐng)域——AWS 在 Inferentia 上和谷歌在 TPU 上，僅舉幾例。值得注意的是，大部分工作仍在 CPU 上執(zhí)行，尤其是在高端 GPU 供不應(yīng)求的情況下。在可預(yù)見的未來，這部分市場預(yù)計將保持高度競爭。與 AMD 一樣，這是所有其他 CPU、GPU 和加速器供應(yīng)商將通過健康的產(chǎn)品組合競爭的市場。

這給我們帶來了另一個重要機會——邊緣推理。“邊緣”一詞經(jīng)常被誤用，但出于我們的目的，我們主要指的是最終用戶手中的任何設(shè)備。今天，這主要包括手機和個人電腦，但正在擴展到相機、機器人、工業(yè)系統(tǒng)和汽車等其他領(lǐng)域。預(yù)測這個市場的規(guī)模具有挑戰(zhàn)性。除了擴大使用范圍之外，這些設(shè)備的大部分硅片可能會被捆綁到執(zhí)行這些設(shè)備所有功能的片上系統(tǒng) (SoC) 中。

iPhone 就是一個典型的例子，它在其 A 系列處理器中將大量芯片區(qū)域?qū)Ｓ糜?AI 內(nèi)核。根據(jù)一些指標(biāo)，人工智能內(nèi)容已經(jīng)占據(jù)了 A 系列芯片的 20%，當(dāng)我們承認(rèn)剩下的 80% 必須在手機上運行所有其他功能時，這是相當(dāng)可觀的。許多其他公司也在采用 SoC AI 策略。

AI 領(lǐng)域的一個普遍問題是運行最新的大型語言模型 (LLM)（如GPT和Stable Diffusion）所需的計算能力。人們對在盡可能輕的計算足跡上運行這些模型非常感興趣，并且開源社區(qū)在相對較短的時間內(nèi)取得了顯著進(jìn)步。

這意味著邊緣推理市場可能仍將高度分散。一種務(wù)實的方法是假設(shè)對于現(xiàn)有類別，如手機和個人電腦，人工智能芯片將由已經(jīng)為這些設(shè)備提供芯片的公司提供，例如高通和英特爾/AMD。

如前所述，目前很難獲得對 AI 硅市場規(guī)模的可靠預(yù)測。圍繞LLM 和其他模型在實際工作中的實際使用的模糊性無助于這種情況。然后是關(guān)于計算什么以及如何計算的問題。例如，如果一個超大規(guī)模企業(yè)購買了數(shù)十萬個 CPU，這些 CPU 將運行神經(jīng)網(wǎng)絡(luò)和傳統(tǒng)工作負(fù)載，或者如果有人在他們的 SoC 中添加了幾十平方毫米的 AI 塊，我們?nèi)绾斡嬎氵@些？目前，我們的粗略估計表明，人工智能芯片市場將包括約 15% 的訓(xùn)練、45% 的數(shù)據(jù)中心推理和 40% 的邊緣推理。

這對任何考慮進(jìn)入該市場的人都具有重大意義。在可預(yù)見的未來，Nvidia 將保持對訓(xùn)練市場的控制。數(shù)據(jù)中心推理市場看起來很有吸引力，但已經(jīng)包括了無數(shù)公司，包括 Nvidia、AMD 和英特爾等巨頭，以及來自客戶的 Roll-Your-Own 內(nèi)部自研芯片。邊緣推理很可能由現(xiàn)有的傳統(tǒng)硅供應(yīng)商主導(dǎo)，所有這些供應(yīng)商都在大力投資支持 transformers和 LLM。那么，新進(jìn)入者有哪些機會？我們基本上可以看到四個選項：

1、向其中一家 SoC 供應(yīng)商提供 IP 或小芯片。這種方法的優(yōu)點是資本要求相對較低；讓您的客戶處理向 TSMC 付款。有大量客戶旨在構(gòu)建 SoC。雖然許多人可能希望在內(nèi)部處理所有事情，但許多人可能會在必要時選擇協(xié)助。

2、建立一個大的（非常大的）戰(zhàn)爭基金并追逐數(shù)據(jù)中心市場。由于多種原因，這是一項具有挑戰(zhàn)性的工作，尤其是因為客戶數(shù)量有限，但潛在的回報是巨大的。

3、找到一些可以從定制解決方案中受益的新邊緣設(shè)備。將注意力從手機和筆記本電腦轉(zhuǎn)移到相機、機器人、工業(yè)系統(tǒng)等。這條路也不容易。其中一些設(shè)備非常便宜，因此無法容納具有高 ASP 的芯片。幾年前，我們觀察到許多希望在相機和無人機上實現(xiàn)低功耗 AI 的公司的宣傳。很少有人幸存下來。

4、最后是汽車，整個行業(yè)的希望。這個市場仍然高度分散且有些模糊。進(jìn)入的窗口并不大，但機會很大。

總而言之，人工智能市場已經(jīng)大有可為。這并不意味著那些冒險進(jìn)入的人失去了所有希望，但公司在選擇市場和客戶時需要高度專注和極其審慎。