英偉達(dá)的江山，還能坐多久？
當(dāng)下的AI賽場(chǎng)上，英偉達(dá)無(wú)疑是最閃耀的一顆明星。
十多年來(lái)，英偉達(dá)在生產(chǎn)能夠執(zhí)行復(fù)雜AI任務(wù)（如圖像、面部和語(yǔ)音識(shí)別）的芯片方面，建立了幾乎無(wú)法撼動(dòng)的領(lǐng)先地位。然而，凡事總有變化。近期，隨著谷歌、IBM等巨頭開始在芯片方面一齊發(fā)力，GPU領(lǐng)域的競(jìng)爭(zhēng)格局，開始有了些微妙的改變。
最近，IBM推出一款全新的14nm模擬AI芯片，效率達(dá)到了最領(lǐng)先GPU的14倍。其最大的亮點(diǎn)，就是借助神經(jīng)網(wǎng)絡(luò)在生物大腦中運(yùn)行的關(guān)鍵特征，來(lái)減少能耗。從而最大限度地減少人們?cè)谟?jì)算上花費(fèi)的時(shí)間和精力。同樣的，身為科技巨頭的谷歌，也在8月底的GoogleCloudNext2023大會(huì)上，發(fā)布了一款全新AI芯片CloudTPUv5e，專為大模型訓(xùn)練推理所設(shè)計(jì)。
具體來(lái)說，CloudTPUv5e允許多達(dá)256個(gè)芯片互連，聚合帶寬超過400Tb/s和100petaOps的INT8性能。根據(jù)速度基準(zhǔn)測(cè)試，在CloudTPUv5e上訓(xùn)練和運(yùn)行人工智能模型的速度提高了5倍。
由此可見，各大巨頭其實(shí)并不甘于在算力問題上永遠(yuǎn)被英偉達(dá)“卡脖子”，并開始紛紛推出了各自的芯片，對(duì)英偉達(dá)的GPU霸權(quán)地位發(fā)起了“圍攻”。那么，在英偉達(dá)深不見底的護(hù)城河面前，這樣的挑戰(zhàn)前景究竟如何？1
“霸主”的遠(yuǎn)慮
英偉達(dá)的江山還能坐多久？從某種程度上說，決定這件事的，不僅僅是英偉達(dá)本身的創(chuàng)新能力，還有科技發(fā)展固有的定律。作為計(jì)算機(jī)行業(yè)的黃金定律，摩爾定律一直指導(dǎo)著芯片開發(fā)。但是隨著芯片工藝升級(jí)速度的放緩，圍繞在這一定律身上的爭(zhēng)議也在不斷擴(kuò)大。所謂摩爾定律，指的是集成電路上可以容納的晶體管數(shù)目在大約每經(jīng)過18個(gè)月到24個(gè)月便會(huì)增加一倍。然而，隨著芯片技術(shù)的不斷發(fā)展，摩爾定律正逐漸遭遇瓶頸。CIC灼識(shí)咨詢?cè)叮苤朴谛酒叽绲奈锢順O限、光刻技術(shù)、隧道效應(yīng)、功耗和散熱、供電能力等問題，從5nm到3nm再到2nm，其間隔都超過了2年時(shí)間。面對(duì)這種情況，即使是以“刀法精湛”著稱的黃仁勛，也不得不無(wú)奈地宣布“摩爾定律已死”，漲價(jià)身不由己！其在去年發(fā)布的 AD102（RTX4090） 芯片，尺寸為 608mm，這僅比 628mm 的 GA102（RTX3090Ti）略小。按照這樣的技術(shù)路徑，傳統(tǒng)GPU的天花板，似乎已經(jīng)越來(lái)越近。也正因如此，各路巨頭在解決算力之困的同時(shí)，也在積極地“另辟蹊徑”，找到一條有別于傳統(tǒng)路線的破局之策。前面提到的IBM模仿人腦神經(jīng)結(jié)構(gòu)的類腦芯片，就是這樣的嘗試之一。然而，在面對(duì)傳統(tǒng)芯片瓶頸方面，業(yè)界存在著很多種不同的方案，比如量子芯片、光子芯片、類腦芯片，但如同當(dāng)年GPU取代CPU，成為今天AI計(jì)算的主力一樣，在多種技術(shù)路徑的博弈中，最終往往會(huì)有一個(gè)“最優(yōu)”的路徑勝出，成為新時(shí)代通用的芯片范式。而這樣的“最優(yōu)”路徑，則理應(yīng)是一種在技術(shù)成熟度、通用性和市場(chǎng)需求等方面，都做到了較好兼顧的一種方案。就目前的情況來(lái)看，量子芯片、光子芯片、類腦芯片等都還處于研發(fā)階段，其技術(shù)成熟度還有待實(shí)踐的檢驗(yàn)。此外，量子芯片、光子芯片、類腦芯片等都是針對(duì)特定的計(jì)算問題而設(shè)計(jì)的，其在通用性、兼容性上，往往還存在著一定的不足，例如量子芯片適合解決一些經(jīng)典計(jì)算機(jī)難以解決的重要問題。光子芯片適合解決一些高速數(shù)據(jù)處理和傳輸?shù)膯栴}，如光通信、光互連、光計(jì)算等。而綜合比較下來(lái)，目前最有可能勝出的方案，則是多種芯片模塊組合的超異構(gòu)計(jì)算。2
新的賽道
什么是超異構(gòu)計(jì)算？簡(jiǎn)單來(lái)說，就像是一個(gè)拼圖游戲，把不同的芯片模塊（如CPU、GPU、FPGA等）按照不同的規(guī)則和目標(biāo)來(lái)拼接，形成不同的計(jì)算方案。從而處理不同類型的數(shù)據(jù)和工作負(fù)載的技術(shù)。超異構(gòu)計(jì)算的目的是實(shí)現(xiàn)計(jì)算的最優(yōu)化，即在性能、功耗、延遲等方面達(dá)到最佳的平衡。在CPU同構(gòu)計(jì)算階段，100%工作由CPU完成；但在GPU異構(gòu)階段，80%工作由GPU完成，CPU只完成剩余的20%的工作；而在超異構(gòu)計(jì)算階段，則80%的工作由各類更高效的DSA完成，GPU只完成剩余20%工作的80%，即16%的工作，剩余的4%交給CPU。這里的DSA，是一種針對(duì)特定領(lǐng)域和場(chǎng)景的計(jì)算單元，可以實(shí)現(xiàn)高效的數(shù)據(jù)處理和算法加速。例如神經(jīng)網(wǎng)絡(luò)處理器（NPU）、圖形處理器（GPU）、數(shù)字信號(hào)處理器（DSP）、視覺處理器（VPU）、安全處理器（SPU）等 。這些“術(shù)業(yè)有專攻”的特定芯片可以比傳統(tǒng)的GPU更快、更省電、更小巧、更靈活。但同時(shí)，由于高度特化的DSA不太適合做其他方面的工作。所以，還需要用到一些GPU和CPU來(lái)輔助和協(xié)調(diào)這些芯片，完成剩下的一些計(jì)算工作。這樣，在“專人專職”的分工搭配下，芯片就可以實(shí)現(xiàn)計(jì)算的最優(yōu)化，即在性能、功耗、延遲等方面達(dá)到最佳的平衡。在面對(duì)AI大模型、自動(dòng)駕駛、元宇宙等新興的領(lǐng)域和應(yīng)用場(chǎng)景時(shí)，AI要做的事情越來(lái)越多，越來(lái)越難，而傳統(tǒng)的同構(gòu)芯片已經(jīng)跟不上AI的步伐，難以給AI提供足夠的算力和速度。而超異構(gòu)計(jì)算可以提供更高的靈活性和可擴(kuò)展性，能夠根據(jù)不同的數(shù)據(jù)和工作負(fù)載，動(dòng)態(tài)地分配和調(diào)度計(jì)算資源，實(shí)現(xiàn)計(jì)算的自適應(yīng)和智能。具體來(lái)說，超異構(gòu)計(jì)算可以分為兩種模式：靜態(tài)超異構(gòu)計(jì)算和動(dòng)態(tài)超異構(gòu)計(jì)算。靜態(tài)超異構(gòu)計(jì)算，是指在設(shè)計(jì)階段就確定好各個(gè)處理器之間的分工和協(xié)作方式，適用于一些穩(wěn)定且可預(yù)測(cè)的場(chǎng)景，如視頻編解碼、圖像處理等；動(dòng)態(tài)超異構(gòu)計(jì)算是指在運(yùn)行時(shí)根據(jù)實(shí)時(shí)數(shù)據(jù)和工作負(fù)載來(lái)動(dòng)態(tài)地選擇和調(diào)度最合適的處理器，適用于一些更具變化的場(chǎng)景，如云計(jì)算、邊緣計(jì)算、物聯(lián)網(wǎng)等；通過這類“動(dòng)靜結(jié)合”的方式，超異構(gòu)計(jì)算就能靈活調(diào)整負(fù)載，實(shí)現(xiàn)高效地算力調(diào)度。除此之外，從成本上說，超異構(gòu)計(jì)算同樣是一種有效降低大算力芯片成本的方案。隨著傳統(tǒng)GPU芯片尺寸的不斷縮小，人們就需要更多的研發(fā)投入和更精密的制造設(shè)備，這就導(dǎo)致了成本的上升。知名半導(dǎo)體研究機(jī)構(gòu)Semiengingeering統(tǒng)計(jì)了不同工藝下芯片所需費(fèi)用，其中7nmNode需要的費(fèi)用已經(jīng)達(dá)到了2.97億美元；但超異構(gòu)計(jì)算，卻憑借多種芯片間靈活的分工、協(xié)作，巧妙地解決了這一難題。用一個(gè)形象的比喻來(lái)說，傳統(tǒng)GPU芯片就像是一輛跑車，要想讓它跑得更快，就需要不斷地改進(jìn)發(fā)動(dòng)機(jī)、輪胎、剎車等部件，因而制造成本會(huì)成倍上升。而超異構(gòu)計(jì)算就像是一輛多功能汽車，它可以根據(jù)不同的路況和需求，切換不同的驅(qū)動(dòng)模式，如越野、運(yùn)輸、載客等，如此一來(lái)，就不用一味地改進(jìn)發(fā)動(dòng)機(jī)（縮小芯片尺寸）來(lái)提高性能了。3
彎道超車
正是由于這樣的優(yōu)勢(shì)，超異構(gòu)計(jì)算不僅突破了傳統(tǒng)GPU的瓶頸，并且也對(duì)了國(guó)產(chǎn)大算力芯片提供了“彎道超車”的歷史時(shí)機(jī)。就目前來(lái)看，在超異構(gòu)計(jì)算的賽道上，英偉達(dá)等巨頭的布局也非常積極和全面，推出了Hopper超級(jí)芯片，與GraceCPU和BluefieldDPU集成，構(gòu)成一個(gè)完整的超異構(gòu)系統(tǒng)。但國(guó)內(nèi)廠商也同樣開始在這一方向進(jìn)行了發(fā)力，如華為推出了鯤鵬920處理器，這是一款基于ARM架構(gòu)的高性能CPU，可以與華為自研的昇騰 AI 芯片和昆侖 AI 芯片實(shí)現(xiàn)異構(gòu)協(xié)同，支持云、邊、端等多種場(chǎng)景。
還有一些國(guó)內(nèi)廠商也在研發(fā)自己的超異構(gòu)芯片，例如紫光展銳推出了虎賁 T7520處理器，這是一款集成了CPU、GPU、NPU、ISP等多種計(jì)算單元的超異構(gòu)芯片，專為5G終端而設(shè)計(jì)。從總體來(lái)說，超異構(gòu)計(jì)算是否會(huì)給國(guó)內(nèi)芯片廠商提供彎道超車的機(jī)會(huì)，主要取決于以下幾個(gè)因素：
·國(guó)內(nèi)芯片廠商在不同類型的計(jì)算單元上的技術(shù)水平和競(jìng)爭(zhēng)力，例如CPU、GPU、DPU、FPGA等，以及它們之間的協(xié)同和優(yōu)化能力。·國(guó)內(nèi)芯片廠商在高速互連和先進(jìn)封裝方面的創(chuàng)新能力和成本控制能力，例如 2.5D和3D堆疊技術(shù)，以及對(duì)不同工藝Node和架構(gòu)的兼容性和可擴(kuò)展性。·國(guó)內(nèi)芯片廠商在統(tǒng)一軟件平臺(tái)方面的開發(fā)能力和生態(tài)建設(shè)能力，例如支持多種異構(gòu)設(shè)備的編程框架和管理平臺(tái)，對(duì)不同場(chǎng)景和應(yīng)用的適配能力。在這三個(gè)方面，目前的國(guó)內(nèi)企業(yè)雖然有一定的探索和進(jìn)展，但總體而言，仍面臨不小的挑戰(zhàn)。
例如，不同類型的計(jì)算單元上的技術(shù)水平上，國(guó)內(nèi)仍存在著一定的短板，例如華為的鯤鵬920處理器雖然在性能上有所提升，但是在兼容性和生態(tài)方面還有不足。在高速互連和先進(jìn)封裝方面，對(duì)于2.5D和3D堆疊等關(guān)鍵技術(shù)，目前國(guó)內(nèi)芯片廠商還沒有完全掌握，并且還依賴于國(guó)外供應(yīng)商。而目前國(guó)內(nèi)廠商目前突破最大，也最具潛力的方向，是軟件平臺(tái)的開發(fā)能力上。因?yàn)椋悩?gòu)計(jì)算的硬件多樣性和復(fù)雜性，給開發(fā)者帶來(lái)了很大的挑戰(zhàn)。
如果有一個(gè)統(tǒng)一的軟件平臺(tái)，可以屏蔽底層的細(xì)節(jié)，提供高效的編譯、調(diào)度、優(yōu)化等功能，那么就可以大大降低開發(fā)者的負(fù)擔(dān)，提高超異構(gòu)計(jì)算的可用性和普及性。現(xiàn)階段，阿里云的異構(gòu)計(jì)算產(chǎn)品家族，包括GPU云服務(wù)器、FPGA云服務(wù)器和彈性加速計(jì)算實(shí)例 EAIS 等，提供了一系列的異構(gòu)計(jì)算服務(wù)和解決方案。而華為的Atlas異構(gòu)計(jì)算平臺(tái)，基于自研的昇騰AI處理器，也提供了從芯片到云服務(wù)的全棧異構(gòu)計(jì)算解決方案。綜合以上各種因素，以及英偉達(dá)自身的研發(fā)能力這一“動(dòng)態(tài)變量”進(jìn)行考慮，未來(lái)芯片市場(chǎng)的競(jìng)爭(zhēng)格局，大致會(huì)呈現(xiàn)如下態(tài)勢(shì)：
國(guó)內(nèi)芯片廠商未來(lái)5年在超異構(gòu)計(jì)算上的競(jìng)爭(zhēng)水平，會(huì)有一定程度的提升和突破，解決部分算力“卡脖子”問題，但是還無(wú)法完全擺脫對(duì)英偉達(dá)等國(guó)外巨頭的依賴。在一些特定的場(chǎng)景和應(yīng)用上，國(guó)內(nèi)芯片廠商可以與英偉達(dá) 等巨頭形成有效的競(jìng)爭(zhēng)，例如在5G、物聯(lián)網(wǎng)、邊緣計(jì)算等領(lǐng)域，國(guó)內(nèi)芯片廠商可能會(huì)推出更適合本地化需求和環(huán)境的超異構(gòu)計(jì)算解決方案。可以說，超異構(gòu)計(jì)算，確實(shí)為國(guó)產(chǎn)芯片的“算力之困”撕開了一道口子，但從長(zhǎng)遠(yuǎn)來(lái)看，要想完全解決“卡脖子”問題，并與英偉達(dá)等巨頭形成對(duì)等競(jìng)爭(zhēng)，仍是一個(gè)任重道遠(yuǎn)的過程。