為降低ChatGPT運行成本，微軟秘密自研AI芯片4年，今年或發(fā)布

2023年4月26日 10:51

ChatGPT巨額每日運行費用引關(guān)注

大型AI模型如ChatGPT的需求持續(xù)攀升，每天都有數(shù)百萬用戶使用。這導致了運行成本居高不下。據(jù)研究公司SemiAnalysis首席分析師Dylan Patel透露，ChatGPT的運行成本可能高達每天70萬美元，每次查詢需3.6美分。成本主要來自AI模型所依賴的昂貴服務(wù)器。

ChatGPT的活躍用戶數(shù)量在短短兩個月內(nèi)飆升至1億。而根據(jù)專家分析，大語言模型的訓練、運營和推理成本可能已達數(shù)千萬元。事實上，ChatGPT的每周推理成本已經(jīng)超過了當初的訓練成本。

為應對高訪問量問題，ChatGPT引入了每月20美元的付費ChatGPT Plus服務(wù)，但并未吸引大量用戶。同時，使用OpenAI語言模型的企業(yè)也在支付高昂的服務(wù)費。如AI地牢游戲初創(chuàng)公司Latitude，其2021年每月的運行模型和租用亞馬遜云科技服務(wù)器費用高達20萬美元。

為降低成本，Latitude轉(zhuǎn)向Al21 Labs支持的語言軟件服務(wù)商，將AI成本削減至每月10萬美元。目前，OpenAI依賴英偉達GPU來維持運行，預計2023年可能需要額外3萬個英偉達GPU以維持商業(yè)性能。

微軟自研AI芯片助力降成本

面對高昂運行成本，微軟正在開發(fā)自家AI芯片，協(xié)助維護OpenAI的ChatGPT運行并降低成本。據(jù)The Information報道，微軟自研AI芯片名為Athena“雅典娜”，項目始于2019年，當時微軟與OpenAI達成10億美元交易。

如今，300多名微軟員工正在研發(fā)Athena芯片，以期性能超越現(xiàn)有供應商芯片。其他科技巨頭如亞馬遜和谷歌也已推出自研AI芯片。Patel表示，與英偉達產(chǎn)品相比，Athena具有競爭力的話，每個芯片成本可能降低三分之一。

微軟自研AI芯片的原因有二：

一是意識到在自主研發(fā)芯片方面落后于谷歌和亞馬遜；
二是尋找英偉達替代方案，降低依賴。

微軟計劃在Azure云服務(wù)中部署Athena芯片，為OpenAI提供強大的計算支持。據(jù)了解，微軟的Athena芯片將在2023年發(fā)布，屆時將大幅降低ChatGPT運行成本。

微軟與其他巨頭競爭加劇

在AI芯片市場，微軟、谷歌和亞馬遜展開了激烈競爭。谷歌已經(jīng)研發(fā)了Tensor Processing Unit (TPU)，專門用于AI和機器學習任務(wù)。而亞馬遜則推出了Inferentia，一款高性能、低成本的AI芯片。微軟迎頭趕上，力求在AI市場站穩(wěn)腳跟。

同時，隨著市場需求的快速增長，尤其是云計算和AI領(lǐng)域的需求，芯片產(chǎn)業(yè)的競爭日益激烈。微軟也在積極尋求與其他公司的合作，以確保在AI芯片市場占據(jù)有利地位。

微軟為降低ChatGPT運行成本，秘密自研AI芯片Athena四年，預計將在2023年發(fā)布。成功研發(fā)將有望降低每個芯片成本三分之一，大幅減輕用戶和企業(yè)的負擔。在與谷歌和亞馬遜等科技巨頭的競爭中，微軟通過自研AI芯片謀求市場份額，期待在AI市場站穩(wěn)腳跟。