眾所周知,算法、算力和數(shù)據(jù)是共同制約AI發(fā)展的三個(gè)關(guān)鍵要素,這也是ChatGPT完美運(yùn)行的三個(gè)條件。
其中,算力是ChatGPT運(yùn)行的關(guān)鍵所在。而一個(gè)ChatGPT應(yīng)用的算力消耗卻讓人瞠目結(jié)舌。
其大模型GPT經(jīng)歷了三次迭代,GPT、GPT-2和GPT-3(當(dāng)前開(kāi)放的版本為GPT-3.5)的參數(shù)量從1.17億增加到1750億,預(yù)訓(xùn)練數(shù)據(jù)量從5GB增加到45TB,其中GPT-3訓(xùn)練單次的成本就已經(jīng)高達(dá)460萬(wàn)美元。
最新的GPT3.5在訓(xùn)練中使用了微軟專門建設(shè)的AI計(jì)算系統(tǒng),由1萬(wàn)個(gè)V100 GPU組成的高性能網(wǎng)絡(luò)集群,總算力消耗約3640PF-days,即假如每秒計(jì)算一千萬(wàn)億次,需要計(jì)算3640天。
如何理解這樣的算力消耗呢?可以簡(jiǎn)單做一個(gè)分析——我國(guó)近期正大力新建數(shù)據(jù)中心, 以其中總投資30.2億,算力500P的數(shù)據(jù)中心項(xiàng)目來(lái)說(shuō),要想支撐起ChatGPT的運(yùn)行,至少要7-8個(gè)此量級(jí)的數(shù)據(jù)中心運(yùn)行一整天。
事實(shí)上,僅2012年2019年,短短七年,人類對(duì)AI算力的需求就增長(zhǎng)了30萬(wàn)倍。平均每100天就會(huì)翻倍,遠(yuǎn)超摩爾定律。
與此同時(shí),AI算力的實(shí)際增長(zhǎng)卻有限,需求和供給之間形成了一個(gè)巨大的鴻溝。
準(zhǔn)華為輪值主席孟晚舟曾在一次公開(kāi)演講時(shí)就表示,現(xiàn)在的算力還遠(yuǎn)遠(yuǎn)不能滿足未來(lái)的需求,算力必然是世界科技競(jìng)爭(zhēng)的焦點(diǎn)之一。
另外,GPU或CPU+FPGA是ChatGPT算力的硬件支撐,該應(yīng)用對(duì)于高端芯片的需求增加會(huì)拉動(dòng)芯片均價(jià),量?jī)r(jià)齊升將導(dǎo)致芯片需求暴漲。
據(jù)了解,采購(gòu)一片英偉達(dá)頂級(jí)GPU成本為8萬(wàn)元,GPU服務(wù)器成本通常超過(guò)40萬(wàn)元。對(duì)于ChatGPT而言,支撐其算力基礎(chǔ)設(shè)施至少需要上萬(wàn)顆英偉達(dá)GPU A100,單采購(gòu)GPU的成本就近億元。
而ChatGPT越火,對(duì)算力及其關(guān)聯(lián)產(chǎn)業(yè)的需求便越大。
中國(guó)信息通信研究院測(cè)算,截至2021年底,中國(guó)算力核心產(chǎn)業(yè)規(guī)模超過(guò)1.5萬(wàn)億元,關(guān)聯(lián)產(chǎn)業(yè)規(guī)模超過(guò)8萬(wàn)億元。
這是一塊巨大的蛋糕。并且隨著AI產(chǎn)品應(yīng)用的逐漸滲透,這塊蛋糕將越來(lái)越大。
除了算力外,ChatGPT引發(fā)萬(wàn)眾矚目的還包括在C端的破冰。
一直以來(lái),AI產(chǎn)品的落地與盈利基本都靠B、G兩端支撐,在C端雖然也有不少試水,但都沒(méi)有引發(fā)太大的反響,幾乎沒(méi)有讓大部分人愿意買單的項(xiàng)目。
如果ChatGPT真的能成為一款現(xiàn)象級(jí)產(chǎn)品,將具有劃時(shí)代意義。
不妨想想,在移動(dòng)互聯(lián)網(wǎng)時(shí)代,微信讓騰訊成為了時(shí)代的王者,月活躍用戶數(shù)量達(dá)12.88億;依靠抖音,字節(jié)跳動(dòng)不到十年就躍升為中國(guó)最著名的互聯(lián)網(wǎng)企業(yè)之一;而拼多多市值已經(jīng)是百度的3倍……
這背后不僅是一場(chǎng)產(chǎn)業(yè)革命,更是數(shù)以萬(wàn)億計(jì)財(cái)富的誕生。如今,類似的連鎖反應(yīng)也開(kāi)始在AI領(lǐng)域顯現(xiàn)。 |