眾所周知,算法、算力和數(shù)據(jù)是共同制約AI發(fā)展的三個關(guān)鍵要素,這也是ChatGPT完美運(yùn)行的三個條件。
其中,算力是ChatGPT運(yùn)行的關(guān)鍵所在。而一個ChatGPT應(yīng)用的算力消耗卻讓人瞠目結(jié)舌。
其大模型GPT經(jīng)歷了三次迭代,GPT、GPT-2和GPT-3(當(dāng)前開放的版本為GPT-3.5)的參數(shù)量從1.17億增加到1750億,預(yù)訓(xùn)練數(shù)據(jù)量從5GB增加到45TB,其中GPT-3訓(xùn)練單次的成本就已經(jīng)高達(dá)460萬美元。
最新的GPT3.5在訓(xùn)練中使用了微軟專門建設(shè)的AI計(jì)算系統(tǒng),由1萬個V100 GPU組成的高性能網(wǎng)絡(luò)集群,總算力消耗約3640PF-days,即假如每秒計(jì)算一千萬億次,需要計(jì)算3640天。
如何理解這樣的算力消耗呢?可以簡單做一個分析——我國近期正大力新建數(shù)據(jù)中心, 以其中總投資30.2億,算力500P的數(shù)據(jù)中心項(xiàng)目來說,要想支撐起ChatGPT的運(yùn)行,至少要7-8個此量級的數(shù)據(jù)中心運(yùn)行一整天。
事實(shí)上,僅2012年2019年,短短七年,人類對AI算力的需求就增長了30萬倍。平均每100天就會翻倍,遠(yuǎn)超摩爾定律。
與此同時,AI算力的實(shí)際增長卻有限,需求和供給之間形成了一個巨大的鴻溝。
準(zhǔn)華為輪值主席孟晚舟曾在一次公開演講時就表示,現(xiàn)在的算力還遠(yuǎn)遠(yuǎn)不能滿足未來的需求,算力必然是世界科技競爭的焦點(diǎn)之一。
另外,GPU或CPU+FPGA是ChatGPT算力的硬件支撐,該應(yīng)用對于高端芯片的需求增加會拉動芯片均價,量價齊升將導(dǎo)致芯片需求暴漲。
據(jù)了解,采購一片英偉達(dá)頂級GPU成本為8萬元,GPU服務(wù)器成本通常超過40萬元。對于ChatGPT而言,支撐其算力基礎(chǔ)設(shè)施至少需要上萬顆英偉達(dá)GPU A100,單采購GPU的成本就近億元。
而ChatGPT越火,對算力及其關(guān)聯(lián)產(chǎn)業(yè)的需求便越大。
中國信息通信研究院測算,截至2021年底,中國算力核心產(chǎn)業(yè)規(guī)模超過1.5萬億元,關(guān)聯(lián)產(chǎn)業(yè)規(guī)模超過8萬億元。
這是一塊巨大的蛋糕。并且隨著AI產(chǎn)品應(yīng)用的逐漸滲透,這塊蛋糕將越來越大。
除了算力外,ChatGPT引發(fā)萬眾矚目的還包括在C端的破冰。
一直以來,AI產(chǎn)品的落地與盈利基本都靠B、G兩端支撐,在C端雖然也有不少試水,但都沒有引發(fā)太大的反響,幾乎沒有讓大部分人愿意買單的項(xiàng)目。
如果ChatGPT真的能成為一款現(xiàn)象級產(chǎn)品,將具有劃時代意義。
不妨想想,在移動互聯(lián)網(wǎng)時代,微信讓騰訊成為了時代的王者,月活躍用戶數(shù)量達(dá)12.88億;依靠抖音,字節(jié)跳動不到十年就躍升為中國最著名的互聯(lián)網(wǎng)企業(yè)之一;而拼多多市值已經(jīng)是百度的3倍……
這背后不僅是一場產(chǎn)業(yè)革命,更是數(shù)以萬億計(jì)財(cái)富的誕生。如今,類似的連鎖反應(yīng)也開始在AI領(lǐng)域顯現(xiàn)。
歡迎光臨 機(jī)械社區(qū) (http://e-learninguniversity.com/) | Powered by Discuz! X3.4 |