ChatGPT走紅,AI芯片短缺即將到來(lái)
隨著現(xiàn)象級(jí)AI產(chǎn)品ChatGPT走紅,以大型語(yǔ)言模型為代表的前沿AI技術(shù)走向聚光燈之下。不少相關(guān)企業(yè)都接連推出了自己的大模型,百度、阿里、360、商湯等國(guó)內(nèi)企業(yè)紛紛宣布入局AI大模型。
在技術(shù)架構(gòu)層面,AI芯片分類主要是GPU(圖形處理器)、ASIC(專業(yè)集成電路)、FPGA(現(xiàn)場(chǎng)可編程門陣列)和類腦芯片。ChatGPT背后的算力支撐主要來(lái)自GPU或CPU+FPGA。由于具備并行計(jì)算能力,可兼容訓(xùn)練和推理,GPU目前被廣泛應(yīng)用。
大模型對(duì)于GPU的要求極高。一方面是對(duì)于GPU的數(shù)量有要求。根據(jù)Semianalysis的測(cè)算,ChatGPT每天在計(jì)算硬件成本方面的運(yùn)營(yíng)成本為69萬(wàn)美元。Open AI需要約3,617臺(tái)HGX A100服務(wù)器(2.8萬(wàn)個(gè)GPU)來(lái)為ChatGPT提供服務(wù)。
另一方面,對(duì)于GPU自身的性能也有要求。黃仁勛在一次會(huì)議上表示:“當(dāng)前唯一可以實(shí)際處理Chat GPT的GPU是英偉達(dá)HGX A100?!盇100由540億個(gè)晶體管組成,打包了第三代Tensor核心,并具有針對(duì)稀疏矩陣運(yùn)算的加速功能,對(duì)于AI推理和訓(xùn)練來(lái)說(shuō)特別有用。此后,英偉達(dá)還推出A100的替代者——H100,該芯片由臺(tái)積電5nm定制版本制程(4N)打造,單塊芯片包含800億晶體管,一舉成為最強(qiáng)。
坊間曾傳出一份報(bào)告,報(bào)告稱今年年初百度緊急下單了3000臺(tái)包含8張芯片的A800服務(wù)器(相當(dāng)于2.4萬(wàn)張A800芯片),預(yù)計(jì)全年會(huì)有A800和H800共5萬(wàn)枚需求。無(wú)獨(dú)有偶,阿里云預(yù)計(jì)也將在今年一萬(wàn)枚左右芯片,其中6000枚是H800。
有知情人士透露,A800、H800芯片目前正遭到包括服務(wù)器、互聯(lián)網(wǎng)廠商的國(guó)內(nèi)公司“哄搶”,“H800國(guó)內(nèi)開始出貨了,但本來(lái)產(chǎn)量也不多。A800國(guó)內(nèi)今年一年出貨的量,超過(guò)一半在互聯(lián)網(wǎng)公司,”該知情人士稱,“H800出貨更少,剩下客戶新訂的可能最快要到12月才能交付?!?/p>
在這一輪由Chat GPT掀起的大模型創(chuàng)業(yè)潮里,AI芯片成了搶手貨,一時(shí)間,GPU作為算力的主要支撐芯片最為明顯,現(xiàn)在已成為了各大企業(yè)走向AI時(shí)代的唯一“硬通貨”。
來(lái)源:半導(dǎo)體產(chǎn)業(yè)縱橫
【閱讀提示】
以上為本公司一些經(jīng)驗(yàn)的累積,因工藝問(wèn)題內(nèi)容廣泛,沒有面面俱到,只對(duì)常見問(wèn)題作分析,隨著電子產(chǎn)業(yè)的不斷更新?lián)Q代,新的工藝問(wèn)題也不斷出現(xiàn),本公司自成立以來(lái)不斷的追求產(chǎn)品的創(chuàng)新,做到與時(shí)俱進(jìn),熟悉各種生產(chǎn)復(fù)雜工藝,能為各種客戶提供全方位的工藝、設(shè)備、材料的清洗解決方案支持。
【免責(zé)聲明】
1. 以上文章內(nèi)容僅供讀者參閱,具體操作應(yīng)咨詢技術(shù)工程師等;
2. 內(nèi)容為作者個(gè)人觀點(diǎn), 并不代表本網(wǎng)站贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé),本網(wǎng)站只提供參考并不構(gòu)成投資及應(yīng)用建議。本網(wǎng)站上部分文章為轉(zhuǎn)載,并不用于商業(yè)目的,如有涉及侵權(quán)等,請(qǐng)及時(shí)告知我們,我們會(huì)盡快處理;
3. 除了“轉(zhuǎn)載”之文章,本網(wǎng)站所刊原創(chuàng)內(nèi)容之著作權(quán)屬于合明科技網(wǎng)站所有,未經(jīng)本站之同意或授權(quán),任何人不得以任何形式重制、轉(zhuǎn)載、散布、引用、變更、播送或出版該內(nèi)容之全部或局部,亦不得有其他任何違反本站著作權(quán)之行為?!稗D(zhuǎn)載”的文章若要轉(zhuǎn)載,請(qǐng)先取得原文出處和作者的同意授權(quán);
4. 本網(wǎng)站擁有對(duì)此聲明的最終解釋權(quán)。