智研咨詢 - 產(chǎn)業(yè)信息門戶

研判2025!全球及中國(guó)內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)發(fā)展歷程、發(fā)展背景及市場(chǎng)現(xiàn)狀分析:獲業(yè)內(nèi)廣泛關(guān)注,行業(yè)仍處于發(fā)展初期[圖]

內(nèi)容概要:內(nèi)存內(nèi)處理(PIM,也稱為存內(nèi)計(jì)算)是指將處理器與RAM(隨機(jī)存取存儲(chǔ)器)集成在單個(gè)芯片上。集成后的芯片也被稱為PIM芯片。PIM允許在計(jì)算機(jī)、服務(wù)器或類似設(shè)備的內(nèi)存中執(zhí)行計(jì)算和處理,該架構(gòu)通過(guò)在內(nèi)存模塊內(nèi)執(zhí)行任務(wù)來(lái)加速任務(wù)的整體處理。為了解決馮·諾依曼瓶頸帶來(lái)的功耗和算力問(wèn)題,存內(nèi)計(jì)算的概念被提了出來(lái)。與馮·諾依曼架構(gòu)中分離的處理器和存儲(chǔ)器不同的是,存內(nèi)計(jì)算將數(shù)據(jù)的存儲(chǔ)和計(jì)算融為一體,使得存儲(chǔ)陣列不僅具有常規(guī)的數(shù)據(jù)存儲(chǔ)能力,同時(shí)又具有陣列運(yùn)算的功能。21世紀(jì)以來(lái),隨著人工智能技術(shù)的快速發(fā)展,具有高能效比的存內(nèi)計(jì)算架構(gòu)迎來(lái)了發(fā)展浪潮,此后,存內(nèi)計(jì)算在神經(jīng)網(wǎng)絡(luò)計(jì)算等領(lǐng)域逐漸受到關(guān)注。三星、臺(tái)積電、海力士、英特爾、IBM等半導(dǎo)體巨頭也都投入到了存內(nèi)計(jì)算架構(gòu)的研發(fā)之中。存內(nèi)計(jì)算的出現(xiàn)使計(jì)算平臺(tái)的算力功耗比、面積功耗比等進(jìn)入了一個(gè)新的階段。據(jù)Precedence Research數(shù)據(jù),2023年全球存內(nèi)計(jì)算市場(chǎng)規(guī)模約為180.4億美元,預(yù)計(jì)到2028年規(guī)模將增長(zhǎng)至387.6億美元,期間年復(fù)合增長(zhǎng)率為17%。


關(guān)鍵詞:內(nèi)存內(nèi)處理 (PIM)芯片發(fā)展歷程、內(nèi)存內(nèi)處理 (PIM)芯片發(fā)展優(yōu)勢(shì)、內(nèi)存內(nèi)處理 (PIM)芯片市場(chǎng)現(xiàn)狀


一、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)相關(guān)概述


內(nèi)存內(nèi)處理(PIM,也稱為存內(nèi)計(jì)算)是指將處理器與RAM(隨機(jī)存取存儲(chǔ)器)集成在單個(gè)芯片上。集成后的芯片也被稱為PIM芯片。PIM允許在計(jì)算機(jī)、服務(wù)器或類似設(shè)備的內(nèi)存中執(zhí)行計(jì)算和處理,該架構(gòu)通過(guò)在內(nèi)存模塊內(nèi)執(zhí)行任務(wù)來(lái)加速任務(wù)的整體處理。


存內(nèi)計(jì)算的提出可以追溯到上世紀(jì)70年代,1969年,William等首次提出存儲(chǔ)和邏輯整合的想法,將存儲(chǔ)和邏輯運(yùn)算電路集成為小的元胞,然后迭代成一個(gè)二維陣列,再通過(guò)編程的方法可以實(shí)現(xiàn)所需的復(fù)雜邏輯行為,這種存內(nèi)邏輯結(jié)構(gòu)設(shè)計(jì)在設(shè)計(jì)、制造、測(cè)試等方面具有許多優(yōu)勢(shì)。次年,Harlod等提出存內(nèi)邏輯處理器的概念,存內(nèi)邏輯陣列不但可以作為CPU與存儲(chǔ)之間的高速緩沖,還具有處理數(shù)據(jù)的能力。1975年,Elmasry等提出了一種利用雙極型晶體管構(gòu)成的兩級(jí)存內(nèi)邏輯,該結(jié)構(gòu)可以實(shí)現(xiàn)存儲(chǔ)和組合邏輯功能。1982年,Odaka等提出了一種存內(nèi)邏輯計(jì)算超大規(guī)模專用集成電路(VLSI),集成了6144位存儲(chǔ)和770個(gè)邏輯門電路,提高了處理器效率。21世紀(jì)之前對(duì)于存內(nèi)計(jì)算的研究還處于起步階段,21世紀(jì)以來(lái),隨著人工智能技術(shù)的快速發(fā)展,具有高能效比的存內(nèi)計(jì)算架構(gòu)迎來(lái)了發(fā)展浪潮,此后,存內(nèi)計(jì)算在神經(jīng)網(wǎng)絡(luò)計(jì)算等領(lǐng)域逐漸受到關(guān)注。2018年,IEEE國(guó)際固態(tài)電路會(huì)議(ISSCC)開始設(shè)立一個(gè)獨(dú)立的議程來(lái)討論存內(nèi)計(jì)算相關(guān)的設(shè)計(jì)。三星、臺(tái)積電、海力士、英特爾、IBM等半導(dǎo)體巨頭也都投入到了存內(nèi)計(jì)算架構(gòu)的研發(fā)之中。存內(nèi)計(jì)算的出現(xiàn)使計(jì)算平臺(tái)的算力功耗比、面積功耗比等進(jìn)入了一個(gè)新的階段。

PIM芯片發(fā)展歷程


相關(guān)報(bào)告:智研咨詢發(fā)布的《2025年中國(guó)內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)市場(chǎng)全景分析及產(chǎn)業(yè)需求研判報(bào)告


二、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)發(fā)展背景


1965年,英特爾聯(lián)合創(chuàng)始人戈登·摩爾預(yù)測(cè),單個(gè)芯片上的晶體管數(shù)量大約每?jī)赡攴环?,而成本只?huì)有極小的增加。該預(yù)測(cè)被稱為摩爾定律。由于技術(shù)的進(jìn)步與芯片制造工藝的改進(jìn),在過(guò)去幾十年里,芯片的算力有著顯著的提高。例如,1978年,英特爾推出的8086微處理器,工作在4.77MHz的時(shí)鐘頻率,具有0.33百萬(wàn)條指令每秒的處理速度;20世紀(jì)90年代早期,英特爾Pentium系列處理器的算力達(dá)到了100MIPS;到了90年代末期,英特爾PentiumIII系列處理器的算力達(dá)到了600-700MIPS;2000年以后,英特爾推出Core系列處理器,算力則達(dá)到了20-30十億條指令每秒;2020年蘋果公司推出的M1處理器,算力已經(jīng)達(dá)到了1000BIPS。盡管摩爾定律預(yù)見了芯片行業(yè)的發(fā)展趨勢(shì),但如今,隨著晶體管尺寸接近原子級(jí),半導(dǎo)體材料和制造工藝已經(jīng)到達(dá)物理極限,同時(shí),隨著芯片尺寸和晶體管數(shù)量的增加,芯片的發(fā)熱和功耗也急劇增加,摩爾定律正面臨越來(lái)越多的局限與挑戰(zhàn)。物理尺寸和制造工藝的提升已經(jīng)無(wú)法滿足摩爾定律發(fā)展的速度,因此,需要尋找新的技術(shù)來(lái)維持計(jì)算機(jī)性能的增長(zhǎng)。


截至2023年底,全球算力基礎(chǔ)設(shè)施總規(guī)模達(dá)到910EFLOPS(FP32),同比增長(zhǎng)40%。美國(guó)、中國(guó)算力基礎(chǔ)設(shè)施規(guī)模位列前兩名,中國(guó)算力總規(guī)模達(dá)230 EFLOPS。近年來(lái),隨著可穿戴設(shè)備、物聯(lián)網(wǎng)、邊緣計(jì)算、人工智能等應(yīng)用的興起,人們對(duì)于計(jì)算平臺(tái)提出了更高的要求,即用有限的能源與資源實(shí)現(xiàn)更大的算力,或者實(shí)現(xiàn)相同的算力消耗更低的能源與資源。以中央處理器(CPU)與存儲(chǔ)器構(gòu)成的現(xiàn)有計(jì)算平臺(tái),當(dāng)需要處理的數(shù)據(jù)越來(lái)越多時(shí),便會(huì)由于中央處理與存儲(chǔ)器之間的吞吐率急劇上升而出現(xiàn)瓶頸,該瓶頸被稱為馮·諾依曼瓶頸,在進(jìn)行計(jì)算時(shí),首先需要將存儲(chǔ)器里的值通過(guò)總線讀取出來(lái),再將輸入和讀取出的值通過(guò)總線送到中央處理器進(jìn)行計(jì)算得到輸出結(jié)果。在消耗大量時(shí)間讀取和寫入數(shù)據(jù)的同時(shí),由于需要頻繁訪問(wèn)存儲(chǔ)器,大量無(wú)關(guān)的能量會(huì)被消耗。馮·諾依曼瓶頸的出現(xiàn)導(dǎo)致現(xiàn)有平臺(tái)的算力受限,這嚴(yán)重阻礙了物聯(lián)網(wǎng)、邊緣計(jì)算、人工智能等應(yīng)用的發(fā)展。為了解決這些問(wèn)題,業(yè)內(nèi)提出了幾種解決方案,包括引入緩存結(jié)構(gòu)(Cache)和無(wú)序執(zhí)行(Out-of-orderProcessing)技術(shù)減少存儲(chǔ)訪問(wèn)帶來(lái)的損失等。然而,這些技術(shù)仍然跟不上新興應(yīng)用所需存儲(chǔ)的指數(shù)增長(zhǎng),這對(duì)傳統(tǒng)的計(jì)算系統(tǒng)提出了挑戰(zhàn)。

2021-2023年全球及中國(guó)算力規(guī)模


三、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)發(fā)展現(xiàn)狀


為了解決馮·諾依曼瓶頸帶來(lái)的功耗和算力問(wèn)題,存內(nèi)計(jì)算的概念被提了出來(lái)。與馮·諾依曼架構(gòu)中分離的處理器和存儲(chǔ)器不同的是,存內(nèi)計(jì)算將數(shù)據(jù)的存儲(chǔ)和計(jì)算融為一體,使得存儲(chǔ)陣列不僅具有常規(guī)的數(shù)據(jù)存儲(chǔ)能力,同時(shí)又具有陣列運(yùn)算的功能。由于存內(nèi)計(jì)算無(wú)需將數(shù)據(jù)從存儲(chǔ)器中讀出,因此不存在中央處理器與存儲(chǔ)器之間的吞吐率瓶頸,同時(shí),因?yàn)槭∪チ舜鎯?chǔ)的讀寫過(guò)程,存內(nèi)計(jì)算平臺(tái)的功耗和時(shí)效都遠(yuǎn)優(yōu)于馮·諾依曼架構(gòu)的計(jì)算平臺(tái)。在機(jī)器學(xué)習(xí)、人工智能、實(shí)時(shí)數(shù)據(jù)分析等應(yīng)用中,存內(nèi)計(jì)算可以實(shí)現(xiàn)對(duì)大容量數(shù)據(jù)的更高效處理,這在數(shù)據(jù)集變得越來(lái)越大且越來(lái)越復(fù)雜的情況下變得越來(lái)越重要。其次,存內(nèi)計(jì)算可以幫助克服傳統(tǒng)基于磁盤的存儲(chǔ)系統(tǒng)的性能限制,降低處理大型數(shù)據(jù)集的數(shù)據(jù)搬運(yùn)量。通過(guò)消除這種瓶頸,存內(nèi)計(jì)算可以釋放處理器的計(jì)算潛力,加速計(jì)算平臺(tái)技術(shù)的進(jìn)步。除了消除計(jì)算瓶頸外,存內(nèi)計(jì)算還在降低計(jì)算系統(tǒng)的能耗方面發(fā)揮著重要的作用,通過(guò)減少訪問(wèn)存儲(chǔ)器需求,存內(nèi)計(jì)算可以幫助降低計(jì)算系統(tǒng)的能耗,從而達(dá)到更加節(jié)能的目的。

馮諾依曼、存內(nèi)計(jì)算架構(gòu)對(duì)比


以三星HBM-PIM為例,與配備傳統(tǒng)的HBM的GPU相比,生成式AI運(yùn)行在基于三星的HBM-PIM的系統(tǒng)上,能效平均高出了約2倍,性能加速了2倍以上。

三星HBM-PIM性能提升明顯


目前的PIM方案主要通過(guò)在內(nèi)存(DRAM)芯片中實(shí)現(xiàn)部分?jǐn)?shù)據(jù)處理,其中典型的產(chǎn)品形態(tài)包括HBM-PIM和PIM-DIMM。這些方案在DRAM Die中內(nèi)置了處理單元,為系統(tǒng)提供了具備大吞吐和低延遲的片上處理能力。這種存內(nèi)處理技術(shù)可應(yīng)用于多種場(chǎng)景,包括語(yǔ)音識(shí)別、數(shù)據(jù)庫(kù)索引搜索、基因匹配等。DRAM存儲(chǔ)芯片在信息時(shí)代扮演著至關(guān)重要的角色,為半導(dǎo)體存儲(chǔ)器第一大產(chǎn)品。在各國(guó)政策大力支持、市場(chǎng)需求持續(xù)增長(zhǎng)、廠商技術(shù)水平不斷提升等因素驅(qū)動(dòng)下,DRAM存儲(chǔ)芯片行業(yè)取得了顯著的發(fā)展成果。但2022年以來(lái),伴隨著消費(fèi)電子市場(chǎng)低迷,DRAM需求也明顯下滑,市場(chǎng)規(guī)模萎縮。2023年全球DRAM市場(chǎng)規(guī)模為518.6億美元,同比下降35%,占存儲(chǔ)市場(chǎng)的56%左右。

2019-2023年全球DRAM市場(chǎng)規(guī)模


內(nèi)存內(nèi)處理這一創(chuàng)新技術(shù)自問(wèn)世以來(lái),便受到了業(yè)界的廣泛關(guān)注。目前,三星、SK海力士、阿里巴巴達(dá)摩院等科技巨頭紛紛投入研發(fā),將內(nèi)存內(nèi)處理技術(shù)作為未來(lái)的增長(zhǎng)引擎。據(jù)Precedence Research數(shù)據(jù),2023年全球存內(nèi)計(jì)算市場(chǎng)規(guī)模約為180.4億美元,預(yù)計(jì)到2028年規(guī)模將增長(zhǎng)至387.6億美元,期間年復(fù)合增長(zhǎng)率為17%。

2023-2028年全球存內(nèi)計(jì)算市場(chǎng)規(guī)模(億美元)


以上數(shù)據(jù)及信息可參考智研咨詢(m.yhcgw.cn)發(fā)布的《2025年中國(guó)內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)市場(chǎng)全景分析及產(chǎn)業(yè)需求研判報(bào)告》。智研咨詢是中國(guó)領(lǐng)先產(chǎn)業(yè)咨詢機(jī)構(gòu),提供深度產(chǎn)業(yè)研究報(bào)告、商業(yè)計(jì)劃書、可行性研究報(bào)告及定制服務(wù)等一站式產(chǎn)業(yè)咨詢服務(wù)。您可以關(guān)注【智研咨詢】公眾號(hào),每天及時(shí)掌握更多行業(yè)動(dòng)態(tài)。

本文采編:CY353
精品報(bào)告智研咨詢 - 精品報(bào)告
2025年中國(guó)內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)市場(chǎng)全景分析及產(chǎn)業(yè)需求研判報(bào)告
2025年中國(guó)內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)市場(chǎng)全景分析及產(chǎn)業(yè)需求研判報(bào)告

《2025年中國(guó)內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)市場(chǎng)全景分析及產(chǎn)業(yè)需求研判報(bào)告》共十章,包括內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)相關(guān)概述、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)運(yùn)行環(huán)境(PEST)分析、全球內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)運(yùn)營(yíng)態(tài)勢(shì)、中國(guó)內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)經(jīng)營(yíng)情況分析、中國(guó)內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)競(jìng)爭(zhēng)格局分析、中國(guó)內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)上、下游產(chǎn)業(yè)鏈分析、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)主要優(yōu)勢(shì)企業(yè)分析、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)投資機(jī)會(huì)、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)發(fā)展前景預(yù)測(cè)。

如您有其他要求,請(qǐng)聯(lián)系:

文章轉(zhuǎn)載、引用說(shuō)明:

智研咨詢推崇信息資源共享,歡迎各大媒體和行研機(jī)構(gòu)轉(zhuǎn)載引用。但請(qǐng)遵守如下規(guī)則:

1.可全文轉(zhuǎn)載,但不得惡意鏡像。轉(zhuǎn)載需注明來(lái)源(智研咨詢)。

2.轉(zhuǎn)載文章內(nèi)容時(shí)不得進(jìn)行刪減或修改。圖表和數(shù)據(jù)可以引用,但不能去除水印和數(shù)據(jù)來(lái)源。

如有違反以上規(guī)則,我們將保留追究法律責(zé)任的權(quán)力。

版權(quán)提示:

智研咨詢倡導(dǎo)尊重與保護(hù)知識(shí)產(chǎn)權(quán),對(duì)有明確來(lái)源的內(nèi)容注明出處。如發(fā)現(xiàn)本站文章存在版權(quán)、稿酬或其它問(wèn)題,煩請(qǐng)聯(lián)系我們,我們將及時(shí)與您溝通處理。聯(lián)系方式:gaojian@chyxx.com、010-60343812。

相關(guān)推薦

在線咨詢
微信客服
微信掃碼咨詢客服
電話客服

咨詢熱線

400-700-9383
010-60343812
返回頂部
在線咨詢
研究報(bào)告
可研報(bào)告
專精特新
商業(yè)計(jì)劃書
定制服務(wù)
返回頂部