電工為完成這些計(jì)算，芯片設(shè)計(jì)中，會(huì)增加很多運(yùn)算單元，如幾千到幾萬(wàn)個(gè)運(yùn)算單元。隨著運(yùn)算單元數(shù)目的增加，每個(gè)運(yùn)算單元能夠使用的存儲(chǔ)器的帶寬和大小都在減小。因此，存儲(chǔ)器會(huì)成為計(jì)算瓶頸。
由于深度學(xué)習(xí)并不屬于通用計(jì)算的范疇，馮·諾伊曼(John von Neuman)架構(gòu)的存儲(chǔ)和計(jì)算分離，已經(jīng)不適合數(shù)據(jù)驅(qū)動(dòng)的人工智能應(yīng)用需求。頻繁的數(shù)據(jù)搬運(yùn)，導(dǎo)致的算力瓶頸以及功耗瓶頸，已經(jīng)成為更先進(jìn)算法探索的限制因素。類(lèi)似于腦神經(jīng)結(jié)構(gòu)的存內(nèi)計(jì)算架構(gòu)，將數(shù)據(jù)存儲(chǔ)單元和計(jì)算單元融合為一體，這樣能顯著減少數(shù)據(jù)搬運(yùn)，提高計(jì)算并行度和能效。而計(jì)算存儲(chǔ)一體化，在硬件架構(gòu)方面的革新，也將突破AI算力瓶頸。筆者在《神龍飛天，國(guó)士王堅(jiān)》中，曾經(jīng)介紹過(guò)在阿里神龍服務(wù)器和飛天操作系統(tǒng)的加持下，阿里、乃至整個(gè)云服務(wù)中的虛擬化層，所帶來(lái)的損耗，正在被不斷降低。
云服務(wù)憑借其標(biāo)準(zhǔn)化、彈性化的優(yōu)勢(shì)，使得用戶只需專(zhuān)注應(yīng)用開(kāi)發(fā)，無(wú)需關(guān)注基礎(chǔ)設(shè)施及基礎(chǔ)服務(wù)。而且，通過(guò)云原生的資源交付方式，計(jì)算效率、易用性、用戶的計(jì)算和運(yùn)維成本都會(huì)得到優(yōu)化。可以說(shuō)，云服務(wù)變得像電力和自來(lái)水一樣無(wú)處不在，它還會(huì)成為數(shù)字經(jīng)濟(jì)時(shí)代基礎(chǔ)設(shè)施。
