為AI/ML芯片提供更靈活、高效的運(yùn)算核心
SiFive產(chǎn)品副總裁Chris Jones指出，AI技術(shù)快速演進(jìn)，各種演算法與架構(gòu)推陳出新，為了最佳化PPA，特別是在邊緣端的推論引擎，業(yè)者普遍采用hard-wire的專用硬件加速器設(shè)計(jì)。但卻因此缺乏可編程性，無法因應(yīng)演算法的未來變化，這是目前主要的挑戰(zhàn)之一。
「我們認(rèn)為，邊緣端的推論引擎有龐大商機(jī)，且其工作負(fù)載主要是AI、影像處理等，非常適合采用矢量處理。而矢量指令集擴(kuò)充是原生RISC-V架構(gòu)的一部分，對此深具優(yōu)勢。」
有監(jiān)于此，SiFive已于2021年推出首款專為AI/ML打造的矢量運(yùn)算核心X280，企圖提供具可編程性的另一個(gè)選擇。然而推出后雖有成功案例，卻發(fā)現(xiàn)許多客戶仍不愿放棄自訂加速器的做法。因此決定進(jìn)一步擴(kuò)充核心功能，真正滿足市場的需求。
「我們學(xué)習(xí)到，客戶會把X280作為神經(jīng)網(wǎng)絡(luò)加速器的協(xié)同處理器，NN相關(guān)運(yùn)算在加速器中執(zhí)行，再把數(shù)據(jù)傳到X280做基本的矢量運(yùn)算。由于數(shù)據(jù)的往返傳輸，不僅造成延遲，功耗也較高，因此我們新增了矢量協(xié)同處理器界面擴(kuò)展(VCIX)功能，使客戶的自訂加速器能與X280直接介接，加速矢量運(yùn)算的執(zhí)行。」
由于無需再透過匯流排傳輸界面，此做法能顯著提升自訂加速器的執(zhí)行速度。Google已是SiFive的重要成功案例，透過采用此架構(gòu)來加速其AI運(yùn)算。Chris Jones強(qiáng)調(diào)，對Google來說，他們可以專注于其專精的AI演算法運(yùn)算，并運(yùn)用我們優(yōu)異的矢量指令集架構(gòu)，結(jié)合兩家公司的強(qiáng)項(xiàng)，將能為AI運(yùn)算帶來更大的突破。
此外，為了提供更高效能，X280也新增了多核心、多叢集功能，最多可擴(kuò)展到4叢集、共16個(gè)核心，使其可適用于從一般的邊緣裝置，到更高端的應(yīng)用。
X280自2021年推出以來，已取得了兩位數(shù)的設(shè)計(jì)成功案例，「今年我們還會再繼續(xù)推出新產(chǎn)品，例如支持更寬位元的矢量長度，并提供更高的運(yùn)算效能，以持續(xù)推動(dòng)創(chuàng)新。對我們來說，AI應(yīng)用未來將觸及各領(lǐng)域，而這正符合我們的矢量運(yùn)算強(qiáng)項(xiàng)。因此，我們會把矢量處理功能帶到更多的產(chǎn)品線，做整合性的強(qiáng)化。此外，車用市場也是一大重點(diǎn)，去年我們已推出車用處理器，2023年也將推出包含矢量運(yùn)算功能的新款車用處理器。」
新推兩款核心，推動(dòng)RISC-V架構(gòu)進(jìn)入高端消費(fèi)市場
另一方面，SiFive亦為Performance系列核心推出了兩款具備矢量運(yùn)算功能的新產(chǎn)品，分別P670與P470。Chris Jones表示，「P670是目前市場上最高效能的可授權(quán)RISC-V處理器，已獲得市場的熱烈反應(yīng)，證明了RISC-V核心也能夠朝高端市場邁進(jìn)，足以與競爭對手的A77及A78核心真正的競爭。而P470則是鎖定穿戴裝置，能針對這類應(yīng)用提供最佳的效能、面積與功率之間的平衡。」
SiFive擁有架構(gòu)上的優(yōu)勢，能夠提供更高的運(yùn)算密度，也就是說在單位面積內(nèi)，可提供比競爭對手更高效能的運(yùn)算效能，或是以相同功率能夠提供更高的效能，這是真正符合業(yè)界所需的。舉例來說，就單一執(zhí)行緒效能來比較，P470的運(yùn)算密度是Cortex-A55核心的四倍，P670則是Cortex-A78核心的兩倍。
「雖然ARM也有矢量擴(kuò)展功能，但僅限于高端核心才有，其他應(yīng)用則須采用NEON處理器。我們的方案可直接取代NEON，同時(shí)我們也提供了軟件工具來協(xié)助客戶從ARM架構(gòu)轉(zhuǎn)換到RISC-V架構(gòu)。此外，即使客戶熟悉SVE架構(gòu)，我們亦能提供更具成本效益的解決方案。」
過去，純量處理器是主流，但隨著進(jìn)入AI應(yīng)用時(shí)代，Chris Jones認(rèn)為，業(yè)界將需要矢量處理來支持更多的平行運(yùn)算需求，這是未來運(yùn)算的一個(gè)重要趨勢。我們相信，亂序(OoO)、矢量的低功耗高效能運(yùn)算處理器將會有廣大的市場，這將為SiFive帶來絕佳的成長機(jī)會，使RISC-V架構(gòu)被更廣泛地采用。