《電子技術應用》
您所在的位置:首頁 > 通信與網絡 > 新品快遞 > 存儲新時代:利用RISC-V和內存結構實現開放式計算

存儲新時代:利用RISC-V和內存結構實現開放式計算

2018-07-11
關鍵詞: 存儲 RISC-V 內存結構

  在過去的幾年里,我們目睹了數據的一系列巨大變化,包括數據如何被生成、處理以及進一步利用以獲取額外的價值和智能,而這些變化都受到以深度學習和神經網絡應用為基礎的新興計算模式所影響。這種深刻的變化始于數據中心,其利用深度學習技術來提供對海量數據的洞察,主要用于分類或識別圖像、支持自然語言處理或語音處理,或者理解、生成或成功學習如何玩復雜的策略游戲。這種變化催生了一批專門針對這些類別的問題而設計的高功效計算設備(基于GP-GPU和FPGA),后來還產生了可完全定制的ASIC,進一步加速并提高了基于深度學習的系統的計算能力。

  大數據和快速數據

  大數據應用采用專門的GP-GPU、FPGA和ASIC處理器透過深度學習技術來分析大型數據集,并揭示趨勢、模式和關聯性,從而實現圖像識別、語音識別等功能。因此,大數據是基于過去的信息或常駐在云端的靜止數據。大數據分析的一個常用的功能是執行特定任務“訓練過的”神經網絡,例如識別和標記圖像或視頻序列中的所有面部,語音識別也展示了神經網絡的強大功能。

  這種任務最好由專門的引擎(或推理引擎)來執行,這種引擎直接駐留在邊緣設備上并由快速數據應用程序(圖1)來引導。通過在邊緣設備上處理本地所捕獲的數據,快速數據能夠利用來自大數據的算法提供實時決策和結果。大數據提供了從“過去發生了什么”到“將來可能會發生什么”所演繹出的洞察(預測分析),而快速數據則提供了能夠改善業務決策、運營并減少低效情形的實時行動,所以這一定會影響最終結果。這些方法可以適用于各種邊緣和存儲設備,例如照相機、智能手機和固態硬盤。

  在數據上進行計算

  新的工作負載基于兩種場景:(1)針對特定工作負載(例如圖像或語音識別)訓練大型神經網絡;以及(2)在邊緣設備上應用經過訓練的(或“適合的”)神經網絡。兩種工作負載都需要大規模并行的數據處理,其中包括大矩陣的乘法和卷積。這些計算功能的最佳實施方式需要在大矢量或數據陣列上運行的矢量指令。RISC-V就是一種非常適合于此類型應用的架構和生態系統,因為它提供了一套由開源軟件支持的標準化過程,使得開發人員能夠完全自由地采用、修改甚至添加專有矢量指令。圖1中概述了一些顯而易見的RISC-V計算架構機會。

  移動數據

  快速數據和邊緣計算的出現產生了一個實際的后果,即:與云端之間來回移動所有數據進行計算分析并不是一件有效率的事。首先,在移動網絡和以太網中進行遠距離傳輸時,它涉及到相對較大的數據延遲傳輸,這對于必須實時操作的圖像識別或語音識別應用而言并不是理想的。其次,在邊緣設備上進行計算需要更易于伸縮的架構,其中,圖像和語音處理或者在SSD上進行的內存計算操作都可用一種伸縮的方式來進行。采用這種方式,每一臺新增的邊緣設備都會帶來所需要的增量計算能力,對數據移動方式和時間進行優化是這種架構可伸縮性的一項關鍵因素。

1.png

  圖1:大數據、快速數據和RISC-V機會

  在圖1a中,云數據中心服務器利用在大型大數據集上訓練的深度學習神經網絡來執行機器學習的功能。在圖1b中,邊緣設備中的安全攝像機采用經過大數據訓練的推理引擎來實時識別圖像(快速數據)。在圖1c中,智能固態硬盤設備采用推理引擎進行數據識別和分類,從而有效地利用了此設備的帶寬。圖1展示了RISC-V內核的潛在機會,它可以自由地添加專有的及未來標準化的矢量指令,這些指令對于處理深度學習和推理技術相當有效。

  另一個類似且重要的趨勢是大數據端和云端上數據的移動及訪問方式(圖2)。傳統的計算機體系結構(圖2a)采用慢速外圍總線,該總線連接到許多其他設備(例如,專用機器學習加速器、圖形卡、高速固態硬盤、智能網絡控制器,等等)。低速總線會影響設備的利用率,因為它限制了總線本身、主CPU以及主要的潛在持久內存之間的通信能力。這些新型計算設備也不可能在它們之間或與主CPU共享內存,從而導致在慢速總線上進行徒勞且受限制的數據移動。

  關于如何改善不同計算設備(例如CPU和計算機及網絡加速器)之間的數據移動,以及如何在內存或快速存儲中訪問數據,出現了幾個重要的行業趨勢。這些新趨勢集中在開放標準化工作上,能夠提供更快、更低延遲的串行結構以及更智能的邏輯協議,從而實現對共享內存的一致訪問。

  新一代以數據為中心的計算

  未來的架構將需要部署開放接口,以連接到持久性內存以及接入計算加速器并支持高速緩存一致性的快速總線(例如TileLink、RapidIO?、OpenCAPI?和Gen-Z),以期大幅度提高性能,而且使所有設備共享內存并減少不必要的數據移動。

2.png

  圖2:計算體系結構中的數據移動和訪問

  在圖2a中,傳統的計算體系結構由于把一條慢速外設總線用于快速存儲器及計算加速設備,其能力已達到其極限。在圖2b中,未來的計算體系結構采用了開放接口,能夠為平臺上所有的計算資源提供統一并支持高速緩存一致性的訪問方式來訪問共享持久內存,(這稱為以數據為中心的體系結構)。在圖2c中,所部署的設備能夠使用相同的共享內存,從而減少了不必要的數據復制。

  CPU 外圍核心及網絡接口控制器的作用將成為支持數據移動的關鍵因素。CPU外圍核心組件必須支持密鑰內存和永久內存接口(例如NVDIMM-P),也必須支持駐留在CPU附近的內存。還需要實施面向計算加速器、智能網絡和遠程持久內存的智能快速總線。這種總線上的任何設備(例如CPU、通用或專用計算加速器、網絡適配器、存儲器或內存)都可以包含其自己的計算資源并具有訪問共享內存的能力(圖2b和圖2c)。

  RISC-V技術正是優化數據移動的關鍵推動因素,因為它能夠在所有的計算加速器設備上針對新的機器學習工作負載來執行矢量指令。它實現了多種開源CPU技術,能夠支持開放內存和智能總線接口;且實現了以數據為中心具有一致性共享內存的體系結構。

  利用RISC-V解決挑戰

  大數據和快速數據為未來的數據移動帶來了挑戰,也為RISC-V指令集架構(ISA)鋪平了道路。這種架構開放的、模塊化的方法非常適合用作以數據為中心的計算體系結構的基礎。它提供了以下功能:

  ·擴展邊緣計算設備的計算資源

  ·添加新的指令,例如用于機器學習工作負載的矢量指令

  ·尋找非常接近于存儲器和內存介質的小型計算內核

  ·支持新型計算范式以及模塊化芯片設計方法

  ·支持新型以數據為中心的體系結構,其中所有的處理單元都可以透過一致的方式訪問共享的持久內存,從而優化數據移動

  RISC-V由超過100個組織機構的眾多成員共同開發,這其中包含一個由軟件和硬件創新者組成的協作性社區。這些創新者能夠對ISA進行改編,使其適應特定的目的或項目。任何加入該組織的人都可以根據一份“Berkeley Software Distribution”(BSD軟件發布)許可證來設計、制造和/或銷售RISC-V芯片和軟件。

  結語

  為了實現其價值和可能性,數據需要捕獲、保存、訪問并轉換,以發揮其全部潛力。含有大數據和快速數據應用的環境已經使通用計算體系結構的處理能力相形見絀。未來以數據為中心的極端應用將需要針對特定用途設計的處理能力,以便以開放的方式支持數據資源的獨立擴展。

  擁有一套以在持久內存中存儲的數據為中心的通用開放計算機體系結構,同時又能夠讓所有的設備發揮一定的計算作用,這是由新類型機器學習計算工作負載所推動的這些新型可擴展體系結構得以出現的關鍵因素??缭皆贫思斑吘壴O備各個部分的下一代應用都需要這種新型的低能耗處理方式,因為專門的計算加速處理器將能夠專注于處理其手邊的任務,從而能夠減少來回移動數據所浪費的時間,或者能夠執行與數據無關的額外計算。通過發揮數據的力量、潛力和可能性,人類、社會以及我們的星球都能夠蓬勃發展。


本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 精品久久久久久无码中文野结衣| 久精品在线观看| 99久久精品免费观看国产| 精品免费久久久久久成人影院| 国产在线高清理伦片a电影| 1024在线观看国产天堂| 在厨房被强行侵犯中文字幕| www夜插内射视频网站| 成人免费在线观看| 久久99国产精品久久99果冻传媒 | 国产成人精品无缓存在线播放| 2018狠狠干| 无码专区人妻系列日韩精品| 久草视频这里只有精品| 欧美亚洲国产精品久久| 亚洲欧洲精品成人久久曰影片| 淫术の馆在动漫在线播放| 你懂的网址免费国产| 笨蛋英子未删1至925下载| 卡通动漫第一页综合专区| 老司机精品导航| 国产一区二区三区在线观看免费| 超清中文乱码字幕在线观看| 国产女人高潮抽搐叫床视频| 亚洲大成色www永久网址| 国产精品免费无遮挡无码永久视频| 99re视频在线播放| 在线观看免费黄网站| a级毛片免费网站| 天天干在线播放| 久久婷婷人人澡人人爽人人爱| 李丽珍蜜桃成熟时电影3在线观看 李丽珍蜜桃成熟时电影在线播放观看 | 日韩伦理电影在线免费观看| 二个人看的www免费视频| 樱桃视频高清免费观看在线播放 | 久久久久国产精品免费看| 日韩AV高清在线看片| 久久福利资源网站免费看| 日韩欧国产精品一区综合无码| 久久精品国产四虎| 日韩欧美中文字幕一区|