早在2024年10月，英偉達在RISC-V北美峰會上透露，其在2015年就選定將RISC-V選定為其專有Falcon微控制器（MCU）的繼任架構(gòu)。由于 MCU 內(nèi)核是通用的，因此可以在英偉達的產(chǎn)品中廣泛使用。根據(jù)英偉達當時的預計，2024年英偉達將交付10億個內(nèi)置于其 GPU、CPU、SoC 和其他產(chǎn)品中的 RISC-V 處理器，這也凸顯了定制 RISC-V 內(nèi)核在英偉達硬件中的普遍性和重要性。
在此次RISC-V中國峰會上，F(xiàn)rans Sijstermanns也指出，英偉達是RVI和RISE的董事會成員和技術(shù)委員會代表，也是相關(guān)規(guī)范的貢獻者。英偉達產(chǎn)品中的微控制器都是基于RISC-V架構(gòu)，具有可配置、可擴展和安全保護功能，并且也被集成在30多個IP中，每年出貨量超過10億個RISC-V MCU。
雖然英偉達在其硬件當中加入了RISC-V CPU內(nèi)核作為微控制器，但是目前英偉達驅(qū)動其GPU進行AI高效加速計算的CUDA軟件（基于C語言和C++語言的拓展）只在x86和Arm架構(gòu)CPU上得以部署。Frans Sijstermanns在此次RISC-V中國峰會上正式宣布，CUDA將會支持RISC-V架構(gòu)，“我們現(xiàn)在是正在做這樣的一個移植工作，我相信這個未來是非常大有可為的”。
據(jù)介紹，CUDA主要包含兩個關(guān)鍵組成部分：一個Toolkit，一個是驅(qū)動器。CUDA的Toolkit像是一個編譯器一樣，擁有非常好的編譯功能，其中也包括了非常多的組件。
比如一個完整的CUDA加速應用示例，包括特定應用模塊、第三方軟件、CUDA庫代碼，所有軟件都需要映射到目標CPU。在下面這個圖表當中，就是用的PyTorch作為例子，還有CUDA KMD、還有CUDA UMD。英偉達正在做下圖中綠色部分的移植。還有第三方的軟件或者是應用軟件，也是需要進行移植到RISC-V。
此外，CUDA庫也是非常重要的，在所有的垂直行業(yè)中可能都需要有自己的一個庫。比如說英偉達的FT的庫能夠加速推理，還有相關(guān)的數(shù)據(jù)分析庫、加速芯片制造的庫等等。
“我們在這一行業(yè)已經(jīng)深耕了20年之久，建立了900多個不同的庫，加速不同的行業(yè)技術(shù)發(fā)展就是我們的目標。移植到RISC-V之后，我們就能落地所有的這些庫，能夠讓大家更快的創(chuàng)新方式進行相關(guān)的設計及技術(shù)迭代。”Frans Sijstermanns解釋道。
Frans Sijstermanns指出，RISC-V在過去幾年中實現(xiàn)了非常長足的進展。自2022年以來，至少有10個新的規(guī)范已經(jīng)得到了RISC-V國際基金會的批準，其中RVA23是非常重要的規(guī)范，同時服務器SoC規(guī)范也獲批了。此外，在軟件層上，RISC-V也取得了非常多的進展，現(xiàn)在RISC-V國際基金會官網(wǎng)上就有75個不同的軟件包，它們都已經(jīng)在RISC-V上“運行”了。比如像Linux這樣的一些操作系統(tǒng)程序，甚至一些工具鏈都已經(jīng)推出，還包括數(shù)據(jù)庫、網(wǎng)絡虛擬機等都完成了。“還有一些非常重要的基礎性工作，比如編譯器、模擬、工具鏈等方面的工作，只有這些工作做到位了，我們才能夠進一步的發(fā)展。為此，我也想感謝整個RISC-V基金會及生態(tài)合作伙伴。”
那么將CUDA移植到RISC-V會面臨哪些挑戰(zhàn)呢？
Frans Sijstermanns表示，關(guān)鍵的問題在于RISC-V CPU板卡的可用性，因為對于CUDA移植來說，不僅要有CPU，還要有相關(guān)的GPU。比如，英偉達就有用到阿里巴巴達摩院的RISC-V CPU C920，這對于英偉達在開發(fā)層面雖然已經(jīng)很好，但是目前還沒有支持已經(jīng)獲批的RVA23規(guī)范的SoC，因為英偉達需要統(tǒng)一的虛擬內(nèi)存，這樣才也能夠進一步的去分享CPU和GPU內(nèi)存之間數(shù)據(jù)，甚至在這兩者之間進行數(shù)據(jù)的復制和粘貼，并且保證一致性，從而保障用戶體驗。
“我們現(xiàn)在和整個生態(tài)系統(tǒng)中的合作伙伴精誠合作，希望能夠把CUDA進行進一步的改善。與此同時，我們也會希望把這樣一個標準文本的CUDA版本推出來同樣兼容RISC-V，這樣我們才能夠更好的符合服務器的平臺規(guī)范以及Linux操作系統(tǒng)的RISC-V標準。”Frans Sijstermanns強調(diào)：“我們希望把所有的這些問題在整個系統(tǒng)中解決之后再進行發(fā)布。”
除了CPU、GPU之外，NVLink 也是英偉達的關(guān)鍵組件，其中也集成了相關(guān)的軟件，這些與CPU、GPU一起可以看成是一個完整的系統(tǒng)級NVLink Fusion架構(gòu)設計，能夠讓整個數(shù)據(jù)中心能夠更好、更快的工作。
Frans Sijstermanns暗示，在NVLink Fusion框架下，未來RISC-V將會是控制路徑的一部分，在整個系統(tǒng)當中承擔重要角色，甚至成為NVIDIA機架架構(gòu)當中的與NVLink結(jié)合的定制加速器和或定制CPU。
“整個英偉達業(yè)務正在去加速計算，其實我們不在乎具體是什么CPU。”Frans Sijstermanns指出：“無論是x86、Arm或者是RISC-V，我們其實都希望能夠兼容。所以，關(guān)鍵在于要讓用戶、開發(fā)者都能夠有自己的選擇。”
“CUDA能夠很好的幫助我們借助英偉達通信處理器去跟RISC-V服務器處理器實現(xiàn)加速，并且更好的提出相關(guān)的全套硬件解決方案，這也是我們從CUDA軟件過度到硬件的愿景。當然，在這方面有非常多的工作要做。與此同時，在整個生態(tài)系統(tǒng)、以及整個合作伙伴方面，我們也需要看到有好的RISC-V CPU能夠讓它發(fā)揮相關(guān)的作用。”Frans Sijstermanns總結(jié)說道。
