《電子技術應用》
您所在的位置:首頁 > 電子元件 > 業界動態 > Cerebras全球最大芯片WSE升級二代:參數翻番,功耗不變

Cerebras全球最大芯片WSE升級二代:參數翻番,功耗不變

2021-04-22
來源:電子工程專輯
關鍵詞: Cerebras WSE 最大芯片

  4月20日,Cerebras Systems 公司再次刷新歷史,推出為超級計算機任務而打造的第 2 代 Wafer Scale Engine (WSE-2)芯片。與一代WSE相比,WSE-2雖然在面積上沒有變化,但卻擁有創紀錄的 2.6 萬億個晶體管以及 85萬個 AI 優化的內核,芯片的所有性能特征,包括:晶體管數、內核數、內存、內存帶寬和結構帶寬,均比一代增加了一倍以上。

  差不多兩年前(2019年8月),SeaMicro 創始人安德魯·費爾德曼(Andrew Feldman)創辦的 Cerebras  Systems 公司公司,揭開了芯片設計領域的一場革命,他們將整片晶圓制成了一個巨大的芯片。

微信圖片_20210422110041.jpg

  以往的芯片制造流程,是從硅錠切下一片晶圓后在Fab中進行加工,一片晶圓能被切成數百顆獨立的芯片。而這顆名為晶圓級引擎(Wafer Scale Engine,WSE-1)的處理器直接把整片晶圓做成了一顆芯片,面積與12英寸晶圓所能截取的最大矩形面積一樣——比iPad還大。

  不過,這顆芯片的每一塊區域都能被稱為內核,它們以一種復雜的方式與其他內核相互連接。互聯的設計是為了保持所有內核的高速運轉,以便所有晶體管能夠作為一個整體一起工作。在 2019 年推出的WSE-1中,Cerebras 融入了 40 萬個內核和 1.2萬億個晶體管,采用的是 16 納米工藝進行制造,可同時專注于AI和HPC(High Performance Computing,高性能計算機群)工作負載。

  更狠的第二代(WSE-2)來了

微信圖片_20210422110108.jpg

  4月20日,Cerebras Systems 公司再次刷新歷史,推出為超級計算機任務而打造的第二代 Wafer Scale Engine (WSE-2)芯片。與一代WSE相比,WSE-2雖然在面積上沒有變化,但卻擁有創紀錄的 2.6 萬億個晶體管以及 85萬個 AI 優化的內核,芯片的所有性能特征,包括:晶體管數、內核數、內存、內存帶寬和結構帶寬,均比一代增加了一倍以上。

微信圖片_20210422110123.jpg

  這得益于WSE-2采用基于臺積電(TSMC)的N7工藝(7nm)打造,使得邏輯電路可以按比例縮小,并在一定程度上縮小了SRAM,讓新芯片上可以容納更多AI內核。Feldman 說,有了這樣的先進工藝支持,Cerebras 可以在同樣的8*8英寸,面積約46225mm2的芯片中塞進更多的晶體管。

微信圖片_20210422110142.jpg

  WSE-2與一代對比(圖自:AnanTech)

  值得注意的是,在功能提升的前提下,Cerebras還能夠保持其系統功耗不變(23 kW)。

微信圖片_20210422110158.jpg

  對比市場上第二大AI處理器,英偉達的Ampere A100面積約為826mm2,具有0.054萬億個晶體管。WSE-2比它多了2.55萬億個晶體管;內核數是A100的123倍;緩存是其1000倍;可提供的內存帶寬,則達到了A100的13萬倍。

  Cerebras還引用了1000倍的板載內存,帶有40 GB的SRAM,而Ampere A100則為40 MB。

微信圖片_20210422110211.jpg

  最初推出WSE-1的時候,很多人擔心這么大的晶圓做芯片,萬一其中一塊不良,是否整個報廢?對此Cerebras解釋說,他們通過設計一種可以繞開任何制造缺陷的系統來實現100%的良率,核心與帶有FMAC數據路徑的2D Mesh連接

  Cerebras在WSE-1用了1.5%的額外核心來容納缺陷,但由于臺積電工藝的提升,這個數值被進一步縮小了。

  晶圓級引擎存在的意義

  WSE的出現,是因為訓練神經網絡需要花費較多的時間,即便是當今最先進的模型,也需要幾天或幾周的時間進行訓練,大型網絡則需要數周。通常做法是在數十、數百甚至數千個GPU上進行分布式訓練,以使訓練時間更可控。

  其中最大的瓶頸,是這些龐大的處理器集群很難編程,而且數據必須在處理器和外部 DRAM 存儲器之間進行多次傳輸,既浪費時間又消耗能源。所以WSE研發團隊的初衷是擴大芯片,使它與 AI 處理器內核一起容納所需的所有數據,一個CS-2的性能相當于整個GPU集群的性能,同時具有單個設備的簡單性……

微信圖片_20210422110228.jpg

  其設計的關鍵是自定圖形編譯器,采用pyTorch或TensorFlow將每一層映射到芯片的物理部分,從而允許在數據流過時進行異步計算。擁有如此大的處理器意味著數據永遠不會掉隊,也不需要在內存中等待,不浪費功率,并且可以以流水線的方式連續地移至計算的下一個階段。編譯器和處理器的設計還考慮到了稀疏性,無論批處理大小如何都可以實現高利用率,或者可以使參數搜索算法同時運行。

微信圖片_20210422110248.jpg

  Cerebras設計的獨特性,讓它能夠超越制造過程中出現的常見物理限制,即標線限制。處理器的設計限制,往往取決于芯片的最大尺寸,因為很難通過Cross link連接兩個區域。這是Cerebras的殺手锏之一,該公司仍然是唯一一家能提供這種規模處理器的公司。

微信圖片_20210422110303.jpg

  在Hot Chips 2020,該公司首席硬件架構師Sean Lie表示,Cerebras對客戶的主要好處之一是能夠簡化工作負載,以前需要使用GPU / TPU機架的工作,現在可以以計算相關的方式在單個WSE上運行。

  產品和合作伙伴

  Cerebras的第一代WSE作為CS-1的完整系統的一部分一起打包出售,不少實驗室與計算機中心已經部署了Cerebras WSE和CS-1。

微信圖片_20210422110326.jpg

  愛丁堡大學的超級計算中心,利用WSE進行自然語言處理、基因組學和COVID-19的相關研究。

  在美國阿貢國家實驗室(ANL),WSE被用于COVID-19研究、重力波檢測和材料發現等;并且在癌癥療法研究中,使癌癥模型的實驗周轉時間,減少了300倍以上。

  制藥企業葛蘭素史克的高級副總裁金·布蘭森表示:“其增加了生成的編碼器模型的復雜性,同時將訓練時間減少了80倍。”

  Lawrence Livermore將一臺CS-1與其23 PFLOP“拉森”超級計算機配對。匹茲堡超級計算機中心以500萬美元的價格購買了兩個系統,并將這些系統連接到他們的Neocortex超級計算機上,以實現同步AI和增強的計算能力。

  對于WSE-2的應用,國際調研公司Tirias Research首席分析師Jim McGregor認為:“顯然,對用于大型數據集的Cerebras晶圓級解決方案,有些公司和實體很感興趣。但是在企業層面,還有數百萬的其他AI應用,以及一些Cerebras不能處理的情況,這就是英偉達擁有SuprPod和Selene超級計算機的原因。與英偉達相比,Cerebras更像是一個小眾平臺,二者的廣度無法相提并論。”

  目前Cerebras在多倫多、圣地亞哥、東京和舊金山擁有約300名員工。該公司首席執行官安德魯·費爾德曼(Andrew Feldman)表示,作為一家公司,他們已經實現了盈利,已經部署了CS-1的客戶很多,并且在啟動商業系統時已經有更多的客戶在遠程試用CS-2。

微信圖片_20210422110346.jpg

  除了AI之外,由于芯片的靈活性使流體動力學和其他計算仿真成為可能,因此Cerebras在典型的商業高性能計算市場(例如石油、天然氣和基因組學)中吸引了很多客戶。

  CS-2的部署將于今年晚些時候的第三季度開始,價格已從2-3百萬美元升至“幾百萬”美元。

  

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
亚洲一区二区欧美_亚洲丝袜一区_99re亚洲国产精品_日韩亚洲一区二区
亚洲人成毛片在线播放女女| 欧美系列亚洲系列| 亚洲免费av电影| 欧美国内亚洲| 在线综合+亚洲+欧美中文字幕| 亚洲精品资源美女情侣酒店| 国产日本亚洲高清| 免费在线国产精品| 夜夜嗨av一区二区三区中文字幕| 在线视频精品一区| 国产亚洲欧美aaaa| 欧美激情五月| 99精品久久久| 亚洲人在线视频| 正在播放亚洲| 99在线|亚洲一区二区| 国产日韩高清一区二区三区在线| 国产精品久久久久aaaa樱花| 久久综合狠狠| 亚洲少妇最新在线视频| 9久re热视频在线精品| 99国产欧美久久久精品| 一二三四社区欧美黄| 欧美一区二区三区四区高清| 亚洲黄色一区| 国产婷婷色一区二区三区在线| 欧美成人精品在线| 欧美一级片在线播放| 亚洲日本免费| 亚洲美女福利视频网站| 欧美一区二区视频在线观看2020| 欧美一级淫片aaaaaaa视频| 亚洲日本成人| 日韩亚洲欧美成人| 亚洲国产高清高潮精品美女| 国产精品视频| 欧美日本一区| 久久久亚洲欧洲日产国码αv | 激情成人亚洲| 欧美手机在线| 欧美成人午夜| 欧美日韩精品在线播放| 美国十次成人| 久久精品亚洲一区二区| 亚洲综合色婷婷| 亚洲伦理一区| 亚洲一区二区三区四区在线观看| 亚洲人午夜精品免费| 亚洲午夜三级在线| 日韩一区二区精品在线观看| 久久精品毛片| 午夜视频在线观看一区二区三区| 日韩亚洲欧美中文三级| 亚洲欧美日韩国产精品| 亚洲综合欧美| 亚洲精品久久嫩草网站秘色 | 久久国产精品一区二区三区| 亚洲一区中文字幕在线观看| 久久国产一二区| 一本大道久久a久久综合婷婷| 国产精品视频1区| 国产日韩精品一区观看| 亚洲国产你懂的| 亚洲一区二区三区精品视频| 亚洲人成绝费网站色www| 亚洲午夜久久久| 91久久久亚洲精品| 亚洲电影在线观看| 久久精品麻豆| 亚洲永久免费| 欧美国产一区在线| 国产伦精品免费视频| 国产精品资源| 91久久久久久| 欧美在线视频a| 亚洲视频免费看| 免费欧美日韩| 国产欧美精品日韩区二区麻豆天美| 亚洲电影免费| 亚洲区在线播放| 欧美一区网站| 亚洲免费一区二区| 欧美紧缚bdsm在线视频| 国内在线观看一区二区三区 | 国产自产高清不卡| 中文国产成人精品| 亚洲自拍16p| 一本色道久久综合狠狠躁篇怎么玩| 久久久久www| 国产精品国产自产拍高清av王其| 亚洲国产欧洲综合997久久| 欧美一区二区三区视频免费| 午夜亚洲伦理| 久久久精品一区二区三区| 国产精品久久久久久久久免费| 在线欧美一区| 久久精品亚洲精品| 久久精品国产一区二区三区| 久久久久网址| 国产精品日韩欧美综合| 国产欧美一区二区精品性色| 久久影视三级福利片| 欧美激情精品久久久久久免费印度| 欧美视频不卡| 亚洲黄页一区| 亚洲片在线资源| 久久亚洲精品一区二区| 国产午夜精品一区理论片飘花| 亚洲少妇一区| 亚洲夜间福利| 国产精品99一区| 亚洲蜜桃精久久久久久久| 亚洲美女区一区| 欧美激情在线| 亚洲日本中文字幕免费在线不卡| 亚洲国产一二三| 日韩视频永久免费观看| 久久综合国产精品台湾中文娱乐网| 国产亚洲精品aa午夜观看| 亚洲欧美成人一区二区三区| 亚洲欧美一区二区原创| 久久久久.com| 欧美日韩亚洲另类| 亚洲视频精品| 欧美日韩免费观看一区=区三区| 亚洲国产日韩在线| 亚洲乱码国产乱码精品精| 欧美高清在线观看| 亚洲人成毛片在线播放| 一区二区黄色| 国产精品v欧美精品v日韩精品| 一区二区三区精品在线 | 香蕉久久夜色精品国产使用方法| 国产精品普通话对白| 伊人婷婷久久| 亚洲主播在线| 久久成人免费视频| 国产一区二区无遮挡| 久久精品一本久久99精品| 免费亚洲电影在线| 亚洲精品黄色| 亚洲专区一区| 国产欧美在线播放| 亚洲国产高清aⅴ视频| 欧美国产先锋| 这里只有精品在线播放| 欧美在线电影| 欧美日韩麻豆| 亚洲手机视频| 久久黄色影院| 在线 亚洲欧美在线综合一区| 亚洲另类视频| 国产精品国产三级国产aⅴ浪潮 | 在线看视频不卡| 亚洲午夜激情网页| 国产精品自拍在线| 久久精品导航| 欧美久久久久免费| 亚洲在线观看视频| 免费短视频成人日韩| 夜夜嗨av色综合久久久综合网| 欧美在线黄色| 亚洲电影免费观看高清完整版| 亚洲图色在线| 好吊妞这里只有精品| av成人激情| 国产精品福利影院| 国内精品视频在线播放| 亚洲精品麻豆| 国产精品亚发布| 亚洲日本成人网| 国产精品网站一区| 91久久久久久久久| 国产精品推荐精品| 亚洲精品一区二区三区四区高清| 国产精品久久国产愉拍| 亚洲国产精品专区久久| 国产精品mv在线观看| 亚洲丶国产丶欧美一区二区三区| 欧美午夜免费影院| 亚洲高清不卡av| 国产精品视频网址| 日韩视频免费大全中文字幕| 国产欧美日韩视频在线观看| 亚洲美女视频在线免费观看| 国产欧美精品va在线观看| 99热精品在线| 国产真实久久| 亚洲综合三区| 91久久久久久久久| 久久久久久久精| 一本色道久久综合狠狠躁篇的优点 | 黄色国产精品| 午夜精品福利电影| 91久久嫩草影院一区二区| 久久久久久久波多野高潮日日| 亚洲少妇最新在线视频| 欧美精品三级| 亚洲黄色免费电影| 国产日韩欧美综合精品|