《電子技術應用》
您所在的位置:首頁 > 電子元件 > 業界動態 > Cerebras全球最大芯片WSE升級二代:參數翻番,功耗不變

Cerebras全球最大芯片WSE升級二代:參數翻番,功耗不變

2021-04-22
來源:電子工程專輯
關鍵詞: Cerebras WSE 最大芯片

  4月20日,Cerebras Systems 公司再次刷新歷史,推出為超級計算機任務而打造的第 2 代 Wafer Scale Engine (WSE-2)芯片。與一代WSE相比,WSE-2雖然在面積上沒有變化,但卻擁有創紀錄的 2.6 萬億個晶體管以及 85萬個 AI 優化的內核,芯片的所有性能特征,包括:晶體管數、內核數、內存、內存帶寬和結構帶寬,均比一代增加了一倍以上。

  差不多兩年前(2019年8月),SeaMicro 創始人安德魯·費爾德曼(Andrew Feldman)創辦的 Cerebras  Systems 公司公司,揭開了芯片設計領域的一場革命,他們將整片晶圓制成了一個巨大的芯片。

微信圖片_20210422110041.jpg

  以往的芯片制造流程,是從硅錠切下一片晶圓后在Fab中進行加工,一片晶圓能被切成數百顆獨立的芯片。而這顆名為晶圓級引擎(Wafer Scale Engine,WSE-1)的處理器直接把整片晶圓做成了一顆芯片,面積與12英寸晶圓所能截取的最大矩形面積一樣——比iPad還大。

  不過,這顆芯片的每一塊區域都能被稱為內核,它們以一種復雜的方式與其他內核相互連接。互聯的設計是為了保持所有內核的高速運轉,以便所有晶體管能夠作為一個整體一起工作。在 2019 年推出的WSE-1中,Cerebras 融入了 40 萬個內核和 1.2萬億個晶體管,采用的是 16 納米工藝進行制造,可同時專注于AI和HPC(High Performance Computing,高性能計算機群)工作負載。

  更狠的第二代(WSE-2)來了

微信圖片_20210422110108.jpg

  4月20日,Cerebras Systems 公司再次刷新歷史,推出為超級計算機任務而打造的第二代 Wafer Scale Engine (WSE-2)芯片。與一代WSE相比,WSE-2雖然在面積上沒有變化,但卻擁有創紀錄的 2.6 萬億個晶體管以及 85萬個 AI 優化的內核,芯片的所有性能特征,包括:晶體管數、內核數、內存、內存帶寬和結構帶寬,均比一代增加了一倍以上。

微信圖片_20210422110123.jpg

  這得益于WSE-2采用基于臺積電(TSMC)的N7工藝(7nm)打造,使得邏輯電路可以按比例縮小,并在一定程度上縮小了SRAM,讓新芯片上可以容納更多AI內核。Feldman 說,有了這樣的先進工藝支持,Cerebras 可以在同樣的8*8英寸,面積約46225mm2的芯片中塞進更多的晶體管。

微信圖片_20210422110142.jpg

  WSE-2與一代對比(圖自:AnanTech)

  值得注意的是,在功能提升的前提下,Cerebras還能夠保持其系統功耗不變(23 kW)。

微信圖片_20210422110158.jpg

  對比市場上第二大AI處理器,英偉達的Ampere A100面積約為826mm2,具有0.054萬億個晶體管。WSE-2比它多了2.55萬億個晶體管;內核數是A100的123倍;緩存是其1000倍;可提供的內存帶寬,則達到了A100的13萬倍。

  Cerebras還引用了1000倍的板載內存,帶有40 GB的SRAM,而Ampere A100則為40 MB。

微信圖片_20210422110211.jpg

  最初推出WSE-1的時候,很多人擔心這么大的晶圓做芯片,萬一其中一塊不良,是否整個報廢?對此Cerebras解釋說,他們通過設計一種可以繞開任何制造缺陷的系統來實現100%的良率,核心與帶有FMAC數據路徑的2D Mesh連接

  Cerebras在WSE-1用了1.5%的額外核心來容納缺陷,但由于臺積電工藝的提升,這個數值被進一步縮小了。

  晶圓級引擎存在的意義

  WSE的出現,是因為訓練神經網絡需要花費較多的時間,即便是當今最先進的模型,也需要幾天或幾周的時間進行訓練,大型網絡則需要數周。通常做法是在數十、數百甚至數千個GPU上進行分布式訓練,以使訓練時間更可控。

  其中最大的瓶頸,是這些龐大的處理器集群很難編程,而且數據必須在處理器和外部 DRAM 存儲器之間進行多次傳輸,既浪費時間又消耗能源。所以WSE研發團隊的初衷是擴大芯片,使它與 AI 處理器內核一起容納所需的所有數據,一個CS-2的性能相當于整個GPU集群的性能,同時具有單個設備的簡單性……

微信圖片_20210422110228.jpg

  其設計的關鍵是自定圖形編譯器,采用pyTorch或TensorFlow將每一層映射到芯片的物理部分,從而允許在數據流過時進行異步計算。擁有如此大的處理器意味著數據永遠不會掉隊,也不需要在內存中等待,不浪費功率,并且可以以流水線的方式連續地移至計算的下一個階段。編譯器和處理器的設計還考慮到了稀疏性,無論批處理大小如何都可以實現高利用率,或者可以使參數搜索算法同時運行。

微信圖片_20210422110248.jpg

  Cerebras設計的獨特性,讓它能夠超越制造過程中出現的常見物理限制,即標線限制。處理器的設計限制,往往取決于芯片的最大尺寸,因為很難通過Cross link連接兩個區域。這是Cerebras的殺手锏之一,該公司仍然是唯一一家能提供這種規模處理器的公司。

微信圖片_20210422110303.jpg

  在Hot Chips 2020,該公司首席硬件架構師Sean Lie表示,Cerebras對客戶的主要好處之一是能夠簡化工作負載,以前需要使用GPU / TPU機架的工作,現在可以以計算相關的方式在單個WSE上運行。

  產品和合作伙伴

  Cerebras的第一代WSE作為CS-1的完整系統的一部分一起打包出售,不少實驗室與計算機中心已經部署了Cerebras WSE和CS-1。

微信圖片_20210422110326.jpg

  愛丁堡大學的超級計算中心,利用WSE進行自然語言處理、基因組學和COVID-19的相關研究。

  在美國阿貢國家實驗室(ANL),WSE被用于COVID-19研究、重力波檢測和材料發現等;并且在癌癥療法研究中,使癌癥模型的實驗周轉時間,減少了300倍以上。

  制藥企業葛蘭素史克的高級副總裁金·布蘭森表示:“其增加了生成的編碼器模型的復雜性,同時將訓練時間減少了80倍。”

  Lawrence Livermore將一臺CS-1與其23 PFLOP“拉森”超級計算機配對。匹茲堡超級計算機中心以500萬美元的價格購買了兩個系統,并將這些系統連接到他們的Neocortex超級計算機上,以實現同步AI和增強的計算能力。

  對于WSE-2的應用,國際調研公司Tirias Research首席分析師Jim McGregor認為:“顯然,對用于大型數據集的Cerebras晶圓級解決方案,有些公司和實體很感興趣。但是在企業層面,還有數百萬的其他AI應用,以及一些Cerebras不能處理的情況,這就是英偉達擁有SuprPod和Selene超級計算機的原因。與英偉達相比,Cerebras更像是一個小眾平臺,二者的廣度無法相提并論。”

  目前Cerebras在多倫多、圣地亞哥、東京和舊金山擁有約300名員工。該公司首席執行官安德魯·費爾德曼(Andrew Feldman)表示,作為一家公司,他們已經實現了盈利,已經部署了CS-1的客戶很多,并且在啟動商業系統時已經有更多的客戶在遠程試用CS-2。

微信圖片_20210422110346.jpg

  除了AI之外,由于芯片的靈活性使流體動力學和其他計算仿真成為可能,因此Cerebras在典型的商業高性能計算市場(例如石油、天然氣和基因組學)中吸引了很多客戶。

  CS-2的部署將于今年晚些時候的第三季度開始,價格已從2-3百萬美元升至“幾百萬”美元。

  

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
亚洲一区二区欧美_亚洲丝袜一区_99re亚洲国产精品_日韩亚洲一区二区
欧美成人综合在线| 国产午夜精品理论片a级探花 | 亚洲另类春色国产| 亚洲国产精品一区在线观看不卡| 欧美一区二区三区四区视频| 亚洲一区二区三区成人在线视频精品| 99国产精品久久久久久久| 91久久久久久久久| 91久久国产综合久久| 亚洲国产精品成人综合| 在线欧美日韩精品| 亚洲国产精品久久久久秋霞影院 | 亚洲区在线播放| 亚洲精品国产精品国自产观看| 亚洲国产高清在线观看视频| 亚洲国产精品成人一区二区| 91久久久国产精品| 99精品国产高清一区二区| 99视频超级精品| 亚洲一二区在线| 亚洲精品久久久久久久久久久| 亚洲已满18点击进入久久| 在线一区日本视频| 亚洲一区二区三区高清不卡| 亚洲欧美经典视频| 欧美一级久久| 久久理论片午夜琪琪电影网| 免费h精品视频在线播放| 欧美va天堂| 欧美日韩精品欧美日韩精品一 | 99精品免费视频| 亚洲午夜精品福利| 午夜精品久久久久久久白皮肤| 欧美一区免费视频| 另类综合日韩欧美亚洲| 欧美高潮视频| 国产精品高清一区二区三区| 国产农村妇女精品| 精品99一区二区| 亚洲三级影院| 亚洲综合欧美日韩| 久久精品一区二区国产| 亚洲精品乱码久久久久久黑人| 中国女人久久久| 欧美一区二区三区免费视| 久久―日本道色综合久久| 欧美黄色视屏| 国产精品视频一二三| 在线播放中文字幕一区| 亚洲最快最全在线视频| 性色一区二区| 亚洲精品视频在线观看免费| 亚洲一区三区电影在线观看| 久久久久国产精品厨房| 欧美精品在线观看播放| 国产欧美一区二区三区久久| 在线日韩成人| 亚洲午夜精品网| 亚洲国产精品va在线看黑人| 夜夜嗨一区二区三区| 欧美综合二区| 欧美日本不卡视频| 国产一二精品视频| 99精品视频网| 欧美一区在线直播| 中国女人久久久| 老牛嫩草一区二区三区日本| 欧美视频四区| 在线电影院国产精品| 亚洲一区二区三区在线看| 亚洲黄色小视频| 亚洲欧美偷拍卡通变态| 欧美高清视频免费观看| 国产欧美日韩综合一区在线播放| 91久久综合亚洲鲁鲁五月天| 欧美一区二区视频在线观看2020| 一区二区三区精品在线| 久久久噜噜噜久久中文字免| 欧美性一区二区| 91久久午夜| 亚洲第一视频| 欧美在线91| 国产精品久久国产精品99gif| 在线欧美小视频| 欧美一区中文字幕| 亚洲欧美日韩中文播放| 欧美久久久久久久久久| 好吊日精品视频| 亚洲男人的天堂在线aⅴ视频| 99在线视频精品| 美女脱光内衣内裤视频久久网站| 国产精品羞羞答答| 一本一道久久综合狠狠老精东影业| 亚洲激情在线激情| 久久精品一区| 国产免费观看久久| 在线亚洲伦理| 中日韩高清电影网| 欧美精品网站| 亚洲国产日韩在线一区模特| 亚洲国产成人精品久久| 久久精品国产一区二区电影| 国产精品久久久久天堂| 日韩一区二区福利| 一区二区三区回区在观看免费视频| 麻豆成人在线观看| 狠狠色狠狠色综合日日tαg| 欧美在线|欧美| 欧美中文字幕视频在线观看| 国产精品美女久久久久av超清| 99这里有精品| 亚洲视频观看| 欧美视频四区| 一区二区三区国产精品| 中文亚洲欧美| 欧美日韩一区二区免费在线观看| 亚洲日本无吗高清不卡| 亚洲毛片一区| 欧美日韩 国产精品| 亚洲美女在线看| 亚洲视屏在线播放| 欧美视频专区一二在线观看| 一区二区三区日韩欧美精品| 亚洲一区亚洲| 国产精品性做久久久久久| 午夜精品久久久久久久| 久久精品系列| 尤物精品在线| 日韩一区二区免费看| 欧美日韩中国免费专区在线看| 日韩午夜黄色| 亚洲欧美三级在线| 国产婷婷成人久久av免费高清| 欧美一区2区视频在线观看| 久久久久久自在自线| 影音先锋成人资源站| 亚洲精品美女在线观看| 欧美日本在线一区| 正在播放亚洲一区| 欧美在线视频一区二区三区| 国产亚洲一区在线| 亚洲人成亚洲人成在线观看| 欧美黄免费看| 宅男噜噜噜66一区二区66| 午夜在线播放视频欧美| 国产婷婷色综合av蜜臀av| 欧美一区二区视频在线观看2020 | 欧美午夜不卡在线观看免费 | 国产一区视频在线观看免费| 亚洲承认在线| 欧美精品一区二区三| 中国av一区| 久久成人资源| 亚洲电影下载| 亚洲私人影吧| 国产欧美一区二区精品忘忧草 | 欧美日韩国产小视频在线观看| 中国日韩欧美久久久久久久久| 久久精品观看| 亚洲国产欧美不卡在线观看| 亚洲自拍另类| 樱桃国产成人精品视频| 中文av字幕一区| 国户精品久久久久久久久久久不卡| 亚洲精品免费看| 国产精品网曝门| 最新成人av在线| 国产精品久久久久久久久久久久| 性色一区二区| 欧美精品一区在线观看| 亚洲男女毛片无遮挡| 欧美aa在线视频| 亚洲欧美国产精品桃花| 牛牛影视久久网| 亚洲欧美国产毛片在线| 欧美激情第8页| 亚洲欧美制服另类日韩| 欧美精品久久久久久| 欧美一区二区三区在线视频| 欧美欧美全黄| 久久精品日韩| 国产精品福利久久久| 最新精品在线| 国产欧美日韩麻豆91| 99精品视频免费在线观看| 国产亚洲精品成人av久久ww| 一本一本大道香蕉久在线精品| 国产亚洲福利| 亚洲小说欧美另类社区| 在线观看欧美激情| 欧美在线啊v| 夜夜爽夜夜爽精品视频| 欧美~级网站不卡| 性18欧美另类| 国产精品v日韩精品| 亚洲人成在线观看一区二区| 国产日本欧美一区二区三区在线| 在线亚洲高清视频| 亚洲第一二三四五区| 久久久91精品国产一区二区精品|