五個(gè)月前，當(dāng) Cerebras Systems推出其第二代晶圓級(jí)芯片系統(tǒng) （CS-2） 時(shí)，該公司聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Andrew Feldman 暗示了公司即將推出的云計(jì)劃，現(xiàn)在這些計(jì)劃已經(jīng)實(shí)現(xiàn)。
日前，Cerrebras 和 Cirrascale Cloud Services 推出了 Cerebras Cloud @ Cirrascale 平臺(tái)，通過 Cirrascale 的云服務(wù)提供對(duì) Cerebras 的 CS-2 晶圓級(jí)引擎 （WSE） 系統(tǒng)的訪問。
CS-2 機(jī)器運(yùn)行了 850,000 個(gè) AI 優(yōu)化計(jì)算核心，重約 500 磅，安裝在加利福尼亞州圣克拉拉的 Cirrascale 數(shù)據(jù)中心，但該服務(wù)將在全球范圍內(nèi)提供，開放訪問CS-2 提供給任何有互聯(lián)網(wǎng)連接和每周 60,000 美元用于訓(xùn)練非常大的 AI 模型的人。
“對(duì)于訓(xùn)練，我們沒有發(fā)現(xiàn)延遲是一個(gè)問題，”Cirrascale 首席執(zhí)行官 PJ Go 在上周與人工智能硬件峰會(huì)同時(shí)舉行的媒體預(yù)發(fā)布會(huì)上說。
Feldman 表示同意，并補(bǔ)充說：“如果你要進(jìn)行 20 小時(shí)或更長時(shí)間的訓(xùn)練，從克利夫蘭到圣何塞的光速可能不是什么大問題。”
Cirrascale 的 Cerebras Cloud 客戶將獲得對(duì) Cerebras 軟件和編譯器包的完全訪問權(quán)限。
“編譯器工具集位于 Cirrascale 開發(fā)的云工具集之下，”Feldman 說。“因此您將進(jìn)入，您將獲得對(duì)計(jì)算集群、存儲(chǔ)、CS-2 的訪問權(quán)；您將運(yùn)行您的編譯堆棧，您將完成您的工作，您將被設(shè)置檢查點(diǎn)并存儲(chǔ)在 Cirrascale 基礎(chǔ)設(shè)施中，它將被識(shí)別，以便您可以稍后返回該工作。所有這些都已整合在一起。”
該環(huán)境支持 TensorFlow 和 PyTorch 等熟悉的框架，Cerebras Graph Compiler 自動(dòng)將從業(yè)者的神經(jīng)網(wǎng)絡(luò)從其框架表示轉(zhuǎn)換為 CS-2 可執(zhí)行文件。據(jù) Cerebras 稱，這消除了對(duì)集群編排、同步和模型調(diào)整的需要。
通過每周最低買入——定價(jià)設(shè)定為每周 60,000 美元、每月 180,000 美元或每年 1,650,000 美元——Cirrascale 客戶可以訪問整個(gè) CS-2 系統(tǒng)。“共享模式不適合我們，”Feldman 說。該存在的理由的晶圓級(jí)制度是為了“作為機(jī)器的大，你可以解決你的問題，你可以盡快，”他告訴HPCwire。
根據(jù) Feldman 的說法，Cerebras 沒有透露其 CS 系統(tǒng)的標(biāo)價(jià)，但直接購買 CS-2 系統(tǒng)將使您花費(fèi)“數(shù)百萬美元”。
兩位 CEO 都認(rèn)為“先試后買”是 Cerebras Cloud 產(chǎn)品的動(dòng)機(jī)之一，它將對(duì) CS-2 的功能印象深刻的租用者轉(zhuǎn)變?yōu)橐粋€(gè)或多個(gè)系統(tǒng)的購買者。但這些公司也希望有很大一部分用戶堅(jiān)持使用云模式。
偏好 OPEX 是一個(gè)原因，但這也是技能和經(jīng)驗(yàn)的問題。談到這一點(diǎn)，F(xiàn)eldman 說：“關(guān)于我們行業(yè)的一個(gè)鮮為人知的事實(shí)是，實(shí)際上很少有人能夠真正構(gòu)建大型 GPU 集群，這種情況是多么罕見——需要的技能，而不僅僅是金錢。將大型模型傳播到 250 多個(gè) GPU 上的技能可能存在于世界上幾十個(gè)組織中。”
Cerebras Cloud 通過基于云的硬件和軟件基礎(chǔ)設(shè)施提供性能，并通過 Cirrascale 門戶訪問計(jì)費(fèi)、存儲(chǔ)和其他服務(wù)，從而簡化此過程。“對(duì)于我們來說，將我們的業(yè)務(wù)范圍擴(kuò)展到不同類型的客戶是一個(gè)顯而易見的選擇，”費(fèi)爾德曼說。
Cerebras 的第一個(gè) CS 系統(tǒng)部署是在政府實(shí)驗(yàn)室空間（美國能源部是一個(gè)根本性的勝利，在 2019 年人工智能硬件峰會(huì)上宣布）和商業(yè)網(wǎng)站，主要是制藥（葛蘭素史克是客戶）的內(nèi)部部署。通過將 CS-2 作為托管服務(wù)進(jìn)行訪問，Cerebras 正在追求更廣泛的組織，從初創(chuàng)公司到財(cái)富 500 強(qiáng)公司。
“我們一直致力于建立這種伙伴關(guān)系，”Cerebras Systems 產(chǎn)品副總裁 Andy Hock 在宣傳視頻中說。“我們開始專注于從頭開始訓(xùn)練大型自然語言處理模型，如 BERT，我們將從那里擴(kuò)展我們的產(chǎn)品。”
Cirrascale 創(chuàng)始人兼首席技術(shù)官 David Driggers 表示：“Cerebras CS-2 處理的工作負(fù)載是我們今天無法在 GPU 上完成的。”[這是]一個(gè)非常大規(guī)模的擴(kuò)展場(chǎng)景，我們有一個(gè)模型，它不能并行化，但它可以處理大量數(shù)據(jù)。因此，當(dāng)今最大的 NLP 模型需要大量的數(shù)據(jù)輸入以及大量的計(jì)算。由于需要 IO 通信，因此在 [傳統(tǒng)] 集群上很難做到這一點(diǎn)。
Cerebras CS-2 使我們能夠利用非常大的內(nèi)存空間、大型內(nèi)置網(wǎng)絡(luò)和大量內(nèi)核，將 NLP 擴(kuò)展到我們以前無法做到的高度。“
參加預(yù)簡報(bào)電話會(huì)議的分析師 Karl Freun對(duì)合作伙伴關(guān)系表示贊同。”Cerebras 最近似乎在全力以赴，客戶獲勝，第二代 WSE，最近他們大膽聲稱他們正在構(gòu)建一個(gè)比我們所見過的任何東西都大 1000 倍的大腦規(guī)模的 AI，“他告訴HPCwire .
”你擁有的是一種非常熱門的商品（他們的技術(shù)），很多人都想嘗試它，但誰又不想花大筆錢購買和部署 CS-2。輸入 Cirrascale 和他們的 CS-2 云產(chǎn)品，這將使科學(xué)家能夠更容易地、至少在某種程度上更實(shí)惠地獲得業(yè)內(nèi)最大、最快的 AI 處理器。毫無疑問，這將為 Cerebras 的未來創(chuàng)造新的機(jī)會(huì)，無論是在云中還是在本地。“
當(dāng)被問及今天的 AI 芯片不適合未來的 AI 模型的風(fēng)險(xiǎn)時(shí)，F(xiàn)reund 說，”如果有的話，Cerebras 是一家公司，其架構(gòu)正在向冰球前進(jìn)的方向滑行：巨大的 AI。“
