《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動(dòng)態(tài) > Meta新建兩座數(shù)據(jù)中心集群專門訓(xùn)練Llama3

Meta新建兩座數(shù)據(jù)中心集群專門訓(xùn)練Llama3

內(nèi)含超4.9萬塊英偉達(dá)H100 GPU
2024-03-14
來源:IT之家

Meta 公司當(dāng)?shù)貢r(shí)間 12 日通過官方新聞稿公布了兩座新的數(shù)據(jù)中心集群,該公司正希望通過英偉達(dá)的 GPU,在以 AI 為重點(diǎn)的開發(fā)中脫穎而出。

據(jù)悉,這兩座數(shù)據(jù)中心的唯一目的,是在消費(fèi)者特定應(yīng)用領(lǐng)域(注:包含聲音或圖像識(shí)別)中進(jìn)行 AI 研究和大語言模型的開發(fā),每個(gè)集群都包含了 24576 塊英偉達(dá) H100 AI GPU,將用于自家大語言模型 Llama 3 的訓(xùn)練。

1.png

兩座新建的數(shù)據(jù)中心集群都具有 400Gbps 互聯(lián)功能,其中一個(gè)集群采用了 Meta 基于 Arista 7800 自主開發(fā)的 Fabric 解決方案,而另一個(gè)集群則采用了英偉達(dá)的 Quantum2 InfiniBand Fabric,以確保無縫互連體驗(yàn)。

此外,集群基于 Meta 自家的開放式 GPU Grand Teton AI 平臺(tái),可通過提高主機(jī)到 GPU 的帶寬和計(jì)算能力,充分利用現(xiàn)代加速器的功能。

Meta 官方表示,這些集群的高性能網(wǎng)絡(luò)結(jié)構(gòu)的效率及關(guān)鍵存儲(chǔ)決策、配合每個(gè)集群中的 H100 GPU,能夠?yàn)楦?、更?fù)雜的模型提供支持,為通用人工智能產(chǎn)品開發(fā)、AI 研究的進(jìn)步鋪路。

據(jù)IT之家1 月報(bào)道,Meta 首席執(zhí)行官扎克伯格宣布公司正在建設(shè)龐大的基礎(chǔ)設(shè)施?!邦A(yù)估到今年年底,我們將擁有大約 35 萬片英偉達(dá) H100 加速卡,如果算上其它 GPU 的話,其計(jì)算能力相當(dāng)于 60 萬片 H100?!?/p>


weidian.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請(qǐng)及時(shí)通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 国产成人综合久久亚洲精品| 欧美乱xxxxxxxxx| 羞耻暴露办公室调教play视频| 色综合67194| 没有被爱过的女人在线| 日韩电影免费在线观看网站| 性欧美丰满熟妇XXXX性| 国产综合成人亚洲区| 国产一区小可爱原卡哇伊| 亚洲精品动漫人成3d在线| 久久精品亚洲日本波多野结衣| √天堂8资源中文在线| 欧美深夜福利视频| 精东传媒国产app| 极品videossex日本妇| 性美国xxxxx免费| 国产日韩欧美亚洲| 免费h黄肉动漫在线观看| 乱色美www女麻豆| aa级毛片毛片免费观看久| 隔壁女邻居在线观看| 欧美老熟妇xB水多毛多| 扒开双腿猛进入免费视频黄| 国产精品毛片va一区二区三区 | 亚洲神级电影国语版| 中文字幕在线视频播放| 337p日本大胆欧美人术艺术精品| 老司机亚洲精品影院在线 | 亚洲人成在线影院| japanese老熟妇乱子伦视频| 香蕉一区二区三区观| 欧美极品第一页| 好紧好爽太大了h视频| 国产亚洲婷婷香蕉久久精品| 亚洲成av人片在线观看无码| 一级看片免费视频囗交| 鲁啊鲁视频在线精品| 欧美性xxxx极品高清| 天天爽亚洲中文字幕| 另类国产女王视频区| 久久国产亚洲精品无码|