11月30日,由中國通信學會主辦、中國移動研究院承辦的2024中國信息通信大會“算力網絡算網一體創新發展論壇 ”在成都舉辦。中國移動研究院副院長段曉東攜手天數智芯、壁仞科技、中興、海光、瀚博等產業合作伙伴,在本次論壇上發布了 “芯合”異構混合并行訓練系統1.0和智算“芯合”算力原生基礎軟件棧2.0。
芯片是智算生態的基石,基礎軟件棧是智算生態的核心。隨著近年來多樣化異構智算芯片的不斷涌現,產業界形成了多套“AI框架+工具鏈+硬件”的軟硬一體豎井生態,上層應用與底層芯片深度綁定,無法靈活遷移,整個智算產業面臨著基礎軟件棧多而不優,生態互不兼容的巨大挑戰,制約異構智能算力整體效能的釋放。為屏蔽異構硬件差異、融通智算豎井生態,中國移動充分發揮移動信息現代產業鏈“鏈長”職責,以智算基礎軟件棧為攻關要點,于2022年創新提出算力原生CAMA原創技術,發布業內首個《面向智算的算力原生白皮書》,并于2023年研發并發布“芯合”算力原生基礎軟件棧1.0,在全球首次實現智算應用一鍵式跨芯遷移的目標,已在山東、廣西等多省市的路橋檢測、智能安防等場景試點應用,大幅降低智算應用向國產化芯片遷移的復雜度,有力促進了我國智算產業的繁榮發展。
芯片是智算生態的基石,基礎軟件棧是智算生態的核心。隨著近年來多樣化異構智算芯片的不斷涌現,產業界形成了多套“AI框架+工具鏈+硬件”的軟硬一體豎井生態,上層應用與底層芯片深度綁定,無法靈活遷移,整個智算產業面臨著基礎軟件棧多而不優,生態互不兼容的巨大挑戰,制約異構智能算力整體效能的釋放。為屏蔽異構硬件差異、融通智算豎井生態,中國移動充分發揮移動信息現代產業鏈“鏈長”職責,以智算基礎軟件棧為攻關要點,于2022年創新提出算力原生CAMA原創技術,發布業內首個《面向智算的算力原生白皮書》,并于2023年研發并發布“芯合”算力原生基礎軟件棧1.0,在全球首次實現智算應用一鍵式跨芯遷移的目標,已在山東、廣西等多省市的路橋檢測、智能安防等場景試點應用,大幅降低智算應用向國產化芯片遷移的復雜度,有力促進了我國智算產業的繁榮發展。
聚產業之愿,合眾“芯”之力,2024年中國移動持續攻關算力原生技術,以研究院和齊魯創新院為主體,深入推進“芯合”基礎軟件棧2.0研發,相較于之前實現了三大升級。一是能力升級,全面重構算力抽象模型,插件化靈活接入英偉達、華為、海光等6家AI芯片,拓展ONNX、SYCL等更多編程范式,支持泛AI應用的跨芯遷移。二是性能升級,新增對標CUDA的DNN、BLAS等高性能計算庫,提供圖算融合編譯優化能力,實現性能大幅提升,當前應用跨架構遷移損耗已降低至10%以內;三是效率升級,構建面向智算應用的“跨架構軟件工廠”,提供統一開發、調試、優化、部署、遷移全生命周期服務能力,縮短應用開發、上線時間,提升整體研發效率。當前,“芯合”算力原生基礎軟件棧2.0已實現泛AI應用在英偉達、intel、華為、瀚博、天數智芯、海光6家智算芯片間的一鍵式跨芯流轉遷移,源源轉換效率>95%,遷移性能損耗<10%,遷移時間<20s,已具備規模商用條件,未來將在提升智能算力網絡自主可控水平方面發揮重要作用。
未來,中國移動將繼續秉持開放合作的態度,與產業各界合作伙伴一起攻關,進一步完善“芯合”算力原生平臺功能,支撐更多業務場景、融通更多異構芯片,推動商用落地,真正打造以基礎軟件棧引領智算生態建設的全“芯”發展范式,全面支撐我國算力強國戰略落地。