DeepSeek 開源升騰基礎組件,覆蓋編譯、計算與通信庫
人工智能公司 DeepSeek 正式開源面向華為升騰算力平臺的基礎設施組件,涵蓋 TileLang 高級語言編譯工具、計算庫和分佈式通信庫,並與此前面向英偉達平…
人工智能公司 DeepSeek 正式開源面向華為升騰算力平臺的基礎設施組件,涵蓋 TileLang 高級語言編譯工具、計算庫和分佈式通信庫,並與此前面向英偉達平臺的開源組件一一對應。TileLang 旨在提供通用、編程更簡單且能達到硬件性能上限的高級語言,相對 CUDA 可提高開發效率並簡化邏輯,其編程模型也可發揮芯片特性。TileLang 路線先在英偉達平臺驗證,並已承載 DeepSeek V4 系列模型訓練中大部分算子的實現。
本次開源的升騰版本對升騰 Ascend C 底層指令進行封裝,在不損失硬件性能的情況下提供高級語言編程方式。目前,DeepSeek 訓練中用到的每一個 TileLang 算子,在升騰上都有對應的高性能實現。同期開源的組件還包括 DeepGEMM、DeepEP、TileKernels、FlashMLA 和 DeepSelect,分別用於通用矩陣運算、大規模跨設備通信、常規向量計算與訪存、長上下文稀疏注意力以及數據篩選。
DeepSeek 稱,多項關鍵測試中相關計算與通信性能已接近硬件上限;研發過程中華為團隊給予支持,雙方合作推進基於升騰 950 的 128 卡超節點方案,並對計算與通信做了深度優化。
[ChainCatcher]
原文連結: https://www.chaincatcher.com/article/2293150
insigtX 內容為資訊/教育性質,非投資建議。