應用

技術

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點新聞
企業(yè)注冊個人注冊登錄

算力利用率達 97.6%,無問芯穹發(fā)布全球首個單任務千卡異構芯片混合訓練平臺

2024-07-05 09:09 IT之家

導讀:無問芯穹在世界人工智能大會 AI 基礎設施論壇上發(fā)布了無問芯穹大規(guī)模模型的異構分布式混合訓練系統(tǒng),稱千卡異構混合訓練集群算力利用率最高達到了 97.6%。

  7 月 5 日消息,無問芯穹聯(lián)合創(chuàng)始人兼 CEO 夏立雪在世界人工智能大會 AI 基礎設施論壇上發(fā)布了無問芯穹大規(guī)模模型的異構分布式混合訓練系統(tǒng),稱千卡異構混合訓練集群算力利用率最高達到了 97.6%。

  夏立雪還宣布無問芯穹 Infini-AI 云平臺已集成大模型異構千卡混訓能力,是全球首個可進行單任務千卡規(guī)模異構芯片混合訓練的平臺,具備萬卡擴展性,支持包括 AMD、華為昇騰、天數(shù)智芯、沐曦、摩爾線程、英偉達六種異構芯片在內的大模型混合訓練。

  無問芯穹表示:打開水龍頭前,我們不需要知道水是從哪條河里來的。同理,未來我們用各種 AI 應用時,也不會知道它調用了哪些基座模型,用到了哪種加速卡的算力 ——這就是最好的 AI Native 基礎設施

  據(jù)IT之家此前報道,無問芯穹與摩爾線程在 5 月聯(lián)合宣布,雙方已經(jīng)正式完成基于國產全功能 GPU千卡集群的 3B 規(guī)模大模型“MT-infini-3B”實訓,性能在同規(guī)模模型中躋身前列。