應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

國(guó)內(nèi)運(yùn)營(yíng)商最大單集群智算中心在哈爾濱投用,可訓(xùn)練萬(wàn)億參數(shù)大模型

2024-09-02 09:03 IT之家

導(dǎo)讀:綜合央視新聞、《黑龍江日?qǐng)?bào)》消息,8 月 30 日,國(guó)內(nèi)運(yùn)營(yíng)商最大單集群智算中心 —— 中國(guó)移動(dòng)智算中心(哈爾濱),建設(shè)完成并正式投產(chǎn)使用。

  綜合央視新聞、《黑龍江日?qǐng)?bào)》消息,8 月 30 日,國(guó)內(nèi)運(yùn)營(yíng)商最大單集群智算中心 —— 中國(guó)移動(dòng)智算中心(哈爾濱),建設(shè)完成并正式投產(chǎn)使用。

  該智算中心具有單集群算力規(guī)模最大、國(guó)產(chǎn)化網(wǎng)絡(luò)設(shè)備組網(wǎng)規(guī)模最大等特點(diǎn)。單集群智算中心把所有 AI 加速卡打造成 1 個(gè)集群,用以支持千萬(wàn)億級(jí)參數(shù)的大模型進(jìn)行訓(xùn)練。

  IT之家從報(bào)道中獲悉,中國(guó)移動(dòng)智算中心(哈爾濱)實(shí)現(xiàn)AI 芯片國(guó)產(chǎn)化率 100%,首次通過(guò)國(guó)產(chǎn)網(wǎng)絡(luò)設(shè)備探索 1.8 萬(wàn)張智算卡單集群部署規(guī)模上限,可提供 6.9EFLOPS(每秒 690 億億次半精度浮點(diǎn)運(yùn)算)智能算力,融合分級(jí)存儲(chǔ)達(dá) 150P,創(chuàng)新應(yīng)用GSE1.0、天池 SDN等多項(xiàng)中國(guó)移動(dòng)自主研發(fā)技術(shù)。

  該智算中心通過(guò)智算網(wǎng)絡(luò)技術(shù)把上萬(wàn)塊 GPU 芯片像“積木”一樣拼接在一起,大幅提升 GPU 節(jié)點(diǎn)間的通信效率,將數(shù)據(jù)訓(xùn)練完成時(shí)間縮短 20%,從而形成超級(jí)算力集群,能滿足萬(wàn)億參數(shù)的大模型訓(xùn)練要求。