山東
8月12日，阿里云正式宣布靈駿真武M890超節(jié)點(diǎn)實(shí)例上線，并率先在內(nèi)蒙古烏蘭察布地域開售。
據(jù)悉，作為國內(nèi)首個成功運(yùn)行超2萬億參數(shù)大模型的超節(jié)點(diǎn)形態(tài)算力，該產(chǎn)品允許企業(yè)無需自建機(jī)房，即可在云上直接開通64卡高速互聯(lián)算力單元，單實(shí)例最高可承載十萬億參數(shù)級MoE大模型推理。
在技術(shù)性能上，靈駿真武M890支持FP8/FP4低精度計(jì)算。通過搭載ICN Switch 1.0芯片，其Scale-up互聯(lián)規(guī)模由16卡擴(kuò)展至64卡，卡間互聯(lián)速率高達(dá)800GB/s。
在智能駕駛、具身智能等訓(xùn)練場景中，該實(shí)例相比上一代真武810E，訓(xùn)練性能提升了3倍。
目前，該超節(jié)點(diǎn)已投入實(shí)際應(yīng)用。Kimi K3和參數(shù)規(guī)模高達(dá)2.4萬億的阿里最新旗艦?zāi)Ｐ蚎wen3.8-Max，均已通過靈駿真武M890超節(jié)點(diǎn)實(shí)例對外提供服務(wù)，充分驗(yàn)證了其支撐超大規(guī)模模型專家并行需求的能力。
底層基礎(chǔ)設(shè)施方面，該超節(jié)點(diǎn)依托阿里云靈駿智算平臺及HPN 8.0訓(xùn)推一體網(wǎng)絡(luò)，單集群最高支持13萬卡異構(gòu)算力混布，并可彈性擴(kuò)展至百萬卡級別。
首發(fā)地域?yàn)跆m察布數(shù)據(jù)中心綠電占比約90%，采用全模塊設(shè)計(jì)架構(gòu)，整體模塊化率高達(dá)90%，不僅大幅縮短交付周期，還能最大化兼容主流異構(gòu)芯片，支持至少三代芯片迭代。
據(jù)了解，阿里云正計(jì)劃今年將模塊化數(shù)據(jù)中心的全球產(chǎn)能提升兩倍以上，相關(guān)超節(jié)點(diǎn)實(shí)例也將在更多地域陸續(xù)開服。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
