專題：2025世界人工智能大會(huì)

　　新浪科技訊 7月27日午間消息，效率瓶頸2025世界人工智能大會(huì)（WAIC 2025）于7月26-28日在上海舉辦。直擊張建中打造大會(huì)期間，丨何工廠摩爾線程首次提出了“AI工廠”理念，緩解公司創(chuàng)始人兼CEO張建中在分享中表示，訓(xùn)練線程“為應(yīng)對(duì)生成式AI爆發(fā)式增長(zhǎng)下的超級(jí)大模型訓(xùn)練效率瓶頸，摩爾線程將通過系統(tǒng)級(jí)工程創(chuàng)新，效率瓶頸構(gòu)建新一代AI訓(xùn)練基礎(chǔ)設(shè)施，直擊張建中打造為AGI時(shí)代打造生產(chǎn)先進(jìn)模型的丨何工廠“超級(jí)工廠”。

　　據(jù)悉，緩解摩爾線程提出的訓(xùn)練線程“AI工廠”，如同芯片晶圓廠的超級(jí)制程升級(jí)，需要實(shí)現(xiàn)從底層芯片架構(gòu)創(chuàng)新、效率瓶頸到集群整體架構(gòu)的直擊張建中打造優(yōu)化，再到軟件算法調(diào)優(yōu)和資源調(diào)度系統(tǒng)的丨何工廠全面升級(jí)。這種全方位的基礎(chǔ)設(shè)施變革，將推動(dòng)AI訓(xùn)練從千卡級(jí)向萬(wàn)卡級(jí)乃至十萬(wàn)卡級(jí)規(guī)模演進(jìn)，以系統(tǒng)級(jí)工程實(shí)現(xiàn)生產(chǎn)力和創(chuàng)新效率飛躍。

　　具體而言，這座“AI工廠”的智能“產(chǎn)能”，由五大核心要素共同決定，其效率公式可概括為：AI工廠生產(chǎn)效率=加速計(jì)算通用性×單芯片有效算力×單節(jié)點(diǎn)效率×集群效率×集群穩(wěn)定性。摩爾線程將以GPU通用算力為基石，將通過先進(jìn)架構(gòu)、芯片算力、單節(jié)點(diǎn)效率、集群效率優(yōu)化與可靠性等協(xié)同等深度技術(shù)創(chuàng)新，將全功能GPU加速計(jì)算平臺(tái)能力轉(zhuǎn)化為工程級(jí)訓(xùn)練效率與可靠性保障。

　　在單芯片算力方面，摩爾線程的GPU單芯片基于MUSA架構(gòu)的突破性設(shè)計(jì)，可集成AI計(jì)算加速、圖形渲染、物理仿真及超高清視頻編解碼能力，充分適配AI訓(xùn)推、具身智能、AIGC等多樣化應(yīng)用場(chǎng)景。且在計(jì)算精度方面支持從FP64至INT8的完整精度譜系，并通過FP8混合精度技術(shù)，在主流前沿大模型訓(xùn)練中實(shí)現(xiàn)20%~30%的性能躍升。

　　在內(nèi)存與通信效率優(yōu)化上，摩爾線程內(nèi)存系統(tǒng)通過多精度近存規(guī)約引擎、低延遲Scale-Up、通算并行資源隔離等技術(shù)，實(shí)現(xiàn)了50%的帶寬節(jié)省和60%的延遲降低。在通信和互聯(lián)領(lǐng)域，獨(dú)創(chuàng)ACE異步通信引擎減少了15%的計(jì)算資源損耗，MTLink2.0互聯(lián)技術(shù)提供了高出國(guó)內(nèi)行業(yè)平均水平60%的帶寬，為大規(guī)模集群部署奠定了堅(jiān)實(shí)基礎(chǔ)。

　　在構(gòu)建高效集群的基礎(chǔ)上，穩(wěn)定可靠的運(yùn)行環(huán)境是“AI工廠”持續(xù)產(chǎn)出的保障。特別在萬(wàn)卡級(jí)AI集群中，硬件故障導(dǎo)致的訓(xùn)練中斷會(huì)嚴(yán)重浪費(fèi)算力。摩爾線程創(chuàng)新推出零中斷容錯(cuò)技術(shù)，故障發(fā)生時(shí)僅隔離受影響節(jié)點(diǎn)組，其余節(jié)點(diǎn)繼續(xù)訓(xùn)練，備機(jī)無(wú)縫接入，全程無(wú)中斷。這一方案使KUAE集群有效訓(xùn)練時(shí)間占比超99%，大幅降低恢復(fù)開銷。（文猛）

海量資訊、精準(zhǔn)解讀，盡在新浪財(cái)經(jīng)APP

責(zé)任編輯：王翔

(責(zé)任編輯：娛樂)