①華為云CloudMatrix 384超節(jié)點(diǎn)已在行業(yè)中得到應(yīng)用。上海儀電聯(lián)合曦智科技、壁仞科技、中興通訊,發(fā)布國(guó)內(nèi)首個(gè)光互連光交換GPU超節(jié)點(diǎn)——光躍LightSphere X。 ②如何降低大模型的推理成本是一大痛點(diǎn),先進(jìn)AI芯片的產(chǎn)能對(duì)于國(guó)內(nèi)AI持續(xù)健康發(fā)展非常關(guān)鍵。
《科創(chuàng)板日?qǐng)?bào)》7月29日訊(記者 黃心怡)在2025世界人工智能大會(huì)上,英國(guó)皇家工程院院士郭毅可在演講中指出,全球AI算力需求正以每?jī)赡?50倍的速率極速擴(kuò)張,中國(guó)云端AI芯片市場(chǎng)將在2027年突破480億美元規(guī)模,國(guó)產(chǎn)GPU替代率預(yù)計(jì)超80%。這不僅昭示數(shù)據(jù)中心成為科技競(jìng)爭(zhēng)主戰(zhàn)場(chǎng),更預(yù)示著“普惠算力”將如同基礎(chǔ)設(shè)施般支撐十億級(jí)開(kāi)發(fā)者生態(tài)。
《科創(chuàng)板日?qǐng)?bào)》注意到,此次有兩個(gè)超節(jié)點(diǎn)算力產(chǎn)品分別榮獲了大會(huì)的人工智能引領(lǐng)者獎(jiǎng)(SAIL獎(jiǎng))TOP30和WAIC“鎮(zhèn)館之寶”大獎(jiǎng)。
其中,華為384超節(jié)點(diǎn)真機(jī)獲本屆大會(huì)的“鎮(zhèn)館之寶”獎(jiǎng)項(xiàng)。在華為展區(qū)中,首次亮相的華為384超節(jié)點(diǎn)真機(jī)與基于CloudMatrix 384超節(jié)點(diǎn)的華為云新一代昇騰AI云服務(wù)備受關(guān)注。超節(jié)點(diǎn)首創(chuàng)將384顆昇騰NPU和192顆鯤鵬CPU通過(guò)全新高速網(wǎng)絡(luò)MatrixLink全對(duì)等互聯(lián),形成一臺(tái)超級(jí)“AI服務(wù)器”,算力規(guī)模300 PFlops。
目前,華為云CloudMatrix 384超節(jié)點(diǎn)已在行業(yè)中得到應(yīng)用,包括支撐新浪“智慧小浪”推理交付效率50%以上,支撐硅基流動(dòng)每天為600萬(wàn)用戶提供推理服務(wù),支持中科院自研模型訓(xùn)練框架,構(gòu)建AI4S科研大模型;推動(dòng)面壁智能“小鋼炮”模型推理業(yè)務(wù)性能提升;為360“超級(jí)搜索”納米AI搜索提供性能領(lǐng)先、貼合需求的AI算力;助力訊飛大模型實(shí)現(xiàn)推理性能等。
而曦智科技聯(lián)合壁仞科技、中興通訊申報(bào)的“分布式OCS全光互連芯片及超節(jié)點(diǎn)應(yīng)用創(chuàng)新方案”,斬獲本屆“SAIL”獎(jiǎng)。
基于該技術(shù)方案,上海儀電聯(lián)合曦智科技、壁仞科技、中興通訊,正式發(fā)布國(guó)內(nèi)首個(gè)光互連光交換GPU超節(jié)點(diǎn)——光躍LightSphere X。該超節(jié)點(diǎn)基于曦智科技全球首創(chuàng)的分布式光交換技術(shù),采用硅光技術(shù)的光互連光交換芯片和壁仞科技自主原創(chuàng)架構(gòu)的大算力通用GPU液冷模組與全新載板互連,并搭載中興通訊高性能AI國(guó)產(chǎn)服務(wù)器及儀電智算云平臺(tái)軟件,構(gòu)建起高帶寬、低延遲、靈活可擴(kuò)展的自主可控智算集群,即將于上海儀電智算中心落地。
《科創(chuàng)板日?qǐng)?bào)》獲悉,燧原科技云燧ESL超節(jié)點(diǎn)系統(tǒng)正在測(cè)試中,單節(jié)點(diǎn)最高64卡全帶寬互聯(lián),采用液冷方案,實(shí)現(xiàn)高性價(jià)比、高密度、高能效,可實(shí)現(xiàn)9216GB單節(jié)點(diǎn)存儲(chǔ)容量、230TB/s單節(jié)點(diǎn)存儲(chǔ)帶寬、51.2TB/s單節(jié)點(diǎn)聚合帶寬、單節(jié)點(diǎn)可支持PD分離優(yōu)化。
燧原展區(qū)集中還展示了慶陽(yáng)、無(wú)錫、宜昌等智算中心的部署成果,以及“燧原?S60”人工智能推理卡在泛互聯(lián)網(wǎng)領(lǐng)域的大規(guī)模商業(yè)化應(yīng)用。此外,展區(qū)還展出了2025年初推出的DeepSeek一體機(jī)系列產(chǎn)品。
另一家國(guó)產(chǎn)GPU芯片廠商沐曦發(fā)布了旗艦GPU曦云C600,首發(fā)訓(xùn)推一體技術(shù)全棧方案。該芯片基于沐曦自主知識(shí)產(chǎn)權(quán)核心GPU IP架構(gòu),集成大容量存儲(chǔ)與多精度混合算力,支持MetaXLink超節(jié)點(diǎn)擴(kuò)展技術(shù),并內(nèi)置ECC/RAS多重安全防護(hù)模塊,為金融、政務(wù)等關(guān)鍵領(lǐng)域提供算力基座。
現(xiàn)場(chǎng),沐曦與中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院共同為“人工智能芯片技術(shù)研究及開(kāi)源生態(tài)創(chuàng)新聯(lián)合實(shí)驗(yàn)室”揭牌,雙方將重點(diǎn)突破AI芯片標(biāo)準(zhǔn)制定與開(kāi)源生態(tài)建設(shè)。
摩爾線程展示了以全功能GPU為核心的“云邊端”全棧AI產(chǎn)品和解決方案,并首次提出“AI工廠”理念。摩爾線程創(chuàng)始人兼CEO張建中表示,摩爾線程將構(gòu)建新一代AI訓(xùn)練基礎(chǔ)設(shè)施,為AGI時(shí)代打造生產(chǎn)先進(jìn)模型的“超級(jí)工廠”。 當(dāng)單節(jié)點(diǎn)效率達(dá)到新高度,如何實(shí)現(xiàn)大規(guī)模集群的高效協(xié)作成為新的挑戰(zhàn)。摩爾線程自研KUAE計(jì)算集群通過(guò)5D大規(guī)模分布式并行計(jì)算技術(shù),實(shí)現(xiàn)上千節(jié)點(diǎn)的高效協(xié)作,推動(dòng)AI基礎(chǔ)設(shè)施從單點(diǎn)優(yōu)化邁向系統(tǒng)工程級(jí)突破。
目前國(guó)產(chǎn)芯片在大模型的訓(xùn)練和推理中正在發(fā)揮更大的作用。
階躍星辰聯(lián)合近10家芯片及基礎(chǔ)設(shè)施廠商,共同發(fā)起“模芯生態(tài)創(chuàng)新聯(lián)盟”。該聯(lián)盟的首批成員包括華為昇騰、沐曦、壁仞科技、燧原科技、天數(shù)智芯、無(wú)問(wèn)芯穹、寒武紀(jì)、摩爾線程、硅基流動(dòng)等。目前,華為昇騰芯片已首先實(shí)現(xiàn)階躍星辰新一代基礎(chǔ)大模型Step 3的搭載和運(yùn)行。沐曦、天數(shù)智芯和燧原科技等也已初步實(shí)現(xiàn)運(yùn)行Step 3。其它聯(lián)盟廠商的適配工作正在開(kāi)展。
此外,華為昇騰910B加速卡正式上線由無(wú)問(wèn)芯穹與模速空間聯(lián)合運(yùn)營(yíng)的全國(guó)首個(gè)“算力生態(tài)超市”——模速空間算力生態(tài)平臺(tái)。
大會(huì)期間還舉行了模速空間算力生態(tài)平臺(tái)2.0的發(fā)布儀式,這標(biāo)志著模速空間、華為昇騰、無(wú)問(wèn)芯穹三方共同開(kāi)啟“百億生態(tài)共建”合作。作為全球最大人工智能孵化器——上海模速空間,日均Token調(diào)用量已成功突破100億大關(guān),累計(jì)服務(wù)10余個(gè)智慧場(chǎng)景、支撐100多個(gè)前沿AI創(chuàng)新應(yīng)用,單應(yīng)用月活高達(dá)數(shù)千萬(wàn)。
無(wú)問(wèn)芯穹聯(lián)合創(chuàng)始人、CEO夏立雪透露,無(wú)穹AI云的底層是一張深度覆蓋全國(guó)的廣域算力網(wǎng),目前已成功覆蓋“東數(shù)西算”國(guó)家戰(zhàn)略布局的關(guān)鍵節(jié)點(diǎn),匯聚了來(lái)自26個(gè)省市、53個(gè)核心數(shù)據(jù)中心的龐大算力資源,整合超15種主流芯片架構(gòu)的異構(gòu)算力池,總算力規(guī)模超25000P。基于強(qiáng)大的廣域高性能專線內(nèi)網(wǎng)互聯(lián)互通,企業(yè)能夠按需在不同地域、不同型號(hào)的算力資源之間進(jìn)行實(shí)時(shí)切換與無(wú)縫遷移。
在無(wú)問(wèn)芯穹與上海算法創(chuàng)新研究院的合作中,無(wú)界智算平臺(tái)以“全鏈路解決方案”升級(jí)服務(wù),幫助上海算創(chuàng)院實(shí)現(xiàn)大模型研發(fā)效率的飛躍,成功基于3000卡沐曦國(guó)產(chǎn)GPU集群,穩(wěn)定支撐百億參數(shù)大模型訓(xùn)練長(zhǎng)達(dá)600小時(shí)不間斷,創(chuàng)造了國(guó)產(chǎn)算力模型訓(xùn)練的記錄。
在與云南移動(dòng)的合作中,無(wú)界智算平效利用2000張華為昇騰910B智算加速卡,實(shí)現(xiàn)了千億參數(shù)模型的分布式部署與大規(guī)模推理。
上海首個(gè)人工智能終端軟硬適配優(yōu)化中試平臺(tái)在會(huì)上啟動(dòng)。無(wú)問(wèn)芯穹與上海創(chuàng)智學(xué)院、理想汽車、聯(lián)想集團(tuán)、江城實(shí)驗(yàn)室、信通院、智元機(jī)器人、上海英和、中興通訊、愛(ài)芯元智、上海儀電、中科睿芯、巖芯數(shù)智、兆芯集成十余家伙伴,啟動(dòng)人工智能終端中試平臺(tái)的首期建設(shè)。
對(duì)于國(guó)產(chǎn)芯片在大模型浪潮下的機(jī)遇與挑戰(zhàn),燧原科技創(chuàng)始人趙立東在階躍星辰Step 3大模型發(fā)布會(huì)上表示,國(guó)產(chǎn)AI芯片面前有兩座大山,一是高端芯片制造,二是生態(tài)。”在生態(tài)方面,當(dāng)前處于高性能推理爆發(fā)的時(shí)間點(diǎn),機(jī)遇在于大模型和芯片如何深度優(yōu)化性能,并降低成本。“業(yè)內(nèi)一直在強(qiáng)調(diào)算力普惠,但現(xiàn)在既不普、也不惠,這恰恰是國(guó)產(chǎn)模型跟國(guó)產(chǎn)芯片合作的重要契機(jī)。”
壁仞科技創(chuàng)始人張文同樣認(rèn)為,如何降低大模型的推理成本是一大痛點(diǎn)。此外,先進(jìn)AI芯片的產(chǎn)能對(duì)于國(guó)內(nèi)AI持續(xù)健康發(fā)展非常關(guān)鍵。“AI三個(gè)要素是數(shù)據(jù)、算法和算力。在數(shù)據(jù)、算法方面中國(guó)是不落后的,算力方面需要一點(diǎn)時(shí)間追趕,相信能通過(guò)時(shí)間慢慢追上來(lái)。
除了芯片企業(yè),多家AI基礎(chǔ)設(shè)施廠商也帶來(lái)了新進(jìn)展。
中國(guó)電信在會(huì)上發(fā)布算網(wǎng)一體服務(wù)。中國(guó)電信董事長(zhǎng)柯瑞文表示,算間網(wǎng)絡(luò)是基礎(chǔ),實(shí)現(xiàn)全國(guó)算力一張網(wǎng),算網(wǎng)一體化調(diào)度是關(guān)鍵,實(shí)現(xiàn)全國(guó)調(diào)度一體化。通過(guò)算網(wǎng)一體服務(wù),能夠有效降低算網(wǎng)使用成本,提高算力使用效率。
柯瑞文稱,將打造大容量、低時(shí)延、高速無(wú)損的新一代智算網(wǎng)絡(luò),支持用戶便捷入算,實(shí)現(xiàn)算間高效傳輸;發(fā)揮云網(wǎng)融合優(yōu)勢(shì),推動(dòng)算網(wǎng)深度協(xié)同,通過(guò)智能云,實(shí)現(xiàn)對(duì)跨域、異構(gòu)算力資源的靈活調(diào)度,為客戶提供一云多芯、分布式、可便捷獲取的智算服務(wù)。
九章智算云Alaya NeW Cloud正式發(fā)布了其GPU算力服務(wù)平臺(tái)Aladdin。過(guò)去三個(gè)月,Aladdin平臺(tái)的用戶已覆蓋清華大學(xué)、北京大學(xué)、復(fù)旦大學(xué)、哈爾濱工業(yè)大學(xué)、上海交通大學(xué)等全國(guó)多數(shù)“雙一流”高校的AI研究團(tuán)隊(duì)。另外,平臺(tái)用戶中還包含諸多海外高校,QS前100高校占比80%以上。
數(shù)據(jù)中心是AI能耗的主要領(lǐng)域。大會(huì)期間,施耐德電氣商業(yè)價(jià)值研究院正式發(fā)布《算電協(xié)同——數(shù)據(jù)中心的能源挑戰(zhàn)與應(yīng)對(duì)》洞察報(bào)告,其中指出,隨著全球算力需求的爆發(fā)式增長(zhǎng),數(shù)據(jù)中心將面臨供電穩(wěn)定性、成本控制和碳排放管理三重挑戰(zhàn)。為推進(jìn)算力與電力兩大系統(tǒng)的協(xié)同優(yōu)化,施耐德電氣提出“算電協(xié)同”三層架構(gòu)及系統(tǒng)化解決方案。為應(yīng)對(duì)AI能耗挑戰(zhàn),施耐德電氣帶來(lái)了SmartCool 2.0末端空調(diào)節(jié)能解決方案,融合機(jī)器學(xué)習(xí)技術(shù),可基于IT負(fù)載需求進(jìn)行秒級(jí)同頻動(dòng)態(tài)制冷輸出管理。
中信國(guó)際電訊展示了基礎(chǔ)設(shè)施方面的布局。據(jù)悉,公司已在全球五大洲部署了豐富資源,包括近170個(gè)網(wǎng)絡(luò)服務(wù)節(jié)點(diǎn)、21座云平臺(tái)、30+數(shù)據(jù)中心及3座全天候運(yùn)營(yíng)的安全運(yùn)營(yíng)中心(SOCs)。
管理員
該內(nèi)容暫無(wú)評(píng)論