韩国三级一区-韩国三级香港三级日本三级la-韩国三级香港三级日本三级-韩国三级视频网站-日韩欧美一及在线播放-日韩欧美一二三区

首頁(yè)|必讀|視頻|專訪|運(yùn)營(yíng)|制造|監(jiān)管|芯片|物聯(lián)網(wǎng)|量子|低空經(jīng)濟(jì)|智能汽車|特約記者
手機(jī)|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計(jì)算|大數(shù)據(jù)|報(bào)告|智慧城市|移動(dòng)互聯(lián)網(wǎng)|會(huì)展
首頁(yè) >> 云計(jì)算 >> 正文

華為云基于CloudMatrix384的昇騰AI云服務(wù)全面上線

2025年6月20日 16:58  CCTIME飛象網(wǎng)  

在6月20日舉行的華為開(kāi)發(fā)者大會(huì)2025(HDC 2025)上,華為常務(wù)董事、華為云計(jì)算 CEO張平安宣布基于CloudMatrix384超節(jié)點(diǎn)的新一代昇騰AI云服務(wù)全面上線,為大模型應(yīng)用提供澎湃算力。

隨著大模型訓(xùn)練和推理對(duì)算力需求的爆炸式增長(zhǎng),傳統(tǒng)計(jì)算架構(gòu)已難以支撐AI技術(shù)的代際躍遷。華為云新一代昇騰AI云服務(wù)基于CloudMatrix384超節(jié)點(diǎn),首創(chuàng)將384顆昇騰NPU和192顆鯤鵬CPU通過(guò)全新高速網(wǎng)絡(luò)MatrixLink全對(duì)等互聯(lián),形成一臺(tái)超級(jí)“AI服務(wù)器”,單卡推理吞吐量躍升到2300 Tokens/s。超節(jié)點(diǎn)架構(gòu)能更好地支持混合專家MoE大模型的推理,可以實(shí)現(xiàn)“一卡一專家”,一個(gè)超節(jié)點(diǎn)可以支持384個(gè)專家并行推理,極大提升效率。同時(shí),超節(jié)點(diǎn)還可以支持“一卡一算力任務(wù)”,靈活分配資源,提升任務(wù)并行處理,減少等待,將算力有效使用率(MFU)提升50%以上。

對(duì)于萬(wàn)億、十萬(wàn)億參數(shù)的大模型訓(xùn)練任務(wù),在云數(shù)據(jù)中心,還能將432個(gè)超節(jié)點(diǎn)級(jí)聯(lián)成最高16萬(wàn)卡的超大集群;同時(shí),超節(jié)點(diǎn)還可以支持訓(xùn)推算力一體部署,如“日推夜訓(xùn)”,訓(xùn)推算力可靈活分配,幫助客戶資源使用最優(yōu)。

張平安表示,昇騰AI云服務(wù)得到了全球客戶、伙伴和開(kāi)發(fā)者的支持。正是因?yàn)樗麄儗?duì)華為的堅(jiān)定信任,才有機(jī)會(huì)讓昇騰構(gòu)筑起一個(gè)比肩巔峰,開(kāi)創(chuàng)未來(lái)的AI算力底座!

新浪與華為云深度合作,基于CloudMatrix384昇騰AI云服務(wù),為“智慧小浪”智能服務(wù)體系構(gòu)建了統(tǒng)一的推理平臺(tái),底層由昇騰AI算力提供支持。推理的交付效率提升了超過(guò) 50%,模型上線速度成倍加快;通過(guò)軟硬協(xié)同調(diào)優(yōu),NPU利用率提升超過(guò)40%,每一份資源都得到更高效的使用。

硅基流動(dòng)正在使用CloudMatrix384超節(jié)點(diǎn),為數(shù)百萬(wàn)用戶高效提供DeepSeek V3、R1的推理服務(wù)。面壁智能使用CloudMatrix384超節(jié)點(diǎn),讓他們的小鋼炮模型的推理業(yè)務(wù)性能得到了2.7倍提升。

在科研領(lǐng)域,中科院基于CloudMatrix384超節(jié)點(diǎn)打造了自己的模型訓(xùn)練框架,快速構(gòu)建了中科院AI for Science科研大模型,擺脫了對(duì)國(guó)外高性能AI算力平臺(tái)的依賴。

在互聯(lián)網(wǎng)領(lǐng)域,360打造的納米AI搜索,為用戶提供超級(jí)AI搜索服務(wù),對(duì)AI算力有極大需求,也已開(kāi)啟了CloudMatrix384超節(jié)點(diǎn)的測(cè)試。

當(dāng)前,昇騰AI云服務(wù)已經(jīng)成為AI基礎(chǔ)設(shè)施的最優(yōu)選擇,為超過(guò)1300家客戶提供澎湃的AI算力,加速千行萬(wàn)業(yè)智能化升級(jí)。

編 輯:路金娣
飛象網(wǎng)版權(quán)及免責(zé)聲明:
1.本網(wǎng)刊載內(nèi)容,凡注明來(lái)源為“飛象網(wǎng)”和“飛象原創(chuàng)”皆屬飛象網(wǎng)版權(quán)所有,未經(jīng)允許禁止轉(zhuǎn)載、摘編及鏡像,違者必究。對(duì)于經(jīng)過(guò)授權(quán)可以轉(zhuǎn)載,請(qǐng)必須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標(biāo)注作者信息和飛象網(wǎng)來(lái)源。
2.凡注明“來(lái)源:XXXX”的作品,均轉(zhuǎn)載自其它媒體,在于傳播更多行業(yè)信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)。
3.如因作品內(nèi)容、版權(quán)和其它問(wèn)題,請(qǐng)?jiān)谙嚓P(guān)作品刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系,我們將第一時(shí)間予以處理。
本站聯(lián)系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實(shí)”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對(duì)此聲明的最終解釋權(quán)。
推薦新聞              
 
人物
韋樂(lè)平:大模型時(shí)代將開(kāi)啟新一波“光進(jìn)銅退”
精彩視頻
2025MWC上海丨智能加速度 中興通訊展臺(tái)直擊
2025MWC上海|京信通信:AI賦能5G-A 重構(gòu)連接的價(jià)值
飛象訪談 | 全域智聯(lián):羅德與施瓦茨解決方案臻享快閃
還在用舊款手機(jī)?恭喜你!在MWC上海看展,讀GSMA報(bào)告
精彩專題
2025 MWC 上海
2025工業(yè)互聯(lián)網(wǎng)大會(huì)
2025世界電信和信息社會(huì)日大會(huì)
第八屆數(shù)字中國(guó)建設(shè)峰會(huì)
關(guān)于我們 | 廣告報(bào)價(jià) | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號(hào)-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營(yíng)許可證080234號(hào) 京公網(wǎng)安備110105000771號(hào)
公司名稱: 北京飛象互動(dòng)文化傳媒有限公司
未經(jīng)書(shū)面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像