低精度計(jì)算能否實(shí)現(xiàn)智算中心“輕裝上陣”?
低精度計(jì)算應(yīng)用于智算中心說到底還是為了突破算力瓶頸,解決算力應(yīng)用難題,其雖然并非最優(yōu)解,但已經(jīng)成為一塊“關(guān)鍵拼圖”。
4小時(shí)前
來源:通信世界網(wǎng) 包建羽??

通信世界網(wǎng)消息(CWW)今年初,低成本、高性能的DeepSeek掀起了大模型狂潮,其在預(yù)訓(xùn)練中采用FP8(8位浮點(diǎn)數(shù))與FP32(32位浮點(diǎn)數(shù))混合精度技術(shù)也成為一項(xiàng)重大技術(shù)創(chuàng)新,前者可以大幅減少算力消耗,提高計(jì)算速度;后者則針對(duì)數(shù)據(jù)精度關(guān)鍵環(huán)節(jié)保證了模型的準(zhǔn)確性。兩者相結(jié)合,在不影響模型性能的前提下,實(shí)現(xiàn)了算力資源的高效利用。

類似的思路也被用于智算中心建設(shè),不再像去年卷“萬(wàn)卡集群”那樣,智算中心從建到用更為注重性價(jià)比,低精度計(jì)算應(yīng)勢(shì)而起,正推動(dòng)智算中心從“大力出奇跡”轉(zhuǎn)向“四兩撥千斤”的進(jìn)化路徑。

所謂低精度計(jì)算是指采用FP8、FP6(6位浮點(diǎn)數(shù))甚至FP4(4位浮點(diǎn)數(shù))等低比特?cái)?shù)值格式進(jìn)行運(yùn)算的技術(shù)體系。相較于傳統(tǒng)FP32計(jì)算,其數(shù)據(jù)存儲(chǔ)空間更小、計(jì)算能耗更低,不僅能夠破解大模型訓(xùn)練和推理的算力難題,也有助于化解智算中心的能效比困境。

就行業(yè)發(fā)展來看,智算需求的爆發(fā)直接促使低精度計(jì)算的崛起。近年來,大模型和生成式人工智能推高算力需求,全球智能算力需求呈指數(shù)級(jí)增長(zhǎng)?!?025年中國(guó)人工智能計(jì)算力發(fā)展評(píng)估報(bào)告》指出,未來兩年,中國(guó)智能算力規(guī)模將保持高速增長(zhǎng)。2023年至2028年期間,中國(guó)智能算力規(guī)模的五年年復(fù)合增長(zhǎng)率預(yù)計(jì)達(dá)46.2%。然而,傳統(tǒng)通用算力中心難以滿足AI模型訓(xùn)練的高密度、低時(shí)延需求,智算中心作為專用基礎(chǔ)設(shè)施的重要性得以凸顯。

在低精度計(jì)算的作用下,智算中心架構(gòu)層的芯片技術(shù)變革最為明顯。在GTC 2025年大會(huì)上,英偉達(dá)發(fā)布的Blackwell Ultra/Rubin系列芯片展現(xiàn)了算力精度下移的趨勢(shì)。例如Blackwell Ultra在FP4精度下的算力達(dá)到15PetaFlops,在特定推理場(chǎng)景中效率提升40倍。作為同類競(jìng)品的AMD MI350X芯片則創(chuàng)新性引入動(dòng)態(tài)精度切換技術(shù)。通過支持FP4和FP6,推理性能較前代提升35倍,F(xiàn)P8算力突破4.6 PetaFlops。不僅如此,當(dāng)前Meta、微軟、AWS等巨頭早已將低精度GPU列為采購(gòu)核心指標(biāo)。

低精度計(jì)算應(yīng)用于智算中心說到底還是為了突破算力瓶頸,解決算力應(yīng)用難題,其雖然并非最優(yōu)解,但已經(jīng)成為一塊“關(guān)鍵拼圖”。面向智算中心的未來發(fā)展,業(yè)界探索出了兩條關(guān)鍵路徑。

一是異構(gòu)計(jì)算架構(gòu),不同于傳統(tǒng)方案強(qiáng)調(diào)雙精度浮動(dòng)運(yùn)算性能的超級(jí)計(jì)算,異構(gòu)智算更多使用半精度浮動(dòng)運(yùn)算、整數(shù)運(yùn)算,甚至更低精度的浮點(diǎn)運(yùn)算,動(dòng)態(tài)適配不同精度需求。在傳統(tǒng)算力的局限與旺盛的市場(chǎng)需求共同作用下,通用算力、智算算力、超算算力、邊緣算力等不同類型算力中心的融合發(fā)展將成為大勢(shì)所趨。

二是“超智融合”,作為異構(gòu)智算的一種表現(xiàn)形式,“超智融合”即整合超算的高性能并行計(jì)算能力與智算的低功耗優(yōu)化優(yōu)勢(shì),通過軟硬件協(xié)同提升算力效率。業(yè)內(nèi)專家認(rèn)為,隨著AI應(yīng)用場(chǎng)景越來越復(fù)雜,通過單一芯片平臺(tái)提供全精度和混合精度計(jì)算,已成為“超智融合”背景下的算力基礎(chǔ)設(shè)施發(fā)展趨勢(shì)。

技術(shù)路徑找準(zhǔn)之余,要想讓智算中心“輕裝上陣”,生態(tài)建設(shè)又是另一核心命題。與低精度計(jì)算相適配,國(guó)內(nèi)仍需構(gòu)建自主可控的開源框架,解決編程接口不統(tǒng)一、算子庫(kù)適配難等問題。因此,智算中心的未來不是一道高精度或低精度的選擇題,而是一道如何“恰到好處”協(xié)調(diào)適配各個(gè)環(huán)節(jié)的思考題。

可以預(yù)見,智算中心走向應(yīng)用的“下半場(chǎng)”,一定不再是 單純追求數(shù)值的堆砌,而是如何在有限資源里找到最優(yōu)解。 面向未來,筆者認(rèn)為智算中心有三大趨勢(shì)值得關(guān)注。一是全精度覆蓋,兼顧低精度推理與高精度訓(xùn)練,滿足差異化需求;二是超智算一體化,通過全國(guó)一體化算力網(wǎng)實(shí)現(xiàn)跨區(qū)域資源共享;三是AI原生設(shè)計(jì),將AI技術(shù)深度融入基礎(chǔ)設(shè)施建設(shè)與管理,實(shí)現(xiàn)自動(dòng)化運(yùn)維與動(dòng)態(tài)優(yōu)化。

原創(chuàng)文章
最新文章
1
2025Q1智能門鎖:高增長(zhǎng)背后的四大核心驅(qū)動(dòng)力
2
董明珠連任格力電器董事長(zhǎng),先向空調(diào)低價(jià)內(nèi)卷競(jìng)爭(zhēng)“開炮”
3
低精度計(jì)算能否實(shí)現(xiàn)智算中心“輕裝上陣”?
4
一季度Mini LED電視同比增幅高達(dá)520.4%,預(yù)計(jì)全年將達(dá)900萬(wàn)臺(tái)
5
家電以舊換新交出亮眼成績(jī)單,清潔電器增長(zhǎng)勢(shì)頭強(qiáng)勁
6
外賣領(lǐng)域重演電商舊戲,“內(nèi)卷式”競(jìng)爭(zhēng)何時(shí)休?
7
滿級(jí)配置!REDMI Turbo 4 Pro支持IP69防水大滿貫、公里級(jí)無(wú)網(wǎng)通信
8
跟Intel拼了!臺(tái)積電公布全新1.4nm:性能+15%、功耗-30%
9
海信棉花糖Ultra,小天鵝迷你小烏梅,模塊化洗衣機(jī)哪家強(qiáng)?
10
拒絕價(jià)格戰(zhàn),海信用“健康節(jié)能”重構(gòu)空調(diào)價(jià)值坐標(biāo)系
11
BOE(京東方)發(fā)布行業(yè)首個(gè)可持續(xù)發(fā)展品牌“ONE”:以開放創(chuàng)新科技之力守護(hù)人類未來
12
為什么GPMI應(yīng)該成為電視的標(biāo)準(zhǔn)配置?
13
謝廣坤、趙四上演“龍虎對(duì)決”,快手發(fā)起春耕大舞臺(tái)共慶農(nóng)忙盛況
14
甜蜜值超標(biāo)預(yù)警!快手星芒短劇《暗戀藏不住》見證雙向心動(dòng)
15
年輕選手過半,快手廣場(chǎng)舞大賽舞出民族風(fēng)與多巴胺
16
快手“非遺傳習(xí)學(xué)堂”第二期能力提升培訓(xùn)啟動(dòng),助力困境非遺傳承人持續(xù)發(fā)展
17
讓2200萬(wàn)用戶的創(chuàng)意被全世界看見!可靈AI發(fā)起全球首支用戶共創(chuàng)AI短片征集
18
快手本地生活用戶洞察報(bào)告:大力提振消費(fèi)背景下,本地生活服務(wù)成消費(fèi)復(fù)蘇“毛細(xì)血管”
19
長(zhǎng)虹空調(diào)硬核飛升,濰坊風(fēng)箏節(jié)大出風(fēng)頭
20
從電視操作系統(tǒng)到AI智能體,王志國(guó)帶領(lǐng)酷開“華麗蝶變”
關(guān)于我們

微信掃一掃,加關(guān)注

商務(wù)合作
  • QQ:61149512