英特爾Sachin Katti:大模型在云端訓(xùn)練的成熟,將促進(jìn)AI快速向邊緣遷移
通信世界網(wǎng)消息(CWW)隨著邊緣計(jì)算與大模型技術(shù)的不斷成熟,二者可以很好地融合在一起為行業(yè)應(yīng)用中碰撞出新的“火花”。 近日,在2023英特爾網(wǎng)絡(luò)與邊緣產(chǎn)業(yè)高層峰會(huì)上,英特爾公司高級(jí)副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部總經(jīng)理Sachin Katti和英特爾中國(guó)區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級(jí)首席AI工程師張宇博士接受了通信世界全媒體記者的采訪(fǎng),分享了英特爾在邊緣計(jì)算和大模型方面的戰(zhàn)略和產(chǎn)品,以及如何推
2023-08-01 10:10:14
來(lái)源:通信世界全媒體 程琳琳??

通信世界網(wǎng)消息(CWW)隨著邊緣計(jì)算與大模型技術(shù)的不斷成熟,二者可以很好地融合在一起為行業(yè)應(yīng)用中碰撞出新的“火花”。

近日,在2023英特爾網(wǎng)絡(luò)與邊緣產(chǎn)業(yè)高層峰會(huì)上,英特爾公司高級(jí)副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部總經(jīng)理Sachin Katti和英特爾中國(guó)區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級(jí)首席AI工程師張宇博士接受了通信世界全媒體記者的采訪(fǎng),分享了英特爾在邊緣計(jì)算和大模型方面的戰(zhàn)略和產(chǎn)品,以及如何推動(dòng)邊緣智能和大模型在行業(yè)中的落地。

如今邊緣計(jì)算市場(chǎng)已經(jīng)在快速增長(zhǎng)過(guò)程當(dāng)中,這對(duì)英特爾以及對(duì)整個(gè)英特爾生態(tài)系統(tǒng),以及整個(gè)中國(guó)市場(chǎng)來(lái)說(shuō)都提供了巨大的機(jī)遇。

“英特爾的邊緣計(jì)算策略是提供大量的硬件選擇,比如說(shuō)CPU、加速器、GPU等,達(dá)到一流的性能。同時(shí)在軟件方面,英特爾希望在應(yīng)用的時(shí)候可以降低復(fù)雜性?!盨achin Katti表示:“我們要幫助客戶(hù),為他們提供一些選擇,同時(shí)通過(guò)我們的軟件解決方案可以使他們的運(yùn)營(yíng)更加簡(jiǎn)化、更加精簡(jiǎn),而且我們要跟整個(gè)的生態(tài)系統(tǒng)的合作伙伴一起合作?!?/p>

隨著大模型在云端訓(xùn)練的成熟,AI就會(huì)快速向邊緣進(jìn)行遷移。Sachin Katti說(shuō):“我們看到AI正在快速地遷移到云端,在這當(dāng)中邊緣也會(huì)發(fā)揮更加重要的作用來(lái)推動(dòng)AI的部署。英特爾有很多邊緣設(shè)備都是在行業(yè)落地的。所以我們要做的是通過(guò)所提供的選擇,讓用戶(hù)可以更好的使用AI,把AI成果運(yùn)用在日常運(yùn)營(yíng)當(dāng)中?!?/p>

英特爾認(rèn)為大模型是AI未來(lái)的關(guān)鍵,它可以幫助解決一些人類(lèi)面臨的重大挑戰(zhàn),比如醫(yī)療、教育、環(huán)境等?!拔覀兿嘈糯竽P涂梢宰孉I更加通用,更加普及,更加有價(jià)值。我們也相信大模型需要和行業(yè)結(jié)合起來(lái),要在行業(yè)里去做跟這個(gè)行業(yè)相關(guān)的,有針對(duì)性的大模型去解決行業(yè)里有針對(duì)性的一些問(wèn)題。”Sachin Katti表示。

為了支持大模型的訓(xùn)練和推理,英特爾提供了一系列的硬件和軟件解決方案。在硬件方面,英特爾發(fā)布了專(zhuān)門(mén)面向大模型訓(xùn)練的加速器Gaudi 2,它在第三方公開(kāi)的運(yùn)用GPT 3這樣一個(gè)大模型的評(píng)測(cè)當(dāng)中表現(xiàn)出了非常好的性能。同時(shí),英特爾也提供了通用的CPU處理器以及專(zhuān)用的獨(dú)立顯卡等加速器來(lái)滿(mǎn)足人工智能模型推理對(duì)算力的要求。

在軟件方面,英特爾推出了OpenVINO的軟件工具,可以實(shí)現(xiàn)模型在不同平臺(tái)上的遷移和部署。在最新的OpenVINO版本里,英特爾增加了對(duì)大模型的支持,比如說(shuō)Stable Diffusion這樣一個(gè)文生圖的模型,已經(jīng)開(kāi)始在一些行業(yè)里進(jìn)行使用了。

除了硬件和軟件之外,英特爾還提供了開(kāi)放標(biāo)準(zhǔn)的網(wǎng)絡(luò)連接技術(shù),來(lái)把大量的GPU和加速器連接起來(lái),讓大模型的訓(xùn)練更加方便。英特爾還推出了IPU(Infrastructure Processing Unit),它能夠給用戶(hù)提供一個(gè)可靠、高速、低延遲的數(shù)據(jù)傳輸服務(wù)。

“我們要做到在中國(guó)為中國(guó),在本地客戶(hù)需求上做一些行業(yè)需要的相應(yīng)解決方案,利用總部所提供的軟件基礎(chǔ)來(lái)做這個(gè)方案,從工具、解決方案、生態(tài)等方面,來(lái)為本地行業(yè)客戶(hù)賦能?!睆堄畈┦勘硎?。英特爾希望通過(guò)軟硬件結(jié)合、開(kāi)放標(biāo)準(zhǔn)、生態(tài)構(gòu)建等方式,為客戶(hù)提供整體解決方案,讓AI更加通用、普及、有價(jià)值。

原創(chuàng)文章
最新文章
1
360集團(tuán)20周年會(huì):升級(jí)使命愿景價(jià)值觀,全員All In Agent
2
科技無(wú)界·健康隨行:越凡醫(yī)療開(kāi)啟穿戴式健康新紀(jì)元
3
定檔9月19日-21日!2025電博會(huì)即將開(kāi)啟數(shù)智未來(lái)
4
“你好BOE”五周年盛典北京站盛大啟幕 攜手生態(tài)伙伴打造“科技+生活”新場(chǎng)景
5
中國(guó)空調(diào)TOP3排名未變:僅海爾份額凈增
6
中國(guó)空調(diào)TOP3陣營(yíng):海爾唯一份額凈增長(zhǎng)
7
中國(guó)空調(diào)頭部陣營(yíng)繼續(xù)震蕩,份額有增有減,TOP3排位未發(fā)生變化
8
送爸媽電視看這篇就夠了!康佳易AI電視D7J系列憑實(shí)力圈粉,三點(diǎn)優(yōu)勢(shì)太能打
9
電動(dòng)兩輪車(chē)賣(mài)瘋了,7 月增長(zhǎng)24.4%,老款清倉(cāng)新款漲價(jià)
10
英偉達(dá)否認(rèn)市場(chǎng)傳聞:下代 Rubin AI GPU 進(jìn)展順利
11
2025上半年智能投影銷(xiāo)量同比下降3.9%,5000元以上市場(chǎng)增長(zhǎng)
12
行業(yè)洗牌期承壓明顯,廚房小家電企業(yè)為何加速擴(kuò)產(chǎn)、押注全球化?
13
“董明珠健康家”改名“格力好物指南”:去董明珠個(gè)人IP?
14
高溫補(bǔ)貼來(lái)了!快碼住這些暑期手機(jī)散熱小Tips
15
從mini到Plus再到Air 蘋(píng)果五年三變產(chǎn)品線(xiàn)是為何?
16
全球首款8K全景無(wú)人機(jī)!影石影翎Antigravity A1發(fā)布:會(huì)飛的全景相機(jī)
17
告別細(xì)菌溫床與漫長(zhǎng)等待:自動(dòng)制冰冰箱如何選?
18
追覓進(jìn)軍電視、大疆殺向掃地機(jī) 家電業(yè)還有“重做一遍”機(jī)會(huì)?
19
換機(jī)周期延長(zhǎng):Q2全球智能手機(jī)出貨量下降,需求疲軟制約增長(zhǎng)動(dòng)能
20
英偉達(dá)推出全新Cosmos世界模型,深耕機(jī)器人領(lǐng)域
關(guān)于我們

微信掃一掃,加關(guān)注

商務(wù)合作
  • QQ:61149512