過(guò)去幾年中，邊緣設(shè)備源源不斷地生成大量數(shù)據(jù)，傳輸至云端的成本變得高昂，越來(lái)越多的AI應(yīng)用被部署在邊緣端，以便就地處理數(shù)據(jù)。

相比云計(jì)算，邊緣計(jì)算在低延遲、高安全性上優(yōu)勢(shì)明顯，但這種越來(lái)越分散和接近用戶的數(shù)據(jù)處理方式，也帶來(lái)了新的挑戰(zhàn)。

由于終端設(shè)備的算力有限，且對(duì)功耗要求較高，因此在實(shí)際的產(chǎn)品設(shè)計(jì)和應(yīng)用開(kāi)發(fā)中，如何高效利用邊緣計(jì)算設(shè)備有限的硬件資源，實(shí)現(xiàn)最優(yōu)的邊緣計(jì)算方案，是開(kāi)發(fā)者們?cè)诓粩嗨伎嫉膯?wèn)題。

近日，英特爾舉辦2024網(wǎng)絡(luò)與邊緣計(jì)算行業(yè)大會(huì)，分享了對(duì)AI技術(shù)和邊緣計(jì)算的最新洞察、未來(lái)展望及技術(shù)與產(chǎn)品的創(chuàng)新。

邊緣AI成全球趨勢(shì)，中國(guó)大模型聚焦行業(yè)應(yīng)用

隨著AI更多在邊緣端部署應(yīng)用，AI模型也將逐步從云端向邊緣端轉(zhuǎn)移。一場(chǎng)巨大的創(chuàng)新浪潮正在醞釀，當(dāng)下正處于這一變革的關(guān)鍵時(shí)刻。

英特爾高級(jí)副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部總經(jīng)理Sachin Katti指出：“邊緣AI的應(yīng)用領(lǐng)域，已逐步從機(jī)器視覺(jué)，擴(kuò)展到大語(yǔ)言模型、生成式AI等新興領(lǐng)域。未來(lái)英特爾也將更多關(guān)注大語(yǔ)言模型和生成式AI的開(kāi)發(fā)與應(yīng)用?！?/p>

Sachin Katti將AI的發(fā)展可以分為三個(gè)階段：AI輔助時(shí)代（Age of AI Co-Pilots）、AI 助手時(shí)代（Age of AI Agents）、全功能AI時(shí)代（Age of AI Functions）

AI輔助時(shí)代，AI是能夠輔助我們更高效地工作；

AI助手時(shí)代，AI可以自動(dòng)地執(zhí)行一些工作指令；

全功能AI時(shí)代，智能體之間將能夠相互協(xié)作。

當(dāng)下，我們正處在AI輔助時(shí)代。

IDC數(shù)據(jù)顯示，中國(guó)生成式AI投資2022到2027年五年的復(fù)合年增長(zhǎng)率達(dá)到86.2%。Gartner預(yù)測(cè)，到2026年，80%的全球企業(yè)將使用生成式AI，50%的全球邊緣部署將包含AI。

在這一大趨勢(shì)下，中美兩國(guó)邊緣AI的發(fā)展，雖然在技術(shù)上有許多相似之處，但在落地策略上存在明顯差異。

國(guó)外的大模型多用于消費(fèi)類場(chǎng)景，如 ChatGPT 面向公眾開(kāi)放，Sora 主要面向教育機(jī)構(gòu)用戶，這些模型都涉及龐大的數(shù)據(jù)訓(xùn)練量和參數(shù)量。

中國(guó)的大模型更多應(yīng)用于行業(yè)領(lǐng)域，通常訓(xùn)練中等規(guī)模的模型，并結(jié)合自身數(shù)據(jù)進(jìn)行定制化調(diào)整，這種策略通常涉及多個(gè)模型的并行部署，以適應(yīng)特定行業(yè)的需求。

英特爾中國(guó)區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級(jí)首席AI工程師張宇博士強(qiáng)調(diào)，“中國(guó)在AI創(chuàng)新方面發(fā)展迅速，許多AI Agent的功能已經(jīng)初見(jiàn)端倪。比如電信行業(yè)的AI大模型產(chǎn)品可以分析網(wǎng)絡(luò)日志文件，及時(shí)發(fā)現(xiàn)異常并通知網(wǎng)絡(luò)管理人員。”

AI與邊緣計(jì)算的融合正在重塑產(chǎn)業(yè)的發(fā)展。英特爾中國(guó)團(tuán)隊(duì)正專注于利用英特爾的軟硬件技術(shù)，鼓勵(lì)本地創(chuàng)新，加速AI技術(shù)在行業(yè)中的應(yīng)用。

用本土創(chuàng)新提升新質(zhì)生產(chǎn)力

生成式AI為網(wǎng)絡(luò)和邊緣計(jì)算帶來(lái)了許多機(jī)遇，同時(shí)也在重塑著產(chǎn)品和服務(wù)模式。

英特爾致力于為企業(yè)提供的，是開(kāi)放、即插即用的解決方案，以及打造開(kāi)放、可擴(kuò)展的系統(tǒng)架構(gòu)。

“未來(lái)合作伙伴不會(huì)單單采購(gòu)芯片，而是需要一整套即插即用的系統(tǒng)解決方案?！盨achin Katti表示，英特爾的服務(wù)已經(jīng)不僅僅局限于硬件供應(yīng)，還擴(kuò)展到了應(yīng)用層、軟件以及客戶服務(wù)支持等多個(gè)維度，“主要目的在于幫助客戶降低部署的復(fù)雜性，實(shí)現(xiàn)更加高效、便捷的技術(shù)應(yīng)用?！?/p>

在全球市場(chǎng)，英特爾堅(jiān)持提供統(tǒng)一的軟件平臺(tái)，與此同時(shí)，每個(gè)市場(chǎng)的本地團(tuán)隊(duì)，又會(huì)根據(jù)當(dāng)?shù)靥囟ù怪鳖I(lǐng)域的需求，進(jìn)行微調(diào)和定制。這樣既能在橫向上滿足全球市場(chǎng)的一致性要求，又能在縱向上針對(duì)本地市場(chǎng)的特殊需求提供解決方案。

在不同行業(yè)中，AI技術(shù)的應(yīng)用場(chǎng)景和影響各不相同，英特爾攜手眾多中國(guó)本土合作伙伴，已支持大語(yǔ)言模型(LLM)在教育、制造業(yè)等不同行業(yè)的落地應(yīng)用。

在教育領(lǐng)域，AI可以通過(guò)分析課堂互動(dòng)生成教學(xué)報(bào)告，提高教師的效率。

十余年來(lái)，英特爾與希沃在“AI+教育”解決方案的開(kāi)拓上展開(kāi)緊密合作?；谟⑻貭?酷睿?Ultra處理器，希沃在本地即可完成AI教學(xué)大模型的運(yùn)行，并顯著提高系統(tǒng)響應(yīng)速度和穩(wěn)定性。希沃的產(chǎn)品如今已覆蓋17萬(wàn)所學(xué)校，260萬(wàn)間教室，服務(wù)800萬(wàn)名教師，幫助完成了8億個(gè)生成式課件的制作。

在工業(yè)領(lǐng)域，AI可以結(jié)合機(jī)器視覺(jué)和自動(dòng)化技術(shù)，提升生產(chǎn)線的安全性和效率。

面向工業(yè)數(shù)字化轉(zhuǎn)型升級(jí)的迫切需求，科東軟件通過(guò)先進(jìn)大語(yǔ)言模型實(shí)現(xiàn)任務(wù)理解及代碼生成，并依托科東智能控制器的多模態(tài)視覺(jué)語(yǔ)言模型，實(shí)現(xiàn)對(duì)機(jī)器人動(dòng)作的精準(zhǔn)控制，極大簡(jiǎn)化了開(kāi)發(fā)流程并提升了生產(chǎn)效率。通過(guò)在英特爾?酷睿?Ultra 處理器上部署大語(yǔ)言模型，還減少了對(duì)算力設(shè)備和網(wǎng)絡(luò)傳輸?shù)囊蕾嚕行Ы档土瞬僮餮舆t，滿足工業(yè)場(chǎng)景對(duì)低延遲和高可靠性的需求。、

邊緣計(jì)算的特點(diǎn)是碎片化，不同行業(yè)和用戶對(duì)算力和性能的需求各不相同。提供豐富的產(chǎn)品組合和多樣化的解決方案，以滿足不同用戶的具體需求。

數(shù)據(jù)量的限制是邊緣調(diào)優(yōu)的一個(gè)常見(jiàn)挑戰(zhàn)，英特爾通過(guò)自動(dòng)化手段完成數(shù)據(jù)標(biāo)注和訓(xùn)練，解決了數(shù)據(jù)量小的問(wèn)題，并結(jié)合大規(guī)模通用數(shù)據(jù)模型進(jìn)行進(jìn)一步優(yōu)化。

硬件方面，在算力和能耗的平衡上，英特爾通過(guò)創(chuàng)新的冷卻技術(shù)和智能能源管理策略，實(shí)現(xiàn)了高效的功耗管理和性能優(yōu)化；其集成GPU和NPU解決方案為邊緣設(shè)備提供了AI計(jì)算能力，支持一些AI模型的本地運(yùn)行，展示了邊緣AI的潛力。

打造開(kāi)放、可擴(kuò)展的企業(yè)級(jí)AI生態(tài)，才能“讓AI無(wú)處不在”

在不斷推動(dòng)技術(shù)創(chuàng)新和解決方案升級(jí)的同時(shí)，英特爾也在全球范圍內(nèi)，構(gòu)建了一個(gè)廣泛、深入且多樣化的合作生態(tài)系統(tǒng)。

據(jù)雷峰網(wǎng)了解，在這個(gè)合作系統(tǒng)中，合作伙伴主要分為三大類，合作方式各有不同：

針對(duì)原始設(shè)備制造商（OEM）和原始設(shè)計(jì)制造商（ODM），英特爾協(xié)助其進(jìn)行硬件的設(shè)計(jì)和生產(chǎn)；

針對(duì)直接對(duì)接終端客戶的系統(tǒng)集成商，英特爾提供定制化解決方案和軟件培訓(xùn)，幫助他們顯著減少開(kāi)發(fā)時(shí)間和成本；

針對(duì)軟件提供商，英特爾采取直接合作的模式，幫助他們優(yōu)化軟件和應(yīng)用程序，以便在英特爾提供的多樣化平臺(tái)上高效運(yùn)行。

作為擁有完整軟硬件平臺(tái)的公司，英特爾在AI領(lǐng)域擁有深厚的積淀與領(lǐng)先優(yōu)勢(shì)，提供開(kāi)放、模塊化的解決方案，幫助客戶在AI時(shí)代以更低總擁有成本（TCO）實(shí)現(xiàn)更高價(jià)值。

張宇博士補(bǔ)充道，為了推動(dòng)AI本地創(chuàng)新應(yīng)用，英特爾還花了很大精力賦能開(kāi)發(fā)者，幫助他們更快更好將想法落地。

今年上半年，中國(guó)區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部和英特爾中國(guó)其它事業(yè)部合作，共同組織AI創(chuàng)新應(yīng)用大賽。“除此之外，我們還跟包括開(kāi)發(fā)者、ODM、OEM、系統(tǒng)集成商等合作伙伴來(lái)共同制定今后在我們國(guó)家適用的AI標(biāo)準(zhǔn)。”張宇博士對(duì)雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))表示。

面向未來(lái)的AI轉(zhuǎn)型，英特爾正在引入端到端、可擴(kuò)展的系統(tǒng)級(jí)戰(zhàn)略，通過(guò)開(kāi)放的生態(tài)系統(tǒng)全速助力企業(yè)推進(jìn)AI創(chuàng)新。

英特爾公司副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部中國(guó)區(qū)總經(jīng)理陳偉博士表示：“英特爾對(duì)客戶的技術(shù)支持始終與時(shí)俱進(jìn)，不僅僅是技術(shù)的提供者，更是本地合作伙伴的傾聽(tīng)者和同行者，從運(yùn)用AI進(jìn)行創(chuàng)新的‘+AI時(shí)代’，到今天以AI為主導(dǎo)推動(dòng)創(chuàng)新的‘AI+時(shí)代’，英特爾正站技術(shù)轉(zhuǎn)型的前沿，進(jìn)一步深化戰(zhàn)略，確保英特爾的技術(shù)更貼近中國(guó)用戶，更深入地推動(dòng)各行業(yè)的數(shù)字化轉(zhuǎn)型?！?/p>

數(shù)年深耕，通過(guò)持續(xù)不斷的軟硬件平臺(tái)和產(chǎn)品創(chuàng)新，積極推動(dòng)邊緣AI等新興領(lǐng)域的拓展，相信英特爾將與合作伙伴和客戶共同迎接一個(gè)由AI驅(qū)動(dòng)、智能優(yōu)化的全新時(shí)代的到來(lái)。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。