7月17日至20日,WAIC 2026 世界人工智能(885728)大會(huì)在上海落下帷幕,眾多領(lǐng)先成果的展示與發(fā)布勾勒出 AI 產(chǎn)業(yè)下半場(chǎng)的清晰輪廓:端側(cè) AI 正從三年前的“少數(shù)派選擇”成為今天的“產(chǎn)業(yè)最大共識(shí)”。
這一轉(zhuǎn)變的背后,是算力架構(gòu)的根本性變革。當(dāng) Agent 成為終端的核心交互范式,當(dāng)持續(xù)運(yùn)行的智能體需要本地算力長(zhǎng)時(shí)間穩(wěn)定輸出,集成了 NPU 的 SoC 芯片正在成為端側(cè) AI 規(guī)模化落地的關(guān)鍵支撐。
NPU:端側(cè) AI 與 Agent 的算力基石
NPU(神經(jīng)網(wǎng)絡(luò)處理器)是專門為人工智能(885728)計(jì)算設(shè)計(jì)的專用芯片,其核心優(yōu)勢(shì)在于對(duì)神經(jīng)網(wǎng)絡(luò)運(yùn)算的硬件級(jí)加速。相比 CPU 和 GPU,NPU 能夠在同等功耗下提供數(shù)倍乃至數(shù)十倍的推理性能。
在端側(cè) AI 場(chǎng)景中,NPU 的價(jià)值尤為突出:低延遲響應(yīng)保障實(shí)時(shí)交互體驗(yàn),本地計(jì)算守護(hù)數(shù)據(jù)隱私安全,高能效支撐移動(dòng)設(shè)備續(xù)航。
從錦上添花到原生設(shè)計(jì):Agent 時(shí)代的算力新要求
如果說(shuō)過(guò)去幾年,端側(cè)的 AI 功能更多是“錦上添花”,那么從 2025 年開始,新的 AI 產(chǎn)品形態(tài)紛紛出現(xiàn),它們“原生為 AI 與 Agent 設(shè)計(jì)”,始終在線的個(gè)人 Agent、智能體手機(jī)、陪伴機(jī)器人,都不再是偶爾調(diào)用 AI,而是要求設(shè)備不間斷地承載 Agent 任務(wù)。
一個(gè)不間斷承載 Agent 任務(wù)的設(shè)備,對(duì)本地算力的要求與過(guò)去跑一個(gè)本地模型完全不同:
需要能力足夠強(qiáng)的 NPU 算力底座
要求大帶寬、大存儲(chǔ)容量,支撐長(zhǎng)上下文復(fù)雜任務(wù)
單個(gè)任務(wù)可能持續(xù)運(yùn)行半小時(shí)甚至更久,中間不能中斷
端側(cè)AI的敘事,正式從“有沒有 NPU”進(jìn)入“NPU 能不能頂?shù)米?Agent”的新階段。
四大技術(shù)趨勢(shì):NPU 進(jìn)化為端側(cè) AI 最佳載體
原生為 AI 計(jì)算而生的 NPU,正在結(jié)合新技術(shù)持續(xù)進(jìn)化,成為端側(cè) AI 規(guī)?;瘧?yīng)用的最佳載體。
1. 異構(gòu)協(xié)同調(diào)度走向成熟
異構(gòu)協(xié)同調(diào)度通過(guò) CPU、GPU、NPU 等多計(jì)算單元的智能分工,將不同類型的 AI 算子調(diào)度至最適合的硬件執(zhí)行。NPU 成為異構(gòu)計(jì)算中AI任務(wù)的主要承載單元,被優(yōu)先調(diào)度與分配。
2. 深度適配 Transformer 架構(gòu)成為標(biāo)配
大模型時(shí)代,Transformer 已成為主流架構(gòu)。新一代 NPU 從硬件層面優(yōu)化注意力機(jī)制、矩陣乘法等 Transformer 核心算子,相比傳統(tǒng)架構(gòu)實(shí)現(xiàn)數(shù)倍性能提升,為端側(cè)部署百億參數(shù)大模型和端側(cè) Agent 復(fù)雜意圖理解提供了硬件基礎(chǔ)。
3. 更高效的內(nèi)存與低比特推理突破物理邊界
內(nèi)存墻始終是端側(cè)大模型的核心瓶頸。一個(gè)顯著信號(hào)是,以高通(QCOM)為代表的芯片廠商推出的獨(dú)立式神經(jīng)網(wǎng)絡(luò)處理器,通過(guò)先進(jìn)封裝(886009)“堆疊”內(nèi)存的創(chuàng)新做法,模糊了傳統(tǒng)“片上”與“片外”的界限,代表了高性能計(jì)算芯片的重要發(fā)展方向。
與此同時(shí),低比特推理技術(shù)(INT4、INT8)持續(xù)成熟,在全力保障模型精度的前提下大幅降低算力與內(nèi)存需求,讓更大的模型能夠在終端高效運(yùn)行。
4. 從工具鏈到操作系統(tǒng)的完整生態(tài)
算力的價(jià)值釋放離不開生態(tài)支撐。端側(cè) AI 正在形成從模型轉(zhuǎn)換工具鏈、推理引擎,到操作系統(tǒng)級(jí) AI 框架、再到終端應(yīng)用的完整生態(tài)體系,開發(fā)者可以便捷地將 AI 能力集成到產(chǎn)品中,加速規(guī)模化落地。
多元場(chǎng)景落地:NPU 驅(qū)動(dòng)端側(cè) AI 全面開花
NPU 的技術(shù)演進(jìn),正在不同垂直場(chǎng)景中釋放端側(cè) AI 的價(jià)值,各場(chǎng)景對(duì)算力的需求側(cè)重點(diǎn)各有不同:
智能汽車:座艙多模態(tài)交互、艙內(nèi)外感知融合、自動(dòng)駕駛感知決策,要求 NPU 具備高算力、多路并發(fā)處理能力與功能安全等級(jí)。
具身機(jī)器人:視覺導(dǎo)航、運(yùn)動(dòng)控制、環(huán)境理解與人機(jī)交互,需要 NPU 兼顧實(shí)時(shí)性與低功耗,支撐持續(xù)運(yùn)行的 Agent 任務(wù)。
移動(dòng)設(shè)備:端側(cè)大模型助手、影像 AI 增強(qiáng)、隱私計(jì)算,強(qiáng)調(diào)能效比與散熱表現(xiàn),平衡性能與續(xù)航。
Agent Computer:原生 AI 終端形態(tài),以 Agent 為核心交互范式,要求 NPU 具備持續(xù)高負(fù)載運(yùn)行能力與完整軟件生態(tài)支撐。
不同場(chǎng)景的差異化需求,共同推動(dòng) NPU 技術(shù)向更豐富的維度演進(jìn),也構(gòu)成了端側(cè) AI 規(guī)模化落地的重要產(chǎn)業(yè)基礎(chǔ)。
美格智能:深耕異構(gòu)計(jì)算與 AI 工具鏈,讓端側(cè) AI 落地更簡(jiǎn)單
當(dāng) NPU 成為端側(cè) AI 規(guī)?;暮诵囊?,如何讓千行百業(yè)的開發(fā)者高效、可靠地駕馭這股算力,就成了從芯片到應(yīng)用的關(guān)鍵一躍。這正是美格智能(HK3268)長(zhǎng)期深耕的戰(zhàn)場(chǎng)。
美格智能(HK3268)在端側(cè)異構(gòu)計(jì)算領(lǐng)域已有多年積累,從最早的 AI 算力模組到如今基于多平臺(tái)的高算力智能模組,始終圍繞“把強(qiáng)大的端側(cè)AI能力產(chǎn)品化、易用化”這一目標(biāo)。我們深度整合集成 NPU 的旗艦 SoC 平臺(tái),推出的 AI 模組算力覆蓋0.5-700 TOPS,其中高算力 AI 模組均具備 NPU 單元,深度適配 Transformer 模型架構(gòu)、低比特推理與大內(nèi)存帶寬,在智能座艙(886059)、機(jī)器人、工業(yè)視覺、AI PC、邊緣計(jì)算等場(chǎng)景均已實(shí)現(xiàn)規(guī)?;慨a(chǎn)和商用。
更重要的是,我們深知“有算力不等于有智能”。為此,美格智能(HK3268)構(gòu)建了一套貼近客戶需求的 AI 工具鏈生態(tài),包括 MeiG MIND AI 模型網(wǎng)絡(luò)與性能數(shù)據(jù)可視化聚合平臺(tái)、MEIGINE AI推理引擎與MOJO智能體工具鏈,支持主流訓(xùn)練框架導(dǎo)出的模型一鍵量化、編譯與部署,并提供豐富的預(yù)優(yōu)化模型庫(kù)和參考設(shè)計(jì),讓不具備底層硬件知識(shí)的應(yīng)用開發(fā)者也能快速完成端側(cè) AI 的原型驗(yàn)證和量產(chǎn)落地。無(wú)論是汽車客戶想要部署座艙多模態(tài) Agent,還是機(jī)器人廠商要跑通具身智能鏈路,都能在美格智能(HK3268)的軟硬件一體化方案中找到可靠支點(diǎn)。
在 WAIC 2026 的現(xiàn)場(chǎng),我們展示的多個(gè)端側(cè) Agent 產(chǎn)品演示,正是基于美格智能(HK3268)高算力模組和優(yōu)化的工具鏈快速構(gòu)建而成,吸引了大量專業(yè)觀眾駐足交流。這讓我們更加堅(jiān)信:端側(cè) AI 的規(guī)?;瘯r(shí)代已經(jīng)到來(lái),而 NPU 正是這一時(shí)代最重要的硬件基石。美格智能(HK3268)將繼續(xù)沿著“異構(gòu)計(jì)算+易用工具鏈”的主線,攜手芯片原廠、各行業(yè)終端伙伴,共同推動(dòng)以 NPU 為基座的端側(cè) AI 規(guī)模化落地,讓每一個(gè)終端都成為值得信賴的智能體。
