边缘AI与端侧大模型：终端智能新趋势

2026年，人工智能的重心正从云端悄悄下沉到终端。在CES 2026上，高通（Qualcomm）以一波“端侧AI”发布强势“炸场”：面向主流轻薄本的骁龙X2 Plus集成算力高达80 TOPS的Hexagon NPU；面向物联网的跃龙（Dragonwing）Q-8750可在终端侧运行高达110亿参数的大语言模型；而集成Edge Impulse的方案，更让企业能在本地运行最高1200亿参数的大模型。终端智能，正从概念走向产品。

NPU军备赛：手机与PC的本地大脑

端侧AI的核心硬件是神经网络处理单元（NPU）。高通骁龙X2 Plus的NPU达80 TOPS，较前代性能提升78%，单核CPU性能提升35%而功耗降低43%，使笔电无需联网即可完成摘要、翻译与图像生成。在手机侧，骁龙8 Gen 5吞吐量较前代提升46%，量化大模型可达每秒70个词元，真正支撑离线助手体验。

行业共识正在形成：微软对Windows 11 AI+ PC的门槛为40 TOPS，而高通、苹果、联发科、英特尔、AMD的NPU之争已把本地AI算力推上前台。苹果Intelligence在兼容iPhone上运行约30亿参数模型，Google将Gemma Nano融入Android——端侧大模型已是2026年的消费级现实。

物联网与机器人：边缘算力的主战场

高通跃龙Q-8750面向高性能边缘计算，77 TOPS算力支持INT4/8/16与FP16精度，可实时推理并运行110亿参数LLM，适配无人机、媒体中枢与多视角视觉系统，最多12路物理摄像头。Q-7790以24 TOPS服务智能摄像头、AI电视与会议系统。面向机器人，跃龙IQ10采用18核Oryon CPU，提供数百TOPS AI性能，支撑工业自主移动机器人与人形机器人。

更关键的是软件闭环：高通通过收购Edge Impulse、Arduino等，构建“边缘连接+计算+AI”的完整方案，让企业私有模型在本地运行，既保数据不出域，又满足文档处理、AI智能体等企业场景。这种“混合云—边”架构，正成为隐私与合规敏感行业的默认选择。

市场与趋势：算力向边缘迁移

研究机构数据显示，边缘AI硬件市场2026年约达307亿美元，2031年有望增至687亿美元；AI PC预计2026年占新机出货过半，2028年NPU机型占比或达94%。延迟是决定性因素——端侧推理可在20毫秒内出词元，而云端往返常需200至500毫秒，对语音助手、AR叠加与实时翻译至关重要。

从“云端大脑”到“终端智能”，边缘AI并非取代云，而是与之互补：简单、低延迟、隐私敏感的任务在端侧完成，复杂任务再上云。2026年，这场向边缘的算力大迁徙，才刚刚开始。

端侧大模型与边缘AI的崛起，意味着智能将嵌入每一台设备、每一个场景。当百亿参数模型跑进手机与机器人，人工智能才真正走出机房，成为随手可及的终端能力。