端侧模型密集上新:1-bit 量化智能眼镜、桌面端 Agent 小模型、端侧语言基座、智能座舱 MoE——小模型正在从"可用"走向"好用"。
一、Microsoft Fara-7B:单张截图驱动的桌面端 Agent
微软推出 Fara-7B,一款 70 亿参数的 Computer Use Agent(CUA)模型。它能从单张截图理解屏幕内容,并执行点击、输入、导航等操作,是首款真正面向桌面端 Agent 的小型模型。
核心功能:
- 截图理解与操作:基于单张截图判断当前界面状态,自动执行点击、输入、滚动等操作
- 本地化运行:无需云端基础设施,数据留在本地,保障隐私与低延迟
- Agentic SLM:作为"自主代理小语言模型",能自主规划多步任务并持续执行
使用场景:
- 网页自动化:自动填写表单、抓取数据、完成在线流程
- 桌面应用操作:跨应用完成办公任务,如整理邮件、更新数据库
- 本地办公自动化:替代重复性人工操作,提升个人工作效率
二、PrismML 1-bit Bonsai:1-bit 量化视觉语言模型跑进智能眼镜
PrismML 在 Snapdragon Summit 发布 1-bit Bonsai 视觉语言模型,在 Snapdragon AR1 Gen 1 智能眼镜上实现本地运行。同等内存下参数量是 4 倍精度模型的 4 倍,token 生成速度提升 2 倍以上。
核心功能:
- 1-bit 量化:模型权重以 1-bit 表示,内存占用降低 4 倍,速度提升 2 倍
- 2B 参数视觉语言模型:基于 Bonsai 1.7B 构建,支持视觉理解与语言推理
- Hexagon NPU 优化:与高通合作优化,针对智能眼镜的内存、功耗、热限制深度适配
使用场景:
- 智能眼镜实时 AI 助手:理解佩戴者所见内容,实时回答、翻译、导航
- 拍照辅助:识别物体、读取文字、提供上下文信息
- 离线视觉辅助:帮助视障人士识别颜色、物体、环境信息
- 隐私敏感场景:所有推理在设备端完成,无需上传云端
三、MiniCPM5-2B:2B 参数端侧语言模型的性能天花板
面壁智能联合 OpenBMB 开源 MiniCPM5-2B,2B 参数端侧语言模型。在 34 项基准均分 53.9,超越同尺寸所有开源模型,甚至超过部分 4B 级模型。
核心功能:
- 131K 超长上下文:可处理长文档、会议纪要、合同等
- 工具调用与深度搜索:原生支持函数调用,能自主规划多步检索
- 代码生成与修复:SWE-bench Verified 得分 46.4,可作本地编码助手
- 6GB 内存设备可运行:提供 GGUF、MLX、GPTQ 等多种量化版本
使用场景:
- 手机/电脑离线 AI 助手:日常问答、写作、总结,数据不出设备
- 本地编码助手:代码补全、Bug 修复、仓库级代码重构
- 长文档处理:合同分析、会议纪要提取、简历筛选
- 隐私敏感任务:试卷批改、合同分析等可在设备侧低成本并行处理
四、vivo BlueLM-Nano:端侧实时感知与个人记忆
vivo 在 2026 开发者大会上发布四款蓝心大模型,其中 BlueLM-Nano 是端侧小模型,负责实时感知与个人记忆。
核心功能:
- 端侧实时感知:融合屏幕、图像、视频、文本和文件,持续沉淀个人习惯与偏好
- 个人化 AI 助理:作为蓝心小 V 的端侧引擎,支持跨应用任务执行
- 端云协同:与云端大模型配合,复杂任务交给云端,实时任务本地处理
使用场景:
- 手机个人化 AI 助理:一句话完成旅行攻略定制、跨设备报告整理
- 截屏智能识别:自动识别券码、票券,主动提醒临期
- 日历智能安排:融合待办事项,自动规划日程
- 文件智能管理:自动聚合、命名并生成摘要
五、斑马智能 AutoOmni2.0:智能座舱的 MoE 端侧大模型
斑马智能在云栖大会发布 AutoOmni2.0,采用 MoE 混合专家架构的端侧大模型,普通任务能力堪比 10 倍参数量云模型。
核心功能:
- MoE 架构:在智能座舱场景,普通任务能力堪比 10 倍参数量云模型,复杂任务处理能力相当于 10 倍参数量云模型的 80%-90%
- 端云一体 Agent 架构:基于模糊意图、多任务的复杂导航、车控、多媒体及跨域任务,低时延、保隐私、稳定流畅执行
- 芯片协同:与 10 家芯片企业合作,推理加速 5-6 倍,量化保真度超 99%,运行内存减少 50% 以上
使用场景:
- 智能座舱多任务并发:导航、车控、多媒体同时执行
- 全车免唤醒交互:主动智能迎宾、无感智能停车付费
- 跨域任务执行:从导航到车控到娱乐的无缝切换
- 隐私敏感场景:数据不出车,保障用户隐私
总结:小模型的五大趋势
| 模型 | 参数 | 核心突破 | 使用场景 |
| Microsoft Fara-7B | 7B | 截图理解 + 桌面 Agent | 网页自动化、办公自动化 |
| PrismML 1-bit Bonsai | 2B | 1-bit 量化 + 视觉语言 | 智能眼镜实时 AI |
| MiniCPM5-2B | 2B | 超长上下文 + Agent 能力 | 手机/电脑离线 AI |
| vivo BlueLM-Nano | 端侧小模型 | 实时感知 + 个人记忆 | 手机个人化 AI 助理 |
| 斑马智能 AutoOmni2.0 | MoE 架构 | 端云一体 + 多任务并发 | 智能座舱交互 |
一句话总结: 2026 年的小模型竞争已从"参数比拼"转向"场景适配"——从智能眼镜到桌面端,从手机到汽车,小模型正在以极致的效率和隐私优势,渗透到每一个个人设备中。