01 端侧模型 vs 小模型
严格来说，“端侧模型”与“小模型”的概念并不能直接等同。
“小模型”通常指的是那些参数规模远少于GPT-3或Llama-13B的大语言模型，几个具有代表性的参数为1.5B、3B、7B等。
这些小模型虽然参数规模较少，但通过特定的设计和优化，仍然能够在某些任务上达到与大型模型相似的性能，从而降低计算资源消耗，提高能耗比。
“端侧模型”则通常指的是部署在手机、电脑、或其他移动设备、嵌入式系统等资源受限的设备上的模型，这些设备的计算资源（AI算力、内存等）往往不足以直接运行大型的预训练模型，同时对于端侧的能耗、发热等问题有着更为极致的要求。
因此，端侧模型需要特别设计以减少模型大小和模型架构，以便能够在端侧设备上高效运行。
其中，学术界关于小模型的技术研究较为深入，而产业界更注重端侧模型的工程化研究。
不过目前手机、PC等终端设备受限于计算资源问题，大多只能流畅运行小模型，因此大量相关研究都存在重合领域。本文内容对于两类模型均有所覆盖。
02 小模型三大技术流派
目前来看，全球关注度最高的小模型和端侧模型，仍要数Meta、微软、苹果分别与今年发布的Llama-3、Phi-3-mini、OpenELM/Apple Foundation Model。
从最底层技术架构上来说，Llama-3、Phi-3、OpenELM/Apple Foundation Model都采用了当前主流的、由GPT引领的Decoder-only Transformer架构。
同时，当前主流小模型也统一采用了“预训练Pre-train + 微调Fine-tune + 对齐Alignment”的模型训练思路。
03 端侧模型的竞争
而不久前的苹果WWDC大会上，苹果先是推出了端侧AI系统Apple Intelligence，随后又在技术博客中介绍了其自研的端侧3B小模型——性能全面超越主流7B大模型。
在更早之前的4月，则更是全球小模型和端侧模型“神仙打架”的月份。短短的一月之内，Meta、微软、苹果等集中发布Llama-3、Phi-3、OpenELM，对小模型和端侧模型产业带来极大冲击。如果把时间放宽到2024年上半年，则还有MobileLLM、Gemma-7B、Qwen-7B、MiniCPM、TinyLlama等一系列代表玩家。
手机厂商更是早早就杀入局中。在全球手机/PC市场保有量居高不下、用户换机周期高达51个月的当前，AI大模型无疑成为各大终端厂商全力押注之处。
从2023年下半年开始，华为、小米、OPPO、vivo、苹果、三星，以及产业链上的高通、联发科等都陆续推出手机AI大模型或手机AI大模型芯片。根据Counterpoint数据，仅在2024年第一季度，全球具有生成式AI功能的智能手机型号就从16个增加到30多个，AI手机销量占比从1.3%提高到6%。
大模型厂商、终端厂商、终端芯片厂商……小模型与端侧模型的兴起，已经逐渐成为产业共识。
来源：智猩猩AGI
1 年前
在语言模型领域如今出现了一种新趋势：小型语言模型（SLM）正逐渐崭露头角，AI巨头们也在“以小博大”。
1 年前
微软公司开发的Phi-3 AI语言模型在以下领域有应用： 自然语言处理： 聊天机器人：可用于构建智能聊天机器人，理解用户的问题并提供准确、自然的回答，应用于客服、在线咨询等场景，为用户提供实时的交互服务。 文本生成：能够生成各种类型的文本，如文章、故事、诗歌等。例如在内容创作领域，帮助作者快速生成初稿或提供创意灵感。 语言翻译：辅助机器翻译系统，提高翻译的准确性和效率，促进不同语言之间的交流与沟通。 智能办公： 文档处理：可以对文档进行分析、总结、提取关键信息等操作，帮助用户快速处理大量的文本资料，如合同审查、报告分析等。 邮件管理：自动分类、筛选和回复邮件，提高邮件处理的速度和效率，减轻用户的工作负担。 教育培训： 智能辅导：作为学生的学习助手，解答问题、提供学习建议和指导，进行个性化的学习辅导。 教学资源生成：协助教师生成教学材料，如教案、试题、课件等，丰富教学内容和形式。 金融领域： 风险评估：对金融数据进行分析和预测，评估投资风险、信用风险等，为金融决策提供参考依据。 市场分析：通过对大量金融新闻、市场数据的处理，分析市场趋势和动态，帮助投资者制定投资策略。 医疗保健： 医疗辅助诊断：分析患者的病历、症状等信息，为医生提供辅助诊断建议，提高诊断的准确性和效率。 医学研究：协助医学研究人员进行文献分析、数据挖掘等工作，加速医学研究的进程。 移动设备和边缘计算：Phi-3模型的小巧和高效使其适合资源受限的环境，如移动设备或边缘计算场景。能够在手机等终端设备上运行，为用户提供个性化的智能服务，而无需依赖云端连接，保护用户隐私的同时降低了延迟。 总之，Phi-3 AI大模型凭借其优异的性能和特点，在多个领域都具有广泛的应用前景，能为各行业的发展带来创新和变革。但具体的应用还需要根据实际需求和场景进行进一步的开发和优化。 豆包AI
1 年前
从谷歌 Gemma 2 2B 的强大性能也可以看到一种趋势，即「小」模型逐渐拥有了与更大尺寸模型匹敌的底气和效能优势。
9 天前
西门子Xcelerator开放式数字商业平台作为正式发布生态合作伙伴"繁星计划"，旨在发挥平台网络效应，与生态伙伴共享知识与技术资源，共创面向客户的解决方案，共赢数字化与低碳化新机遇。
15 天前
AI 研发已从单点 Prompt 优化迭代至Harness 工程底座 + Loop 自治闭环 + SDD 标准化规范的三位一体体系，通过重构人机协作模式，解决大模型落地不稳定、难规模化的痛点，实现企业级 AI 从原型试用走向工程化、自动化、体系化落地。
19 天前
WorkBuddy有望拿下国内独立桌面自动化办公智能体细分第一。但受企业协同生态、移动端能力等短板限制，无法成为全域企业及全球办公AI赛道第一名，将与钉钉悟空、WPS AI形成差异化竞争格局。
26 天前
OpenClaw工具与生态完整生命周期判断 本文尝试分短期、中期、长期三段，结合项目现状、风险、护城河客观测算OpenClaw这款智能体工具或者相似工具的发展趋势。 一、短期生命力（1～3年，2026–2029）：完全安全、高速增长，是黄金运营窗口期 支撑理由 赛道刚需独一无二，差异化壁垒极强 OpenClaw是极少数本地系统级执行、模型无关、纯自托管的终端Agent运行框架，定位“能操作电脑文件、软件、桌面的AI助手”，区别于LangGraph/CrewAI这类后端开发框架、AutoGPT纯实验型智能体。普通办公、个人自动化、小微企业没有替代同类成熟开源工具，C端+中小企业需求持续释放。 社区与生态飞轮已经跑通 GitHub 30万+星标、近千名全球持续贡献者，日均数百条PR/Issue迭代，更新频率行业第一；创始人Peter全职维护，大厂（英伟达、Kimi、MiniMax）主动适配接入； ClawHub官方技能仓库沉淀数千标准化Skill，国内衍生生态（xia345、各类中文技能站、私有化二次改版）持续扩容，形成标准锁定； MIT宽松开源协议，允许企业二次改造、搭建托管服务，大量服务商入局完善配套生态（部署、安全加固、私有化定制）。 行业周期红利：本地终端Agent处于普及早期 2026被行业定义为桌面Agent落地元年，云端大模型成本持续下行、本地Ollama离线模型普及，完美匹配OpenClaw“本地优先”架构；未来3年，个人自动化、企业内网办公自动化需求只会扩张。 短期仅有的可控风险 Token调用成本偏高、频繁更新易出现版本兼容bug、本地高权限带来安全隐患； 以上问题官方正在持续迭代修复，企业级备份、权限沙箱、日志审计功能已逐步补齐，属于可优化痛点，不会动摇存续根基。 结论：未来1–3年是生态最繁荣、流量最大、变现最顺畅的阶段。 二、中期生命力（3～7年，2029–2033）：稳定存续，但竞争加剧、增速放缓 存续核心逻辑 标准化生态具备长期锁定效应 SKILL.md、ClawHub统一技能规范、openclaw CLI命令行已经形成行业事实标准。就算出现竞品，开发者、存量数万套技能、企业定制项目迁移成本极高，生态不会短时间崩塌，会维持稳定使用人群。 分层商业模式支撑项目持续维护 原生项目开源免费，但周边商业化闭环成型：企业私有化部署服务、安全审计、托管云服务、垂直行业技能付费、模型渠道分销，持续产生现金流反哺社区开发，不会出现“没人维护停更”的局面。 使用人群分层留存 C端极客、办公自动化爱好者会长期使用； 中小企业内网自动化、数据处理场景高度依赖本地执行Agent，大厂SaaS Agent无法满足内网隐私需求； 开发者持续基于OpenClaw做二次分支、私有化改版，衍生生态会持续分流、延续整个“龙虾生态”的热度。 中期衰减变量（会降低增速，但不会淘汰项目） 微软、苹果、国产操作系统推出原生系统级AI助手，抢占普通小白用户； 新轻量化终端Agent开源框架分流开发者； 各国监管对本地高权限AI自动化工具出台更严格合规要求，提高企业落地门槛； 结论：3–7年不会消亡，但行业从爆发期进入存量竞争，流量红利收窄，平台需要深耕私有化、企业定制、垂直细分赛道才能持续盈利。 三、长期生命力（7年以上，2033之后）：分两种极端走向 走向1：长期持续存活（概率60%），变成基础设施级工具 如果行业发展符合以下趋势，OpenClaw会像现在的Python、Git一样长期存续： 终端自主Agent成为电脑标配生产力工具，本地执行、离线隐私是永久刚需； OpenClaw持续完成企业级、合规化改造，成为政企内网自动化标准选型； 社区形成基金会/商业公司承接维护，摆脱单一创始人依赖，实现长久开源运营。 走向2：逐步边缘化、被新一代架构替代（概率40%） 触发条件： 操作系统底层内置标准化Agent执行层，统一API，第三方独立运行框架失去生存空间； 多模态、具身智能技术迭代，全新架构完全替代“技能+本地脚本执行”模式； 全球监管全面限制本地高权限自主AI工具，商用落地基本锁死，仅小众极客圈子留存。 即便被边缘化，存量存量技能、配套站点、私有部署项目仍会维持5–10年长尾生命周期，不会瞬间彻底消失。 四、关键风险：会大幅缩短生命周期的致命隐患 安全重大事故 若出现大规模Skill供应链投毒、批量本地数据泄露事件，企业端市场会快速萎缩，仅保留个人玩家生态；官方正在完善自动病毒扫描、技能审核机制，风险持续降低。 创始人断更、无承接主体 当前项目由Peter单人主导，若后续精力转移、无商业公司接手维护，迭代速度断崖式下滑，竞争力快速落后竞品；目前已有多家AI服务商、模型厂商深度合作，存在接手预期。 算力成本长期居高不下 如果大模型API按量价格无法大幅下降，普通用户长期使用成本过高，会劝退大众用户，仅留存企业付费群体。 国内政策监管收紧 国内针对本地自主自动化工具出台限制，国内衍生生态、配套导航平台流量大幅下滑，但海外生态不受影响。 五、综合最终总结 0–3年（黄金期）：放心投入建站、填充内容、运营变现，生态高速扩张，流量红利充足； 3–7年（平稳期）：生态稳定存在，竞争变多，需要走差异化（私有化、离线、海外双语）路线维持竞争力； 7年以上（分化期）：要么成为长期基础设施永续存在，要么逐步小众长尾，即便衰退也有数年缓冲时间； 整体安全底线：至少拥有5年以上稳定商业运营周期，足够覆盖站点开发、回本、盈利完整周期；中长期只要避开通用综合赛道，主打本地离线私有化细分，生命周期会进一步拉长。
2 个月前
马斯克旗下 xAI 静默上线 Grok 4.3，API 价格下调约 60%，引发行业连锁降价，大模型商业化进入 “低价普惠” 阶段。
