2023 年 7 月，Meta 发布 Llama 2 的模型权重和商用许可，并与微软合作提供云端支持。在闭源 API 快速占领市场的同时，开发者突然有了另一条路线：把一个能力不错的大模型真正放进自己的环境里。
Llama 2 的影响不只在模型指标，而在于它把大模型从“一个远程服务”变成了“可以被组合的工程材料”。
拿到权重意味着什么
调用 API 时，开发者看到的是输入、输出、价格和限额；获得模型权重后，则可以选择量化方式、推理框架和部署硬件，也可以用领域数据进行微调。
这种控制对隐私敏感、网络受限或请求量稳定的场景很有价值。企业可以让数据留在自己的边界内，并通过固定权重减少上游模型无预告变化带来的风险。社区则可以研究模型行为，制作不同语言和任务的衍生版本。
但“开放权重”不完全等同于传统开源。训练数据、完整训练代码和许可证限制可能并不满足所有开源定义。讨论开放程度时，需要分别看权重、代码、数据和使用条款，而不是只看能否下载。
小模型与大模型不是简单的强弱关系
更大的模型通常拥有更强的通用能力，也需要更高推理成本。真实产品却很少只追求排行榜第一。延迟、显存、吞吐、隐私和可维护性，都会改变最优选择。
如果任务边界清楚，例如分类、结构化抽取或企业知识问答，一个经过检索或轻量微调的较小模型，可能比昂贵通用模型更稳定。相反，复杂推理和开放创作仍可能受益于更强模型。
这说明模型选型应该像数据库选型：先看负载和约束，再看品牌。把每个请求都交给最大模型，是最省设计时间、但未必最省长期成本的方案。
本地部署也带来新的责任
API 服务通常替用户承担模型托管、扩缩容和部分安全过滤。本地化之后，这些责任重新回到团队：GPU 调度、模型版本、提示注入、输出审核、许可证合规和安全补丁都需要有人维护。
模型文件很大，也不适合像普通依赖一样随意复制。应该记录来源与哈希，固定推理环境，保存评测结果，并明确哪些数据可以用于微调。否则“数据不出内网”虽然实现了，内部却可能出现不可追溯的模型和数据副本。
我的理解：开放模型提供的是选择权
开放模型未必在每个时刻都比闭源服务更强，它最重要的价值是避免技术路线只剩一种答案。团队可以在便利与控制之间选择，也可以把不同模型组合：高价值复杂请求使用强模型，常规任务使用本地模型，敏感数据留在内部。
Llama 2 之后，模型层开始出现类似操作系统和数据库的生态：底座、推理框架、微调工具与应用相互独立。长期看，最有生命力的能力往往不是某个固定模型，而是可替换模型的架构和持续评测的流程。
参考资料
本文是 2026 年整理断更期时写下的回顾，发布日期按事件所处阶段归档。