摘要

在技术语境下，两者的关系可以简单概括和区分为：Agent 是决策中心，Skills 是执行函数。

从OpenAI的横空出世，到现在各大厂商模型蓬勃发展井喷出现，置身于大模型技术的洪流中，目睹了无数个“开源模型”在 Hugging Face 上如雨后春笋般涌现。每当社区里有人高呼“某某模型开源了，大家快来用”，我总会在心里打一个问号：这真的是我们传统认知意义上的“开源”吗？🤔

作为一名长期关注基础软件生态的技术从业者，我发现“开源”这个词在 LLM（Large Language Model）领域正在被重新定义，甚至被滥用。今天，我想以第一视角的观察，和大家聊聊大模型开源的真相，剖析什么是“伪开源”（注意此处不是贬义！），什么是“真开源”，以及我们理想中的“全流程开源”究竟长什么样。

现在的大模型开源，本质均属于“开源模型权重 + 推理代码”，而非“全流程开源”，或者叫"伪开源"。

开源模型权重：厂商发布训练好的模型参数文件（如PyTorch的.bin或.safetensors），用户可以下载并直接进行推理（即运行模型）。
开源推理代码：提供加载模型、执行前向传播的脚本，有时还包括简单的微调（fine-tuning）示例。
典型代表：Meta的Llama系列、阿里Qwen、智谱ChatGLM等。它们都提供了模型权重和基础的推理/微调代码。

这种模式的优点是：用户能快速体验模型能力、进行二次开发，但不足的地方是无法复现训练过程，也无法完全了解模型的构建细节。

一、开源的“迷雾”：权重不等于开源

在传统软件世界，开源（Open Source）有着严格的定义，比如遵循 OSI（Open Source Initiative）标准，意味着你可以自由地使用、研究、修改和分发代码。

但在大模型时代，情况变得复杂了。我期间关注过的太多模型，官方宣称“开源”，实际上都只开放了推理权重（Inference Weights）。

这就好比我给你一辆能开的汽车（模型权重），你可以把它开到任何地方（推理），但我把发动机盖焊死了（不允许修改结构），不给你图纸（训练代码），也不告诉你汽油是怎么炼出来的（训练数据）。一旦车子出了故障，或者你想换个引擎，你束手无策。
这倒不是苛责，毕竟模型厂商选择开源哪些东西是他们的自由，并且也付出了巨大的人力物力成本，它们也要考虑安全风险以及各种因素，总要有些商业上的考量这无可厚非。
开源本身也是一种商业模式。

为了直观展示这种差异，用图表方式呈现“大模型开放层级基础图”。我们可以把大模型的构成看作一个分层栈：

flowchart TD
    subgraph Layer4 ["第四层：数据与语料 (Data 和 Corpus)"]
        D1[原始数据] --> D2[清洗脚本] --> D3[数据配比]
    end

    subgraph Layer3 ["第三层：训练基础设施 (Training Infra)"]
        T1[分布式训练代码] --> T2[超参配置] --> T3[Checkpoint 中间态]
    end

    subgraph Layer2 ["第二层：模型架构与代码 (Model Arch 和 Code)"]
        M1[网络结构定义] --> M2[推理代码] --> M3[微调代码]
    end

    subgraph Layer1 ["第一层：模型权重 (Model Weights)"]
        W1[最终参数文件]
    end

    Layer4 --> Layer3 --> Layer2 --> Layer1

    style Layer1 fill:#e1f5fe,stroke:#01579b
    style Layer2 fill:#fff9c4,stroke:#fbc02d
    style Layer3 fill:#e8f5e9,stroke:#2e7d32
    style Layer4 fill:#f3e5f5,stroke:#7b1fa2

    note1[伪开源
仅开放 Layer 1
常见于 Llama 2/3 等] -.-> Layer1
    note2[真开源
开放 Layer 1 + 2 + 3
符合 OSI 精神] -.-> Layer2
    note3[全流程开源
Layer 1 至 4 完全透明
如 OLMo 等尝试] -.-> Layer4

如上图所示，其实截至目前目前市面上 90% 所谓的“开源大模型”，仅仅停留在第一层（权重）。

二、伪开源：商业护城河下的“开放”

为什么大厂倾向于“伪开源”？我分析主要有两个原因：生态构建与安全可控。

通过开放权重，厂商可以迅速让开发者基于其模型进行应用开发，形成依赖生态。同时，通过许可证（License）限制，比如禁止月活超过一定数量的公司商用，或者禁止用于竞品训练，厂商实际上保留了对模型的控制权。

“伪开源”的典型特征：

1. 许可证限制：非 Apache 2.0 或 MIT，而是自定义协议（如 Llama Community License）。
2. 数据黑盒：你不知道模型吃了什么数据，因此无法判断版权风险或偏见来源。
3. 训练过程不可复现：没有训练代码和日志，你无法验证其性能是如何达成的，也无法在此基础上进行高效的继续预训练（Continual Pre-training）。

这种策略对应用层开发者是友好的（拿来即用），但对底层研究者是封闭的。如果你试图修改模型架构以适应特定硬件，或者想彻底消除某个敏感知识，你会发现无从下手。

三、真开源：回归自由软件精神

什么是真正的开源大模型？我认为必须满足“可复现性”和“可修改性”。

这意味着，除了权重，你必须至少拥有：

• 完整的模型定义代码（不仅仅是推理脚本，而是构建计算图的代码）。
• 训练脚本与配置（允许你在新的数据集上从头训练或继续训练）。
• 宽松的许可证（允许商用、修改和再分发）。

目前像 Falcon 系列或部分基于 Apache 2.0 协议发布的模型（如早期的 BERT、RoBERTa 风格）更接近这一标准。但即便如此，它们往往依然缺失了最核心的数据。

没有数据，开源就是“半吊子”。因为大模型的能力边界很大程度上取决于数据的质量和分布。如果数据不公开，所谓的“复现”只能停留在架构层面，无法复现能力层面。

四、终极形态：全流程开源（Full-Process Open Source）

这是我个人最推崇，也是目前最稀缺的模式。全流程开源意味着将大模型的生产过程像透明工厂一样展示出来。

全流程开源包含的要素：

1. 数据卡片（Data Cards）：详细说明数据来源、清洗规则、去重策略。
2. 训练日志（Training Logs）：Loss 曲线、梯度变化、硬件消耗记录。
3. 中间检查点（Intermediate Checkpoints）：不仅仅是最终模型，而是训练过程中的多个快照，便于研究模型能力的演化。
4. 评估基准（Evaluation Harness）：公开评测代码和原始分数，防止“刷榜”。

为了说明全流程开源的价值，可以做一个相对简单的“模型可信度验证流程”对比。

sequenceDiagram
    participant User as 开发者/研究者
    participant Pseudo as 伪开源模型
    participant Full as 全流程开源模型

    User->>Pseudo: 请求验证数据安全性
    Pseudo-->>User: 拒绝 (数据保密)
    User->>Pseudo: 请求复现训练过程
    Pseudo-->>User: 拒绝 (代码/配置缺失)
    User->>Pseudo: 发现模型存在偏见
    Pseudo-->>User: 无法定位根源 (黑盒)

    User->>Full: 请求验证数据安全性
    Full-->>User: 提供数据清单与清洗脚本
    User->>Full: 请求复现训练过程
    Full-->>User: 提供完整训练代码与日志
    User->>Full: 发现模型存在偏见
    Full-->>User: 可定位到具体数据源并修复

从图的序列图可以清晰看出，在面对安全审计、偏见修复或性能优化时，全流程开源模型赋予了开发者“掌控权”，而伪开源模型只能让开发者“听天由命”。

目前业界像 AllenAI 的 OLMo 项目就在朝这个方向努力，他们不仅开源权重，还开源了训练数据、训练代码甚至中间检查点。这才是推动科学进步的开源精神。

五、选型建议：如何在混沌中选择？

面对琳琅满目的模型，作为开发者或企业决策者，我们该如何理性选择？基于我的经验，给出以下三点建议：

1. 审视许可证（License）而非标签：
   不要只看标题里的”Open”，要去读 LICENSE 文件。如果是非商用（NC）、禁止衍生（ND）或有营收限制的，请将其视为“免费商用软件”而非“开源软件”。对于核心业务，尽量规避此类风险。

2. 评估“可维护性”需求：

   • 如果你只是做应用层开发（如 RAG、Agent），权重开源（伪开源）通常足够，且生态工具链更完善。
   • 如果你需要做垂直领域预训练、模型架构修改或合规审计，必须寻找真开源或全流程开源模型。

3. 关注数据透明度：
   即使模型权重不开源，如果数据卡片（Data Card）足够详细，也能在一定程度上建立信任。对于金融、医疗等敏感行业，数据来源的透明度比模型性能更重要。

最后不得不说，DeepSeek-R1给中国和全球带来了一场AI时代的“破局时刻”，它让全球看到低成本下也可以实现高效的模型推理逻辑，而且非常良心地使用MIT协议。MIT 协议作为最宽松的开源协议之一，其核心可概括为”三允许一禁止”：允许自由使用、允许修改、允许再分发，但禁止移除版权声明。

DeepSeek-R1 选择这一协议，意味着：

• 企业可零门槛商用：无需申请、无需报备、无需担心合规风险；
• 社区可深度定制：671B 参数、370B 激活参数的 MoE 架构完全开放，支持二次开发。

六、心得感悟

大模型技术的开源策略，本质上是“共享”与“垄断”之间的博弈。

作为技术社区的一员，个人是觉得大家更严谨地使用“开源”（open-source）这个词。权重开放值得感谢，但它不是开源的终点。
只有当数据、代码、权重、训练过程都逐渐走向透明，我们才能真正建立起安全、可信、可持续的 AI 生态。

下次当你看到一个新的“开源模型”时，不妨多问一句：“除了权重，你还开放了什么？”

这不仅是技术的追问，更是对未来的负责。

基于Go语言实现Transformer模型，包含训练、保存、加载和交互式文本生成功能，纯CPU运行，仅依赖标准库和gonum，帮助理解大模型的运行本质原理：

晚上和一个老同学相互交流学习到很晚，讨论持续到凌晨，关于在AI Agent应用实际开发过程中开发者都会面临的一个问题或者说是疑问：模型是无状态的也没有缓存“记忆”机制，那会话的上下文是怎么实现跟踪的呢？
带着这个疑问和思考，以下我将从设计原理到实践进行解构，帮理理解Agent开发中个最核心的问题之一。

摘要

在2026年，大语言模型(LLMs)已经成为企业智能化转型的核心驱动力，特别是在客户服务领域。
本文将以Qwen模型为例，结合一个具体的QA问答业务场景，深入探讨如何通过LoRA(Low-Rank Adaptation)技术进行高效微调，从原理到实战，完整覆盖客服问答系统的构建流程，只是提供思路以及方向指导，具体还是要以实际业务为准⚠️，也欢迎一起交流学习。

一、MCP架构原理概述

1.1 MCP基本概念

MCP（Model Context Protocol）是一种模型上下文协议，通过统一的协议让AI模型连接各种工具和数据源，类似于AI世界的”USB-C”接口。
该协议采用会话导向的JSON-RPC框架，使大语言模型能够与外部系统和数据源进行交互。 MCP服务器充当模型与本地环境或外部系统的桥梁，向CLI暴露工具和资源，实现AI驱动的交互。

Agent 商业落地里最难的是 Text2SQL（NL2SQL），几乎是无法绕开的核心痛点，主要面临的三个核心问题：

• 为什么到目前为止仍然没有真正可靠的商业共识性企业级解决方案？
• 实际企业应用场景中，有哪些靠谱的思路和解决方案？

——深度解析量化格式、尺寸差异与硬件适配策略（附 M3 Pro 实战指南）

个人常用办公终端设备型号：

• Macbook Pro M3 （36G 内存定制款)

小结：

• Apple 用户闭眼选 BF16：M3 Pro 芯片的 BF16 性能碾压 FP16，18GB 内存可流畅运行 30B 级模型
• ⚠️ INT4 是双刃剑：70B 模型塞进 36GB 内存的唯一方案，但精度损失高达 15%+
• 🔮 未来属于 FP8：NVIDIA H100 已支持，苹果 M4 或成转折点

模拟实现一个简化的 GRPO (Group Relative Policy Optimization) 推理模型。GRPO 是由 DeepSeek 提出的强化学习算法，用于训练大型语言模型

它的核心特点是不需要训练价值函数，而是通过从同一问题的多个输出中计算平均奖励来替代这一过程，显著减少了内存和计算资源的消耗 。

简化版 GRPO 推理模型：

“不确定性不是缺陷，而是新范式的特征，必须学会“回忆”，但同时也要学会“遗忘”。”

AI 时代，智能体本身的概率输出让软件走向不确定，或者说更个性。但这对企业级产品的准确率形成巨大挑战，怎么看待这种现状、机遇和商业风险？智能体和传统应用范式下在业务落地间角色和职能的划分和原则?

这是目前 AI 面临的核心问题，触及了 AI 原生时代企业软件架构、产品设计与组织协作的根本性变革和创业者的产品决策方向。