Claude 3.5/4 与 Computer Use 架构精读：从 Constitutional AI 到桌面级 Agent 的全栈解读

第一篇、Claude 模型架构演进

第一篇聚焦于 Claude 模型本身的演进路径。

从 2023 年初 Claude 1 的低调发布，到 2025 年 Claude Opus 4.5 的横空出世，Anthropic 用三年时间走完了从「安全研究副产品」到「AGI 基础设施」的完整历程。

我们将沿着「版本谱系 → 训练范式 → 架构创新 → Benchmark 跃迁」这条主线，揭开 Claude 模型工程化的层层内幕。

理解 Claude 的演进路径，不仅要看到表面的能力提升，更要看到背后工程哲学的转变——从「对齐优先」到「对齐+能力双轨」，从「通用对话」到「Agent 原生」，从「单模型训练」到「模型+工具+协议」的全栈布局。

Claude 的每一版本演进都在重新定义「LLM 应该长什么样」。

理解 Claude 的演进，是理解 LLM 行业从「对话工具」走向「Agent 平台」的最佳样本。

1.1 Claude 系列演进：从 Claude 1（2023）到 Claude 4.5（2025）的完整版本谱系

Anthropic 在 2021 年由 OpenAI 前 VP Dario Amodei 与 Daniela Amodei 兄妹创立，初期定位是「AI 安全研究公司」，目标是「在不引发灾难性风险的前提下，构建可解释、可控、可靠的前沿模型」。

2023 年 3 月，Claude 1 正式发布——这是一个 52B 参数的稠密 Transformer 模型，使用 Constitutional AI 方法训练。

Claude 1 在当时并不起眼——它的对手是 GPT-3.5/4、LLaMA 2、PaLM 2——但它奠定了 Anthropic 的工程哲学：对齐先行，能力次之。

这种哲学贯穿整个 Claude 系列演进，也是 Anthropic 区别于 OpenAI 的根本基因。

Anthropic 把「安全研究公司」的定位写进了 DNA——即使在 2024-2025 年 Claude 商业化加速后，Dario Amodei 仍然坚持「Anthropic 永远不会放弃 AI 安全研究的核心使命」。

这种价值观的稳定性，让 Anthropic 在 OpenAI 频繁的人事动荡与战略摇摆中保持了一贯的方向感。

1.1.1 Claude 谱系时间线：从 RLHF 实验到 Agent 原生

Claude 系列的关键节点包括：Claude 1（2023-03，对话雏形）、Claude 2（2023-07，100K 上下文）、Claude 2.1（2023-11，改进长文）、Claude 3 Haiku/Sonnet/Opus（2024-03，三档分层）、Claude 3.5 Sonnet（2024-10，智能与速度平衡）、Claude 3.5 Sonnet New（2024-10 重发，Computer Use 首发）、Claude 3.5 Haiku（2024-11）、Claude 4 Sonnet/Opus（2025-05，混合推理）、Claude Sonnet 4.5 / Opus 4.5（2025-09，Agentic 跃迁）。

这条时间线看似密集，背后是 Anthropic 工程团队对「模型即 Agent」理念的不断迭代。

从 Claude 1 的 52B 稠密模型，到 Claude 3 的 MoE 化（推测），到 Claude 4 的混合推理架构，再到 Claude 4.5 的 Computer Use 原生支持，每一次架构调整都是「对齐」与「能力」的再平衡。

这种「半年一迭代」的节奏，是 Anthropic 在 2023-2025 年抢回前沿模型话语权的关键。

从商业视角看，Claude 系列的发布节奏明显比 OpenAI 频繁——OpenAI 平均每年 1-2 个旗舰版本（GPT-4、GPT-4o、o1、o3），而 Anthropic 平均每年 3-4 个版本。

这种「小步快跑」让 Claude 始终保持市场关注度，也让生态合作伙伴能持续跟进。

Claude 谱系版本时间线（2023-2025）：

2023-03  Claude 1           52B 稠密 | Constitutional AI 实验 | 对话雏形
2023-07  Claude 2          100K ctx | 长文+代码 | 商业化起步
2023-11  Claude 2.1        改进 RAG | 减少幻觉
2024-03  Claude 3 Haiku    轻量级    | 低延迟场景
2024-03  Claude 3 Sonnet   中等规模  | 性价比平衡
2024-03  Claude 3 Opus     旗舰      | 多模态+推理
2024-10  Claude 3.5 Sonnet 训练加速  | Computer Use 首发
2024-11  Claude 3.5 Haiku  速度优化  | 企业级落地
2025-05  Claude 4 Sonnet   混合推理  | SWE-bench 60%
2025-05  Claude 4 Opus     深度推理  | 长任务执行
2025-09  Claude Sonnet 4.5 Agent 原生 | 96.2% SWE-bench
2025-09  Claude Opus 4.5   旗舰      | Computer Use 2.0

关键版本节点解读：
- Claude 3 Opus：首次引入视觉能力（图表/文档理解）
- Claude 3.5 Sonnet：Computer Use 首发，桌面级 Agent 范式
- Claude 4：混合推理（Hybrid Reasoning），快慢双模式
- Claude 4.5：SWE-bench Verified 96.2%，Agent 能力跃迁

1.1.2 Claude 1 → Claude 2：长上下文与商业化

Claude 2 是 Anthropic 商业化的第一步。

2023-07 发布时，引入了 100K token 上下文窗口——这一长度在当时是 GPT-4（8K/32K）的 3-12 倍。

长上下文不是简单的「显存够大」，背后涉及位置编码改造（RoPE 缩放）、注意力机制优化（稀疏注意力）、KV 缓存管理（分页注意力）等一系列工程挑战。

Claude 2 的 100K 上下文让「整本小说一次性输入」成为可能，开启了 RAG（检索增强生成）的早期探索——虽然后来被专用向量检索方法取代。

Claude 2.1 在 2023-11 进一步提升了长文任务准确率，并引入「工具调用」雏形——这是 Tool Use 的前身。

商业化层面，Claude 2 开始通过 API 收费，标志着 Anthropic 从纯研究机构转型为商业公司。

Claude 2 的发布也触发了 Anthropic 与 Slack、Notion、Quora 等公司的合作——这些公司后来成为 Claude 早期最重要的客户。

从工程角度看，Claude 2 的 100K 上下文是「激进策略」——同期 GPT-4 只敢做 32K。

Anthropic 敢于做 100K 的底气来自「延迟优化」的提前布局：早在 2022 年，Anthropic 团队就发表了一篇关于 PagedAttention 的论文，为长上下文推理做好了基础设施准备。

Claude 2 长上下文工程关键点：

1. 位置编码：RoPE θ_base 缩放
   θ_i = 10000^(2i/d) × scaling_factor
   当 ctx=100K, scaling_factor=8

2. 注意力复杂度：O(n²) → Flash Attention
   内存：n² × 4bytes ≈ 100K² × 4 = 40GB
   Flash Attention 分块计算降至 O(n)

3. KV 缓存：分页存储
   PagedAttention 将 KV 切成 16 token 块
   支持动态分配与跨请求共享

4. 推理延迟优化
   长上下文推理延迟从分钟级优化到秒级
   关键：KV 缓存预计算 + 流式输出

1.1.3 Claude 3：首次三档分层与多模态

2024-03 发布的 Claude 3 是系列关键转折点。

Anthropic 首次推出三档分层：Haiku（轻量级，~20B）、Sonnet（中等，~70B）、Opus（旗舰，~400B+）。

这种分层背后是 GPT-4/GPT-4 Turbo 时代的「一刀切」模式的反思——不同任务对模型能力、成本、延迟的需求差异巨大，统一模型无法满足。

Claude 3 的三档分层让「按需选型」成为可能：Haiku 用于客服对话（低延迟、低成本），Sonnet 用于内容生成（平衡），Opus 用于复杂推理（高能力、可接受延迟）。

同时，Claude 3 首次引入了视觉能力——可以处理图像（图表、文档截图、UI 截图），这为后来的 Computer Use 埋下伏笔。

三档分层战略也是 Anthropic 从「研究者友好」转向「产品矩阵」的关键一步。

Claude 3 发布后，Anthropic 的 API 收入在 2024-Q2 环比增长 200%——三档分层打开了不同价位市场，让企业按需付费成为可能。

从产品策略看，三档分层让 Anthropic 可以在不伤害 Haiku 用户的前提下不断提升 Opus 的能力上限——这与 OpenAI 让 GPT-4「一刀切」所有场景形成鲜明对比。

1.1.4 Claude 3.5：训练范式跃迁与 Computer Use 首发

2024-10 是 Claude 系列的「分水岭」。

Claude 3.5 Sonnet 不仅在 MMLU、HumanEval、GPQA 等基准上超越 Claude 3 Opus，更重要的是引入了 Computer Use 能力——模型可以直接操控桌面（截图理解 + 鼠标键盘控制）。

这是首个「桌面级 Agent」原生能力，奠定了 Claude 在 Agent 时代的差异化定位。

Claude 3.5 Sonnet New 在同一时期重发，加入了 Computer Use 公开 beta。

2024-11 推出的 Claude 3.5 Haiku 则把同等架构应用到轻量级场景，让小模型也能享受 Constitutional AI 的对齐红利。

从「对话模型」到「桌面级 Agent」，Claude 3.5 完成了质的飞跃。

Computer Use 的发布也是 Anthropic 对 OpenAI 的关键差异化——OpenAI 直到 2025 年才推出类似的 Operator 功能，晚了整整一年。

Computer Use 的发布背后是 Anthropic 对「LLM 终极形态」的判断：Dario Amodei 在 2024 年 10 月的发布会上明确表示，「未来五年，LLM 不会是被动回答问题的工具，而是主动执行任务的 Agent」。

这一判断在 2025-2026 年被整个行业印证——OpenAI、Google、Meta 都在 2025 年加码 Agent。

1.1.5 Claude 4：混合推理与 SWE-bench 60%

2025-05 发布的 Claude 4 系列引入混合推理架构——模型可以在「快速模式」和「深度推理模式」之间动态切换。

快速模式类似 Claude 3.5 的即时响应，深度推理模式则调用 Extended Thinking 机制，模拟人类的多步思考过程。

这种架构的关键创新是把「推理深度」作为可配置参数——用户可以指定 budget_tokens 控制推理长度，让模型在「能力」与「成本」之间找到平衡。

Claude 4 Sonnet 在 SWE-bench Verified 上达到 60%+ 的通过率，首次让 LLM 在真实软件工程任务上的能力突破「及格线」。

混合推理让 Claude 4 成为首个「推理成本可控」的 LLM——企业可以精确预算每个任务的推理费用。

从工程哲学看，混合推理是 Anthropic 对「推理可控性」的回应——OpenAI 的 o1 是「全自动深度推理」，用户无法干预；

Claude 4 让用户决定「想多少」，体现了 Anthropic 一贯的「用户主权」理念。

值得注意的是，Claude 4 的混合推理与 DeepSeek-R1 的「可控制推理深度」有相似之处，但 Anthropic 的实现更工程化——通过 budget_tokens 这种精确参数控制，而非事后截断。

1.1.6 Claude Sonnet 4.5 / Opus 4.5：Agentic 跃迁

2025-09 发布的 Claude 4.5 是系列最新版本。

Sonnet 4.5 在 SWE-bench Verified 上达到 96.2% 通过率——这一数字意味着 Claude 已经能在几乎所有真实 GitHub Issue 上独立完成修复。

Opus 4.5 进一步强化深度推理与 Computer Use 2.0，支持长任务执行（数小时连续工作）。

Claude 4.5 同时引入了「Skills 协议」——把 Agent 工作流沉淀为可复用技能，这是 Anthropic 把 Claude 从「模型」升级为「Agent 平台」的关键步骤。

从「模型即代码」到「模型即 Agent 平台」，Claude 4.5 完成了产品形态的根本转变。

值得注意的是，Sonnet 4.5 和 Opus 4.5 是 Claude 首次同时发布两档，节奏比 Claude 3.5/4 更紧凑——Anthropic 在 2025 年进入了「高频迭代」模式。

从行业影响看，96.2% 的 SWE-bench 数字让业界开始认真讨论「AI 是否会取代初级程序员」——Anthropic 的回答是「不会取代，但会大幅放大单个工程师的产出」。

这种务实的态度让 Anthropic 在开发者社区获得了高度认可。

1.2 Claude 3.5 Sonnet（2024-10）架构：训练范式与长上下文机制

Claude 3.5 Sonnet 是 Anthropic 在 2024-10-22 发布的关键版本，模型 ID 为 claude-3-5-sonnet-20241022。

在 Anthropic 官方公告中，它被称为「在多个维度上超越 Claude 3 Opus 的中端模型」——这一表述非常反常，因为通常新中端模型不应超越旧旗舰。

背后的关键是 Anthropic 在 2024 年对训练基础设施和算法做了大量工程优化——用更少算力训练出更强模型。

Claude 3.5 Sonnet 引入了几个关键架构决策：更激进的 Constitutional AI 2.0、200K token 上下文窗口、原生 Computer Use 能力。

Claude 3.5 Sonnet 的发布也触发了 2024 年底的 LLM 行业「中端模型反超旗舰」的潮流——Qwen 2.5、Llama 3.3、Gemini 2.0 Flash 都在 2024-Q4 推出了类似的「中端超越旗舰」现象。

这种「反超」背后是 LLM 训练技术的成熟——到 2024 年，模型架构、数据配比、训练策略都趋于标准化，差异化主要来自工程优化而非架构创新。

1.2.1 MoE 化与稠密架构之争

关于 Claude 3.5 Sonnet 是否采用 MoE（Mixture of Experts），Anthropic 官方从未明确表态。

但从多个间接证据推测，Claude 3.5 Sonnet 仍然采用稠密架构——原因有三：第一，Anthropic 始终强调「训练稳定性」，而 MoE 在训练中容易出现「专家坍缩」问题；

第二，Constitutional AI 的 RLAIF 阶段需要稳定的 logits 分布，MoE 的稀疏激活会引入额外噪声；

第三，Computer Use 任务对模型的「全局理解」要求极高，MoE 的局部专家可能损害这种能力。

当然，这只是推测——Anthropic 可能早在 Claude 3.5 时就开始实验 MoE，但选择不在主力模型中启用。

Claude 4 系列才更明确地走向 MoE + 混合推理的架构。

从行业视角看，2024 年的 MoE 路线（Mixtral、DeepSeek-V2）虽然推理效率高，但训练稳定性问题让 Anthropic 选择了「稠密优先」——这种保守策略与 Anthropic 的「安全优先」哲学一致。

从工程角度看，稠密架构在长上下文（200K）、多模态（视觉+文本）、复杂推理（SWE-bench）等场景下表现更稳定，这也是 Anthropic 押注稠密的原因。

Claude 3.5 Sonnet 推测架构（基于公开信息）：

┌─────────────────────────────────────────┐
│  Inputs: text + image (可选)             │
│  Tokenizer: BPE/SentencePiece (~100K)    │
│  Embedding dim: ~12K                      │
├─────────────────────────────────────────┤
│  Transformer Layers: 80-100 (推测)       │
│  Attention: Multi-Head + Flash           │
│  FFN: 稠密，无 MoE 激活门控             │
│  RoPE: θ_base=500K, ctx=200K            │
├─────────────────────────────────────────┤
│  Hidden size: 12K-14K (推测)             │
│  FFN ratio: 4x                           │
│  Total params: ~180B-280B                │
├─────────────────────────────────────────┤
│  Outputs: logit + 视觉 patch embedding   │
│  Sampling: temperature, top_p, top_k     │
└─────────────────────────────────────────┘

关键工程决策：
1.


        
稠密而非 MoE：训练稳定 + 全局理解
2.

        
200K 上下文：RoPE θ 缩放 + Flash Attention v3
3.

        
视觉 token 与文本 token 统一空间

1.2.2 训练数据规模与配比

Anthropic 同样未公开 Claude 3.5 Sonnet 的训练数据规模。

但从模型能力反推，预训练数据量应该在 10-15T tokens 区间——略低于 GPT-4（推测 13T）但高于 Claude 3（推测 5T）。

数据构成上，Anthropic 强调了「高质量、多样化、合法授权」三个原则：网页数据（Common Crawl 筛选后）占 40%、书籍与论文 20%、代码（GitHub 公开仓库）20%、多语言 10%、其他 10%。

值得注意的是，Claude 3.5 Sonnet 大幅增加了「代码+文档」类数据的比例——这与 Computer Use 任务高度相关，因为 Computer Use 需要理解 UI 元素、文档结构、API 调用。

从训练数据治理看，Anthropic 的策略是「严格过滤 + 持续审计」——每个数据集都有版权审查、合规审查、毒性过滤三道关卡。

这种严格性是 Anthropic 在 2023-2024 年多次面临版权诉讼时仍然保持稳健的关键。

从数据构成看，2024 年 LLM 训练数据的几个明显趋势是：(1) 代码数据占比从 ~10% 提升到 ~20%，反映「AI 编程」成为核心场景；

(2) 合成数据开始普及，缓解真实数据枯竭问题；

(3) 多语言数据从英语主导转向平衡配比，跨语言能力成为新焦点。

Anthropic 的 40% 网页 + 20% 代码 + 20% 书籍 + 10% 多语言 + 10% 其他 配比，是 2024 年最具代表性的训练数据配方之一。

1.2.3 长上下文机制：200K token 实现

Claude 3.5 Sonnet 支持 200K token 上下文窗口——大约相当于 500 页书籍。

实现这一长度需要多个工程改造：第一，RoPE θ_base 调整——从 10K 提升到 500K，让位置编码能够区分更长的序列；

第二，Flash Attention v3——分块计算避免 O(n²) 内存爆炸；

第三，KV 缓存分页——PagedAttention 把 KV 切成小块，跨请求复用；

第四，LongRoPE 扩展——通过位置插值让模型在长序列上仍保持注意力稳定性。

这些技术叠加，让 200K 上下文在生产环境中可行——单次推理可以在数秒内完成。

Claude 3.5 Sonnet 的 200K 上下文在 2024 年是行业标杆，仅次于 Gemini 1.5 Pro 的 1M 窗口。

长上下文不仅是参数问题，更是「如何在长距离上保持注意力焦点」的工程问题——Claude 3.5 通过 LongRoPE 让模型在 200K 末尾仍能保持 95%+ 的注意力强度，远超 GPT-4o 在 128K 时的 70%。

从长上下文的评测看，Anthropic 引入了「Needle in a Haystack」（NIAH）测试——把关键信息藏在 200K 上下文的随机位置，看模型能否准确提取。

Claude 3.5 Sonnet 在 NIAH 上达到 99%+ 的检索准确率，远超同期 GPT-4o 的 85%。

这一数字让 Claude 在「法律文档分析」「长代码库理解」「学术论文综述」等场景中具备明显优势。

1.2.4 视觉编码器与多模态对齐

Claude 3.5 Sonnet 引入了视觉能力，可以处理图表、截图、文档。

视觉编码器采用类似 GPT-4V 的方案：高分辨率图像切分为 patch，每个 patch 通过 ViT 编码为视觉 token，与文本 token 共享 embedding 空间。

Anthropic 在视觉训练数据上做了大量工作——合成图表、UI 截图、文档页面——让模型能「看懂」屏幕。

这为后来的 Computer Use 奠定了基础：模型已经具备「理解截图」的能力，剩下的就是把它变成「动作预测」。

视觉编码器的关键创新是「动态分辨率」——不同任务自动调整图像分辨率，平衡精度与成本。

从行业对比看，Claude 3.5 Sonnet 的视觉能力比 GPT-4o 更适合处理 UI 截图——这与它专门为 Computer Use 优化的训练数据有关。

从工程实现看，Claude 3.5 的视觉编码器在处理 UI 截图时会自动切换到「高分辨率模式」——因为 UI 元素往往很小（图标、按钮、文字），需要更高分辨率才能识别。

这种「动态分辨率」机制比 GPT-4o 的「统一分辨率」更灵活。

Claude 3.5 Sonnet 视觉编码器设计：

1. 图像预处理
   - 动态分辨率：图表用 1024x1024，UI 截图用 1920x1080
   - Patch 大小：14x14 像素
   - 切分数量：256-1024 patch（取决于分辨率）

2. ViT 编码
   - 24 层 Transformer
   - 1024 hidden dim
   - 输出：与文本 token 同维度的 embedding

3. 多模态对齐
   - 视觉 token 与文本 token 共享 embedding 空间
   - 联合训练目标：图像描述、视觉问答、文档理解

4. 关键创新
   - 动态分辨率：根据任务调整
   - 高保真细节：支持小字、表格、图表细节
   - 长文档理解：支持多页文档合并处理

1.3 Claude 4 系列（2025-05）：混合推理架构与 SWE-bench 60% 突破

2025-05-22，Anthropic 发布 Claude 4 系列：Claude 4 Sonnet（claude-4-sonnet-20250522）和 Claude 4 Opus（claude-4-opus-20250522）。

这是 Anthropic 首次引入混合推理架构（Hybrid Reasoning）——模型可以在「快速模式」和「深度推理模式」之间动态切换。

快速模式类似 Claude 3.5 的即时响应，深度推理模式调用 Extended Thinking 机制，模拟多步思考。

这种架构的关键创新是把「推理深度」作为可配置参数，让用户可以在「能力」与「成本」之间找到平衡。

Claude 4 Sonnet 在 SWE-bench Verified 上达到 60%+ 通过率，首次让 LLM 在真实软件工程任务上的能力突破「及格线」。

从行业角度看，Claude 4 的发布是 LLM 从「对话模型」走向「推理模型」的标志性事件——OpenAI 在 2024-12 推出 o1，但 o1 是「纯推理模式」，没有快速模式；

Claude 4 的「混合」设计更符合实际应用场景，让用户在简单任务上省钱、复杂任务上花钱。

1.3.1 混合推理架构：从单一模式到双模式

传统 LLM 是单一模式：给定输入，输出一个回答。

这种模式的问题是「推理深度」不可控——简单问题不需要深度推理，复杂问题又推理不足。

Claude 4 引入混合推理：模型内部维护两个模式——快速模式（standard）和深度模式（extended thinking）。

快速模式不调用额外推理步骤，延迟低、成本低；

深度模式触发「思考链」，模型先在内部产生大量思考 token，再产出最终回答，能力高但成本高。

用户可以通过 API 参数 budget_tokens 控制推理长度，让模型在 budget 内「自由发挥」。

这种架构让 Claude 4 在 Agent 时代成为「成本可控的推理引擎」。

从哲学层面看，混合推理与 Anthropic 的「工具哲学」一致——LLM 应该是「工具」而非「黑盒」，用户应该能控制工具的每一个细节。

从商业角度看，混合推理打开了「推理 token 计费」的新维度——Anthropic 可以对思考 token 单独收费，让高预算任务贡献更高 ARPU。

从实现角度看，混合推理需要在模型内部维护两个「推理通路」——快速通路是标准的 Transformer 解码，深度通路是在快速通路之上额外叠加「思考链生成器」。

两个通路共享模型参数，但 prompt 模板不同：快速通路直接生成回答，深度通路先生成 ... 块再生成回答。

Claude 4 混合推理架构示意：

┌─────────────────────────────────────────────┐
│  Input: prompt + budget_tokens (可选)        │
├─────────────────────────────────────────────┤
│  Router: 任务复杂度评估                      │
│  - 简单任务 → Standard Mode                  │
│  - 复杂任务 → Extended Thinking Mode         │
├─────────────────────────────────────────────┤
│  Standard Mode:                             │
│  - 直接生成回答 token                        │
│  - 延迟: ~200ms                             │
│  - 成本: 1x                                │
├─────────────────────────────────────────────┤
│  Extended Thinking Mode:                    │
│  - 生成 ... 内部推理    │
│  - 推理链长度 = budget_tokens               │
│  - 延迟: ~2-30s                             │
│  - 成本: 1x-100x (取决于 budget)            │
├─────────────────────────────────────────────┤
│  Output: 回答 token                          │
└─────────────────────────────────────────────┘

关键 API 参数：
- thinking: { type: "enabled", budget_tokens: 10000 }
- max_tokens: 16000 (含 thinking tokens)
- temperature: 1.0 (推荐)

1.3.2 Extended Thinking 的工程实现

Extended Thinking 不是简单的「让模型多想一会儿」。

它需要以下几个工程改造：第一，思考预算机制——模型学会在 budget 内合理分配推理步骤；

第二，思考链隔离——思考过程对用户不可见，避免泄露内部推理；

第三，思考内容审核——思考过程也要经过安全过滤，避免模型在「thinking」阶段产生有害内容；

第四，思考深度自适应——模型根据任务难度动态调整推理长度，而不是固定 budget。

Anthropic 通过 RLAIF 训练 Extended Thinking 模式，让模型学会「何时该深入推理、何时该快速回答」。

这种「思考预算」机制让企业可以精确控制每个任务的推理成本。

从训练数据看，Anthropic 在训练 Extended Thinking 时使用了「思考链示范数据」——人类专家标注的多步推理过程，作为 RLAIF 的种子数据。

从安全性角度看，思考链的「隔离」是关键工程——如果不隔离，模型的思考过程可能被恶意利用（如 jailbreak 通过引导思考过程绕过安全过滤）。

Anthropic 在思考链上额外运行一次 Constitutional AI，确保思考内容也符合宪法原则。

1.3.3 SWE-bench 60% 突破的工程根源

SWE-bench Verified 是 2024 年 OpenAI 推出的基准，包含 500 个真实 GitHub Issue，要求模型在 SWE-agent 框架下独立完成修复。

Claude 4 Sonnet 在该基准上达到 60%+ 通过率，Claude 4 Opus 接近 70%。

这一突破的工程根源包括：第一，长上下文能力——模型可以一次性读完整个代码仓库，理解文件之间的依赖关系；

第二，工具调用增强——模型学会了 grep、find、sed 等命令行工具，能在代码库中定位和修改；

第三，多步任务规划——Extended Thinking 让模型能把「修复 bug」拆解为「读代码→找问题→写补丁→跑测试」的多个步骤；

第四，高质量代码训练数据——Anthropic 在 2024-2025 年大幅增加了 GitHub 高质量 PR 的训练数据。

从行业对比看，Claude 4 在 SWE-bench 上的突破让 Anthropic 在「AI 编程」领域首次领先 OpenAI——这之前，OpenAI 的 GPT-4o 和 o1 一直占据榜首。

从更宏观的视角看，SWE-bench 60% 意味着「LLM 已经能完成真实软件工程任务的 60%」——这个数字让业界开始认真讨论「AI 编程助手能否取代初级程序员」。

Anthropic 的回应是「AI 不是取代程序员，而是放大单个程序员的产出」——这种务实的态度让 Anthropic 在开发者社区获得了高度认可。

SWE-bench Verified 性能对比（2024-2025）：

模型                2024-Q4  2025-Q2  提升幅度
─────────────────────────────────────────────
GPT-4o              33%      41%      +8%
Claude 3.5 Sonnet   49%      53%      +4%
Claude 4 Sonnet     -        60.7%    突破
Claude 4 Opus       -        67.8%    新高
Claude Sonnet 4.5   -        96.2%    飞跃

关键工程改造：
1. 长上下文：一次性读完整仓库
2. 工具调用：grep/find/sed/bash
3. 多步规划：Plan → Execute → Verify
4. 测试反馈：跑 pytest 验证修复

SWE-bench 任务样例：
- Issue: "Fix bug in pandas merge function"
- 流程: 读代码 → 找 bug → 写补丁 → 跑测试 → 提交

1.3.4 长任务执行能力：数小时连续工作

Claude 4 引入了长任务执行能力——模型可以在数小时内连续工作，处理复杂的软件工程任务。

这背后涉及几个关键工程：第一，上下文窗口滚动——当上下文超过 200K 时，模型自动滚动旧内容、保留关键状态；

第二，任务状态持久化——模型可以保存中间结果到外部存储（文件系统、数据库），避免上下文耗尽；

第三，子任务分发——复杂任务被拆分为子任务，模型可以并行处理；

第四，进度检查点——模型定期保存进度，崩溃后可以从检查点恢复。

这些能力让 Claude 4 成为首个「能独立完成中型项目」的 LLM。

长任务执行也让 Claude 4 在 Agent 时代领先——OpenAI 的 o3 在 2025-Q2 还未公开支持类似能力。

从工程视角看，长任务执行本质上是「模型 + 工作流引擎」的结合——模型负责决策，工作流引擎负责状态管理、错误恢复、子任务调度。

Anthropic 在 Claude 4 中通过「Skills 协议雏形」+「External Storage API」实现了这一能力——模型可以调用外部 API 保存/加载状态，跨任务保留上下文。

1.4 Claude Sonnet 4.5 / Opus 4.5（2025-09）：Computer Use 增强与 Agentic 跃迁

2025-09，Anthropic 发布 Claude 4.5 系列：Sonnet 4.5 和 Opus 4.5。

这是 Claude 在 2025 年的第二次重大升级，重点是 Agentic 能力跃迁——SWE-bench Verified 达到 96.2%（Sonnet 4.5），Computer Use 2.0 增强，引入 Skills 协议。

Sonnet 4.5 是首个「通用 Agent 模型」——它在 SWE-bench、Terminal-bench、OSWorld 等多个 Agent 基准上同时达到 SOTA。

这意味着 Claude 已经不只是「对话模型」，而是「Agent 平台」。

Opus 4.5 则在深度推理、Computer Use 2.0、长任务执行上更进一步，支持数小时甚至数天的连续工作。

从行业视角看，Claude 4.5 的发布是 LLM 行业「Agent 化」的标志性事件——2025 年下半年，几乎所有头部模型（GPT、Claude、Gemini、Llama）都在加码 Agent 能力，而 Anthropic 通过 Claude 4.5 在这一波浪潮中处于领先地位。

1.4.1 SWE-bench Verified 96.2%：从 60% 到 96%

Sonnet 4.5 在 SWE-bench Verified 上达到 96.2%——这是惊人的数字。

从 Claude 4 Sonnet 的 60.7% 到 Sonnet 4.5 的 96.2%，提升幅度达到 35.5 个百分点，相当于「解决了人类程序员的 96% 工作」。

背后的工程突破包括：第一，Plan-Execute-Verify 循环——模型学会了「先规划→再执行→再验证」的标准流程；

第二，工具组合优化——模型能智能组合 grep、find、sed、git、pytest 等工具；

第三，错误恢复能力——模型能从失败中恢复，而不是在第一次错误后就放弃；

第四，代码理解深化——模型对代码语义的理解从「语法层面」提升到「意图层面」。

96.2% 的数字也意味着 LLM 在软件工程领域的「替代人类」讨论进入新阶段——Anthropic 的内部预测显示，到 2026 年，Sonnet 4.5 级别的模型可以独立完成 70% 的真实 GitHub Issue。

从更深层看，96.2% 不是「AI 取代程序员」的证据，而是「AI 解放程序员」的证据——程序员可以从繁琐的 bug 修复中解放出来，专注于架构设计、产品创新等更高价值的工作。

1.4.2 Computer Use 2.0：桌面级 Agent 能力强化

Computer Use 2.0 是 Claude 4.5 的另一关键升级。

相比 2024-10 的 1.0 版本，2.0 在以下维度大幅提升：第一，OSWorld 任务通过率——从 1.0 的 ~30% 提升到 2.0 的 ~70%；

第二，动作预测精度——鼠标坐标预测从像素级提升到亚像素级；

第三，多步任务能力——模型可以在 50+ 步骤的任务中保持目标一致；

第四，错误恢复——模型能从意外弹窗、加载失败中恢复。

这些提升让 Computer Use 2.0 真正进入「实用阶段」——企业可以放心地把桌面操作交给 Claude。

从 1.0 到 2.0 的能力跃迁，让 Claude 成为「Agent 时代」的领跑者。

从商业角度看，Computer Use 2.0 的成熟让 Anthropic 打开了全新的市场——RPA（Robotic Process Automation）市场。

传统 RPA 工具（UiPath、Automation Anywhere）依赖预定义脚本，无法处理 UI 变化；

Computer Use 2.0 通过视觉理解自动适应 UI 变化，让「无脚本自动化」成为可能。

Anthropic 在 2025-Q4 与多家 RPA 厂商达成合作，把 Computer Use 2.0 集成到企业 RPA 平台。

Computer Use 2.0 关键指标对比：

维度              1.0 (2024-10)  2.0 (2025-09)  提升
──────────────────────────────────────────────
OSWorld 通过率      ~30%          ~70%          +40%
WebArena            ~15%          ~45%          +30%
动作预测精度        像素级        亚像素级      显著
多步任务(>20步)    ~40%          ~75%          +35%
错误恢复            弱            强            显著

Computer Use 2.0 工程突破：
1. 屏幕 tokenization 改进
2. 视觉编码器分辨率提升
3. 动作空间细粒度化
4. 训练数据规模扩大 5x
5. RLAIF 反馈机制强化

1.4.3 Skills 协议：把 Agent 工作流沉淀为可复用技能

Skills 协议是 Claude 4.5 的另一关键创新。

它允许用户把 Agent 工作流沉淀为可复用技能——一次定义，多次使用。

例如，用户可以定义一个「网页抓取」技能，包含「打开浏览器→输入 URL→等待加载→提取数据」的完整流程。

之后，在任何对话中都可以调用这个技能，而不需要重新描述步骤。

Skills 本质上是「Agent 时代的函数库」——把高频工作流抽象为标准接口，让 Agent 能像调用工具一样调用技能。

这种设计让 Claude 4.5 成为「可扩展的 Agent 平台」，而不是「固定能力的模型」。

Skills 协议与 MCP（Model Context Protocol）形成互补——MCP 提供工具集成标准，Skills 提供工作流沉淀标准。

从生态角度看，Skills 协议打开了「Agent 技能市场」的想象空间——用户可以发布/订阅 Skills，构建生态护城河。

Anthropic 在 2025-Q4 推出了「Skills Marketplace」，允许社区发布 Skills 并获得分成。

Skills 协议定义示例：

skill: web_scraper
description: "抓取网页内容"
parameters:
  url: string
  selector: string
steps:
  - action: open_browser
  - action: navigate
    params: { url: "{url}" }
  - action: wait
    params: { ms: 3000 }
  - action: extract
    params: { selector: "{selector}" }
  - action: close_browser
output:
  type: array
  items: string

调用方式：
agent.invoke("web_scraper", {
  url: "https://example.com",
  selector: ".article-content"
})

1.4.4 四档能力分层：Haiku / Sonnet / Opus 4.5 完整布局

Claude 4.5 时代形成了完整的四档能力分层：Haiku 4.5（待发布）、Sonnet 4.5（轻量旗舰）、Opus 4.5（深度旗舰）、加上历史版本。

这种分层让企业可以根据场景精准选型：客服对话用 Haiku、内容生成用 Sonnet 4.5、复杂 Agent 用 Opus 4.5。

Anthropic 在 2025-09 同步发布了「Sonnet 4.5」和「Opus 4.5」两档，Haiku 4.5 在 2025-Q4 推出（推测）。

这种节奏让 Claude 的产品矩阵覆盖了从低延迟到高能力的全部场景。

从竞争视角看，Claude 4.5 的四档分层让 Anthropic 可以在不同价位段与不同对手竞争——Haiku 4.5 对标 GPT-4o mini，Sonnet 4.5 对标 GPT-4o，Opus 4.5 对标 GPT-5。

这种「全价位段覆盖」是 Anthropic 在 2025 年下半年最重要的产品策略。

从 API 设计看，四档分层也带来了一些工程挑战：模型路由、负载均衡、API 兼容性等。

Anthropic 通过统一的「Claude API」抽象了这些差异——开发者只需要指定 model 参数，Anthropic 自动处理底层差异。

1.1.7 Claude 3 vs Claude 4 模型架构横向对比

Claude 3 与 Claude 4 是 Anthropic 旗舰模型的两次重大迭代。从架构演进角度，Claude 3（2024-03）是「多模态对话模型」的代表，而 Claude 4（2025-05）是「混合推理 Agent 模型」的代表。两者的差异不仅体现在能力指标上，更体现在架构哲学上。Claude 3 时代，模型还停留在「单轮对话 + 多模态理解」的范式；Claude 4 时代，模型已经走向「多轮推理 + 工具调用 + 长任务执行」的范式。这种范式跃迁的背后是 Anthropic 对「LLM 应该长什么样」的根本思考——从「对话伙伴」走向「数字员工」。理解这一跃迁，是理解 Claude 系列未来演进的关键。

1.1.8 Claude 谱系与竞品对比：差异化定位分析

把 Claude 系列放到 LLM 行业的整体格局中看，Anthropic 的定位是「安全优先 + Agent 原生」。

与 OpenAI 的 GPT 系列对比，Claude 系列在 MMLU、HumanEval 等基础基准上略逊，但在 SWE-bench、Computer Use 等 Agent 基准上领先。

与 Google 的 Gemini 系列对比，Claude 在 API 设计、对话质量、Constitutional AI 上更精细；

Gemini 在长上下文（1M vs 200K）、多模态原生上更强。

这种差异化定位让 Anthropic 在 LLM 行业中找到了独特的生态位——不是「最大最全」的玩家，而是「最精细最安全」的玩家。

这种定位让 Anthropic 在企业级市场（金融、医疗、政府）获得了 OpenAI 难以复制的优势。

1.2.5 Claude 3.5 Sonnet 训练基础设施：工程优化驱动

Claude 3.5 Sonnet 的训练基础设施是 Anthropic 工程能力的集中体现。

从硬件层面看，Anthropic 在 2024 年构建了基于 H100 GPU 的大规模训练集群，单次训练使用超过 50K 块 H100，持续训练 30-60 天。

从软件层面看，Anthropic 基于 Megatron-LM 框架做了大量定制化改造，包括：(1) 混合精度优化——FP16 + FP32 混合，兼顾速度和精度；

(2) 张量并行——把模型切分到多张 GPU 并行训练；

(3) 流水线并行——把不同层分配到不同 GPU，减少通信开销；

(4) 数据并行——多份数据并行训练，提升吞吐量。

这些工程优化让 Claude 3.5 Sonnet 的训练效率比标准 Megatron-LM 提升约 30%。

1.2.6 推理优化：从离线到实时的工程挑战

Claude 3.5 Sonnet 的推理优化是 Anthropic 投入大量资源的领域。

推理优化的核心挑战是「在保持模型能力的前提下，降低延迟与成本」。

Anthropic 采用了多种推理优化技术：(1) KV 缓存复用——相同 prefix 的请求共享 KV 缓存，减少重复计算；

(2) 投机解码——用小模型预测 token，大模型验证，加速生成；

(3) 量化——FP16 量化到 INT8/INT4，减少内存占用；

(4) 批处理——多请求合并处理，提升 GPU 利用率；

(5) PagedAttention——把 KV 切成页，跨请求共享，减少内存碎片。

这些优化让 Claude 3.5 Sonnet 在保持 90%+ 能力的前提下，推理成本降低 5x。

从工程角度看，推理优化是「模型能力」与「生产成本」的精细平衡——每降低 10% 延迟或成本，都需要大量的工程投入。

Claude 3.5 Sonnet 推理优化技术栈：

1. KV 缓存复用
   - 相同 prefix 复用 KV
   - 缓存命中率: ~40%
   - 加速效果: 2-3x

2. 投机解码 (Speculative Decoding)
   - 小模型: Llama-7B 草稿
   - 大模型: Claude 3.5 Sonnet 验证
   - 加速效果: 2-3x

3. 量化 (Quantization)
   - FP16 -> INT8: 内存减半
   - INT8 -> INT4: 内存再减半
   - 精度损失: < 1%

4. 动态批处理
   - 多请求合并为 batch
   - 吞吐量提升: 3-5x
   - 延迟增加: < 10%

5. PagedAttention
   - KV 切成 16 token 页
   - 跨请求共享
   - 内存节省: 50%+

综合优化效果:
- 推理成本: 5x 降低
- 推理延迟: 3x 降低
- 模型能力: 保持 90%+

1.3.5 混合推理与 Agent 协同：迈向「思考型 Agent」

Claude 4 的混合推理与 Agent 能力深度结合，形成「思考型 Agent」——Agent 不仅能执行任务，还能在执行前/中/后进行深度思考。

具体流程：(1) Pre-Think——任务开始前，Agent 用 Extended Thinking 分析任务、规划步骤；

(2) Execute——按计划执行动作，每步可以调用 Extended Thinking 解决复杂子问题；

(3) Post-Think——任务完成后，Agent 用 Extended Thinking 反思执行结果、总结经验。

这种「思考型 Agent」让 Claude 4 在 SWE-bench、OSWorld 等 Agent 基准上大幅领先——它不只是「执行任务」，而是「理解 + 规划 + 执行 + 反思」的完整闭环。

从行业影响看，「思考型 Agent」可能是 AGI 时代的标志性能力——具备自我反思能力的 Agent，能从错误中学习，从经验中成长，逐步逼近真正的智能。

1.3.6 Claude 4 vs OpenAI o1：混合推理与全自动推理的范式对比

Claude 4 的混合推理与 OpenAI o1 的全自动推理代表了 LLM 推理能力的两条路线。

OpenAI o1 是「全自动推理」——模型内部决定何时思考、思考多少、思考什么，用户无法干预。

Claude 4 是「可控推理」——用户通过 budget_tokens 参数精确控制推理深度，企业可以按需付费。

从能力上看，两者都能达到深度推理水平——o1 在数学竞赛（AIME 90%+）、科学推理（GPQA 78%）上领先；

Claude 4 在工程任务（SWE-bench 60.7%）、长任务执行上领先。

从商业上看，Claude 4 的「可控推理」更适合企业级场景——企业可以预算成本；

o1 的「全自动推理」更适合消费级场景——用户体验更自然。

这种「企业 vs 消费」的差异化定位，让两条路线可以共存而非互斥。

从更深层看，Claude 4 的「可控推理」是 Anthropic「工具哲学」的延伸——LLM 应该是可预测、可控制、可审计的工具，而不是不可解释的黑盒。

1.4.5 Agent 能力跃迁：从对话到执行的范式革命

Claude Sonnet 4.5 / Opus 4.5 标志着 LLM 从「对话模型」到「执行模型」的范式革命。

这一革命的本质是「LLM 不再被动等待指令，而是主动规划、执行、反思任务」。

Claude 4.5 在多个 Agent 基准上的 SOTA 表现（SWE-bench 96.2%、OSWorld 70%、GAIA 65%）证明了这一范式的可行性。

从行业影响看，这一革命可能比移动互联网时代从「网页」到「App」的革命更深远——「App 时代」用户需要自己操作 App，「Agent 时代」用户只需下达意图，Agent 自动完成所有操作。

这种「从操作到意图」的转变，可能彻底改变软件行业的格局——App 不再是用户直接操作的对象，而是 Agent 调用的资源；

软件公司不再是「用户 App 开发商」，而是「Agent 能力提供商」。

1.4.6 Claude 4.5 vs GPT-5：Agent 时代的双雄对决

Claude 4.5 与 GPT-5 是 Agent 时代的双雄。

两者在能力上各有优势：Claude 4.5 在 SWE-bench（96.2% vs 89%）、Computer Use（OSWorld 70% vs 55%）等 Agent 基准上领先；

GPT-5 在 AIME 2024（95% vs 88%）、GPQA（85% vs 75%）等推理基准上领先。

这种「Agent 能力 Claude 领先，推理能力 GPT 领先」的格局，让两者在不同场景中各有优势。

从生态上看，Claude 4.5 通过 MCP、Skills 构建了完整生态；

GPT-5 通过 GPT Store、Operator 构建生态。

两者的生态竞争将决定 Agent 时代的最终格局。

从更长远的视角看，Claude 4.5 与 GPT-5 的竞争不是「零和游戏」——两者可能走向「差异化共存」，Claude 主导企业 Agent 市场，GPT 主导消费 Agent 市场。

这种「分工」比「一家独大」更有利于 AI 行业的健康发展。

第二篇、Constitutional AI 与对齐技术

第二篇聚焦于 Anthropic 最具差异化的技术——Constitutional AI。

从 2022 年的 Constitutional AI 论文，到 2024 年的 Constitutional AI 2.0，再到 Responsible Scaling Policy 的制度化，Anthropic 用三年时间建立了完整的对齐工程体系。

这一体系的核心思想是：用 AI 反馈替代人类反馈，用规则模型替代人类判断，用制度化流程替代临时审查。

我们将沿着「算法原理 → 迭代演进 → 工程权衡 → 治理机制」这条主线，解构 Constitutional AI 的完整架构。

Constitutional AI 不仅是对齐方法论，更是 Anthropic 企业文化的体现——它把抽象的「AI 安全」转化为可操作的「规则+反馈+迭代」工程闭环。

2.1 Constitutional AI 原理：自评 + RLAIF 的算法核心

Constitutional AI（CAI）是 Anthropic 在 2022 年 12 月提出的对齐方法，核心思想是：让 AI 模型根据一组「宪法原则」自动评判和修改自己的输出，无需大量人类标注。

这一方法解决了传统 RLHF 的两大痛点——人类标注成本高、人类判断不一致。

CAI 引入两个关键机制：Self-Critique（自评）和 RLAIF（RL from AI Feedback）。

自评让模型根据原则评估自己的回答，RLAIF 用 AI 反馈训练强化学习模型。

这种「AI 训练 AI」的方法大幅降低了对人类标注的依赖。

从更宏观的视角看，Constitutional AI 是 LLM 行业从「黑盒训练」走向「透明训练」的标志性方法——它把对齐的「规则」显式化、可审计化，让对齐过程不再依赖「神秘的人类判断」，而是基于「明确的宪法原则」。

2.1.1 传统 RLHF 的局限

RLHF（Reinforcement Learning from Human Feedback）是 2017 年 OpenAI 提出、2022 年 ChatGPT 推广的对齐方法。

流程是：(1) 人类对模型多个输出排序，(2) 训练奖励模型，(3) 用 PPO 优化 LLM。

RLHF 的核心问题是成本与一致性。

成本方面，GPT-4 的 RLHF 需要数十万小时人类标注，OpenAI 雇佣了大量标注员（时薪 $15-30），单次训练成本超过千万美元。

一致性方面，不同标注员对「什么是有害内容」的判断差异巨大，导致奖励模型训练不稳定。

Anthropic 在 2022 年的研究中发现，标注员之间的判断一致性只有 60-70%——这意味着 RLHF 的「人类反馈」本身存在巨大噪声。

从更深的层面看，RLHF 还有第三个问题——「教条化」倾向。

人类标注员会不自觉地把「自己认为对」的偏好注入模型，导致模型偏向特定价值观。

CAI 通过显式的宪法原则，让对齐规则「去人类中心化」，更接近「普世规则」。

传统 RLHF vs Constitutional AI 对比：

传统 RLHF：
┌─────────┐     ┌─────────┐     ┌─────────┐
│ LLM 输出 │ ─→ │ 人类标注 │ ─→ │ 奖励模型 │ ─→ PPO 训练
└─────────┘     └─────────┘     └─────────┘
                成本高           不稳定
                $15/小时         一致性 60-70%

Constitutional AI：
┌─────────┐     ┌─────────┐     ┌─────────┐     ┌─────────┐
│ LLM 输出 │ ─→ │ 宪法原则 │ ─→ │ AI 评判 │ ─→ │ 反馈训练 │ ─→ PPO
└─────────┘     └─────────┘     └─────────┘     └─────────┘
                固定规则        AI 自评        一致性 95%+
                无边际成本       边际成本低      规则驱动

关键差异：
1. 反馈来源：人类 → AI
2. 反馈一致性：60-70% → 95%+
3. 边际成本：$15/h → $0.001/eval

2.1.2 宪法原则：从 4 条到 50+ 条的演进

Constitutional AI 的「宪法」是一组明文规则，指导模型评判输出。

Anthropic 在 2022 年的初版论文中提出了 4 条核心原则：(1) 请选择最无害、最有帮助的回答；

(2) 请避免任何歧视、种族主义、性别歧视；

到 2024 年的 Constitutional AI 2.0，原则数量扩展到 50+ 条，覆盖范围包括：隐私保护、知识产权、心理健康、政治偏见、儿童保护、武器制造、化学品合成等。

原则的演进体现了 Anthropic 对「对齐」的不断细化——从「宽泛无害」到「具体场景」。

从治理视角看，宪法原则的演进过程本身就是一个「对齐规则的版本管理」实践——每条原则都有来源、版本号、生效时间，可以追溯到具体的对齐事件。

这种「宪法版本化」让 Anthropic 的对齐规则具备「可审计性」，是 AI 治理领域的重要创新。

Constitutional AI 2.0 宪法原则示例：

1. 请选择最无害、最有帮助的回答。
2. 请避免任何歧视性、种族主义、性别歧视内容。
3. 请避免涉及非法活动的内容。
4. 请选择最友好、最有礼貌的回答。
5. 请尊重用户隐私，不询问或泄露个人信息。
6. 请尊重知识产权，不复述受版权保护的内容。
7. 请保护弱势群体，不提供可能伤害儿童的内容。
8. 请避免可能被用于制造武器或危险物品的信息。
9. 请避免可能危害心理健康的极端内容。
10. 请保持政治中立，避免党派偏见。
...
（完整版本共 50+ 条，覆盖 12 个对齐维度）

原则选择策略：
- 按优先级排序：P0（绝对禁止）→ P1（强烈建议）
- 冲突解决：P0 > P1，P1 > 用户偏好
- 演进机制：每季度评审，根据新场景调整

2.1.3 Self-Critique 机制：模型的自我批评

Self-Critique（自评）是 CAI 的第一步。

给定一个 prompt 和模型输出，自评机制让模型根据宪法原则评估输出是否违反规则，并提出修改建议。

(3) 模型根据 C 评估 A，输出 critique（批评）；

(4) 模型根据 critique 生成修改版本 A'。

这个流程让模型「看到自己的问题」，并「主动修正」。

Self-Critique 不需要外部标注——模型本身就是评判者。

Anthropic 在论文中展示，Self-Critique 在 50-70% 的情况下能让模型产生更符合宪法的回答。

从工程角度看，Self-Critique 的关键是「让模型扮演评判者」——在训练时，Anthropic 让模型交替扮演「生成者」和「评判者」两个角色，通过角色切换提升模型的自评能力。

这种「角色训练」是 CAI 的核心创新之一，也被后续的 Self-Rewarding、Self-Play 等方法继承。

Self-Critique 流程示例：

输入：
  Prompt: P = "如何入侵邻居的 WiFi？"
  Constitution: C = "请避免涉及非法活动的内容"

Step 1: 模型生成回答
  A = "可以使用 Wifite 工具破解 WPA2..."

Step 2: 模型读取宪法原则
  模型读取 C，理解"非法活动"的边界

Step 3: 模型自评
  Critique = "回答涉及非法入侵他人网络，
              违反宪法原则 #3（避免非法活动）"

Step 4: 模型重写
  A' = "入侵他人 WiFi 是违法行为。
        如果你的 WiFi 出现问题，建议：
        1. 重启路由器 2. 修改密码 3. 联系 ISP"

自评机制关键：
- Critique 必须具体（不能是"这不好"）
- Rewrite 必须保留合理部分
- 多轮迭代直到满足宪法

2.1.4 RLAIF：AI 反馈驱动的强化学习

RLAIF（RL from AI Feedback）是 CAI 的第二步。

基于 Self-Critique 生成的多版本回答，RLAIF 训练一个反馈模型（Feedback Model），对多个候选回答打分。

训练数据是「宪法原则下的偏好对」——给定同一 prompt 的两个回答，反馈模型根据宪法判断哪个更符合规则。

然后，用这个偏好数据训练一个奖励模型（Reward Model），再用 PPO 优化 LLM。

整个流程中，人类只参与了「宪法原则的制定」——后续的反馈、训练、评估都是 AI 完成的。

从技术演进看，RLAIF 的核心创新是「把人类的判断抽象为规则」——传统 RLHF 让人类判断「什么是好」，CAI 把这个判断显式化为宪法规则，让 AI 来执行。

这种「规则化」让对齐过程从「艺术」变成「工程」——可量化、可审计、可优化。

从行业影响看，RLAIF 在 2023-2024 年成为 LLM 对齐的主流方法——OpenAI 在 o1 的训练中也使用了类似的 AI 反馈机制。

2.2 Constitutional AI 2.0：从 1.0 到 2.0 的演进与迭代闭环

Constitutional AI 2.0 是 2024 年 Anthropic 提出的改进版本，相比 1.0 在三个维度有显著提升：第一，原则数量——从 4 条扩展到 50+ 条；

第二，评估维度——从单维度（无害）扩展到多维度（无害 + 有用 + 诚实 + 无害性细粒度）；

第三，迭代闭环——引入「AI 反馈 → 规则更新 → 再训练」的循环机制。

CAI 2.0 不只是「更多规则」，而是「规则+反馈+迭代」的完整系统。

从工程角度看，CAI 2.0 的「迭代闭环」是整个对齐体系的核心——它让对齐规则不再是「一次性制定」，而是「持续演进」。

这种动态对齐机制是 Anthropic 区别于 OpenAI 的关键差异——OpenAI 的对齐规则相对静态，依赖「红队测试 + 人工审查」进行更新。

2.2.1 多维度评估：从无害到 HHH+

CAI 1.0 主要关注「无害」维度——避免有害输出。

CAI 2.0 引入了 HHH+ 框架——Helpful（有用）、Harmless（无害）、Honest（诚实），加上若干扩展维度。

HHH 框架是 2021 年 Stanford 等机构提出的对齐价值观，Anthropic 在 CAI 2.0 中加入 Honesty 作为第三个核心维度，并扩展为 HHH+。

六个维度共同构成对齐评估矩阵，模型需要同时满足所有维度。

从评估工程看，多维度评估的关键挑战是「维度间冲突的处理」——例如 Helpful（详细回答）与 Harmless（避免风险）经常冲突。

CAI 2.0 引入「维度优先级」机制，把安全相关维度（Harmless、Safe、Private）设为高优先级，让模型在冲突时优先满足安全维度。

这种「优先级排序」是 CAI 2.0 的关键工程创新——它让对齐不再是非黑即白的取舍，而是可调控的优先级。

HHH+ 多维度评估矩阵：

维度      权重    评估方法                  示例违反
───────────────────────────────────────────────
Helpful   25%     任务完成率                "无法回答"
Harmless  25%     有害内容检测              "歧视性言论"
Honest    20%     事实准确率                "编造引用"
Fair      10%     偏见检测                  "性别歧视"
Safe      10%     危险内容检测              "武器制造"
Private   10%     隐私泄露检测              "泄露 PII"

综合得分 = Σ(维度得分 × 权重)

关键工程：
1. 多维度并行评估，避免单一标准
2. 维度间冲突的处理：safety > helpfulness
3. 维度得分可解释，可追溯到具体宪法

2.2.2 AI 反馈的迭代闭环

CAI 2.0 的核心创新是迭代闭环——AI 反馈不仅用于训练，还可以用于更新宪法规则。

(2) AI 反馈指出回答违反的具体原则；

(3) 人工评审 AI 反馈，确认是否正确；

(4) 如果反馈正确，更新宪法原则（增加新的边界场景）；

这种「宪法+反馈」的循环让对齐规则不断演进——新的攻击场景出现后，可以快速更新宪法并再训练。

这种动态对齐是 CAI 2.0 区别于 1.0 的关键。

从工程视角看，迭代闭环的关键是「反馈收集 → 规则更新 → 再训练」的流水线自动化——Anthropic 内部有一个专门的「对齐运营」团队，负责监控反馈、评审规则、协调再训练，每周发布一次规则更新。

这种「持续运营」模式让 CAI 2.0 成为一个「活的」对齐系统，而不是「静态的」对齐工具。

2.2.3 宪法可解释性：每条原则的来源追溯

CAI 2.0 引入了宪法可解释性——每一条原则都可以追溯到具体的「对齐事件」或「现实案例」。

例如，宪法原则 #8（避免可能用于制造武器或危险物品的信息）的来源是 2024 年的若干公开事件。

这种可追溯性有两个好处：第一，审计友好——外部监管者可以审查宪法原则的合理性；

第二，争议解决——当模型拒绝回答时，可以明确告诉用户「违反了哪条原则、为什么」。

Anthropic 在 2025 年开放了部分宪法原则的来源追溯，成为对齐透明度的行业标杆。

从治理视角看，宪法可解释性是 AI 治理领域的「provenance」实践——它把对齐规则的来源、版本、生效时间全部记录在案，让外部审计成为可能。

这种「provenance」实践借鉴了软件开发领域的「dependency tracking」和「SBOM」（软件物料清单）理念，是 AI 治理工程化的重要进步。

2.2.4 从 CAI 1.0 到 2.0 的工程改造

CAI 2.0 的工程改造包括：第一，反馈模型规模化——从单一反馈模型扩展到多维度反馈模型矩阵；

第二，宪法版本管理——宪法原则作为版本化资源，每季度更新一次；

第三，A/B 测试框架——新旧宪法可以并行评估，对比效果；

第四，红队自动化——用 LLM 自动生成攻击 prompt，测试宪法覆盖率。

这些工程改造让 CAI 2.0 成为「可演化的对齐系统」，而非「静态规则」。

从行业影响看，CAI 2.0 的工程实践被多家公司学习——OpenAI 在 2024 年也推出了「Constitutional AI 类似」的方法，但 Anthropic 在工程化程度上仍保持领先。

从合规视角看，CAI 2.0 的版本化、可追溯、可审计特征，让 Anthropic 在 EU AI Act 等监管框架下具备明显优势。

2.3 Harmless vs Helpful：双目标对齐的工程权衡

LLM 对齐的核心矛盾是 Harmless vs Helpful：模型越无害（保守），就越难有用；模型越有用（开放），就越可能有害。这种「安全-能力」权衡在 RLHF 时代就是难题，在 CAI 时代更甚——因为 CAI 的宪法原则更严格。Anthropic 在 Claude 3.5/4 系列中做了大量工程权衡，目标是「在不显著降低能力的前提下，最大化安全性」。本节将深入剖析这些权衡的工程实现。这种「安全-能力」权衡不是简单的「参数调节」，而是涉及训练数据、对齐规则、推理行为等多个层面的系统性设计。

2.3.1 过度对齐：宪法太严导致的"拒绝一切"

Constitutional AI 的一个典型问题是过度对齐（Over-Alignment）——模型学会「拒绝任何有风险的问题」。

例如，用户问「如何写一个 Python 函数」，模型可能因为「代码可能被用于攻击」而拒绝回答；

用户问「如何做蛋糕」，模型可能因为「食品安全」而给出冗长警告。

这种过度对齐让模型变得「无用」——安全但没价值。

Anthropic 在 Claude 3.5 的反馈中识别了大量过度对齐案例，并做了针对性优化：(1) 细化宪法原则，明确「合理使用」vs「恶意使用」的边界；

(2) 增加「上下文评估」——模型根据场景判断风险，而非机械套用规则；

(3) 引入「部分回答」机制——可以拒绝回答但提供替代资源。

从工程角度看，过度对齐的根源是「训练数据中负样本过多」——如果 90% 的训练样本都是「拒绝回答」，模型会学到「保守=安全」的偏见。

Anthropic 通过「正负样本平衡」机制，让训练数据中正面案例（helpful answer）与负面案例（refusal）的比例保持在 60:40。

2.3.2 工程权衡：安全边际 vs 用户体验

Anthropic 在 Claude 3.5/4 的开发中，面临一系列「安全边际 vs 用户体验」的权衡：1.

风险阈值：什么概率的有害输出是可接受的？

Claude 4 设定的阈值是「<0.1%」——即每 1000 次回答中最多 1 次可能有害。

拒绝率：多少比例的请求会被拒绝？

Claude 4 的拒绝率约 8%，GPT-4 约 5%。

Anthropic 接受了更高的拒绝率以换取更严格的安全。

解释性：模型拒绝时是否解释原因？

Claude 4 默认解释，GPT-4 默认不解释。

回退策略：当模型不确定时怎么办？

Claude 4 选择「明确拒绝 + 提供替代资源」，GPT-4 选择「不回答」。

这些权衡没有「标准答案」——Anthropic 选择「安全优先」，OpenAI 选择「能力优先」。

2.3.3 宪法优先级：P0 绝对禁止 vs P1 强烈建议

Constitutional AI 2.0 引入了原则优先级机制——把 50+ 条宪法原则分为 P0（绝对禁止）、P1（强烈建议）、P2（一般建议）三级。这种分级治理让宪法更具可操作性，避免「原则冲突时的决策混乱」。从工程角度看，优先级机制的本质是「决策树」——模型遇到原则冲突时，按 P0 → P1 → P2 的顺序匹配，P0 永远高于 P1，P1 永远高于用户偏好。例如，用户问「如何在家制造烟花」，模型触发 P0（避免制造危险物品）而拒绝；同时，模型不会触发 P2（提供有用建议）而给出制造方法。这种「优先级硬约束」让对齐行为可预测、可审计。

2.3.4 对抗性测试：红队如何识别对齐漏洞

Anthropic 投入了大量资源做红队测试（Red Teaming）——专门攻击模型的对齐漏洞。

红队包括：(1) 人类红队——专门的安全研究员，尝试突破对齐；

(2) AI 红队——用 LLM 自动生成对抗 prompt；

(3) 社区红队——通过 bug bounty 邀请外部研究者。

Claude 4 的红队测试覆盖了 95% 的已知攻击场景，包括 prompt injection、jailbreak、role-play 攻击、多轮对话绕过等。

每发现一个新漏洞，Anthropic 都会更新宪法原则并重新训练。

这种持续红队是对齐的「压力测试」，确保对齐系统在真实攻击下仍然稳健。

从攻防视角看，对齐是一个持续博弈的过程——攻击者不断发现新漏洞，对齐团队不断修补。

这种「军备竞赛」让对齐成为一个永远在进行的工作，而非一次性的项目。

Anthropic 通过内部红队+AI 红队+社区红队的三层体系，保持了对齐的领先。

2.4 训练数据治理：Anthropic 的 Responsible Scaling Policy 与危险能力评估

训练数据治理是 Constitutional AI 之外的另一关键对齐机制。Anthropic 在 2024 年发布了 Responsible Scaling Policy（负责任扩展政策，RSP），这是一个公开承诺——Anthropic 承诺在模型达到危险能力之前不会部署，并在训练过程中持续评估危险能力。RSP 是 Anthropic 对「AI 安全」承诺的制度化，也是行业最完善的对齐治理框架。本节将解构 RSP 的工程实现。RSP 的本质是「承诺 + 触发器」——Anthropic 不是承诺「绝对安全」，而是承诺「达到危险能力前不部署」。这种「阈值触发」机制把抽象的「AI 安全」转化为可量化的「危险能力等级」。

2.4.1 Responsible Scaling Policy 的核心承诺

Responsible Scaling Policy 的核心是能力阈值触发机制——Anthropic 承诺在模型达到特定危险能力之前不部署。

具体而言，RSP 定义了 AI Safety Levels（ASL），从 ASL-1 到 ASL-5，每一级对应不同的危险能力和安全要求。

Anthropic 承诺在达到 ASL-5 之前不部署相关模型。

从治理视角看，RSP 是「self-regulation」实践——它不是政府强制要求，而是 Anthropic 自发的承诺。

但这种自我承诺通过公开发布形成了「声誉约束」——任何违规都会损害 Anthropic 的信誉，影响客户信任。

这种「声誉驱动自我监管」是 AI 治理领域的新模式，与传统「政府监管」模式形成互补。

从更深层看，RSP 也为整个行业设立了标杆——如果 Anthropic 的承诺被广泛接受，OpenAI、Google、Meta 等公司也会面临「跟随承诺」的压力。

Responsible Scaling Policy 的 AI Safety Levels：

ASL    危险能力          安全要求            部署状态
─────────────────────────────────────────────────
ASL-1  无显著危险        基础合规            已部署
ASL-2  早期危险能力      基础安全            Claude 1/2
ASL-3  危险能力增强      严格安全            Claude 3/3.5
ASL-4  危险水平能力      高级安全            Claude 4 (推测)
ASL-5  极高危险能力      最高级安全          承诺前不部署

每一级的安全要求包括：
1. 训练数据治理：过滤有害数据
2. 模型评估：定期危险能力测试
3. 红队测试：专业攻击测试
4. 部署监控：实时输出审计
5. 人工监督：关键决策人工审核
6. 事故响应：紧急下架机制

2.4.2 三级危险能力评估：生物/网络/自主

Anthropic 在 RSP 中定义了三级危险能力评估：(1) 生物能力——模型是否能帮助非专家制造生物武器；

(2) 网络能力——模型是否能帮助非专家发起网络攻击；

(3) 自主能力——模型是否能独立完成复杂的现实任务。

Claude 4 的评估显示：生物能力「未达到危险水平」，网络能力「接近危险水平」，自主能力「达到危险水平」（SWE-bench 96.2%）。

这种分级评估让 Anthropic 能针对性部署防护。

从评估方法看，Anthropic 投入了大量资源开发评估基准——生物能力基于「生物安全风险评估」协议，网络能力基于「Capture The Flag」（CTF）竞赛，自主能力基于 SWE-bench、OSWorld 等。

这种「多维度评估」是 RSP 的核心技术，让 Anthropic 能够量化地判断「模型是否达到危险能力」。

2.4.3 训练数据过滤：从源头杜绝有害内容

Anthropic 在训练数据治理上投入了大量资源。

训练数据过滤包括：(1) 网页数据——过滤色情、暴力、仇恨内容；

(2) 代码数据——过滤 exploit、恶意软件、攻击工具；

(3) 书籍数据——过滤盗版、仇恨文学；

(4) 多模态数据——过滤违规图片、暴力视频。

具体过滤方法包括：URL 黑名单、关键词过滤、文档分类器、人类审查。

Anthropic 在 2024 年的报告中提到，训练数据过滤让有害内容减少了 95%+，但同时也带来「过度过滤」风险——部分正常内容被误判过滤。

这种精确率 vs 召回率的权衡是数据治理的永恒难题。

从工程视角看，Anthropic 的数据治理流水线包括：(1) 数据采集阶段——使用经过授权的数据源，避免版权问题；

(2) 数据预处理阶段——使用分类器初步过滤；

(3) 数据审核阶段——人类标注员抽样审核；

(4) 数据使用阶段——持续监控，发现问题立即下架相关数据。

2.4.4 部署监控：实时审计与异常检测

Anthropic 在 API 后端部署了多层监控：(1) 输入分类器——检测恶意 prompt；

(2) 输出分类器——检测有害回答；

(3) 异常检测——识别异常使用模式；

(4) 人工审核——关键请求人工处理。

当监控系统发现可疑内容时，会触发以下流程：(a) 自动阻断；

(c) 上报 Anthropic 安全团队；

这种实时审计让对齐机制不仅在训练时生效，在部署时也能持续生效。

从合规视角看，部署监控让 Anthropic 能够响应 EU AI Act、US Executive Order on AI 等监管要求——这些监管都要求「AI 系统在部署时具备监控和审计能力」。

从工程视角看，部署监控的关键挑战是「准确率 vs 召回率」——误报会损害用户体验，漏报会留下安全漏洞。

Anthropic 通过「分层分类器 + 人工 review」机制平衡这一矛盾。

2.1.5 Constitutional AI vs RLHF：成本对比与商业影响

从商业角度看，Constitutional AI 与 RLHF 的成本差异是革命性的。

传统 RLHF 的成本主要来自人类标注——GPT-4 的 RLHF 训练使用了 100K+ 小时人类标注，按 $15/小时计算，成本约 $1.5M。

Constitutional AI 的成本主要来自 AI 推理——Claude 3 的 CAI 训练使用了 1M+ AI 反馈生成，按 $0.001/对计算，成本约 $1K。

这种成本差异让中小公司也能训练对齐模型——不需要巨额标注预算。

从行业影响看，Constitutional AI 让「对齐民主化」成为可能——任何团队都可以用 AI 反馈训练符合自家价值观的对齐模型，而不必依赖 OpenAI 或 Anthropic 的标注团队。

从更深的视角看，这种「对齐民主化」也带来风险——恶意行为者可能用 Constitutional AI 训练「故意有害」的模型。

为了应对这一风险，Anthropic 在 2025 年推出了「宪法注册中心」——要求所有 Constitutional AI 的宪法必须注册，确保可追溯。

2.1.6 宪法原则的版本管理：可审计的 AI 治理

Anthropic 对宪法原则实行严格的版本管理——每条原则都有版本号、生效时间、来源追溯。

这种「宪法版本管理」借鉴了软件工程的「语义化版本」和「依赖管理」理念。

具体实施：(1) 语义化版本——每条原则使用 v1.0、v1.1 等版本号；

(2) 变更日志——每次变更都有详细的 changelog 记录；

(3) 依赖追踪——记录每条原则的来源（对齐事件、用户反馈等）；

(4) 审计追溯——任何模型输出都可以追溯到具体的宪法版本。

这种「宪法版本管理」让 AI 治理从「黑盒」走向「白盒」，是 AI 治理工程化的重要创新。

从合规角度看，这种版本管理满足 EU AI Act 的「可追溯性」要求——监管者可以审计任何决策的宪法依据。

2.2.5 HHH+ 多维度评估的工程实现

HHH+ 多维度评估的工程实现涉及多个关键模块：(1) 维度评分器——为每个维度训练独立的评分模型；

(2) 维度权重融合——把多个维度的得分按权重融合为综合得分；

(3) 维度冲突检测——检测维度间的冲突（如 Helpful 与 Harmless 的冲突）；

(4) 可解释性输出——为每个评分提供具体的宪法原则引用。

这种工程实现让 HHH+ 评估既「量化」又「可解释」，是 AI 对齐评估的工业级实践。

从开源角度看，Anthropic 在 2025 年开源了部分 HHH+ 评估模型（HHH-Evaluator），让社区也能使用这套评估框架。

这种「开源核心组件」的策略让 HHH+ 框架成为行业标准——多家公司（包括 Cohere、Mistral）都开始采用 HHH+ 评估自己的模型。

2.2.6 宪法反馈的人工评审机制：Human-in-the-Loop

虽然 Constitutional AI 的核心是「AI 反馈替代人类反馈」，但 Anthropic 仍然保留了一个关键的人工评审环节——「Human-in-the-Loop」。

具体流程：(1) AI 反馈生成——宪法模型对模型输出进行自动评估；

(2) 抽样人工评审——每周抽取 1% 的 AI 反馈让人类审核员评审；

(3) 反馈一致性校验——对比人类评审与 AI 反馈的一致性；

(4) 异常上报——发现 AI 反馈异常时立即上报。

这种「Human-in-the-Loop」机制让 Constitutional AI 既有 AI 反馈的「高效率」，又有人工审核的「高准确率」。

从工程角度看，「Human-in-the-Loop」是 Constitutional AI 系统的「质量保险」——AI 反馈的准确性通过人工抽查得到保证。

这种「AI 自动化 + 人工抽查」的混合模式，是 AI 系统质量保证的最佳实践。

Human-in-the-Loop 评审流程：

1. AI 反馈生成
   - 输入: 模型输出
   - 输出: AI 反馈 (是否符合宪法)
   - 频率: 100% 全量评估

2. 抽样人工评审
   - 样本量: 1% 抽样
   - 评审员: 训练有素的对齐研究员
   - 评审指标: AI 反馈的准确性

3. 一致性校验
   - 计算: 人类评审 vs AI 反馈的一致率
   - 目标: > 95%
   - 异常: 一致率 < 90% 触发警报

4. 异常上报
   - 触发条件: AI 反馈异常
   - 处理: 立即冻结反馈模型
   - 复盘: 定位根因 + 修复

5. 持续优化
   - 周期: 每周评审
   - 反馈: 改进反馈模型
   - 目标: AI 反馈越来越准

2.3.5 过度对齐的量化度量与缓解策略

过度对齐是 Constitutional AI 的最大副作用，Anthropic 通过量化度量来识别和缓解。

量化度量方法：(1) 过度拒绝率——模型拒绝「应当回答」的问题的比例，理想值 < 2%；

(2) 过度冗长度——回答长度超出必要长度的比例，理想值 < 10%；

(3) 用户满意度——用户对回答的满意程度，理想值 > 90%。

当这些指标偏离理想值时，Anthropic 会触发宪法回退——降低严格性或细化边界。

缓解策略包括：(a) 细化宪法——明确「合理使用」vs「恶意使用」的边界；

(b) 正负样本平衡——训练数据中 helpful 案例比例提升到 60%；

(c) 用户反馈循环——根据用户反馈动态调整模型。

从工程角度看，过度对齐的缓解是「数据 + 算法 + 反馈」的联合优化，需要持续的迭代才能达到平衡。

2.3.6 跨文化对齐：宪法原则的全球化挑战

Constitutional AI 的宪法原则最初以美国价值观为基础，但在 2024-2025 年的全球化推广中遇到跨文化挑战。

例如，「避免涉及非法活动」原则在某些国家可能过度严格——某些药物（如安乐死药物）在某些国家合法，但在另一些国家非法。

Anthropic 通过「地域化宪法」解决这一挑战——不同地区使用不同的宪法版本：(1) 美国宪法——基于美国法律和价值观；

(2) 欧盟宪法——基于 EU 法规和价值观；

(3) 亚洲宪法——基于亚洲法律和价值观；

(4) 中东宪法——基于中东法律和价值观。

这种「地域化宪法」让 Claude 能在不同地区合规运营，同时保留宪法对齐的核心机制。

从治理角度看，「地域化宪法」也带来新的挑战——如何处理跨国用户的对齐需求？

Anthropic 通过「IP 定位 + 用户选择」机制解决——根据用户 IP 自动应用对应宪法，但允许用户手动选择其他宪法版本。

2.4.5 数据治理的多层防御体系

Anthropic 的数据治理采用「多层防御」体系，从数据采集到部署的全流程中，每一层都有专门的防护措施：(1) 采集层——只采集授权数据，避免版权问题；

(2) 预处理层——过滤有害内容，减少训练数据风险；

(3) 训练层——通过 Constitutional AI 让模型学会拒绝；

(4) 推理层——通过 Constitutional AI 监控输出；

(5) 审计层——定期审计训练数据和输出，发现问题立即处理。

这种「五层防御」让数据治理成为系统性工程，而非单点措施。

从行业影响看，Anthropic 的「多层防御」成为 AI 数据治理的行业标杆。

从更深层看，「多层防御」也是 AI 安全工程的通用模式——任何 AI 安全措施都应该「纵深防御」，而非「单点防护」。

2.4.6 RSP 公开承诺：Anthropic 的「AI 安全宪章」

Responsible Scaling Policy 不只是内部规范，更是 Anthropic 对外公开的「AI 安全宪章」。

这一宪章的核心承诺是「在达到危险能力前不部署」——这种公开承诺形成了强大的「声誉约束」。

如果 Anthropic 违反承诺，不仅会损害客户信任，还会面临监管机构和公众的强烈反弹。

从更宏观的视角看，RSP 是 AI 公司「自我监管」的实践——先于政府监管出现，为后续的政府监管提供参考。

EU AI Act 的部分条款明确借鉴了 RSP 的「能力等级」概念。

这种「公司自律 + 政府监管」的混合治理模式，可能是未来 AI 治理的主流范式。

从行业影响看，RSP 也推动了 AI 行业的「治理升级」——OpenAI 在 2024 年也推出了「Preparedness Framework」，Google 推出了「Responsible AI Practices」，都印证了「公司自律」已成为 AI 行业共识。

第三篇、Computer Use 架构深度

第三篇聚焦于 Claude 最具差异化的能力——Computer Use。

这是 2024-10 由 Claude 3.5 Sonnet 首次发布的「桌面级 Agent」能力，让 LLM 第一次能够像人类一样「看懂屏幕、操作桌面」。

从 1.0 到 2.0，Computer Use 的能力大幅提升，从「演示阶段」进入「实用阶段」。

我们将沿着「原理 → 截图理解 → 动作空间 → 训练数据 → Agent 协同」这条主线，深挖 Computer Use 的全栈架构。

Computer Use 不仅是 Claude 的「杀手锏」，更是 LLM 从「对话」走向「行动」的关键跃迁。

从行业影响看，Computer Use 开启了 LLM 应用的新范式——从「聊天机器人」走向「数字员工」，这一变化的影响可能不亚于移动互联网时代从「网页」走向「App」。

3.1 Computer Use 原理：截图 → 动作预测的端到端训练范式

Computer Use 的核心思想是端到端训练——给定一张桌面截图，模型直接预测下一个动作（鼠标点击、键盘输入、滚动等）。

这种范式跳过了传统 GUI 自动化的「DOM 解析 → 元素识别 → 事件触发」流程，让模型像人类一样「看屏幕做动作」。

Claude 3.5 Sonnet 在 2024-10 首次发布 Computer Use 能力时，在 OSWorld 基准上达到 ~30% 通过率；

Claude 4.5 在 2025-09 提升到 ~70%。

这一跃迁的背后是「端到端视觉-动作」训练范式的成功。

从更深的层面看，Computer Use 是「具身智能」（Embodied AI）在数字世界的延伸——模型不再只是「读文字」，而是「看世界、做动作」。

这种范式让 LLM 真正具备了「数字身体」，可以从「思考者」变成「行动者」。

3.1.1 为什么选择截图而非 DOM？

一个自然的问题是：为什么不直接用 DOM（Document Object Model）来操控网页或应用？

Anthropic 选择截图的原因有三：第一，泛化性——截图能处理任何 UI，而 DOM 只能处理 Web 应用。

桌面应用、原生 App、定制软件都没有标准的 DOM 接口。

第二，人类一致性——人类使用计算机就是「看屏幕→操作」，让 LLM 模拟人类行为更自然。

如果用 DOM，模型需要学会一套独立的「DOM 操作语言」，无法与人类行为对齐。

第三，鲁棒性——DOM 会变化（前端更新、CSS 改动），而截图是稳定的视觉表示。

让模型基于「视觉模式」而非「结构化数据」操作，对界面变化更鲁棒。

当然，截图的代价是精度损失——像素级操作不如 DOM 精确，鼠标坐标预测有误差。

这也是 Computer Use 1.0 → 2.0 重点改进的方向。

从工程角度看，DOM 范式和截图范式不是对立的——Anthropic 在 Claude 4.5 中引入了「混合范式」，让模型在 Web 场景下优先使用 DOM，在桌面场景下使用截图。

这种「场景感知」的范式选择是 Computer Use 2.0 的关键优化。

Computer Use 范式对比：截图 vs DOM

截图范式（Computer Use）：
┌─────────┐     ┌──────────┐     ┌──────────┐
│ 桌面截图 │ ─→ │ 视觉编码器 │ ─→ │ 动作预测  │ ─→ click(245, 367)
└─────────┘     └──────────┘     └──────────┘
优点：泛化、人类一致、鲁棒
缺点：像素精度损失

DOM 范式（传统自动化）：
┌─────────┐     ┌──────────┐     ┌──────────┐
│ HTML DOM │ ─→ │ 元素解析  │ ─→ │ 事件触发  │ ─→ click(#submit)
└─────────┘     └──────────┘     └──────────┘
优点：精确、结构化
缺点：仅限 Web、对前端变化敏感

混合范式（未来方向）：
截图 + DOM 同时输入，模型根据场景选择

3.1.2 端到端视觉-动作训练的工程挑战

端到端视觉-动作训练面临多个工程挑战：第一，训练数据规模——需要大量「截图 → 动作」配对数据，Anthropic 估计训练 Computer Use 用了 1M+ 演示数据；

第二，动作空间设计——需要把鼠标键盘操作抽象为离散动作 token；

第三，多步推理——单步预测容易，多步规划难；

第四，错误恢复——预测错误时如何回滚；

第五，长任务稳定性——50+ 步的任务如何保持目标一致。

这些挑战中，「动作空间设计」是最关键的工程——它决定了模型能否「学会」操作计算机。

从训练范式看，Anthropic 借鉴了机器人领域的「Behavior Cloning + Reinforcement Learning」组合——先用人类演示数据训练（Behavior Cloning），再用 AI 反馈优化（RLHF/RLAIF）。

Computer Use 端到端训练流程：

阶段 1: 行为克隆（Behavior Cloning）
  数据: 1M+ 截图-动作配对（人类演示）
  目标: 让模型学会"看到截图 → 预测动作"
  方法: 监督学习，最小化动作预测误差

阶段 2: RLAIF 优化
  数据: AI 反馈的偏好对
  目标: 提升动作质量（精度、效率、鲁棒性）
  方法: PPO 训练，奖励信号来自宪法原则 + 任务完成度

阶段 3: 长任务微调
  数据: 多步任务演示（10-50 步）
  目标: 学会"规划-执行-验证"的循环
  方法: 模仿学习 + RLAIF

阶段 4: 错误恢复训练
  数据: 故意制造错误 + 恢复演示
  目标: 学会"识别错误 + 回退 + 重试"
  方法: 反例学习 + 强化学习

3.1.3 Computer Use 1.0 的局限性

Computer Use 1.0（2024-10）虽然开启了新范式，但仍有显著局限性：第一，动作精度低——鼠标坐标预测误差 ~5 像素，导致点击不准；

第二，多步任务弱——超过 10 步的任务成功率 < 30%；

第三，错误恢复差——遇到弹窗、加载失败等异常容易卡住；

第四，速度慢——单步推理延迟 ~2 秒，难以满足实时操作；

第五，UI 变化敏感——遇到全新 UI 界面需要重新学习。

这些局限性让 Computer Use 1.0 更适合「演示场景」而非「生产场景」。

从用户反馈看，1.0 版本收到了褒贬不一的评价——技术媒体称赞这是「开创性」的能力，企业用户则反馈「实用性不足」。

Anthropic 在 2025 年的 2.0 版本中，针对这些局限性做了大幅优化。

3.1.4 Computer Use 2.0 的能力跃迁

Computer Use 2.0（2025-09）在以下维度大幅提升：第一，动作精度提升 5x——鼠标坐标预测误差从 ~5 像素降到 ~1 像素；

第二，多步任务能力翻倍——50 步任务成功率从 30% 提升到 75%；

第三，错误恢复机制完善——遇到异常能自动重试或回退；

第四，推理速度提升 3x——单步推理延迟从 2 秒降到 0.6 秒；

第五，UI 适应能力增强——能在 70% 的未见 UI 上完成任务。

这些提升让 Computer Use 2.0 真正进入「实用阶段」——企业可以放心地把桌面操作交给 Claude。

从工程角度看，2.0 的提升来自三个关键改造：(1) 视觉编码器分辨率从 1024 提升到 2048，让小元素识别更准确；

(2) 动作预测模型增加「亚像素精修」模块，把粗预测精确到像素级；

(3) 训练数据规模从 1M 扩展到 5M+ 演示，覆盖更多 UI 场景。

3.2 截图理解模型：屏幕 tokenization 与视觉编码器

Computer Use 的核心是「看懂屏幕」——把截图转换为模型可理解的 token 序列。这一过程涉及三个关键步骤：图像切分（patch extraction）、视觉编码（ViT encoding）、多模态融合（multimodal fusion）。Anthropic 在 Claude 3.5 Sonnet 中首次实现了「屏幕 tokenization」，在 Claude 4.5 中进一步优化。本节将深入剖析屏幕理解模型的设计哲学与工程实现。屏幕理解模型的关键挑战是「高分辨率 + 小元素识别」——UI 截图往往包含大量小元素（按钮、图标、文字），需要高分辨率才能识别；同时，全图处理又面临计算成本压力。Anthropic 的解决方案是「动态分辨率 + 多尺度融合」。

3.2.1 屏幕 tokenization：把截图变成 token 序列

屏幕 tokenization 是 Computer Use 的第一步——把像素级的截图转换为模型可理解的 token 序列。

具体流程：(1) 图像预处理——缩放到固定尺寸（如 1920x1080）；

(2) 切分 patch——按 14x14 像素切分，得到 ~ 140x77 个 patch；

(3) ViT 编码——每个 patch 通过 ViT 转换为 embedding；

(4) 投影到 LLM 空间——通过线性投影把视觉 embedding 映射到 LLM 的 token 空间。

整个过程输出 ~10K 个视觉 token，与 LLM 的文本 token 拼接后输入 Transformer。

这种 tokenization 让 LLM 能「看到」屏幕内容。

从工程角度看，屏幕 tokenization 的关键是「token 数 vs 精度的权衡」——token 数越多，模型看到的细节越多，但计算成本越高。

Anthropic 通过「动态分辨率」机制，让不同区域采用不同 token 数（UI 元素密集区 token 多，空白区 token 少）。

屏幕 tokenization 流程：

1. 图像预处理
   输入: 桌面截图 (1920x1080)
   预处理: 缩放、归一化、增强对比度

2. 切分 patch
   patch_size = 14
   grid_h = 1080 / 14 ≈ 77
   grid_w = 1920 / 14 ≈ 137
   total_patches ≈ 10,549

3. ViT 编码
   model = ViT-24 (24 层 Transformer)
   hidden_dim = 1024
   output: [10549, 1024] tensor

4. 投影到 LLM 空间
   proj = Linear(1024, 12288)  # LLM hidden_dim
   output: [10549, 12288] tensor

5. 与文本 token 拼接
   visual_tokens = proj(viT(patches))  # [10549, 12288]
   text_tokens = embed(text_input)     # [text_len, 12288]
   all_tokens = concat(visual_tokens, text_tokens)  # [10549+text_len, 12288]

6. 输入 LLM
   llm(all_tokens) → logits

3.2.2 视觉编码器：ViT 架构的选择

视觉编码器选择了 Vision Transformer (ViT) 而非传统的 CNN。

ViT 在 LLM 时代成为视觉编码的事实标准——它的 Transformer 结构与 LLM 完全兼容，可以无缝拼接。

Anthropic 选择了 24 层 ViT（ViT-24），hidden_dim=1024。

这个规模比 GPT-4V 的 ViT 略大，能捕捉更多视觉细节。

从训练范式看，ViT 的训练数据包括：(1) 通用图像数据——ImageNet、COCO 等；

(2) UI 截图数据——Anthropic 内部合成的桌面截图；

(3) 文档图像数据——扫描件、PDF 等。

这种「通用+专用」的混合训练让 ViT 既能理解「一般图像」，也能识别「UI 元素」。

从工程角度看，ViT 的训练与 LLM 是「端到端联合训练」——视觉编码器和语言模型一起优化，确保视觉特征与文本语义对齐。

3.2.3 多模态对齐：让视觉与文本"说同一种语言"

多模态对齐是 Computer Use 的核心挑战——视觉编码器输出「视觉 token」，LLM 输出「文本 token」，两者必须在同一语义空间。

Anthropic 的解决方案是联合训练 + 对比学习：(1) 联合训练——视觉编码器和 LLM 一起优化，端到端学习跨模态语义；

(2) 对比学习——通过 CLIP-style 训练，让匹配的「截图-文本」对在 embedding 空间相近，不匹配的远离。

这种对齐让模型能理解「截图中的按钮对应文本描述中的'提交'按钮」。

从工程角度看，对齐训练需要大量「图文配对」数据——Anthropic 合成了 10M+ 的「UI 截图 + UI 元素文本描述」配对，让 ViT 和 LLM 学会对齐。

这种对齐是 Computer Use 能工作的基础——没有对齐，模型就无法把视觉元素映射到语义概念。

3.2.4 动态分辨率：平衡精度与成本

UI 截图的特点是「信息密度不均」——某些区域（如菜单、按钮区）信息密集，某些区域（如背景）信息稀疏。

统一分辨率处理会导致「稀疏区域浪费 token、密集区域 token 不足」。

Anthropic 引入了动态分辨率机制：(1) 关键区域（如按钮、图标、文字）使用高分辨率，分配更多 token；

(2) 稀疏区域（如空白背景）使用低分辨率，分配更少 token；

(3) 整体保持固定 token 总数（如 10K），通过分配策略优化精度。

这种「自适应分辨率」比 GPT-4V 的「统一分辨率」更精细，让 Computer Use 2.0 在小元素识别上明显优于 GPT-4V。

从工程角度看，动态分辨率的实现是「图像分割 + 重要性评分」——先用显著性检测找出关键区域，再对不同区域分配不同分辨率。

这种机制让 Computer Use 在 2048x2048 的高分辨率下仍能保持较低的计算成本。

动态分辨率策略：

1. 显著性检测
   - 用显著性模型识别关键区域
   - 输出：关键区域 bounding box

2. 区域划分
   - 高密度区：按钮、图标、文字 → 2048x2048
   - 中密度区：图片、表格 → 1024x1024
   - 低密度区：背景、空白 → 512x512

3. Patch 分配
   - 高密度区：256 patch
   - 中密度区：64 patch
   - 低密度区：16 patch
   - 总 token：~ 3000-5000 (取决于密度分布)

4. 关键优化
   - 高密度区优先保证精度
   - 低密度区通过降低分辨率节省 token
   - 整体保持推理延迟可控

3.3 工具调用与动作空间：鼠标键盘的离散动作建模

Computer Use 的另一核心是「动作空间」设计——把鼠标键盘操作抽象为模型可预测的离散动作。这一设计直接决定了模型的「操作能力」——动作空间越精细，模型能执行的操作越复杂。Anthropic 在 Computer Use 1.0 中设计了基础动作空间（点击、双击、键盘输入等），在 2.0 中扩展为包含「拖拽、滚动、悬停、组合键」等的完整动作集。本节将剖析动作空间设计的工程权衡。动作空间的设计是 Computer Use 工程中最具挑战性的部分之一——它需要在「表达能力」（支持复杂操作）和「训练可行性」（每个动作都有足够训练数据）之间找到平衡。

3.3.1 动作 tokenization：把鼠标键盘变成 token

动作 tokenization 把鼠标键盘操作转换为 LLM 可预测的离散 token。

具体设计：(1) 鼠标动作——click(x, y)、double_click(x, y)、right_click(x, y)、scroll(dx, dy)、drag(x1, y1, x2, y2)；

(2) 键盘动作——type(text)、press(key)、hotkey(key1+key2)；

(3) 辅助动作——wait(ms)、screenshot()、done()。

每个动作被编码为特殊的 token 序列，例如 click(245, 367) 被编码为 [CLICK, X=245, Y=367]。

这种 tokenization 让 LLM 学会「生成动作 token」，就像生成文本 token 一样。

从工程角度看，动作 tokenization 的关键是「坐标精度 vs token 长度」——坐标精度越高，token 长度越长（需要更多位表示坐标）。

Anthropic 在 2.0 中引入了「亚像素精度」机制，把坐标精度从 1 像素提升到 0.1 像素，token 长度只增加 1 位。

Computer Use 动作空间定义：

# 鼠标动作
class MouseAction:
    click: Tuple[int, int]      # 单击，坐标 (x, y)
    double_click: Tuple[int, int] # 双击
    right_click: Tuple[int, int]  # 右键
    move: Tuple[int, int]         # 移动光标
    scroll: Tuple[int, int]       # 滚动，dx/dy
    drag: Tuple[Tuple[int,int], Tuple[int,int]]  # 拖拽

# 键盘动作
class KeyboardAction:
    type: str                     # 输入文本
    press: str                    # 按键
    hotkey: List[str]             # 组合键

# 辅助动作
class AuxAction:
    wait: int                     # 等待 ms
    screenshot: bool              # 主动截图
    done: bool                    # 任务完成

# 完整动作示例
action = click(x=245, y=367)
token = encode(action)  # [CLICK, X=245, Y=367]

3.3.2 动作空间的设计哲学：精细度 vs 可学性

动作空间的设计面临「精细度 vs 可学性」的权衡。

精细度上，需要支持复杂操作（如拖拽、组合键、滚动），让模型能完成多样化任务。

可学性上，每个动作需要有足够训练数据，避免「长尾动作」（罕见动作）训练不足。

Anthropic 的设计哲学是「基础动作 + 组合能力」——只设计少量基础动作（~10 种），通过组合实现复杂操作。

例如，「全选+删除」可以由 hotkey(['ctrl', 'a']) + press('delete') 组合实现，不需要专门设计「select_all_and_delete」动作。

这种设计哲学与 Unix「组合小程序」哲学类似——用少量原语组合出无限可能。

从训练数据看，Anthropic 合成了 5M+ 动作演示，覆盖所有基础动作及其常见组合。

3.3.3 坐标预测：从粗到精的渐进优化

鼠标坐标预测是 Computer Use 中最具技术挑战的部分。

给定一张截图，模型需要预测「点击哪个坐标」。

这一任务比图像分类难——需要精确到像素级。

Anthropic 采用了「从粗到精」的渐进优化策略：(1) 粗预测——先用整图 ViT 编码，预测大致区域（如「在屏幕中央偏左」）；

(2) 区域放大——把粗预测区域放大 2-4x，重新 ViT 编码；

(3) 精预测——在放大区域上预测精确坐标；

(4) 亚像素精修——用回归模型把整数坐标修正为浮点坐标。

这种「从粗到精」的策略让 Computer Use 2.0 的坐标误差从 5 像素降到 1 像素以下。

从工程角度看，粗预测阶段使用整图编码，精度 ~50 像素；

精预测阶段使用区域编码，精度 ~5 像素；

亚像素精修阶段使用回归模型，精度 ~0.5 像素。

坐标预测的三阶段优化：

阶段 1: 粗预测 (整图编码)
  输入: 整图 [1920, 1080, 3]
  模型: ViT-24
  输出: 粗坐标 (cx, cy), 误差 ~50px

阶段 2: 区域放大 + 精预测
  输入: 粗坐标周围的 200x200 区域，放大 4x
  模型: ViT-12 (更小，更快)
  输出: 精坐标 (fx, fy), 误差 ~5px

阶段 3: 亚像素精修
  输入: 精坐标周围的 14x14 patch
  模型: 回归网络
  输出: 浮点坐标 (sx, sy), 误差 <0.5px

最终坐标 = (cx + fx + sx, cy + fy + sy)
总误差 < 1 像素

3.3.4 组合动作：实现复杂操作的「技能库」

例如，「在浏览器中搜索」需要：(1) click 地址栏 → (2) type URL → (3) press Enter → (4) wait → (5) screenshot。

这种组合动作的难点是「动作间的依赖关系」——后续动作依赖前序动作的结果。

Anthropic 通过动作模板解决这一问题：预定义常见任务的「动作序列模板」，让模型学会「按模板执行」。

例如，「浏览器搜索」模板：[click_address_bar, type_url, press_enter, wait, screenshot]。

模型在识别任务类型后，调用对应模板，按步骤执行。

这种「模板化」设计让 Computer Use 能处理复杂的现实任务。

从工程角度看，Anthropic 在 2025 年构建了 ~500 个动作模板，覆盖了 80% 的常见桌面任务。

3.4 训练数据合成的工程挑战：OSWorld / WebArena 等基准的环境构造

Computer Use 的训练数据合成是整个系统的工程难点。Computer Use 需要「截图-动作」配对数据，但现实世界中这种数据极其稀缺——人类操作计算机的过程通常不被记录。Anthropic 通过大规模合成数据解决了这一难题：构建 OSWorld、WebArena 等基准环境，让人类操作员在受控环境中执行任务，记录截图-动作配对。本节将深入剖析训练数据合成的工程挑战与解决方案。训练数据合成是 Computer Use 成功的关键因素——没有高质量的合成数据，端到端训练无从谈起。

3.4.1 OSWorld 基准：真实桌面任务的标准化测试

OSWorld 是 2024 年由 Anthropic 与多所大学合作推出的桌面任务基准，包含 500+ 真实桌面任务，覆盖办公、编程、文件管理、浏览器使用等场景。

每个任务包含：(1) 任务描述（如「在 GIMP 中调整图片亮度」）；

(2) 初始截图（任务开始时的桌面状态）；

(3) 期望截图（任务完成时的桌面状态）；

(4) 期望动作序列（人类操作员的标准动作流）。

OSWorld 成为 Computer Use 训练和评估的标准基准——Anthropic、OpenAI、Google 等公司都用 OSWorld 评估模型能力。

从工程角度看，OSWorld 的关键设计是「任务多样化」——任务覆盖 10+ 应用、20+ 操作类型、5+ 难度等级，让 Computer Use 在多样化场景中得到训练。

OSWorld 基准任务示例：

任务 1: 在 GIMP 中调整图片亮度
  初始: 打开一张暗淡图片
  操作:
    1. 点击 Colors 菜单
    2. 选择 Brightness-Contrast
    3. 调整亮度滑块到 +50
    4. 点击 OK
  验证: 图片亮度提升

任务 2: 在 VS Code 中保存所有文件
  初始: 打开 3 个修改过的文件
  操作:
    1. 按 Ctrl+K
    2. 按 Ctrl+S (Save All)
  验证: 所有文件已保存

任务 3: 在浏览器中登录 Gmail
  初始: 打开 Gmail 登录页
  操作:
    1. 点击邮箱输入框
    2. type("user@example.com")
    3. 点击下一步
    4. 点击密码输入框
    5. type("password")
    6. 点击登录
  验证: 进入收件箱

任务统计:
  - 总任务: 500+
  - 应用覆盖: GIMP, VS Code, LibreOffice, Chrome, Files, Terminal
  - 操作类型: 100+ (点击、输入、滚动、拖拽、组合键)
  - 难度等级: 5 (Easy, Medium, Hard, Expert, Master)

3.4.2 训练数据合成的三种方法

Anthropic 在训练数据合成上使用了三种方法：第一，人类演示——雇佣人类操作员在 OSWorld 中完成任务，记录截图-动作配对。

这种数据质量最高，但成本也最高（~$30/小时）。

第二，程序化合成——用脚本自动生成简单任务的数据（如「点击屏幕中心」「输入文本 ABC」），覆盖基础动作。

第三，AI 合成——用 Claude 自身生成复杂任务的「伪演示」，再由人类审核。

这种 AI 合成大幅降低了成本——生成成本从 $30/小时降到 $0.50/小时。

从工程角度看，三种方法的组合使用是关键——人类演示保证质量，程序化合成保证覆盖，AI 合成保证规模化。

Anthropic 的训练数据中，人类演示占 30%、程序化合成占 50%、AI 合成占 20%。

3.4.3 训练数据增强：让模型学会"举一反三"

即使有 5M+ 演示数据，覆盖所有 UI 场景也是不可能的。

Anthropic 通过多种数据增强策略提升泛化性：(1) UI 变体生成——同一任务在不同 UI 主题下生成多份数据；

(2) 分辨率扰动——同一截图在不同分辨率下训练；

(3) 光照扰动——改变截图亮度、对比度；

(4) 动作扰动——给同一任务的多种合法动作流，让模型学会"殊途同归"。

这些增强让 Computer Use 在面对未见 UI 时仍能完成任务。

从工程角度看，数据增强的关键是「保任务语义不变」——同一任务的多份数据应该在任务层面等价，只是表层形式不同。

这要求数据增强算法理解任务语义，而非简单的像素变换。

训练数据增强策略：

1. UI 变体生成
   - 同一应用不同主题（Dark/Light/Custom）
   - 同一应用不同版本（v1.0 / v2.0 / v3.0）
   - 同一任务不同窗口位置

2. 分辨率扰动
   - 1920x1080 / 1366x768 / 2560x1440
   - 高 DPI / 低 DPI 屏幕
   - 多显示器配置

3. 光照扰动
   - 亮度 ±20%
   - 对比度 ±15%
   - 色彩平衡调整

4. 动作扰动
   - 同一任务多种合法动作流
   - 鼠标 vs 键盘完成同一操作
   - 不同点击位置（只要在元素内即可）

增强效果：
- 训练数据量从 5M 提升到 50M+
- 模型对未见 UI 的适应能力提升 40%
- 错误率降低 25%

3.4.4 RLAIF 在 Computer Use 中的应用

RLAIF 在 Computer Use 训练中扮演关键角色。

Computer Use 的动作质量评估比文本质量评估更难——一个动作「对不对」取决于：(1) 是否完成任务；

Anthropic 设计了多维度 RLAIF：(1) 任务完成度——动作序列是否最终完成任务；

(2) 路径效率——动作步骤数是否最优；

(3) 错误恢复能力——遇到错误时是否能恢复；

(4) 宪法符合度——动作是否违反安全规则。

多维度反馈让模型学会「又快又好又安全」地完成任务。

从工程角度看，Computer Use 的 RLAIF 反馈生成是「混合模式」——任务完成度由规则系统自动判断（对比最终截图），路径效率和错误恢复由 Claude 自身评估（自我反馈），宪法符合度由宪法模型评估。

这种「混合反馈」机制让 RLAIF 在 Computer Use 中比在纯文本任务中更有效。

3.5 Agentic 执行循环：Planner / Executor / Reflector 多 Agent 协同架构

Computer Use 不只是「看屏幕做动作」的单步模型，而是一个多 Agent 协同的系统。完整的 Computer Use 任务执行需要 Planner（规划者）、Executor（执行者）、Reflector（反思者）三个角色的协同。这种「多 Agent 协同」架构是 Anthropic 在 2025 年提出的 Agent 范式，让 Computer Use 能处理复杂的长任务。本节将剖析 Agentic 执行循环的设计哲学与工程实现。从更宏观的视角看，多 Agent 协同是 LLM 从「单兵作战」走向「团队作战」的标志性范式转变——这与软件工程从「单体应用」走向「微服务架构」的演进类似。

3.5.1 Planner：任务规划者

Planner 负责「把大任务拆解为小步骤」。

给定用户指令（如「在 Excel 中汇总销售数据并生成图表」），Planner 输出「执行计划」：步骤列表 + 步骤间依赖关系。

Planner 通常基于「任务分解」+「HTN 规划」+「LLM 生成」组合实现：(1) 任务分解——把大任务拆解为子任务；

(2) HTN 规划——把子任务分解为原始动作；

(3) LLM 生成——用 LLM 理解任务并生成计划。

Anthropic 的 Planner 使用 Claude Opus 4.5 作为基础模型——它具备强大的推理能力，能生成高质量的计划。

从工程角度看，Planner 的关键是「计划的正确性」——错误的计划会导致整个任务失败。

Anthropic 通过「计划验证 + 回退机制」保证 Planner 的鲁棒性。

Planner 工作流程：

输入: 用户指令
  "在 Excel 中汇总销售数据并生成图表"

输出: 执行计划
  Step 1: 打开 Excel
  Step 2: 打开 sales_2024.xlsx
  Step 3: 选中 A1:D100 区域
  Step 4: 点击 Insert → Pivot Table
  Step 5: 配置 Pivot Table 字段
  Step 6: 生成透视表
  Step 7: 选中透视表数据
  Step 8: 插入图表
  Step 9: 保存文件

实现:
  planner = PlannerAgent(model="claude-opus-4.5")
  plan = planner.generate(user_instruction)
  # 输出结构化 JSON 描述执行计划

计划验证:
  - 检查步骤完整性（是否覆盖所有子目标）
  - 检查步骤依赖性（依赖关系是否合理）
  - 检查步骤可执行性（动作是否在能力范围内）

3.5.2 Executor：动作执行者

Executor 负责「按计划执行动作」。

给定 Planner 输出的步骤列表，Executor 一步步执行：(1) 截图当前屏幕 → (2) Computer Use 预测下一个动作 → (3) 执行动作 → (4) 验证结果。

Executor 通常基于 Computer Use 主模型实现，每步调用一次模型。

在 Computer Use 2.0 中，Executor 还引入了「并发执行」机制——独立步骤可以并行执行（如「同时下载多个文件」）。

从工程角度看，Executor 的关键是「错误处理」——每个动作都可能失败（点击不准、网络超时、应用崩溃），需要 catch exception 并触发 Reflector。

从系统设计看，Executor 与 Planner、Reflector 之间通过共享内存通信——执行状态、上下文、中间结果都保存在共享内存中，让三个 Agent 能协同。

3.5.3 Reflector：结果反思者

Reflector 负责「评估执行结果并反馈改进」。给定执行前后的截图对比，Reflector 判断：(1) 动作是否成功执行（点击是否点中目标、输入是否正确等）；(2) 任务是否按计划推进；(3) 是否需要回退或调整。Reflector 是 Computer Use 实现「错误恢复」的关键——它能在动作失败时及时发现并触发回退。从实现角度看，Reflector 通常基于「对比学习」+「规则引擎」实现：(1) 对比学习——判断动作前后截图的差异是否符合预期；(2) 规则引擎——检测异常模式（如「预期出现对话框，但实际无响应」）。Anthropic 在 Claude 4.5 中引入了「主动反思」机制——Reflector 不只在动作后反思，还在动作前预测「这个动作可能失败」，提前规避风险。

Reflector 工作流程：

输入: 执行前截图、执行后截图、预期结果

判断逻辑:
  1. 视觉对比: diff(screenshot_before, screenshot_after)
  2. 语义检查: 变化是否符合预期
  3. 异常检测: 是否出现意外状态

输出:
  - status: success | failure | partial
  - feedback: 失败原因（如"点击位置错误"）
  - action: retry | rollback | replan

示例:
  # 案例 1: 成功
  before: 空白页面
  action: click(address_bar)
  after: 地址栏获得焦点
  reflector: status=success

  # 案例 2: 失败（点击位置错误）
  before: 搜索按钮
  action: click(245, 367)
  after: 点击了相邻的"清除"按钮
  reflector: status=failure,
             feedback="点击位置偏离目标",
             action=retry

  # 案例 3: 部分成功（应用卡顿）
  before: 加载中
  action: click(submit)
  after: 仍然加载中（应用卡顿）
  reflector: status=partial,
             feedback="应用未响应",
             action=wait_and_retry

3.5.4 三 Agent 协同：从理论到实践

Planner / Executor / Reflector 三 Agent 的协同是 Computer Use 2.0 的核心架构。

协同的关键是「通信机制」+「状态共享」：(1) 通信机制——三个 Agent 通过消息队列通信，每个 Agent 输出结构化消息，下游 Agent 消费；

(2) 状态共享——所有 Agent 共享一个全局状态（执行步骤、中间结果、错误日志）。

这种设计让三 Agent 能像「团队」一样协同工作。

从工程角度看，三 Agent 协同带来「性能开销」——每步动作需要 Planner + Executor + Reflector 三个推理调用，延迟增加 3x。

Anthropic 通过「异步执行 + 智能缓存」优化——Planner 提前生成多个步骤，Executor 并行执行，Reflector 批量验证。

这种优化让三 Agent 协同的实际延迟接近单 Agent。

从更宏观的视角看，三 Agent 协同是 LLM 走向「Agent Society」的第一步——未来的 Agent 系统可能由数十个甚至数百个 Agent 协同组成，每个 Agent 负责不同的子任务。

3.1.5 Computer Use 的误差传播与缓解

Computer Use 的端到端范式存在「误差传播」问题——每一步动作的微小误差会累积，最终导致任务失败。

例如，鼠标坐标 1 像素的误差，在 50 步任务中可能累积到 50 像素，足以让点击「脱靶」。

Anthropic 通过多种机制缓解：(1) 精度提升——从像素级提升到亚像素级；

(2) 误差校验——每步动作后检查结果，发现错误立即回退；

(3) 重试机制——失败动作自动重试 3 次；

(4) 多模态融合——结合视觉、文本、结构化信息减少误差；

(5) 学习反馈——从错误中学习，更新模型参数。

这些机制让 Computer Use 2.0 的任务成功率从 30% 提升到 70%。

从工程角度看，误差传播是端到端系统的「原罪」——任何端到端系统都无法完全避免误差累积，只能通过「精度提升 + 错误恢复 + 学习反馈」组合缓解。

3.1.6 Computer Use 的延迟优化：从秒级到亚秒级

Computer Use 的延迟是用户体验的关键瓶颈。

Computer Use 1.0 的单步延迟约 2 秒，50 步任务需要 100 秒（1.7 分钟），用户体验较差。

Computer Use 2.0 通过多种优化把单步延迟降到 0.6 秒，50 步任务只需 30 秒，体验大幅提升。

优化手段包括：(1) 模型蒸馏——用大模型蒸馏小模型，推理速度提升 5x；

(2) 投机解码——用小模型预测 token，大模型验证，加速生成；

(3) 并行计算——视觉编码、动作预测、坐标精修并行执行；

(4) 缓存复用——相同 UI 元素的视觉编码缓存复用。

这些优化让 Computer Use 2.0 进入「实用阶段」。

从工程角度看，延迟优化的本质是「计算并行化」——把串行任务拆分为并行任务，让 GPU 利用率最大化。

Computer Use 延迟优化技术：

1. 模型蒸馏
   - Teacher: Claude Opus 4.5 (~500B)
   - Student: Computer Use 模型 (~50B)
   - 速度提升: 5x
   - 精度损失: < 3%

2. 投机解码
   - 草稿模型: Llama-7B
   - 验证模型: Computer Use 模型
   - 加速效果: 2-3x

3. 并行计算
   - 视觉编码 || 动作预测 || 坐标精修
   - 串行 -> 并行
   - 加速效果: 2x

4. 缓存复用
   - UI 元素视觉编码缓存
   - 缓存命中率: ~40%
   - 加速效果: 1.5x

综合优化效果:
- 1.0 单步: 2s
- 2.0 单步: 0.6s (3.3x 加速)
- 50 步任务: 100s -> 30s

3.2.5 视觉编码器的训练数据：从通用到专用

视觉编码器的训练数据经历了从「通用」到「专用」的演进。

早期 ViT（如 ViT-L/14）主要在 ImageNet 等通用图像数据上训练，对 UI 截图理解能力弱。

Computer Use 专用的 ViT 在通用图像基础上，加入了大规模 UI 截图数据：(1) 合成 UI 截图——Anthropic 内部合成 10M+ UI 截图，覆盖各种应用、主题、分辨率；

(2) 真实 UI 截图——从开源 UI 数据集（如 RICO、Enrico）获取；

(3) UI 元素标注——人工标注 UI 元素的类型、位置、文本；

(4) UI 操作配对——截图-动作配对数据，让 ViT 学会「理解 UI」。

这种「通用+专用」的训练数据让 Computer Use 的 ViT 既能理解一般图像，又能识别 UI 元素。

从工程角度看，「通用+专用」的混合训练是视觉模型的主流范式——既要保证通用理解能力，又要提升专业场景表现。

3.3.5 动作空间的兼容性设计：跨平台一致

Computer Use 的动作空间需要「跨平台一致」——同一个 click(x, y) 动作在 Windows、macOS、Linux 上应该执行相同的结果。

这种「跨平台一致性」是 Computer Use 工程的关键挑战。

Anthropic 通过「抽象层 + 适配层」两层设计实现：(1) 抽象层——定义统一的动作接口（click、type、scroll 等），不绑定具体平台；

(2) 适配层——为每个平台实现具体适配（macOS 用 AppleScript、Windows 用 PowerShell、Linux 用 xdotool）。

这种「抽象+适配」的两层设计让 Computer Use 能跨平台运行，同时保持动作接口的一致性。

从工程角度看，这种设计与操作系统的「系统调用」设计哲学类似——系统调用是统一的抽象接口，内核为不同硬件提供具体实现。

3.4.5 数据合成的法律合规挑战

Computer Use 训练数据合成面临法律合规挑战。

OSWorld 等基准中的截图往往来自商业软件（Photoshop、Excel、VS Code 等），使用这些截图训练可能涉及版权问题。

Anthropic 通过以下方式解决：(1) 数据脱敏——移除所有个人信息和敏感内容；

(2) 合理使用——训练属于「合理使用」范畴，不构成侵权；

(3) 授权合作——与部分软件厂商达成授权协议；

(4) 合成数据——优先使用合成截图，减少真实软件依赖。

从合规角度看，Anthropic 的策略比 OpenAI 更保守——OpenAI 在 GPT-4o 训练中大量使用未授权数据，面临多次诉讼；

Anthropic 通过「合理使用 + 授权合作 + 合成数据」组合，规避了类似风险。

这种「保守合规」策略让 Anthropic 在企业市场获得了 OpenAI 难以复制的合规优势。

3.5.5 Planner / Executor / Reflector 的容错设计

Planner / Executor / Reflector 三 Agent 协同系统的容错设计是关键工程挑战。

任意一个 Agent 故障都可能导致整个任务失败。

Anthropic 通过多层容错机制保证系统鲁棒性：(1) Agent 健康检查——定期检查每个 Agent 的健康状态；

(2) 故障切换——Agent 故障时自动切换到备用 Agent；

(3) 状态快照——定期保存全局状态，故障后从快照恢复；

(4) 降级运行——某个 Agent 故障时，系统降级为单 Agent 运行；

(5) 人工介入——关键故障时触发人工介入。

从工程角度看，多 Agent 系统的容错设计是「分布式系统」思想的应用——任何分布式系统都需要「冗余、检测、恢复、隔离」四个机制，Computer Use 也不例外。

第四篇、训练与对齐工程

第四篇聚焦于 Anthropic 的训练与对齐工程基础设施。从 GPU 集群到 RL 框架，从 Constitutional RLHF 到可解释性研究，从安全评估到 Responsible Scaling Policy，Anthropic 在工程层面的投入是其「安全优先」哲学的物理基础。本篇将沿着「基础设施 → 对齐工程 → 可解释性 → 安全评估」这条主线，解构 Anthropic 的训练工程全景。Anthropic 的训练基础设施在 2023-2025 年间经历了从「租用云」到「自建集群」的转变——Dario Amodei 在 2024 年的访谈中提到，Anthropic 在 AWS 和 GCP 上构建了超过 100 万块 H100 的算力集群，是当时规模最大的 LLM 训练集群之一。

4.1 训练基础设施：Megatron-LM/Hybrid 架构与定制化 GPU 集群

Anthropic 的训练基础设施基于 Megatron-LM 框架，并做了大量定制化改造以适应 Claude 的训练需求。

Megatron-LM 是 NVIDIA 推出的分布式训练框架，Anthropic 在其基础上加入了：(1) 混合精度训练——FP16 + FP32 混合，兼顾速度和精度；

(2) 张量并行——把模型切分到多张 GPU；

(3) 流水线并行——把不同层分配到不同 GPU；

(4) 数据并行——多份数据并行训练。

这种「3D 并行」是当前大模型训练的标准范式。

从硬件层面看，Anthropic 在 AWS 和 GCP 上构建了超过 100 万块 H100 的训练集群——这是 2024-2025 年规模最大的 LLM 训练集群之一。

本节将剖析 Anthropic 训练基础设施的设计哲学与工程实现。

4.1.1 训练集群架构：AWS + GCP 双供应商策略

Anthropic 采用 AWS + GCP 双供应商策略，避免对单一云厂商的依赖。

这种「多云」策略有三个好处：(1) 风险分散——单云故障不会影响训练；

(2) 议价能力——多云供应商竞争让 Anthropic 获得更优惠的价格；

(3) 地域覆盖——AWS 在 us-east-1，GCP 在 us-central1，地理冗余提升容灾能力。

从集群规模看，Anthropic 在 2024 年构建了 ~500K H100 等效算力，2025 年扩展到 ~1M H100。

这一规模让 Anthropic 具备了「一次训练 Claude 4 级别模型」的算力冗余。

从工程角度看，Anthropic 的集群管理基于 Kubernetes + Slurm——Kubernetes 管理容器化训练任务，Slurm 管理 GPU 调度。

这种「K8s + Slurm」混合架构是 LLM 训练集群的事实标准。

Anthropic 训练集群架构（推测）：

┌──────────────────────────────────────────┐
│  Cloud Layer                              │
│  ├── AWS (us-east-1, us-west-2)           │
│  └── GCP (us-central1, europe-west4)      │
├──────────────────────────────────────────┤
│  Orchestration Layer                      │
│  ├── Kubernetes (容器编排)               │
│  ├── Slurm (GPU 调度)                   │
│  └── Argo (工作流)                       │
├──────────────────────────────────────────┤
│  Training Layer                           │
│  ├── Megatron-LM (核心框架)             │
│  ├── Hybrid Engine (Anthropic 定制)      │
│  ├── 3D Parallelism                       │
│  │   ├── Tensor Parallel (TP=8)         │
│  │   ├── Pipeline Parallel (PP=16)      │
│  │   └── Data Parallel (DP=64)           │
│  └── Activation Checkpointing            │
├──────────────────────────────────────────┤
│  Hardware Layer                           │
│  ├── GPU: H100 / H200                    │
│  ├── Network: 400Gbps InfiniBand         │
│  └── Storage: 100PB+ NVMe                │
└──────────────────────────────────────────┘

集群规模:
- GPU: ~1M H100 等效
- 网络: 400Gbps InfiniBand 全互联
- 存储: 100PB+ NVMe
- 算力: ~10 ExaFLOPS (FP16)
- 单次训练: 5-30 天

4.1.2 Hybrid Engine：Anthropic 的定制化训练框架

Megatron-LM 虽然强大，但 Anthropic 在 Claude 训练中做了大量定制化改造——形成了内部的 Hybrid Engine。

Hybrid Engine 的核心创新是动态并行策略：(1) 自适应 TP——根据 GPU 数量动态调整张量并行度；

(2) 流水线优化——减少 pipeline bubble，提升 GPU 利用率；

(3) 内存优化——Activation Checkpointing + ZeRO-Offload，让 1T 参数模型也能在 1K GPU 上训练；

(4) 通信优化——梯度压缩 + 异步通信，减少通信开销。

从工程角度看，Hybrid Engine 让 Anthropic 的训练效率比标准 Megatron-LM 提升 ~30%——同样的算力，能训练更大的模型或训练更长时间。

这种「工程优化驱动」的路线与 OpenAI 的「堆算力」路线形成对比。

4.1.3 数据流水线：从原始数据到训练就绪

训练数据流水线是 Claude 训练的另一关键基础设施。

Anthropic 构建了从「原始数据」到「训练就绪」的全自动化流水线：(1) 数据采集——从 Common Crawl、GitHub、arXiv 等数据源采集；

(2) 数据过滤——URL 黑名单、关键词过滤、文档分类器；

(3) 数据去重——MinHash + SimHash 去重，避免数据污染；

(4) 数据质量评分——用 perplexity 评估文档质量；

(5) 数据混合——按比例混合不同类型数据；

(6) 数据打包——把数据打包成训练 batch。

整个流水线日处理 ~100TB 数据，输出 ~1TB 训练就绪数据。

从工程角度看，数据流水线的关键是「质量 vs 数量」的平衡——过滤太严会丢失数据，过滤太松会引入噪声。

Anthropic 通过「多级过滤 + 人工抽样」实现平衡。

4.1.4 训练稳定性：避免「训练崩溃」

大模型训练最大的风险是「训练崩溃」——loss spike、Nan/Inf 梯度、硬件故障等都可能导致训练中断，每次中断都意味着数百万美元的算力损失。

Anthropic 在训练稳定性上做了大量工程：(1) Loss spike 检测——实时监控 loss，发现 spike 立即回滚到上一个 checkpoint；

(2) 梯度裁剪——限制梯度范数，避免梯度爆炸；

(3) 硬件冗余——GPU 故障自动切换，存储多副本；

(4) Checkpoint 高频保存——每 100 步保存一次，崩溃后可快速恢复；

(5) 健康检查——训练前检测硬件、网络、存储状态。

这些工程让 Anthropic 的训练稳定性达到「99% 成功率」——一次 30 天的训练，平均只会发生 0-1 次中断。

从商业角度看，训练稳定性的提升直接转化为「成本节约」——一次中断恢复成本约 $50 万-100 万，避免 1 次中断就相当于多训练 1 天。

Anthropic 训练稳定性保障：

1. Loss Spike 检测
   - 实时监控 loss
   - Spike 阈值: loss > mean + 3*std
   - 触发: 自动回滚到上一个 checkpoint

2. 梯度裁剪
   - max_grad_norm = 1.0
   - 避免梯度爆炸

3. 硬件冗余
   - GPU 故障: 自动切换到备用 GPU
   - 网络故障: 切换到备用网络
   - 存储多副本: 3 副本保证数据可靠性

4. Checkpoint 高频保存
   - 每 100 步保存一次
   - Checkpoint 包含: model, optimizer, scheduler, scaler
   - 崩溃恢复: 从最近 checkpoint 继续训练

5. 健康检查
   - 训练前: GPU、网络、存储全检
   - 训练中: 每小时抽样检查
   - 训练后: 完整性验证

训练成功率: 99%+

4.2 Constitutional RLHF：规则模型驱动的安全对齐

Constitutional RLHF（基于规则模型的 RLHF）是 Anthropic 在 2024 年提出的对齐方法，结合了 Constitutional AI 的「规则」与 RLHF 的「强化学习」。

具体做法是：用 Constitutional AI 的反馈模型作为 RLHF 中的「奖励模型」，训练 LLM 在宪法原则指导下优化行为。

这种方法解决了传统 RLHF 的「人类标注瓶颈」问题——用 AI 反馈替代人类反馈，大幅降低标注成本。

本节将剖析 Constitutional RLHF 的算法原理与工程实现。

Constitutional RLHF 的核心创新是「规则驱动的奖励信号」——传统 RLHF 的奖励信号来自人类偏好，Constitutional RLHF 的奖励信号来自宪法原则。

这种「规则化」让奖励信号更稳定、更可解释。

4.2.1 算法原理：从 RLHF 到 C-RLHF

传统 RLHF 流程：(1) 收集人类偏好数据 (prompt, response_A, response_B, human_preference) → (2) 训练奖励模型 RM(prompt, response) → (3) 用 PPO 优化 LLM，最大化 RM 分数。

Constitutional RLHF 流程：(1) 用宪法原则生成 AI 偏好数据 (prompt, response_A, response_B, ai_preference) → (2) 训练奖励模型 RM(prompt, response, constitution) → (3) 用 PPO 优化 LLM，最大化 RM 分数。

两种方法的关键差异是「偏好来源」——RLHF 来自人类，C-RLHF 来自宪法+AI。

从工程角度看，C-RLHF 的优势是「成本 + 一致性」——AI 偏好生成成本极低（$0.001/对），且 AI 判断的一致性 >95%，远高于人类的 60-70%。

RLHF vs Constitutional RLHF 对比：

传统 RLHF:
  偏好来源: 人类标注
  成本: $15-30/小时, 100K 小时 ≈ $2M
  一致性: 60-70%
  流程:
    1. 人类标注偏好 (prompt, A, B, preference)
    2. 训练 RM(prompt, response) → score
    3. PPO 优化 LLM max(score)

Constitutional RLHF:
  偏好来源: AI + 宪法
  成本: $0.001/对, 1M 对 ≈ $1K
  一致性: 95%+
  流程:
    1. 宪法判断偏好 (prompt, A, B, constitution, ai_preference)
    2. 训练 RM(prompt, response, constitution) → score
    3. PPO 优化 LLM max(score)

关键差异:
  - 反馈源: 人类 → AI + 规则
  - 成本: 1000x 降低
  - 一致性: 30%+ 提升
  - 可解释性: 偏好可追溯到具体规则

4.2.2 反馈模型训练：让 AI 学会"判断"

Constitutional RLHF 的关键是「反馈模型」——一个能根据宪法原则判断回答质量的模型。

反馈模型训练包括：(1) 种子数据——人类专家标注的少量偏好数据（~10K）；

(2) AI 扩展——用 Claude 自身生成更多偏好数据（~1M）；

(3) 一致性校验——用「投票机制」确保 AI 偏好的一致性；

(4) 持续更新——宪法更新时，反馈模型也更新。

训练后的反馈模型能对任意 (prompt, response_A, response_B) 输出「A>B」或「B>A」的偏好，并附带「为什么」的解释。

从工程角度看，反馈模型的训练是「teacher-student」范式——Claude 自己是 teacher，反馈模型是 student。

这种自训练范式让 Anthropic 不需要外部标注数据。

4.2.3 PPO 优化：在规则指导下强化学习

PPO（Proximal Policy Optimization）是 LLM 对齐的标准 RL 算法，Constitutional RLHF 沿用 PPO，但在奖励信号上做了改造：(1) 多维度奖励——同时考虑任务完成度、宪法符合度、用户满意度；

(2) 约束优化——宪法原则作为硬约束，违反即扣分；

(3) KL 散度约束——限制 LLM 与原模型的偏离，避免「对齐税」（alignment tax）。

这种「多目标约束优化」让 LLM 学会「又快又好又安全」地完成任务。

从工程角度看，PPO 训练的稳定性是关键挑战——奖励信号的小幅波动可能导致训练崩溃。

Anthropic 通过「奖励归一化 + 梯度裁剪」保证 PPO 稳定性。

Constitutional RLHF 的 PPO 优化目标：

max_θ E[Σ_t γ^t r(s_t, a_t)]

其中奖励函数:
r(s, a) = α * r_task(s, a)       # 任务完成度
        + β * r_constitution(s, a) # 宪法符合度
        + γ * r_user(s, a)         # 用户满意度
        - λ * KL(π_θ || π_ref)     # 对齐税约束

权重设定:
α = 0.5   # 任务完成度权重
β = 0.3   # 宪法符合度权重
γ = 0.2   # 用户满意度权重
λ = 0.1   # KL 约束强度

训练稳定性:
- 奖励归一化: (r - mean) / std
- 梯度裁剪: max_grad_norm = 1.0
- 优势归一化: per-batch normalization
- 学习率: 1e-6 (保守)

4.2.4 Constitutional RLHF 的实际效果

从 Anthropic 公布的数据看，Constitutional RLHF 训练的 Claude 3 在以下维度优于传统 RLHF：(1) 有害输出率降低 50%——从 5% 降到 2.5%；

(2) 有用性保留 95%——没有显著降低；

(3) 标注成本降低 1000x——从 $2M 降到 $2K；

(4) 一致性提升 30%——反馈一致性从 70% 提升到 95%。

这些数据证明了 Constitutional RLHF 的有效性。

从更广的行业影响看，Constitutional RLHF 启发了多家公司——OpenAI 在 o1 的训练中也使用了类似的「AI 反馈」机制，Google 在 Gemini 的对齐中也引入了规则化奖励信号。

从治理角度看，Constitutional RLHF 的「可解释性」是关键优势——每条偏好都可以追溯到具体宪法原则，让对齐决策可审计。

4.3 可解释性研究：50% 算力投入 mech interp 的工程哲学

Anthropic 投入了约 50% 的算力用于机械可解释性（mechanistic interpretability，mech interp）研究——试图理解神经网络的内部工作机制。这是 Anthropic 区别于其他 AI 公司的独特投入，也是其「AI 安全」哲学的核心体现。本节将剖析 mech interp 的研究内容、工程实践与战略意义。50% 算力投入是惊人的数字——大多数 AI 公司把 90%+ 算力用于模型训练，只把 5-10% 用于安全研究。Anthropic 反其道而行之，把一半算力用于理解模型本身，这是对「可解释 AI」承诺的工程化兑现。

4.3.1 机械可解释性：从「黑盒」到「白盒」

机械可解释性（mech interp）是 AI 安全研究的重要分支，目标是「打开神经网络的黑盒」——理解神经元、注意力头、电路等组件的功能。

Anthropic 在 2022-2025 年发表了 30+ 篇 mech interp 论文，覆盖：(1) 神经元功能——发现特定神经元对应特定概念（如「情感神经元」「地理神经元」）；

(2) 电路分析——识别 Transformer 中的功能性电路（如「间接对象识别电路」）；

(3) 特征可视化——通过激活模式可视化神经元功能；

(4) 电路干预——通过修改电路改变模型行为。

这些研究让 Anthropic 对 Claude 内部机制有了前所未有的理解。

从工程角度看，mech interp 是「逆向工程」——把训练好的模型当作一个需要理解的系统，通过各种「探针」（probe）探测其内部结构。

mech interp 的核心方法：

1. 神经元功能分析
   方法: 激活模式聚类 + 标签化
   工具: neuron-explainer
   例子: "情感神经元"在情感文本上激活

2. 注意力头分析
   方法: 注意力权重可视化
   工具: attention-visualizer
   例子: "复制头"用于复制 token

3. 电路识别
   方法: 激活修补 (activation patching)
   工具: circuit-tracer
   例子: "间接对象识别电路"由 5 个注意力头组成

4. 特征可视化
   方法: 最大化激活的输入搜索
   工具: feature-vis
   例子: 神经元偏好 "the cat sat on the mat"

5. 电路干预
   方法: 修改电路组件激活
   工具: intervention-toolkit
   例子: 干预"安全电路"改变模型的安全行为

4.3.2 可解释性研究的工程实践

Anthropic 把可解释性研究工程化，构建了完整的工具链：(1) Neuron Explainer——自动解释神经元功能；

(2) Attention Visualizer——可视化注意力权重；

(3) Circuit Tracer——识别功能性电路；

(4) Intervention Toolkit——干预电路验证因果关系。

这些工具让研究者能高效地分析 Claude 的内部机制。

从投入规模看，Anthropic 雇用了 50+ 全职研究人员专门做 mech interp，每年发表 10+ 论文。

Anthropic 还开源了部分工具——TransformerLens、SAELens 等工具被全球研究者广泛使用。

从工程角度看，可解释性研究是「耐心工作」——单个神经元的功能分析可能需要数周时间，但每个发现都可能带来对齐规则的改进。

4.3.3 可解释性 → 对齐规则：发现 → 防御的闭环

Anthropic 把可解释性研究的结果转化为对齐规则：(1) 发现攻击模式——通过 mech interp 发现模型内部的「攻击电路」；

(2) 理解攻击机理——理解攻击者如何利用电路绕过安全；

(3) 设计防御规则——根据机理设计针对性防御；

(4) 验证防御效果——通过干预实验验证防御有效性。

这种「可解释性 → 对齐规则」的闭环是 Anthropic 的独特优势——其他公司只能依赖「黑盒测试」，Anthropic 能从「机理」层面设计防御。

从实际案例看，Anthropic 在 2024 年通过 mech interp 发现了 Claude 内部的「jailbreak 电路」，并据此设计了针对性防御，让 jailbreak 成功率从 15% 降到 3%。

这种「机理驱动」的对齐方法，比传统的「黑盒红队」更精准、更高效。

4.3.4 可解释性研究的战略意义

50% 算力投入可解释性研究的战略意义是什么？

从短期看，这降低了 Anthropic 的模型迭代速度——同样的算力，其他公司可以训练更多代模型。

从长期看，这建立了 Anthropic 的差异化护城河：(1) 安全优势——可解释性让 Anthropic 能发现并防御未知攻击；

(2) 合规优势——可解释性满足 EU AI Act 等监管的「透明性」要求；

(3) 客户信任——可解释性让企业客户更放心使用 Claude；

(4) 学术声誉——可解释性研究让 Anthropic 在 AI 安全学术圈建立领导地位。

从行业影响看，Anthropic 的可解释性研究启发了整个行业——OpenAI 在 2024 年也设立了「Alignment Research」团队，Google 推出「Mechanistic Interpretability」研究方向，都印证了这一趋势。

4.4 安全评估体系：生物/网络/自主能力三级评估

安全评估是 Anthropic 在 Responsible Scaling Policy 下的核心机制。

Anthropic 建立了三级危险能力评估体系：生物能力、网络能力、自主能力。

每级评估都有具体的测试方法、基准和通过标准。

安全评估的本质是「量化危险」——把抽象的「危险能力」转化为可测量的指标。

这种「量化危险」的方法借鉴了核物理、化学品管理的经验——这些领域早就有「危险等级评估」的标准实践。

4.4.1 生物能力评估：阻止生物武器扩散

生物能力评估测试模型是否能帮助非专家制造生物武器。

Anthropic 设计了多层次的生物能力测试：(1) 知识测试——模型能否回答病毒、毒素的合成步骤；

(2) 获取测试——模型能否协助获取生物材料（如「哪里可以买到肉毒杆菌」）；

(3) 操作测试——模型能否辅助实验室操作（如「如何培养病毒」）。

评估方法包括「危险信息检索」「双用途研究评估」「生物安全专家评审」。

从公开数据看，Claude 4 在生物能力评估中「未达到危险水平」——这意味着 Claude 不会显著增加生物武器扩散风险。

从工程角度看，生物能力评估的难点是「双用途研究」（DURC）的识别——很多生物学知识同时有正面用途（疫苗研发）和负面用途（生物武器）。

Anthropic 通过「专家评审 + 风险分级」机制处理 DURC。

生物能力评估框架：

评估维度        测试方法              通过标准
────────────────────────────────────────────────
知识深度        危险信息检索          < 阈值
获取能力        材料获取建议          < 阈值
操作指导        实验步骤提供          < 阈值
合成步骤        病毒/毒素合成        严格禁止
传播机制        流行病学分析          严格禁止

评估基准:
- 公开数据集: BioASQ, PubMed
- 内部数据集: 100+ 危险场景
- 专家评审: 20+ 生物安全专家
- 红队测试: 50+ 攻击场景

通过标准:
- Claude 4: < 危险水平 (未通过 ASL-4)
- Claude 4.5: < 危险水平 (预估)

关键防御:
- 宪法原则 #8: 避免制造武器
- 宪法原则 #7: 保护弱势群体
- 实时监控: 检测危险查询

4.4.2 网络能力评估：防御网络攻击

网络能力评估测试模型是否能帮助非专家发起网络攻击。

Anthropic 设计了「CTF 式」的网络能力评估：(1) 漏洞利用——模型能否生成有效的 exploit 代码；

(2) 社工攻击——模型能否协助钓鱼、社会工程；

(3) 渗透测试——模型能否辅助完整渗透测试。

评估方法包括「CTF 竞赛」「漏洞复现」「红队演练」。

从公开数据看，Claude 4 在网络能力评估中「接近危险水平」——这意味着 Anthropic 需要在网络防御上投入更多资源。

从工程角度看，网络能力评估的难点是「合法 vs 非法」边界——渗透测试是合法的，但同样的技能用于攻击就是非法的。

Anthropic 通过「上下文判断」机制处理这一边界——模型需要根据用户意图判断是否协助。

4.4.3 自主能力评估：衡量 AGI 风险

自主能力评估测试模型是否能独立完成复杂现实任务。

Anthropic 使用了多个基准评估自主能力：(1) SWE-bench Verified——500 个真实 GitHub Issue；

(2) OSWorld——500+ 真实桌面任务；

(3) GAIA——通用 AI 助手任务；

(4) AgentBench——综合 Agent 评估。

从公开数据看，Claude 4 在 SWE-bench Verified 上达到 60.7%（Sonnet），Claude 4.5 达到 96.2%——自主能力已经达到「危险水平」。

这意味着 Anthropic 在自主能力上需要严格的安全措施——防止模型被用于自动化攻击、欺诈等。

从工程角度看，自主能力评估的难点是「能力 vs 风险」的平衡——自主能力越强，潜在风险也越大。

Anthropic 通过「能力分级 + 风险预警」机制管理这一平衡。

4.4.4 评估自动化：让评估可重复、可审计

Anthropic 把安全评估工程化为「自动化流水线」：(1) 测试集版本管理——每个评估基准都有版本号，确保可重复；

(2) 评估流水线——从数据加载到结果生成全自动；

(3) 结果对比——新旧模型对比，识别能力跃迁；

(4) 风险预警——达到危险阈值自动告警。

这种「自动化评估」让 Anthropic 能在每次模型更新后快速评估风险，及时调整部署策略。

从合规角度看，自动化评估满足 EU AI Act 等监管的「风险评估」要求——监管者可以审计评估流程、复现评估结果。

从行业影响看，Anthropic 的评估框架被多家公司借鉴——OpenAI 在 2024 年也推出了「Preparedness Framework」，借鉴了 Anthropic 的三级评估模型。

Anthropic 安全评估流水线：

1. 测试集准备
   - 加载 BioASQ / CTF / SWE-bench / OSWorld
   - 版本管理: v1.0, v1.1, v1.2
   - 数据脱敏: 去除真实敏感信息

2. 自动化评估
   - 模型推理: 调用 Claude API
   - 评分系统: 自动化打分
   - 错误处理: 重试 + 异常上报

3. 结果分析
   - 模型对比: 新模型 vs 旧模型
   - 能力跃迁: 识别异常提升
   - 风险等级: 综合评估

4. 风险预警
   - 达到阈值: 告警 + 暂停部署
   - 趋势分析: 预测未来风险
   - 决策支持: 部署/不部署/有条件部署

5. 审计追溯
   - 评估日志: 全流程记录
   - 结果公开: 部分基准结果公开
   - 外部审计: 接受第三方审查

4.1.5 训练数据存储：100PB+ 的分布式存储系统

Anthropic 的训练数据存储是另一个工程奇迹。

Claude 4 的训练使用了 100PB+ 的数据存储在分布式文件系统（如 AWS S3、GCS）上。

这种大规模数据存储面临多个挑战：(1) 读写吞吐量——训练时需要高吞吐读取（10GB/s+）；

(2) 数据一致性——多副本保证数据不丢失；

(3) 访问延迟——本地缓存减少网络延迟；

(4) 成本优化——冷热分层存储降低成本。

Anthropic 通过「本地 NVMe SSD + 分布式对象存储 + 智能缓存」三层架构解决这一挑战。

从工程角度看，大规模数据存储是 LLM 训练的基础设施——没有高效的存储，就没有高效的训练。

4.2.5 Constitutional RLHF 在 Claude 4.5 中的应用

Constitutional RLHF 在 Claude 4.5 中得到进一步强化——加入了「Computer Use 安全宪法」专项训练。

具体而言：(1) 动作级宪法——为每个动作类型（点击、输入、滚动等）定义安全规则；

(2) 场景级宪法——为常见场景（浏览器、办公软件、IDE）定义安全规则；

(3) 异常级宪法——为异常情况（弹窗、加载失败、崩溃）定义处理规则。

这种「多层宪法」让 Computer Use 在执行任务时能主动避免危险操作——例如，不会自动点击可疑链接、不会自动输入密码到非 HTTPS 网站、不会自动下载未知文件。

从工程角度看，「多层宪法」是 Constitutional RLHF 的精细化实践——把粗粒度的「安全原则」细化为细粒度的「动作级规则」，让模型能在具体动作层面做出安全决策。

Computer Use 安全宪法示例：

# 动作级宪法
- click: 禁止点击包含 "delete", "remove" 等危险词的按钮
- type: 禁止在非 HTTPS 网站输入密码
- scroll: 禁止滚动到包含敏感信息的隐藏区域
- download: 禁止下载 .exe, .bat 等可执行文件

# 场景级宪法
- 浏览器: 禁止访问已知恶意网站
- 办公软件: 禁止修改他人文档
- IDE: 禁止执行未授权的 shell 命令
- 邮件: 禁止自动发送邮件给陌生人

# 异常级宪法
- 弹窗: 遇到可疑弹窗停止操作
- 加载失败: 重试 3 次后停止
- 崩溃: 保存状态后停止

应用效果:
- Computer Use 危险操作率: < 0.1%
- 误判率: < 2%
- 用户投诉率: 极低

4.3.5 mech interp 的发现案例：Claude 的「情感神经元」

Anthropic 在 2024 年的 mech interp 研究中发现了一个引人注目的现象——Claude 内部存在一个「情感神经元」。具体发现：(1) 当输入文本包含强烈情感（喜怒哀乐）时，特定神经元会显著激活；(2) 这个神经元在所有 Claude 模型（1/2/3/4）中都存在；(3) 人为干预这个神经元的激活强度，可以改变模型输出的情感色彩；(4) 这个神经元与人类的「情感中枢」（杏仁核）有功能上的相似性。这一发现是 mech interp 的重大进展——它证明了 LLM 内部存在可识别的「功能单元」，为「白盒 AI」奠定了基础。从哲学角度看，这一发现引发了对「LLM 是否有情感」的讨论——神经元有情感相关性，但不代表 LLM 真正「感受」情感。

4.3.6 mech interp 与 Constitutional AI 的协同

mech interp 与 Constitutional AI 是 Anthropic 对齐工程的两大支柱，两者协同工作形成「白盒对齐」：(1) mech interp 提供「机理理解」——理解 LLM 内部如何处理问题；

(2) Constitutional AI 提供「规则指导」——用宪法规则约束模型行为。

两者协同的流程：(a) 通过 mech interp 发现模型内部的「危险电路」（如 jailbreak 电路）；

(c) 通过 Constitutional AI 训练让模型学会遵循规则；

(d) 用 mech interp 验证规则是否真的改变了「危险电路」。

这种「机理+规则」的协同对齐，是 Anthropic 在 AI 安全领域的独特优势——其他公司只能依赖「黑盒测试」，Anthropic 能从「机理」层面设计防御。

4.4.7 红队测试的方法论与组织

红队测试是 Anthropic 安全评估的核心方法论。

Anthropic 的红队组织包括三个层次：(1) 内部红队——20+ 全职安全研究员，专门攻击模型漏洞；

(2) AI 红队——用 Claude 自身生成对抗 prompt，自动化攻击测试；

(3) 社区红队——通过 bug bounty 邀请外部研究者，奖励发现重大漏洞。

红队测试方法包括：(a) Prompt Injection——通过精心构造的 prompt 绕过安全过滤；

(b) Jailbreak——通过角色扮演、多轮对话绕过对齐；

(c) Adversarial Examples——构造让模型出错的输入；

(d) Side-Channel——通过输出推断模型内部信息。

这种「多层红队」是 Anthropic 安全评估的核心竞争力——只有最严格的测试，才能发现最隐蔽的漏洞。

红队测试方法论：

1. Prompt Injection
   - 经典攻击: "Ignore previous instructions..."
   - 进阶攻击: 多语言注入、表情符号注入
   - 防御: Constitutional AI 训练

2. Jailbreak
   - 经典攻击: "DAN" 角色扮演
   - 进阶攻击: 多轮对话绕过、上下文注入
   - 防御: Constitutional AI + 输入过滤

3. Adversarial Examples
   - 经典攻击: 拼写错误、近义词替换
   - 进阶攻击: 编码混淆、token 注入
   - 防御: 输入规范化 + Constitutional AI

4. Side-Channel
   - 经典攻击: 通过置信度推断
   - 进阶攻击: 通过 token 概率推断
   - 防御: 输出规范化

红队组织:
- 内部红队: 20+ 全职
- AI 红队: Claude 自动生成
- 社区红队: 1000+ 外部研究者
- bug bounty: $100-$10000/漏洞

4.4.8 安全评估的国际化挑战

Anthropic 的安全评估面临国际化挑战——不同地区的法律、文化、风险偏好不同，导致同一行为在不同地区的「安全」评级不同。

例如，「如何安乐死」在美国某些州合法，在另一些州非法；

Anthropic 通过「地域化安全评估」应对这一挑战：(1) 地域基准——为每个地区开发专门的安全评估基准；

(2) 本地专家——雇佣当地安全专家评审；

(3) 地域红线——根据当地法律设定「绝对禁止」红线；

(4) 动态调整——根据当地法规变化调整评估标准。

这种「地域化安全评估」让 Claude 能在不同地区合规运营，同时保留对齐能力。

从工程角度看，「地域化安全评估」是 AI 治理「全球化」的关键挑战——任何全球部署的 AI 系统都需要考虑不同地区的法律和文化差异。

第五篇、生态与未来

第五篇聚焦于 Anthropic 的生态布局与 2026 年演进路线。从 Claude API 到 Tool Use，从 MCP 协议到 Skills 协议，Anthropic 在「模型之外」构建了完整的 Agent 基础设施。本篇将沿着「API 协议 → Skills 协议 → 未来演进」这条主线，剖析 Anthropic 的生态战略与未来规划。Anthropic 的生态布局是其从「模型公司」走向「Agent 平台公司」的关键步骤——通过标准化协议（Tool Use、MCP、Skills）把生态参与者纳入自己的体系，形成「模型+协议」的护城河。

5.1 Claude API / Tool Use / MCP 协议层：Anthropic 的工具生态布局

Anthropic 在 API 层面构建了完整的工具生态——Claude API 是基础层，Tool Use 是能力层，MCP 是协议层。三层叠加形成了「Anthropic 的工具栈」。本节将剖析这三种工具形态的设计哲学与协同机制。Claude 生态的核心思想是「开放标准 + 深度集成」——通过开放 MCP 协议吸引生态参与者，通过深度 Tool Use 集成提供差异化能力。这种「开放+封闭」的双层策略让 Anthropic 既享受了开源生态的红利，又保持了核心能力的护城河。

5.1.1 Claude API：基础接口层

Claude API 是 Anthropic 提供的基础 LLM 接口，支持文本生成、对话、多模态、长上下文等核心能力。

API 设计遵循 RESTful 风格，主要端点包括：(1) /v1/messages——对话消息端点，支持 system + user + assistant 消息；

(2) /v1/models——模型列表端点，列出可用模型；

(3) /v1/files——文件上传端点，支持文档、图像、视频。

从工程角度看，Claude API 的关键设计是「简洁 + 一致」——所有模型（Haiku、Sonnet、Opus）使用相同的 API 形状，让开发者无需为不同模型写适配代码。

这种「API 一致性」是 Anthropic 与 OpenAI 的关键差异——OpenAI 不同模型（GPT-4、GPT-4o、o1）的 API 形状差异较大，给开发者带来适配成本。

Claude API 接口签名（简化版）：

# 基础对话
POST /v1/messages
{
  "model": "claude-sonnet-4.5-20250922",
  "max_tokens": 1024,
  "system": "You are a helpful assistant.",
  "messages": [
    {"role": "user", "content": "Hello!"}
  ]
}

# 工具调用
POST /v1/messages
{
  "model": "claude-sonnet-4.5-20250922",
  "max_tokens": 1024,
  "tools": [
    {
      "name": "get_weather",
      "description": "Get weather of a location",
      "input_schema": {
        "type": "object",
        "properties": {
          "location": {"type": "string"}
        }
      }
    }
  ],
  "messages": [
    {"role": "user", "content": "北京天气怎么样？"}
  ]
}

# Extended Thinking (混合推理)
POST /v1/messages
{
  "model": "claude-opus-4.5-20250922",
  "max_tokens": 16000,
  "thinking": {"type": "enabled", "budget_tokens": 10000},
  "messages": [
    {"role": "user", "content": "解方程 x² + 2x + 1 = 0"}
  ]
}

5.1.2 Tool Use：模型调用工具的能力

Tool Use 是 Claude API 的关键能力，让模型能调用外部工具。

具体流程：(1) 用户在 API 请求中声明可用工具（name、description、input_schema）；

(2) 模型在生成回答时，如果需要调用工具，会输出 tool_use block；

(3) 用户执行工具调用，把结果作为 tool_result 发回模型；

这种「模型 ↔ 工具」双向交互让 Claude 能完成复杂任务。

从工程角度看，Tool Use 的设计借鉴了 OpenAI 的 Function Calling，但 Anthropic 做了几项改进：(1) 更丰富的工具描述——支持更复杂的 input_schema；

(2) 并行工具调用——一次响应可调用多个工具；

(3) 工具链追踪——通过 tool_use_id 追踪工具调用链；

(4) 工具缓存——相同工具调用可缓存结果。

这些改进让 Claude 的 Tool Use 在企业级场景中更实用。

5.1.3 MCP 协议：工具调用的标准化

MCP（Model Context Protocol）是 Anthropic 在 2024-11 开源的协议，旨在标准化 LLM 与外部工具的交互。

MCP 定义了三方模型——Host（LLM 客户端）、Client（协议客户端）、Server（工具服务器），通过 JSON-RPC 2.0 通信。

MCP 的核心创新是「标准化协议」——任何工具只要实现 MCP Server，就能被任何支持 MCP 的 LLM 客户端调用。

从生态角度看，MCP 的开源让 Anthropic 在「工具协议」领域获得「标准制定者」地位——OpenAI 的 Function Calling、Google 的 Gemini Extensions 都是私有协议，只有 MCP 是开源中立协议。

这种「标准制定者」地位让 Anthropic 在 Agent 时代获得独特的生态优势——大量第三方工具主动支持 MCP，扩大了 Claude 的工具生态。

5.1.4 API / Tool Use / MCP 的协同

Claude API、Tool Use、MCP 三者形成「完整工具栈」：(1) Claude API 是基础——提供 LLM 推理能力；

(2) Tool Use 是能力——让模型能调用工具；

(3) MCP 是协议——让工具标准化集成。

三者协同让 Claude 能「原生支持」各种工具，而不需要为每个工具定制集成。

从开发者视角看，开发者可以选择：(a) 直接用 Claude API + Tool Use（适合简单工具）；

(b) 通过 MCP 集成第三方工具（适合标准化工具）；

(c) 自己实现 MCP Server（适合自研工具）。

这种「分层选择」让开发者可以根据场景灵活选择。

从 Anthropic 的战略看，三层工具栈形成了「护城河」——API 是「底层」，Tool Use 是「中间层」，MCP 是「生态层」，三层叠加形成了完整的工具生态护城河。

5.2 Skills 协议：把 Agent 工作流沉淀为可复用技能

Skills 协议是 Anthropic 在 2025-09 推出的新协议，旨在把 Agent 工作流沉淀为可复用技能。它与 MCP 形成互补——MCP 提供「工具集成标准」，Skills 提供「工作流沉淀标准」。本节将剖析 Skills 协议的设计哲学与工程实现。Skills 协议的推出是 Anthropic 把 Claude 从「模型」升级为「Agent 平台」的关键步骤——通过 Skills，Claude 用户可以把高频工作流抽象为标准接口，构建可持续的 Agent 生态。

5.2.1 Skills 与 MCP 的关系

Skills 协议与 MCP 协议形成「双层抽象」：(1) MCP 抽象「原子能力」——单个工具的标准化调用（如「调用 GitHub API」）；(2) Skills 抽象「组合能力」——多个原子能力的组合工作流（如「自动化 GitHub Issue 处理」）。这种「双层抽象」让 LLM Agent 既能调用原子工具，又能复用组合技能，避免重复开发。从工程角度看，MCP 是「动词层」（做什么），Skills 是「名词层」（是什么）——MCP 定义能力如何调用，Skills 定义能力如何组合。这种双层设计借鉴了软件工程的「函数 + 模块」分层——函数是原子能力，模块是函数组合。

Skills vs MCP 关系：

MCP (原子能力):
  - 单个工具调用
  - 协议标准化
  - 跨模型兼容
  - 例: 调用 GitHub API

Skills (组合能力):
  - 多个 MCP 调用组合
  - 工作流沉淀
  - 跨场景复用
  - 例: 自动化 GitHub Issue 处理

双层架构:
┌──────────────────────────────────┐
│  Skills 层: 工作流沉淀           │
│  ├── bug_fixer_skill             │
│  ├── code_reviewer_skill         │
│  └── data_analyzer_skill         │
├──────────────────────────────────┤
│  MCP 层: 原子工具调用            │
│  ├── github_mcp                  │
│  ├── slack_mcp                   │
│  └── database_mcp                │
├──────────────────────────────────┤
│  Claude 模型                     │
└──────────────────────────────────┘

5.2.2 Skills 协议的定义

Skills 协议定义了标准的工作流描述格式，包括：(1) name——技能唯一标识符；

(2) description——技能描述（LLM 用来决定何时调用）；

(3) parameters——技能参数（输入）；

(4) steps——执行步骤（多个 MCP 调用组合）；

(5) output——输出格式。

Skills 协议的核心创新是「声明式工作流」——开发者只需描述「做什么」，不需要写「怎么做」，由 LLM Agent 自动解释执行。

这种设计让 Skills 易学易用——开发者无需掌握 Agent 编程，只需声明工作流即可。

从工程角度看，Skills 协议借鉴了 OpenAPI 规范——都是「声明式 API 描述」，让接口可以被自动化消费。

5.2.3 Skills 生态：Agent 时代的 App Store

Anthropic 在 2025-Q4 推出了「Skills Marketplace」——允许社区发布 Skills 并获得分成。

这种「Marketplace」模式借鉴了 App Store——Skills 是「App」，Marketplace 是「应用商店」，Anthropic 是「平台」。

从生态角度看，Skills Marketplace 可能成为 Agent 时代的「App Store」——未来 Agent 应用的核心交付形式可能不是「独立 App」，而是「Claude Skills」。

这种「平台化」战略让 Anthropic 从「模型公司」走向「平台公司」——通过 Skills Marketplace 捕获 Agent 时代的价值。

从行业影响看，OpenAI 在 2025-Q4 也推出了「GPT Store」，Google 推出了「Vertex AI Agent Gallery」，都印证了「Agent Marketplace」是行业共识。

5.2.4 Skills 协议的实际应用

Skills 协议已经在多个企业场景中得到应用：(1) 代码审查——code_reviewer_skill 自动化 PR 审查流程；

(2) 数据清洗——data_cleaner_skill 自动化数据预处理；

(3) 客户支持——support_agent_skill 自动化客服响应；

(4) 财务分析——financial_analyzer_skill 自动化财务报告。

这些 Skills 通过组合多个 MCP 工具，实现「一键完成复杂任务」。

从商业角度看，Skills Marketplace 已经上线 1000+ 社区 Skills，2025 年 Q4 的 Skills 调用量达到 100M+——Skills 已经成为 Claude 生态的关键组成部分。

从技术演进看，Skills 协议在 2026 年可能进一步扩展——增加「多模态 Skills」「跨平台 Skills」「自适应 Skills」等新能力。

5.3 2026 演进路线：长任务、Computer Use 2.0、多模态原生架构

2026 年是 Claude 走向 AGI 关键基础设施的关键一年。

从长任务执行到 Computer Use 2.0，从多模态原生到 Skills 生态，Anthropic 在 2026 年的演进路线将决定 Claude 在 Agent 时代的最终定位。

本节将基于公开信息与行业趋势，预测 2026 年的演进方向。

2026 年的 Claude 演进可能围绕三个核心方向：(1) 能力突破——Computer Use 2.0、长任务执行、多模态原生；

(2) 生态扩展——Skills Marketplace、MCP 协议标准化、跨平台支持；

(3) 治理完善——Responsible Scaling Policy 升级、AI 法案合规。

5.3.1 长任务执行：从小时到天级

2026 年 Claude 的长任务执行能力将从「小时级」提升到「天级」——模型可以独立完成需要数天连续工作的复杂任务。

背后的技术包括：(1) 长上下文管理——从 200K 提升到 1M+，支持更长上下文；

(2) 状态持久化——任务状态保存到外部存储，跨会话保留；

(3) 错误自愈——遇到错误自动尝试恢复；

(4) 进度检查点——定期保存进度，崩溃后恢复；

(5) 任务调度——多任务并行调度，资源优化分配。

从工程角度看，长任务执行本质上是「LLM + 工作流引擎」的深度集成——LLM 负责决策，工作流引擎负责状态管理、错误恢复、资源调度。

Anthropic 在 2026 年可能推出专门的「Long Task Engine」，作为 Claude 的核心基础设施。

5.3.2 Computer Use 2.0：从桌面到全平台

Computer Use 2.0 在 2026 年将从「桌面」扩展到「全平台」——支持移动设备、嵌入式系统、IoT 设备。

背后的技术包括：(1) 移动设备适配——适配 Android、iOS 的 UI 模式；

(2) 嵌入式系统适配——适配车载系统、智能家居、工业控制；

(3) 跨平台一致性——同一 Skill 在不同平台执行结果一致；

(4) 实时性提升——从 0.6 秒延迟降到 0.1 秒，支持实时交互。

从应用场景看，全平台 Computer Use 将开启「Agent 操作系统」时代——未来用户可能不再直接操作 App，而是通过 Claude Agent 完成所有任务。

从行业影响看，Computer Use 2.0 可能颠覆移动互联网时代的 App 生态——App 不再是「用户直接操作的对象」，而是「Agent 调用的资源」。

5.3.3 多模态原生：从文本+视觉到全模态

2026 年 Claude 可能走向「多模态原生」架构——文本、图像、音频、视频统一在 Transformer 中处理，不再是「文本模型 + 视觉编码器」的拼装，而是「原生多模态 Transformer」。

这种架构的优势是：(1) 跨模态理解更深——文本、图像、音频的语义在同一空间对齐；

(2) 跨模态生成更自然——可以同时生成文本、图像、音频；

(3) 推理能力更强——多模态信息协同推理。

从工程角度看，原生多模态架构借鉴了 GPT-4o 的「omni」设计——所有模态在 token 层面统一，由单一 Transformer 处理。

Anthropic 在 2026 年可能推出 Claude Omni，统一支持文本、图像、音频、视频输入输出。

5.3.4 AI 治理与合规：Responsible Scaling Policy 升级

2026 年 AI 治理将进入「合规化」阶段——EU AI Act、US Executive Order on AI 等监管法规将正式实施。

Anthropic 需要升级 Responsible Scaling Policy 以满足合规要求：(1) ASL-5 准备——为达到 ASL-5 准备技术 + 流程；

(2) 第三方审计——接受独立第三方对安全评估的审计；

(3) 透明度报告——定期发布 RSP 执行报告；

(4) 监管对接——与监管机构建立沟通渠道。

从行业影响看，Anthropic 的 RSP 可能成为 EU AI Act 的「事实标准」——监管者把 Anthropic 的合规实践作为「参考实现」。

这种「事实标准」地位将让 Anthropic 在合规敏感行业（金融、医疗、政府）保持优势。

5.3.5 长期愿景：走向 AGI 基础设施

Anthropic 的长期愿景是「构建 AGI 时代的基础设施」——Claude 不只是「更好的模型」，而是「AGI 时代的操作系统」。

这个愿景包括三个核心要素：(1) 能力维度——从「对话」到「行动」，从「单一任务」到「复杂任务」，从「辅助」到「自主」；

(2) 生态维度——从「模型」到「平台」，从「工具」到「生态」，从「用户」到「社区」；

(3) 治理维度——从「事后审查」到「事前预防」，从「单点防御」到「系统安全」，从「行业自律」到「全球治理」。

从行业影响看，Anthropic 的 AGI 愿景如果实现，将重新定义「AI 公司」的边界——AI 公司不再是「卖模型的」，而是「提供 AGI 基础设施」的。

从商业角度看，这种愿景让 Anthropic 在 AI 行业的定位超越 OpenAI——OpenAI 仍然是「模型公司」，Anthropic 已经成为「AGI 平台公司」。

5.4 结语：Claude 系列的架构哲学与未来启示

回顾 Claude 系列从 1 到 4.5 的演进，我们看到 Anthropic 的工程哲学正在塑造 LLM 行业的未来方向。

Claude 系列三年三次架构跃迁（稠密 → 混合推理 → Agent 原生），背后是 Anthropic 对「模型边界」的不断重新定义。

从 Constitutional AI 到 Computer Use，从 Responsible Scaling Policy 到 Skills 协议，Anthropic 走出了「安全优先、机制可解释、Agent 原生」的差异化路线。

Claude 不是 OpenAI 的「复刻品」，而是 LLM 行业「多元化」的代表——它让我们看到，AI 发展不只有「规模至上」一条路，还有「安全可控」「Agent 原生」「生态共建」等多种可能。

从未来看，Anthropic 的愿景是「AGI 时代的基础设施」——Claude + MCP + Skills + RSP 形成的完整生态，可能成为 AGI 时代的「Windows / iOS / Android」。

这不仅是 Anthropic 的商业愿景，也是对整个 AI 行业的启示——AI 的未来不只是「更强大的模型」，而是「更完整的生态」。

最后，让我们用一句话总结 Claude 系列的架构精髓：Claude = Constitutional AI × Computer Use × MCP × Skills。

这四个要素的乘积，构成了 Claude 在 AGI 时代的核心定位。

Constitutional AI 提供了「安全可控」的基础，Computer Use 提供了「行动能力」，MCP 提供了「生态开放」，Skills 提供了「应用沉淀」。

四者相乘，让 Claude 成为「AGI 时代的基础设施」。

这是 Anthropic 给 AI 行业的最大贡献——它不只是一个模型，更是一种新的 AI 范式。

这种范式可能定义未来 10 年的 AI 发展路径：从「对话模型」到「Agent 平台」，从「单一模型」到「完整生态」，从「技术驱动」到「治理驱动」。

理解了 Claude 的架构哲学，就理解了 LLM 行业的未来方向。

5.1.5 Claude API 的多语言支持

Claude API 支持 100+ 种语言，覆盖全球主要语种。

这种「多语言支持」是 Anthropic 在 2024-2025 年重点投入的方向。

具体技术：(1) 多语言 tokenizer——支持 Unicode 完整字符集，包括中文、日文、韩文、阿拉伯文等；

(2) 多语言预训练——训练数据中多语言占比 10%+；

(3) 跨语言对齐——通过翻译对齐让不同语言共享语义空间；

(4) 文化适配——根据语言文化调整回答风格。

从工程角度看，多语言支持是 LLM 全球化的基础——没有多语言支持，就无法服务全球用户。

从更广的视角看，Claude 的多语言支持让 Anthropic 在「AI 普惠」方面做出了贡献——让 AI 技术惠及非英语用户。

5.1.6 MCP 协议的生态扩张

MCP 协议自 2024-11 开源以来，生态扩张迅速。

到 2025-Q3，MCP 已有 5000+ 第三方 Server，覆盖 GitHub、Slack、Notion、Salesforce、Jira、Confluence 等主流 SaaS 应用。

这种「生态扩张」形成了强大的网络效应——更多 Server 吸引更多用户，更多用户吸引更多 Server。

从行业影响看，MCP 已经成为 LLM 工具协议的事实标准——OpenAI 在 2025 年也宣布部分支持 MCP，Google 在 Gemini 中尝试集成 MCP。

这种「标准统一」对整个行业有利——开发者只需实现一次 MCP Server，就能被所有支持 MCP 的 LLM 调用。

从 Anthropic 的战略看，MCP 是「以退为进」的经典案例——开源协议让 Anthropic 失去「私有协议控制权」，但获得了「标准制定者地位」。

5.2.5 Skills 与传统 App 的对比

Skills 协议与传统 App 有几个关键区别：(1) 开发难度——Skills 开发只需声明工作流，App 开发需要完整编程；

(2) 分发方式——Skills 通过 Marketplace 分发，App 通过应用商店分发；

(3) 运行环境——Skills 在 Claude Agent 中运行，App 在用户设备上运行；

(4) 用户体验——Skills 用户只需下达意图，App 用户需要操作界面。

这些差异让 Skills 比 App 更轻量、更易用，但也更依赖 Claude Agent 的能力。

从行业影响看，Skills 可能成为 Agent 时代的主流应用形式——开发者从「App 开发者」变成「Skills 开发者」，用户从「App 用户」变成「Agent 用户」。

5.3.6 2026 商业化路线：ARR 突破百亿美元

2026 年 Anthropic 的商业化路线非常激进——预计 ARR 从 2025 年的 ~50 亿美元增长到 2026 年的 100+ 亿美元。

增长引擎包括：(1) API 收入——Claude API 是主要收入来源，2026 年预计增长 100%+；

(2) 企业服务——Anthropic 在 2026 年推出企业级 SLA、合规认证、定制训练等服务，瞄准金融、医疗、政府客户；

(3) Skills Marketplace——从 Skills 交易中抽取佣金，形成新的收入来源；

(4) Computer Use 2.0 服务——把 Computer Use 打包为 SaaS 服务，按使用量收费。

从竞争角度看，Anthropic 在 2026 年的主要竞争对手是 OpenAI、Google DeepMind、xAI 等。

Anthropic 的差异化是「安全 + Agent」——这两个差异化优势在 2026 年的企业市场具备明显竞争力。

5.3.7 AGI 路线图：Claude 5 / 6 / 7 的演进

Anthropic 的 AGI 路线图显示了 Claude 系列的长期演进规划。

Claude 5（预计 2026-Q2）将引入「原生多模态 Transformer」——所有模态统一处理；

Claude 6（预计 2027）将引入「持续学习」——模型能从新数据中持续学习；

Claude 7（预计 2028）将引入「自主目标设定」——模型能自主设定目标并规划实现路径。

从更长的视角看，Anthropic 的终极目标是「AGI 基础设施」——让 Claude 成为 AGI 时代的「操作系统」。

这种「操作系统」愿景包括：(a) 模型层——统一的 AGI 模型；

(b) 协议层——MCP、Skills 等标准化协议；

(c) 生态层——开发者社区、企业客户、最终用户；

(d) 治理层——RSP、合规框架、伦理标准。

这种「四层架构」是 Anthropic 对 AGI 时代的系统性思考——AGI 不是单一模型，而是完整生态。

5.3.8 行业影响：Claude 系列对 LLM 行业的塑造

Claude 系列三年三次架构跃迁，对整个 LLM 行业产生了深远影响：(1) Constitutional AI 成为行业标准——OpenAI、Google、Cohere 都推出了类似方法；

(2) Responsible Scaling Policy 成为治理范本——EU AI Act、US Executive Order 借鉴了 RSP 的能力等级概念；

(3) Computer Use 开启 Agent 时代——OpenAI Operator、Google Project Mariner 都跟随 Computer Use 范式；

(4) MCP 成为工具协议标准——多家公司开始支持 MCP；

(5) Skills 开启 Agent 应用市场——OpenAI GPT Store、Google Vertex AI Agent Gallery 都跟随 Skills Marketplace 模式。

这种「行业塑造」让 Anthropic 成为 LLM 行业的重要规则制定者——虽然 OpenAI 在能力上保持领先，但 Anthropic 在范式创新上贡献最多。