构建编排模式

编排模式是一个会话级开关:开启时,模型对每一个实质性请求都投入最大程度的彻底性,自行侦察任务,然后默认将工作 fan-out 给并行子代理。关闭时,同一个编排工具恢复为按请求 opt-in。 ...

上下文工程
9 分钟4309 字chenghaoning51

Cache diagnostics

兼容性 状态:Beta Beta header: cache-diagnosis-2026-04-07 ZDR(零数据保留): 符合资格(不包括 Covered Models) 平台:Claude API (beta);在 Claude Platform on AWS、Amazon Bedrock、Google Cloud、Microsoft Foundry 上不可用 Prompt Caching 能显著降低延迟和成本,但前提是 prompt 的开头必须与近期某次请求逐字节相同。被重排的 tool、插入到 system prompt 中的时间戳,或对更早消息的编辑,都可能悄无声息地使缓存失效。没有 cache diagnostics 时,唯一信号是 usage.cache_read_input_tokens 降为零,却无法得知什么发生了变化。 ...

上下文工程
7 分钟3153 字chenghaoning51

Claude上下文

上下文窗口 context rot:随着上下文token数地增长,准确性和召回率会下降的现象 对于一个request包含的内容: tools:能够给模型提供tools,包含其名称,描述,参数 System prompt:系统提示词 一些harness设置的信息,比如ClaudeCode的CLAUDE.md或者codex的AGENTS.md等等 user message: prompt,tool calling,thinking block,tool result等等 区分三个概念: input_tokens;cache_read_input_tokens;cache_creation_input_token ...

上下文工程
25 分钟12085 字chenghaoning51

上下文编辑

要了解零数据保留(ZDR)如何适用于此功能,请参阅 [API 与数据保留](https://platform.claude.com/docs/en/manage-claude/api-and-data-retention)。 概述 对于大多数用例,[服务端压缩(server-side compaction)](https://platform.claude.com/docs/en/build-with-claude/compaction) 是管理长对话上下文的主要策略。本页中的策略适用于需要更精细控制清除哪些内容的特定场景。 上下文编辑(context editing)允许你在对话历史增长时有选择地清除特定内容。这不仅是为了优化成本并保持在限制之内,更是为了主动筛选 Claude 所见的内容:上下文是一种收益递减的有限资源,无关内容会降低模型的专注度。上下文编辑让你在运行时对这些筛选进行精细控制。有关上下文管理背后的更广泛原则,请参阅 有效的上下文工程。本页涵盖: ...

上下文工程
21 分钟10349 字chenghaoning51

上下文窗口

随着对话增长,你最终会接近上下文窗口限制。对于长时间运行的对话和 agentic 工作流,服务端压缩(server-side compaction) 是上下文管理的主要策略。 上下文窗口如何工作 “上下文窗口”(context window)指语言模型在生成回复时可参考的全部文本,包括回复本身。这不同于语言模型训练所用的大规模语料,而是模型的“工作记忆”。更大的上下文窗口让模型能够处理更复杂、更长的 prompt,但更多上下文并不自动意味着更好。随着 token 数量增长,准确性和召回会下降,这一现象称为 context rot。因此,策选上下文中有什么,与可用空间有多大同样重要。 ...

上下文工程
9 分钟4193 字chenghaoning51

压缩(compaction)

兼容性 状态: Beta Beta header: compact-2026-01-12 ZDR: 符合条件(不含 Covered Models) 支持的模型: claude-fable-5-1, claude-mythos-5-1, claude-fable-5, claude-mythos-5, claude-mythos-preview, claude-opus-5, claude-opus-4-8, claude-opus-4-7, claude-opus-4-6, claude-sonnet-5, claude-sonnet-4-6 平台: Claude API (beta), Claude Platform on AWS (beta), Amazon Bedrock (beta), Google Cloud (beta), Microsoft Foundry (beta) 服务端压缩是管理长时间运行对话和 agentic 工作流中上下文的推荐策略。它会自动处理上下文管理,无需客户端摘要代码。 压缩通过在接近上下文窗口上限时自动摘要较旧的上下文,来延长长时间运行对话和任务的有效上下文长度。它也会保持活动上下文较小:随着对话增长,回复质量会下降,因此压缩会用简洁摘要替换较旧内容。 ...

上下文工程
8 分钟3996 字chenghaoning51

会话中途的 system messages 与工具变更

要了解零数据保留(ZDR)如何适用于此功能,请参阅 [API and data retention](https://platform.claude.com/docs/en/manage-claude/api-and-data-retention)。 system 指令通常放在顶层 system 字段中,位于对话中每条消息之前。这个位置非常适合 Prompt Caching:system prompt 是稳定前缀的一部分,因此后续 turn 会命中缓存。但对于你在会话进行到一半才发现需要的指令,这个位置就不合适了,因为编辑顶层 system 字段会改变 prompt 的最开头,并使之后所有内容的缓存失效。 ...

上下文工程
14 分钟6778 字chenghaoning51

Prompt Caching

Prompt Caching 通过允许从 prompt 中的特定前缀恢复来优化 API 用量。对于重复性任务或包含一致元素的 prompt,这会显著降低处理时间和成本。 要了解零数据保留(ZDR)如何适用于此功能,请参阅 [API and data retention](https://platform.claude.com/docs/en/manage-claude/api-and-data-retention)。 有两种方式启用 Prompt Caching: ...

上下文工程
35 分钟17508 字chenghaoning51

Token counting

兼容性 ZDR: 符合条件(不含 Covered Models) 平台: Claude API, Claude Platform on AWS, Amazon Bedrock, Google Cloud, Microsoft Foundry Token counting 可以让你在把 message 发给 Claude 之前确定其中的 token 数量。这有助于你就 prompt 和用量做出更有依据的决策。借助 token counting,你可以: ...

上下文工程
5 分钟2005 字chenghaoning51