dsh-call-shrink

把 N 次 LLM 调用压成 1 次 —— DeepSeek Harness（DSH）的极致调用压缩插件。

· GitHub

一句话：在不改变对话结果的前提下，把「去重、缓存、批量归并」做到调用数维度的极限，直接砍掉冗余 API 调用 —— 省 token、省预算、省时间。

它解决了什么

在 DSH 这类「一个模型回合会同步发起多路独立子任务」的代理环境里，每一次 llm/stream 都是一次真实上游调用。并发会话、平行子代理、标题生成、重复工具流，都会产生大量内容相近甚至完全相同的请求。call-shrink 在 Stream 层拦截这些请求，用三层压缩把它们归并到最少的上游调用：

1. 缓存（Cache） — 相同指纹的请求直接回放，24 小时 TTL、4096 条、落盘持久化。
2. 去重（Dedup） — 飞行中的同指纹请求共享同一个上游结果。
3. 批量归并（Batch-Merge） — 10 秒窗口内把 N 个独立请求拼成 1 次上游调用（条数无上限、不按字符拆批）。

外加两个「极端化」细节：

• 标题生成短路：purpose === 'title' 直接返回空，0 次上游调用。
• 提示词注入：向系统提示词挂入一条 API 经济性约束，让模型自己也会把可并行的工具调用一次发全。

特性

特性	说明
⚡ 极致归并	窗口 10s · 条数无上限 · 不拆批 · 单次输出上限 1 亿 token
🧬 稳定指纹	规范化序列化（剔除 sessionId/signal/id/tool_call_id/source），跨会话命中相同工具流
🎯 协议化合并	[[TASK n]] / [[ANSWER n]] 分隔 + JSON 应答；解析失败自动降级 STRICT MODE 重试 1 次
🛡 失败熔断	连续 2 次合并失败自动退化为单发，10 秒后复位
📊 实时面板	会话头「调用压缩」开关：今日用量/预算、单发+合并均摊、去重、缓存命中、省下的调用数
🧾 用量持久化	每日预算 500，跨重启记录每日与每会话用量
🔌 一键开关/重置	host.call RPC：state / session-stats / set-enabled / reset

工作原理

                       ctx.on('llm/stream')
                              │
          ┌───────────────────┼───────────────────┐
          ▼                   ▼                   ▼
    title 短路          缓存命中(回放)       指纹去重(飞行中)
    (0 次上游)          (0 次上游)           (0 次上游)
                              │
                              ▼
               剩余请求进入 10 秒归并窗口
                              │
                              ▼
           N 个请求 → 拼成 1 个上游流（任务分隔协议）
                              │
                 ┌────────────┴────────────┐
                 ▼                         ▼
             解析成功                   解析失败
       按 [[ANSWER n]] 拆回        STRICT 重试 → 仍失败
            N 路原始流              逐个降级为单独调用
                 └────────────┬────────────┘
                              ▼
            全部写入 24h 回放缓存 + 用量统计

合并协议：一次上游调用中，每个待答任务用 [[TASK n START]]…[[TASK n END]] 包住完整对话，模型需在每个 [[ANSWER n START]]…[[ANSWER n END]] 之间输出恰好一个 JSON —— {"kind":"text","text":"…"} 或 {"kind":"tool_calls","tool_calls":[…]} —— 再按序拆回 N 路原始流。

安装（标准 DSH 插件包 · 推荐）

call-shrink 同时打包成符合 DSH Plugin 规范 的标准插件（package.json 声明 dsh.bundle，由 profile boot 自动应用），可被 DSH 内置插件市场 / dsh.market 目录收录：

dsh plugin --profile web add dsh-call-shrink

或未发布 npm 前，从本仓库直接安装：

dsh plugin --profile web add https://github.com/zhuzichen362/dsh-call-shrink

重启 dsh web（桌面端请先把内置 dsh 更新到 0.1.0-rc.6 及以上），会话头会出现「调用压缩」状态点；服务端拦截逻辑在 index.cjs（内部加载 src/host.js），浏览器端在 client.js。

安装（动态 Cordis 插件 · 源码注入）

call-shrink 的原始形态是 DSH 的动态 Cordis 插件（code.host + code.client），源码即 src/host.js 与 src/client.js。

在 DSH 中让代理执行：

• code.host ← src/host.js 全文
• code.client ← src/client.js 全文
• 名称 / 用途（可选附带）

主机侧声明了 inject: ['timer']，并读取 llm、fs、systemPrompt、harness 等服务；服务缺失时安全降级、不影响运行。

调参（src/host.js 顶部「调参区」）

参数	默认	说明
CACHE_TTL_MS	86400000	回放缓存有效期（24 小时）
MAX_ENTRIES	4096	缓存条数上限
BATCH_WINDOW_MS	10000	归并收集窗口
MAX_BATCH	Infinity	单次合并条数上限
MERGE_COOLDOWN_MS	10000	合并连续失败后的熔断时长
MERGE_MAX_CHARS	Infinity	不再按字符拆批
MERGED_MAX_TOKENS	100000000	单次合并输出上限
DAILY_BUDGET	500	每日预算看板阈值

面板指标

• 今日 api/budget：是否超预算（绿 / 黄 / 红）。
• 本对话：steps、API 次数（单发 apiSingle + 合并 apiMerged）、省 steps-api、去重 dedup、缓存命中 cacheHit、参与合并 merged。
• 全局：requests / upstream / dedup / cacheHit / batches(batched) / fallbacks / cacheEntries / restored。

注意

• 批量归并改变了「并发独立请求各自一次调用」的形态，聚合上游输出依赖模型遵守协议；解析失败会自动降级，不会丢答案。
• 上游调用按 1/N 均摊计入参与合并的各会话。
• 缓存与用量写入工作目录的 .dsh-shrink-cache.json / .dsh-shrink-usage.json，已列入 .gitignore。

License

MIT