Skip to main content
3

dsh-rice-guard

3tnt7/dsh-rice-guard

Deterministic tool-definition slimming for DeepSeek Harness: fewer repeated tokens per request, stabler prefix cache, plus a panel with provider-measured hit rate. · 压缩每次请求重复发送的工具定义,稳定前缀缓存,面板可调并可看实测命中率。

Install

dsh plugin --profile web add github:3tnt7/dsh-rice-guard

README

dsh-rice-guard

让 DeepSeek Harness 每次请求少发一点工具定义,让前缀缓存命中更稳一点。

安装:dsh plugin add dsh-rice-guard(DSH 从 npm 拉取;装完重启 DSH)

它是什么

dsh-rice-guard 是 DeepSeek Harness(DSH)的插件, 处理每次请求都会重发的工具定义。 它把工具描述和参数定义压小, 再让工具定义所在的固定前缀逐字节稳定。 这样既能减少重复发送的 token, 也能减少无意义的键顺序变化,让前缀缓存更容易复用。 默认处理 MCP 工具, 工具执行时仍使用原来的完整定义。 附带的统计面板把精简收益、缓存命中实测和配置放在一起, 装完就能看变化,不用翻日志。

特点

  • 压缩工具描述与参数定义,减少每次请求重复发送的 token。
  • 读取服务提供方(provider)实报的用量,展示真实缓存命中率。
  • 面板内切换开关、精调处理范围,可保存、可还原。
  • 零第三方依赖;处理失败时回退,不阻断请求。

怎么实现的

插件挂在系统提示组装阶段(system-prompt/assemble), 只修改模型看到的工具投影,不动工具注册表。 它截短工具描述、压缩参数结构(JSON Schema), 去掉冗长注解,并保留枚举和数组元素等关键调用约束。 随后对对象键做确定性排序,保持数组顺序, 让相同输入产生逐字节一致的工具定义。 默认按会话冻结投影配置,改配置只影响新会话, 避免当前会话中途换前缀。 另有一条只读通道读取 provider 实报的用量数字, 为缓存命中率提供实测依据,不读取提示内容。 处理过程带自检和回退,排序连续异常时会熔断, 让请求继续使用可用结果。

安装

包发布在 npm(包名 dsh-rice-guard),DSH 从 npm 拉取安装:

dsh plugin add dsh-rice-guard

装完重启 DSH;面板需要 web profile,本地开发可用 dsh plugin add link:<本地路径> 装工作副本。

装好后,在 DSH 左侧栏打开 Rice Guard。 默认启用工具定义精简与键排序,先用默认配置观察即可。

使用

从左侧栏 Rice Guard 入口进入面板,三个页签各管一件事。

统计

查看今天、最近 7 天或最近 30 天的精简收益、 缓存命中实测和按对话汇总的数据。

先看工具定义减少的比例,再看实测命中率, 就能区分“工具定义少发了多少”和“请求有多少输入命中了缓存”。

统计按对话保存在本地,重启后继续累计。 面板同时展示字节减少、token 减少和省钱估算, 各自标明口径。

配置

切换常用开关或选择预设, 快速调整精简、键排序等行为。

先保留默认设置,等统计积累后再改。 改变工具投影的常用开关和预设带二次确认, 减少误点。

精调

按分组调整处理范围、完整保留名单和压缩程度, 也能查看每项设置的说明、影响与生效时机。

把依赖完整参数说明的工具加入完整保留名单, 让它继续向模型提供完整定义。 保存前会自动备份,支持恢复默认或还原备份。

默认情况下,投影配置保存后从新会话生效。 想比较修改前后的效果,保存后再开一个新会话, 让原会话继续使用原来的固定前缀。

实测效果

以下是本机样本,口径见面板。

指标本机样本结果
工具定义精简比例约 25%
缓存命中率99% 上下
工具定义约占真实 prompt约 16–22%
请求失败0

估算按工具投影长度折算 token;实测读取 provider 实报用量, 缓存命中率来自后者。

精简比例衡量工具定义本身的减少比例, 不是整份提示(prompt)的压缩比例。 工具定义占比只覆盖能与组装统计配对的请求, 用来观察这部分固定开销在真实输入中的大小。

省钱估算按“省下的 token × 对应单价”展示, 区分峰时/谷时与缓存命中/未命中四档, 不是实际账单差额。

用自己的会话积累数据,再在同一统计窗口内比较。 这些数字描述本机样本,不代表每种工具集都会得到相同收益。

相关工具

下面三款工具和本插件不在同一层动手:

  • dsh-context(Apache-2.0): 观测上下文占用与缓存命中,也能给系统提示加前后缀。
  • dsh-context-compression-improved(MIT): 在会话历史上做压缩,替换工具结果的裁剪逻辑。
  • dsh-context-lens(MIT): 把内容读取工具化,按需取骨架和聚焦片段。

设计上参考过以上三家,未复制代码; 没有测试过与它们的兼容性,也没有评估它们各自的效果。

致谢

  • dsh-cache-saver(MIT): 借鉴了描述截断、参数精简与 JSON Schema 关键字分类。
  • dsh-cache-stabilizer(MIT): 借鉴了对象键排序、长度自检与异常熔断。
  • dsh-token-use(MIT): 借鉴了官方价格页解析与峰谷、命中/未命中四档估算思路。

上游署名、沿用行为与许可证原文见 NOTICE.md。

许可证

采用 MIT 许可证。

Related plugins