Pular para o conteúdo principal
L

dsh-trace-compare

lamost423/dsh-trace-compare

Trace Compare & Live Maze para DeepSeek Harness: visualiza a exploração do agente (caminho principal, desvios, retrocessos) a partir dos logs de sessão ou sessões ao vivo.

Instalar

dsh plugin --profile web add github:lamost423/dsh-trace-compare

README

dsh-trace-compare

中文 | English

DeepSeek Harness 的执行轨迹可视化插件:把智能体真实的探索过程画出来——它坚持推进的主干、失败或扑空的支路、以及折返点,全部落在同一根时间轴上。

两个入口,一套视觉语言:

  • Trace 对比(侧边栏入口):上传 1 个 session log 看单次运行的迷宫,或上传 2 个做同轴对比(比如同一任务 flash 与 pro 的跑法差异)——按轮次自动对齐两边的回答节点,可手动钉锚点,并按轮次盘点两边的支路差额。

Trace 对比:同轴对比 → 悬停看判定依据 → 详情面板 → 只看失败/重试 + 搜索 → 滚轮缩放

  • 实时迷宫(会话内页签):同一张迷宫图随当前会话执行实时生长;某一步的工具结果一旦落定,支路立刻显现。

实时迷宫:会话执行中迷宫实时生长,空闲等待自动折叠

迷宫画的是什么

  • 实线:主干路径——工具调用成功推进的步骤和回答节点。
  • 时长胶囊条:每个步骤画成从开始到结束的圆角条,判定色填充——3 分钟的 bash 和 0.2 秒的 read 一眼可辨;条够宽时耗时直接写在条内。
  • 并行工具分行(v0.3.2 起):一步内 ≥2 次工具调用时,每次调用画成胶囊条下方的细小条(瀑布惯例),按各自真实起止摆位、按各自判定上色——一眼看出并行发的几个调用里哪个拖了时间、哪个失败;悬停单条看该次调用的命令/返回/判定依据,泳道高度随最大并行数自适应。支路节点保持「+N」标签(其空间为固定泳道格,详情面板已列全)。
  • 虚线弧:探索支路——工具失败(红 ✗)、检索扑空(灰 ·)或盲目重试(灰 ↻)的步骤,以及折返回分支点的回程线。
  • 悬停任意节点或弧线快速预览;点击在右侧打开固定详情面板——完整命令与返回内容(各带复制按钮,返回内容保留前 5000 字)、耗时、判定、思考摘要,Esc 或 × 关闭。
  • 缩放导航:滚轮以光标为中心横向缩放,拖拽平移,双击空白处或「⤢ 整图」按钮复位;轴刻度随缩放窗口自动加密(最细到 1 秒)。
  • 跳转对话(仅实时页签):详情面板里点「在对话中定位此步骤」,宿主切回对话页并滚动高亮对应的工具行。行太老、超出对话已加载窗口时退化为只切页签。
  • 搜索与过滤:工具行提供「只看失败/重试」开关、按工具类型过滤、命令与返回内容全文搜索(含 5000 字面板全文);不命中的节点与支路淡化到 15% 透明度,实时显示命中步数。实时模式下过滤状态在重建后自动还原。
  • 轮次对齐线(双会话对比,v0.3.0 起):每一轮的回答节点自动互连一条对比线,标注两边到达该轮的墙钟时刻、时差和该轮支路数差(如「第 3 轮回答:1st 4m ↔ 2nd 6m(Δ2m)· 支路 4↔0」)。只连两边都有的轮次——旧版从特定任务总结的「模型列表结果」正则里程碑已退役。
  • 手动锚点(双会话对比):「🔗 加锚点」后在两条泳道各点一个节点,钉一条带时差标注的对比线;点线删除,Esc 取消选点。适合钉住两边语义等价但轮次错位的时刻。
  • 支路盘点(双会话对比):「📋 支路盘点」打开按轮次的差额表——每轮两边各自的支路步数、墙钟耗时、类别构成(✗ 失败 / ↻ 无效重试 / · 扑空)和差额结论(如「第 2 会话多耗 48.4s」);点一行缩放到该轮并只保留该轮支路,其余淡化。一边有这轮另一边没有显示「—」,缺席本身就是信号。
  • 导出:一键导出当前视图(含缩放窗口与过滤淡化状态)为 SVG 或 2x PNG,样式已内联、拿去即用;无论页面当前是浅色还是暗色,导出固定浅色底(分享场景)。
  • 主题跟随(v0.3.1 起):页面随宿主 dsh 的明暗主题自动切换(宿主组件监听 body[data-ds-dark-theme] 并 postMessage 进 iframe);独立打开时按系统偏好。
  • 紧凑页头(v0.3.1 起):出数据后说明文字隐藏、上传区收成细条、泳道统计卡隐藏(同信息已画在泳道带内)、图例压成一行——迷宫拿走绝大部分视口。
  • 播放功能最高 300× 回放整次运行。

时间轴的诚实规则:

  • 空闲折叠:超过 60 秒没有任何步骤/工具活动的区间(比如两轮对话之间你在思考)压缩成一条带 标注的细缝,标明省略了多久;活动段内的刻度仍显示真实墙钟时间。
  • 步骤标识带轮次(S15·47),多轮会话的支路不会挂错节点。
  • 步骤时长、工具耗时、总耗时都保持墙钟真值,只有轴被压缩。
  • 实时页签只画对话已加载的事件窗口(v0.2.3 起诚实标注):窗口边缘残留的更早轮次步骤会被丢弃并标注「⏮ 另有 N 步更早历史未加载」,不再钳到 0 秒堆在左边缘、虚高统计;要看全会话用「Session log 下载 → 上传对比」。
  • token 是真值(v0.2.2 起):推理/输出 token 读自 session log 里 assistant/messageusage(此前的「reasoning N tok」数的是流式段数,不是 token)。日志没有 usage 时标签诚实回退为「N 段推理」。

判定的诚实规则(v0.2.1 起):

  • 不按输出长度判定。单工具判定三层:错误标志(isError)→ 失败特征 → 按工具分类(写入类无错误即成功;检索类空结果才算扑空;bash 及未知工具有输出即成功)。
  • 失败特征只扫开头与末尾窗口(v0.2.3 起):真实报错要么从开头开始说、要么是追加在末尾的 stderr 段;而 git log / 读文件 / 转储日志时引用的报错字样悬在长文本中部——判定刻意不看那里,避免把「病历」当「发病」(实测案例:提交信息里写 "upstream returns HTTP 400" 被误判为该命令失败)。两条渲染链路统一在未截断的全文上判定。
  • 盲目重试是行为学判定:时间序上连续的「同工具 + 参数相似」调用簇、且簇内至少一次失败,才标为无效重试——借鉴 AgentLens 对 SWE-agent 轨迹「浪费」的确定性检测。
  • 每个判定都带依据文本,悬停 tooltip 和详情面板可见(如「同一操作连续重试 4 次(其中 1 次失败),判为盲目重试」)。
  • 全部阈值与分类在 src/client/verdict.jsVERDICT_RULES 常量里,可按项目语料调整;页面与实时两条渲染链路共用这一份实现(构建期注入)。

支持的 session log 格式

按文件内容识别格式,文件名任意(macOS 复制出的「session.jsonl 2」也能直接选):

  • 纯文本 .jsonl(session 格式 v0 事件流)
  • ~/.dsh/sessions/ 下原样的 .jsonl.zstd——浏览器端直接解压(原生 DecompressionStream('zstd') 可用时优先,否则用内置的 fzstd

安装

先安装兼容版本的 DSH CLI,再把插件加进 profile:

npm install --global @deepseek-ai/dsh@0.1.0-rc.6
dsh plugin --profile web add https://github.com/lamost423/dsh-trace-compare/releases/download/v0.3.2/dsh-trace-compare-0.3.2.tgz
dsh web

从源码安装:

git clone https://github.com/lamost423/dsh-trace-compare.git
cd dsh-trace-compare
corepack enable
pnpm install
pnpm build
dsh plugin --profile web add .
dsh web

重启 dsh web 后,侧边栏底部出现「Trace 对比」入口,每个会话视图多一个「实时迷宫」页签。

近期迭代

当前的支路判定逻辑(v0.2.1 引入,v0.2.3 收敛)

一步进主干还是支路,由这一步最坏的工具判定决定:成功/回答留在主干,失败(红 ✗)、扑空(灰 ·)、无效重试(灰 ↻)整步进支路。单个工具调用按四层判:

  1. 错误标志:工具结果带 isError → 失败;
  2. 强失败特征[status=Failed]__EXIT__= 非零、[stderr] 后跟 Error / Traceback 这类包装器硬标记 → 失败。只扫输出开头 300 与末尾 1000 字符——真失败要么开头就报、要么是追加在末尾的 stderr 段,长文本中部引用的报错(git log 提交信息、源码字符串)不算;
  3. 弱失败特征:Traceback、command not found、Permission denied、No such file、HTTP 4xx/5xx、行首 Error: → 失败,只扫开头 300 字符;
  4. 按工具分类:写入类(write / edit / todo_write)无错误即成功,不看输出长短;检索类(grep / read / web_search)开头命中空结果特征才算扑空;bash 及未知工具空输出才算扑空。

在此之上叠一层行为学检测:时间序上连续的「同工具 + 参数相似度 ≥0.6」调用簇、且簇内至少一次失败,非失败成员改判无效重试(借鉴 AgentLens 对 SWE-agent 轨迹浪费的确定性检测;不加失败约束会把「连续编辑同一文件」冤枉进去)。刻意不用输出长度、不调用 LLM;每个判定都带依据文本,悬停与详情面板可见。全部阈值在 src/client/verdict.jsVERDICT_RULES,可按语料调整;上传页与实时页签共用这一份实现。以上规则由四个真实会话(共 871 步)校准,依据与误报案例见下面各版本说明。

v0.3.2 · 并行工具调用分行(2026-08-19)

此前一步内多次工具调用折叠成「bash +1」标签,各调用的起止/耗时/判定全被吃掉。现在每次调用画成步骤胶囊条下方的细小条(瀑布惯例):按真实起止摆位、判定色填充、悬停看单次调用详情(命令/返回/依据);泳道高度按该泳道最大并行数自适应(computeLayout 的 parH 区),下方支路弧线自动让位。实测语料:16 轮长会话有 36 个并行步、最大并行 5。Release

并行分行:缩放后可见每次调用的真实时段

v0.3.1 · 主题跟随 + 紧凑页头(2026-08-19)

页面调色板收敛为 CSS 变量单真相源(SVG 属性色经 readPalette 同源取值),随宿主 dsh 明暗主题自动切换:宿主组件监听 body[data-ds-dark-theme](rc.6 的 ThemePresenter 机制)postMessage 进沙箱 iframe,独立打开按系统偏好兜底;导出 SVG/PNG 固定浅色底,暗色下导出前临时切浅色重建、导完切回。同版收紧页头布局:出数据后说明隐藏、上传区收成 31px 细条、泳道统计卡隐藏、图例压成一行,迷宫可视区多出约 250px。顺手把「无效重试」灰从 #b6c0d2 提到 #8892a6,浅色下一眼可辨。Release

暗色主题 + 紧凑页头

v0.3.0 · 对比语义升级:轮次对齐 + 手动锚点 + 支路盘点(2026-08-19)

双会话对比从「一条正则里程碑」升级成一套按轮次的对比语义:每轮回答节点自动互连对齐线(标注时差与该轮支路数差);「🔗 加锚点」手动钉任意两节点的对比线;「📋 支路盘点」按轮次列两边支路的步数/墙钟耗时/类别构成与差额,点行缩放该轮并高亮该轮支路。语料特定的「模型列表结果」正则里程碑(MODEL_LIKE/mlist)随之退役——判定 v2 清理长度阈值后的最后一个硬编码启发式。「探索期」红色背景带一并退役:它取首末支路的最小最大跨度,16 轮长会话上罩住 99% 的时间轴而支路真实耗时只占 1%,是虚假信号。Release

双会话对比:轮次对齐线 + 支路盘点面板 + 手动锚点

v0.2.3 · 实时窗口诚实化 + 判定防引用误报(2026-08-19)

实时页签只画对话已加载的事件窗口——窗口边缘漏进来的更早轮次步骤此前被钳到 0 秒堆在左边缘,一份 18 小时、533 步的会话被画成「3 轮 · 39 步 · 71.4s」。现在陈旧步被丢弃并标注「⏮ 另有 N 步更早历史未加载」。同时修掉判定的「引用误报」:git log 提交信息里写的 "upstream returns HTTP 400"、源码里的 "not found in" 不再被当成命令自己失败——失败特征只扫输出开头与末尾窗口,且两条渲染链路统一在未截断全文上判定。Release

实时页签:窗口截断诚实标注,行为学检测抓到真实的 31 连败盲目重试

v0.2.2 · token 真值、搜索过滤、导出(2026-08-19)

「reasoning N tok」此前数的是流式段数——本版从 session log 的 assistant/message 读真实 usage,步级与泳道级都显示真 token(无 usage 时诚实回退「N 段推理」)。新增过滤工具行(只看失败/重试、按工具过滤、全文搜索,未命中淡化到 15%)与当前视图的 SVG / 2x PNG 导出。Release

只看失败/重试:命中计数 + 其余淡化

v0.2.1 · 判定可解释:告别长度阈值(2026-08-19)

「结果 <60 字符 = 死路」退役,换成上面的分层判定 + 行为学重试检测。动机:校准发现长度阈值冤枉了 338 次调用中的 56 次(todo_write 的 57 字符成功确认全军覆没),反而漏掉藏在长输出里的真失败。判定逻辑同时收敛为单一真相源 src/client/verdict.js(上传页构建期注入、实时链路直接引入),镜像漂移永久消除。Release

开发

pnpm install
pnpm check   # 类型检查 + vitest + 构建

上传/可视化页面是一份自包含的 HTML(src/client/maze-upload.html),运行在沙箱化的 <iframe srcDoc> 里;解析与渲染全部在浏览器端完成,上传的日志内容不会到达宿主。

许可

MIT。见 NOTICE——本项目包含源自 DeepSeek Harness 的衍生代码。

Plugins relacionados