dsh-computer-use-win

给 DeepSeek Harness 装上 Windows 电脑操控能力——MCP stdio 服务器 + PowerShell/UIA 桌面引擎，22 个工具让 agent 能看（UIA 无障碍树、窗口裁剪截图、OCR 词框）也能做（鼠标、键盘、UIA 语义动作、窗口管理）真实的 Windows 桌面应用。

通过 DSH 内置的 @deepseek-ai/dsh-mcp-client 桥接，不改 DSH 本体，零运行时依赖。

① 文件资源管理器：`find` 定位 + 语义 `invoke` 选中文件（状态栏"选中 1 个项目"）	② `type_text` 写入真实文档（剪贴板路径，`verifyValue` 回读）	③ UWP 计算器：`find` 定位按钮 + 语义 `Invoke` 点击（25×4=100）

特性

文本优先的观察——UIA 无障碍树三视图（control/content/raw）；按 name/automationId/类名/值找控件，不靠猜像素。元素 id 用 UIA RuntimeId（UI 刷新后仍稳定，过期报 stale 而非点错地方）。
三级截图链——PrintWindow（非前台窗口也能抓）→ WGC（Windows.Graphics.Capture，DirectComposition/被遮挡窗口）→ 屏幕区域兜底（带 occludedPossible 标记）。窗口裁剪 + 降采样 + imageScale/origin 坐标映射，PNG 30 分钟自动清理。
三条输入路径，诚实上报——语义（UIA pattern，不碰鼠标）/ 前台（SetCursorPos + SendInput + 剪贴板 / KEYEVENTF_UNICODE）/ 后台（PostMessage 直进窗口消息队列，不抢前台；投递未验证，如实 verified:false——Chromium/Electron/WinUI 会静默丢合成消息，工具会明说）。
UIA 盲区 OCR 回退——Windows.Media.Ocr（csc 编译的 C# WinRT 助手）；返回文字 + 逐词屏幕坐标词框，query 命中后自动回查匹配词下的控件（ControlFromPoint）。
内置安全机制
- 坐标 homing——观察后窗口被移动，点击自动补偿并回报 homed:{dx,dy}
- 急停 failsafe——物理鼠标停屏幕角落 500ms，所有输入被拒（EMERGENCY STOP），只有人把鼠标移开才恢复
- identity guard——按 windowTitle 操作时窗口 HWND/PID 变了就拒绝（identity_changed）
- 前台校验——输入 fail-closed：目标窗口不是真前台就直接报错，绝不打进别的窗口
- Win 键黑名单——Win+R/X/L/S 类组合按设计拦截
持久化后端——一个常驻 PowerShell 进程 + JSON 行协议，热态延迟 6–100ms（首次 ~500ms 冷启动）；C# P/Invoke 助手按 hash 编译成缓存 DLL，重启免重编。

安装

# 从 GitHub（--profile 指定装进哪个 profile）
dsh plugin --profile web add github:Yu-tao-Li/dsh-computer-use-win
# 或在 DSH 设置的插件市场（dshmarket）搜索 dsh-computer-use-win

重启 dsh web，工具以 mcp__wincu__windows_computer_use_* 出现。

bundle 在安装时自解析路径（cordis.patch.yml 用 !!js 相对包目录），任何 profile / $DSH_HOME 都能装，无硬编码路径。同一 profile 只保留一个 serverName: wincu 行。

工具清单（22 个，前缀 `mcpwincu`）

分组	工具
观察	`health` · `snapshot`（树+截图）· `accessibility_tree` · `list_windows` · `find` · `element_info` · `ocr`
动作	`click` · `double_click` · `move` · `drag` · `scroll` · `type_text`（clipboard/sendinput/background）· `keypress` · `focus` · `invoke` · `set_value`
窗口	`activate_window` · `move_window` · `close_window`（WM_CLOSE，应用可弹保存框否决）· `wait_for` · `wait`

所有工具都支持可选窗口定位（windowTitle 子串 / processId / nativeWindowHandle）+ activate: true；不指定 = 当前前台窗口。

架构

DSH agent
   │  模型看到 mcp__wincu__windows_computer_use_* 工具
   ▼
@deepseek-ai/dsh-mcp-client   ← DSH 内置桥接（官方 MCP SDK StdioClientTransport）
   │  JSON-RPC 2.0 over stdio（按行分帧）
   ▼
mcp/server.mjs                ← 本仓库：MCP 服务器（Node ≥22，零依赖）
   │  保活一个持久化后端；JSON 行协议
   ▼
scripts/windows-uia.ps1       ← 本仓库：桌面引擎（PowerShell 5.1 兼容）
   ├─ UI Automation 程序集        → 无障碍树
   ├─ user32 P/Invoke（C# 缓存 DLL）→ 鼠标/键盘/窗口操作
   ├─ Windows.Media.Ocr（C# WinRT）→ OCR
   └─ Windows.Graphics.Capture   → WGC 窗口捕获

安全与限制

动作是真实的——敏感操作前让 agent 先 snapshot；重要窗口用 windowTitle 明确限定。
WinUI / Chromium / Electron 会丢弃 PostMessage 合成输入（verified:false 是诚实上报，不是成功）。这类目标走前台/剪贴板路径。
提权窗口（UAC/管理员程序）UIA 与合成输入都被 Windows 拦截，读不到也点不了。
坐标以物理像素为准（显式 Per-Monitor V2 DPI）。
OCR 对 CJK 按字符给词框（引擎特性），点选足够用。
仅支持 Windows。

开发

mcp/server.mjs          MCP stdio 服务器 + 持久化后端管理
scripts/windows-uia.ps1 桌面引擎（one-shot 与 -Persistent 双模式）
test/                   self-test / MCP 协议 / Notepad E2E / 功能综合 / 延迟基准
docs/wiki/              上游架构文档（见 THIRD_PARTY.md）
docs/dev-notes.md       设计原理、踩坑记录、性能数据、测试记录

node mcp/server.mjs --self-test     # 全栈自检（仅 Windows）
node test/mcp-test.mjs              # initialize → tools/list → tools/call
node test/notepad-e2e.mjs           # 真实输入端到端（会开记事本）

CI（.github/workflows/ci.yml）在每次 push/PR 时于 windows-latest 跑自检 + 协议测试。

dsh-computer-use-win

설치

README

dsh-computer-use-win

特性

安装

工具清单（22 个，前缀 `mcpwincu`）

架构

安全与限制

开发

许可

관련 플러그인

archify (deepseek-harness)

treg

dsh-browser

notes

설치

README

dsh-computer-use-win

特性

安装

工具清单（22 个，前缀 mcp__wincu__）

架构

安全与限制

开发

许可

관련 플러그인

archify (deepseek-harness)

treg

dsh-browser

notes

工具清单（22 个，前缀 `mcpwincu`）