- ホーム
- プラグイン
- ビジョン、音声とマルチモーダル
- dsh-hos-scrcpy
N
dsh-hos-scrcpy
ns-zzj/dsh-hos-scrcpy
Screen-mirror and control a HarmonyOS phone from the DSH web UI: live H.264 mirroring, mouse touch, system keys, hilog streaming, and per-shot AI screen recognition.
インストール
dsh plugin --profile web add github:ns-zzj/dsh-hos-scrcpyREADME
dsh-hos-scrcpy — DSH 鸿蒙投屏控制插件
开发手机软件时总在手机和电脑之间来回切换,太麻烦了。这个插件让你在 DeepSeek Harness 网页里直接操作鸿蒙手机: 实时投屏、鼠标触控、系统按键、hilog 日志,AI 助手还能"看到"手机屏幕——截屏识别、读页面、找按钮、看报错,开发调试不用再两头跑。
它能做什么
- 电脑上操作手机:网页内实时投屏鸿蒙(HarmonyOS NEXT)手机,鼠标点击/拖动即触摸,返回/主页/音量键一键可按,无需在手机和电脑屏幕之间切换
- AI 也能识别屏幕:开启「允许截图」后,AI 可用
hos_scrcpy_screenshot工具截取手机屏幕并识别画面内容(每次截图前二次确认),例如"当前页面是什么应用?界面上有哪些按钮?屏幕上显示了什么错误?" - 截图入聊天框:一键截取当前屏幕,像粘贴图片一样加进聊天输入框
- hilog 实时日志:设备日志滚动查看(限速 60 行/秒,保留最近 500 行),排查问题不用开 DevEco
功能特性
| 功能 | 说明 |
|---|---|
| 设备发现 | USB / 局域网无线调试,hdc 已连接设备自动列出 |
| 实时投屏 | H.264 视频流,网页播放(jmuxer.js) |
| 触控操作 | 鼠标点击/拖动 = 手机触摸,坐标自动换算设备分辨率 |
| 系统按键 | 返回 / 主页 / 音量+ / 音量- / 电源 |
| hilog 日志 | 设备实时日志滚动查看 |
| AI 截图识别 | hos_scrcpy_screenshot 工具(deepseek-v4-flash-vision-exp),截图前二次确认 |
| 截图入聊天框 | 截屏并直接加入聊天输入框 |
| 自适应布局 | 右侧控制区宽度按手机屏幕比例调整,聊天区自动让位 |
| 环境自动检测 | JAVA_HOME / DEVECO_SDK_HOME 优先,支持手动配置 |
环境要求
| 依赖 | 说明 |
|---|---|
| DSH 运行环境 | HarmonyOS NEXT + DeepSeek Harness(插件经包安装、随 web profile 常驻) |
| Java 8+ | sidecar 桥接程序运行环境 |
| hdc | DevEco Studio 自带(<DevEco>/sdk/default/openharmony/toolchains/hdc.exe) |
| 鸿蒙手机 | 开启开发者模式 + USB 调试(或 hdc tconn 无线连接) |
目录结构
dsh-hos-scrcpy/
├── README.md
├── LICENSE
├── package.json # dsh.bundle / dsh.client 声明(npm pack / dsh plugin add 入口)
├── cordis.patch.yml # bundle patch:向组合树插入插件行
├── lib/
│ └── index.js # Host 半区(webServer RPC 路由)
├── client/
│ └── client.js # Client 半区
├── resources/ # sidecar 运行时资源(全部必需)
│ ├── hosScrcpy-1.0.18-beta.jar
│ ├── out/ # Main 及内部类(javac 编译产物)
│ └── jmuxer.min.js
└── Dev/ # sidecar 源码 + 独立测试环境(二次开发从这里开始)
├── src/Main.java # sidecar 主程序源码(唯一手写源码)
├── demo/index.html # 独立测试页(不依赖 DSH)
├── demo/jmuxer.min.js # H.264 网页解码库
└── doc.md # Dev 目录开发文档(协议/编译/排障)
快速开始
以插件包(tgz)安装,重启 DSH 后插件常驻:
- 从 Release 下载
dsh-hos-scrcpy-<版本>.tgz,或在项目根目录执行npm pack生成 - 安装到 web profile:
dsh plugin --profile web add <tgz 路径> - 重启
dsh web,右上角出现「设备列表」按钮即成功 - 设备列表 → 鸿蒙设备 → 点「投屏」→ 等待部署(首次约 10 秒)→ 右侧出现控制区:手机画面 + 按键
- 点「日志▸」查看 hilog 实时日志
架构
flowchart TB
CL["DSH 网页(Client)<br/>设备列表 · 控制区 · jmuxer 解码<br/>触控 / 按键 / hilog"]
HS["DSH Host(Node.js)<br/>配置 · 环境检测 · 设备发现<br/>device:connect 拉起 sidecar · JSON RPC"]
SC["Java sidecar<br/>Main --sn SN · ws://127.0.0.1<br/>H.264 帧广播 · 触控按键 · hilog"]
PH(("鸿蒙手机"))
CL <-->|"host.call · RPC"| HS
HS -->|"spawn 拉起"| SC
SC <-->|hdc| PH
CL <==>|"WebSocket 直连(视频帧 / 触控 / 按键,不经 Host)"| SC
二次开发
开发文档 —— sidecar 源码解析、WebSocket 协议、编译与同步、独立测试页用法、常见故障排查,二次开发从这里开始。
- 改动约定:sidecar 逻辑改
Dev/src/Main.java(编译产物同步到插件目录的out/); 协议改动要三处同步(Main.java+Dev/demo/index.html+ 插件client.js); 前端 UI 只改插件client.js
安全说明
- sidecar 只监听
127.0.0.1回环地址(随机端口),不暴露局域网 - 无任何外部网络请求(审计确认:全部源码与原生库无外联域名)
- 设备端命令仅限白名单(hilog / uinput / uitest / snapshot_display 等)
- 仅支持本机 hdc 已连接设备(USB / 局域网无线调试),不含远程真机模式
已知限制
- 键盘文本输入未内置(系统输入法注入延迟高,已移除),输入请在手机上操作或鼠标点击
- 仅支持鸿蒙设备;安卓暂不支持
- 会话内
cordis_define加载方式随 DSH 进程重启失效,需重新定义;插件包方式不受此限制 - 画面静止时 SDK 不推帧,前端会提示"请持续滑动手机更新画面"(正常行为,非故障)