メインコンテンツへスキップ
1

dsh-wsl-llamacpp

173787247/dsh-wsl-llamacpp

OpenAI-compatible client for llama.cpp / Unsloth Desktop (default :8080).

インストール

dsh plugin --profile web add github:173787247/dsh-wsl-llamacpp

README

dsh-wsl-llamacpp

语言: 中文(本页) · English

对接本机 llama.cpp / Unsloth Desktop 的 OpenAI 兼容接口(默认 :8080)。

版本0.1.0
套件dsh-wsl-kit 可选,不在 install.sh

安装

dsh plugin --profile web add github:173787247/dsh-wsl-llamacpp
# 或本机 path:
# dsh plugin --profile web add /mnt/c/Users/YOU/Desktop/AIFullStackDevelopment/dsh-wsl-llamacpp

kit 批量链接(可选):bash dsh-wsl-kit/scripts/link-linux-plugins.sh

工具

工具作用
llama_status是否可达、模型 id
llama_chat/v1/chat/completions

配置要点

baseUrl / defaultModel / timeoutMs

复用已有 GGUF,不重装工具链。环境变量:DSH_LLAMA_BASE、DSH_LLAMA_MODEL。

兼容性

字段值
插件dsh-wsl-llamacpp 0.1.0
最低 dsh≥ 0.1.2(Web UI 一次性 ?token=,Windows 中继 :3081)
最新验证以 dsh-wsl-kit 兼容性 为准(当前 0.1.7-alpha.2)— 套件唯一真源
套件档位可选(默认不在 install.sh / KIT_SET=daily)

License

MIT

関連プラグイン