Decrabbityyy/dsh-discovery

插件Plugin ⭐ 3 other

DeepSeek Harness model discovery plugins for local engines and API gateways

项目介绍Project Overview

DSH 模型发现插件组从 Ollama、LM Studio、llama.cpp、LiteLLM、OpenAI 兼容网关、Anthropic 和 Gemini 端点发现模型并接入 DeepSeek Harness。提供三种能力:网页端临时探测、UI 设置页管理与启动时自动同步全部模型。适合需要纳入多源模型目录的 Web profile。注意:页面管理仅限 Web profile;Ollama 等本地端点必须带 /v1 后缀。

DSH Discovery is a bundle of plugins that probe Ollama, LM Studio, llama.cpp, LiteLLM, OpenAI-compatible gateways, Anthropic, and Gemini endpoints, then register the discovered models with DeepSeek Harness. It offers on-demand page probing, a settings-page management UI, and startup-time auto-sync of full model catalogs. Use it for Web profiles that must aggregate models from many sources. Settings UI requires a Web profile; local endpoints like Ollama need a /v1 suffix.

安装Install

dsh plugin --profile web add dsh-llm-discovery

Decrabbityyy/dsh-discovery 加入你的 DSH 配置(web profile)即可启用。

READMEREADME

DeepSeek Harness 模型发现插件

这组插件帮助你从 Ollama、LM Studio、llama.cpp、LiteLLM、OpenAI 兼容网关、Anthropic 和 Google Gemini 端点发现模型,并把模型加入 DeepSeek Harness。

选择插件

插件 用途 适合场景
dsh-llm-discovery 在 Web 设置页临时探测端点 先查看模型,再选择性添加 Provider
dsh-client-ui-settings-discovery 提供「模型发现」设置页面 使用 Web profile 配置模型
dsh-llm-dynamic-provider 启动时自动探测并注册整个模型目录 模型经常变化的中转站、聚合网关或本地服务

llm-endpoint-base 是上述插件共用的内部包,不需要单独安装。

常用组合:

  • 在页面中探测并手动采纳模型: 安装 dsh-llm-discoverydsh-client-ui-settings-discovery
  • 让一个端点的模型目录自动保持更新: 只安装 dsh-llm-dynamic-provider
  • 在页面中管理动态路由: 安装 dsh-llm-dynamic-providerdsh-client-ui-settings-discovery,不需要 dsh-llm-discovery
  • 同时使用页面探测和动态路由管理: 安装三个插件。

安装

要求:已经安装 dsh,并已创建目标 profile。设置页面只能用于 Web profile。

按需要从 npmjs 安装插件:

dsh plugin --profile web add dsh-llm-discovery
dsh plugin --profile web add dsh-client-ui-settings-discovery
dsh plugin --profile web add dsh-llm-dynamic-provider

只安装你需要的组合。dsh plugin 会把 npm 包加入目标 profile,并自动启用包内的插件层。

确认插件已经进入配置:

dsh --profile web --dump-config

快速开始

在页面中发现模型

  1. 安装 dsh-llm-discoverydsh-client-ui-settings-discovery
  2. 启动 Web profile。
  3. 打开「设置」→「模型发现」。
  4. 选择 Ollama、LM Studio 或 llama.cpp 预设,或者填写自定义端点。
  5. 选择协议并填写 API 密钥;本地无认证端点可以留空。
  6. 点击「探测」,确认返回的模型与容量信息。
  7. 选择模型并点击「采纳为 Provider」。
  8. 到「模型」设置页检查并使用新 Provider。

详见 dsh-client-ui-settings-discovery

自动管理一个端点的全部模型

安装 dsh-llm-dynamic-provider,然后在 $DSH_HOME/settings.yamlllm-dynamic-provider.routes 下声明路由。保存后插件会立即探测端点;探测成功后,该路由会出现在模型选择器中。

配置字段、凭证和缓存说明见 dsh-llm-dynamic-provider

支持的端点

类型 推荐协议 baseURL 示例
Ollama openai-completions http://127.0.0.1:11434/v1
LM Studio openai-completions http://127.0.0.1:1234/v1
llama.cpp openai-completions http://127.0.0.1:8080
OpenAI 兼容网关 / LiteLLM openai-completionsopenai-responses 供应方给出的 /v1 地址
Anthropic anthropic-messages 供应方给出的 Anthropic API 地址
Google Gemini google-generative-ai https://generativelanguage.googleapis.com/v1beta

常见问题

  • **401/403:**检查 API 密钥,以及协议是否与端点匹配。
  • **探测为空:**确认端点提供模型列表接口,并且当前凭证有读取权限。
  • **Ollama 能探测但无法对话:**Provider 的 baseURL 必须包含 /v1
  • **Gemini 探测失败:**使用包含 /v1beta 的原生 Gemini baseURL,不要填写 OpenAI 兼容地址。
  • **新 Provider 没有出现在选择器中:**先查看启动日志中的探测错误,再确认插件已出现在 --dump-config 输出中。
上一个 Prev dsh-sitemap 下一个 Next dsh-balance