shinjiyu/dsh-plugin-multimodal 预览 preview

shinjiyu/dsh-plugin-multimodal

Plugin插件 Native原生 ⭐ 3 MIT Vision & Media视觉与多媒体

DeepSeek Harness 的视觉辅助工具:在纯文本模型上接受粘贴的图像。

Project Overview项目介绍

dsh-plugin-multimodal fixes image-paste rejection in DeepSeek Harness Web. It detects whether the main model accepts images: if yes, passes them through; if not, routes to a sidecar vision model (e.g. glm-4.5v) to convert images into text first, and provides see_image for disk files. Install via the web profile and configure a real vision-capable sidecar. Text-only models like GLM-5.2-FP8 cannot serve as sidecar.

dsh-plugin-multimodal 解决 DeepSeek Harness Web 端贴图被拒问题。它识别主模型能力:支持图片则原样下发,否则用 sidecar 视觉模型(如 glm-4.5v)先转文字再传入,并提供 see_image 处理磁盘截图。需在 web profile 中启用并配置真视觉模型作为 sidecar。纯文本模型(如 GLM-5.2-FP8)不能当 sidecar。

Or use CLI install (for developers)或使用命令行安装(适合开发者)

CLI Install命令行安装

dsh plugin --profile web add github:shinjiyu/dsh-plugin-multimodal

shinjiyu/dsh-plugin-multimodal 加入你的 DSH 配置(web profile)即可启用。

READMEREADME

dsh-plugin-multimodal

Awesome DSH Plugin

DeepSeek Harness 官方线路是纯文本。Web 里贴图会被拒:当前模型不支持图片

这个插件补的是贴图准入,不是视觉工具箱。

  1. 主模型本身收图(Claude / GPT / 自建视觉网关)→ 原样把图交给模型,不转文字
  2. 主模型是纯文本(官方 DeepSeek)→ GUI 先收下图,sidecar 转成文字再发给主模型
  3. see_image 给磁盘上的截图用

官方 PI adapter 已经会做第 1 步,不会做第 2 步:不支持就 UNSUPPORTED_CONTENT。Anionex 的 dsh-vision-toolkit 是另一条路:给 agent 一堆 vision_* 工具,要模型自己去调。本插件让粘贴不被拒

对应需求:Discussions #588 · 介绍帖:Show and tell #1709

安装

dsh plugin --profile web add github:shinjiyu/dsh-plugin-multimodal

本地路径:

dsh plugin --profile web add D:\tempWorkspace\dsh-plugin-multimodal

然后重启 dsh web。旧会话的工具表不会更新。

GitHub topic:dsh-plugin

配置

环境变量(不要把 key 写进仓库):

变量 作用
DSH_VISION_BASE_URL 视觉接口,例如 https://api.example/v1
DSH_VISION_API_KEY 该接口的 key
DSH_VISION_MODEL 必须是真能看图的模型,例如 glm-4.5v
DSH_VISION_PROMPT 可选。默认 OCR + 描述界面

没设 DSH_VISION_* 时回退 OPENAI_BASE_URL / OPENAI_API_KEYGLM-5.2-FP8 这类文本模型不能当 sidecar。

也可以在 profile 的 cordis.patch.yml 里写:

- id: dsh-plugin-multimodal
  name: dsh-plugin-multimodal
  inject: [llm, tools, attachments, systemPrompt]
  config:
    model: glm-4.5v
    apiKeyEnv: DSH_VISION_API_KEY

30 秒验收

  1. 主模型仍用官方纯文本(或 PocketCity 文本模型)
  2. 配好一个真能看图的 sidecar
  3. 在 Web 里粘贴一张报错截图,问「红字说了什么」
  4. 过关:不再弹「当前模型不支持图片」,主模型能引用图上的字

磁盘文件:让它调 see_image

不要做

  • 不要改 runtime/ 或官方 DeepSeek adapter
  • 不要把 sidecar 指到 deepseek-v4-flash / 其它纯文本模型
  • 不要把它宣传成「视觉工具箱」——那是 toolkit 的词

社区

微信群:deepseek harness 讨论群(2群)

扫码进群,用来分享和讨论插件。不是官方群。

微信群二维码

微信群码大约 7 天过期(本张到 2026-08-23)。过期后把新码覆盖 docs/community/wechat-group-2.jpg 即可。

宣发稿(Discussions / V2EX / 群公告)在 docs/PROMO.md

License

MIT

上一个 Prev dsh-kafka-ui 下一个 Next gitee-ai-employee