DeepSeek Harness 接本地模型:Ollama 配置、六类失败与回退到官方模型
DeepSeek Harness 接 Ollama,核心只有一件事:把自定义提供方的四个字段填对。 连不上、404、模型不存在,六类失败里有一半是字段与模型名的问题。
两条接法:先选一条
接本地模型有两种方式,选一条走通再考虑另一条。
| 接法 | 适合场景 | 关键字段 |
|---|---|---|
| 自定义提供方 | 直接用 Ollama | Provider ID、base URL、协议、模型 |
| OpenAI 兼容端点 | 已有网关或统一协议 | base URL、API Key、模型名 |
自定义提供方更直接。 在「设置 → 模型」里添加提供方,按表单逐项填写;Ollama 默认地址是 127.0.0.1:11434(来源)。
OpenAI 兼容端点适合中间有网关的场景。 如果 Ollama 前面还有一层代理,用兼容端点更顺;没有网关时,不必多绕一层。
不要两条同时配。 同一个模型出现两个提供方,会话可能选错;先走通一条,再决定是否保留第二条。
配置步骤
按顺序填,先保证列表能读到模型,再保证会话能用。
- 在本机启动 Ollama,确认
ollama list能看到目标模型。 - 打开「设置 → 模型」,添加自定义提供方。
- 填写 Provider ID:用能区分的名字,例如
ollama-local。 - 填写 base URL:
http://127.0.0.1:11434。 - 选择 API 协议与模型名,模型名必须与
ollama list里的完全一致。 - 保存后刷新模型列表,确认目标模型可选。
- 新开会话,选该模型发一条测试消息。
模型名要逐字对。 大小写、标签后缀(如 :latest)不一致,都会表现为「模型不存在」。
先刷新列表再开会话。 模型列表是缓存的一层,保存后不刷新,界面可能仍显示旧选项。
六类失败与排查
连接失败、404、模型不存在、协议错误、图片能力、超时,六类覆盖大多数情况。
- 连不上。 Ollama 没启动、地址填错或端口被占用;用
curl http://127.0.0.1:11434/api/tags对照。 - 404。 base URL 多了或少了一段路径;Ollama 的根地址不需要额外路径。
- 模型不存在。 模型名不一致或未 pull;用
ollama list核对后重填。 - 协议错误。 API 协议选错;自定义提供方与兼容端点用的协议不同,按说明选。
- 图片能力异常。 本地模型不支持图片,却开了视觉开关;关掉图片能力,或换支持视觉的模型。
- 超时。 模型过大、显存不足或推理慢;先换小模型验证链路,再调超时。
排查顺序是「服务 → 地址 → 模型 → 协议 → 能力」。 前两步用 curl 就能确认,不要先改会话配置。
图片与网关兼容性开关写在配置里。 它们在 settings.yaml 中,不在界面表单里;改完要重启或重载(来源)。
验证:三个信号
配置成功与否,看三个信号,不只看「保存成功」。
- 列表信号: 模型选择器里出现目标模型,名称与配置一致。
- 请求信号: 发一条测试消息,会话有回复,日志里请求指向本地地址。
- 能力信号: 需要图片或工具调用时,确认该模型支持;不支持就关掉对应开关。
三个信号都过,才算接通。 只过前两个,可能在复杂任务里才暴露能力缺失。
保留一次测试记录。 模型名、base URL、请求结果,出问题时能快速对照。
回退官方模型
本地模型不可用时,回退要彻底。
- 在模型设置里切回官方提供方。
- 或停用自定义提供方,避免会话继续选中它。
- 新开一个会话验证;旧会话可能仍引用旧模型。
- 需要保留本地配置时,不要删除,只停用;下次直接启用。
- 检查默认模型设置,避免新会话又落回本地模型。
只改模型名不算回退。 提供方仍在、默认模型仍指向它,新会话还会失败。
回退后确认请求走向。 日志里应看到请求发往官方地址,而不是本地端口。
成本与硬件边界
本地模型的优势是数据不出本机,代价是硬件与速度。
- 显存决定模型大小。 模型越大,显存要求越高;显存不足会退化到 CPU,速度明显下降。
- 上下文越长越吃显存。 长会话下本地模型更容易爆显存;必要时缩短上下文或换小模型。
- 并发能力有限。 本地单机适合个人使用,多人并发要评估排队与超时。
- 能力有差异。 本地模型在工具调用、结构化输出上可能与官方模型不同,插件行为也会受影响。
边界清楚,才不会把「能跑」当成「能替代」。 本地模型适合隐私敏感、离线或成本可控的场景;复杂任务仍可能需要官方模型。
下一步
先跑通一条接法,再按六类失败排查。 想看官方提供方的填表细节,看《DSH 怎么用 Ollama 跑本地模型》;想看通用模型配置,看《DeepSeek Harness 模型怎么配置》;想看图片能力开关,看《模型图片能力配置》。
常见问题
DeepSeek Harness 接 Ollama 两种都可以:自定义提供方更直接,按表单填 base URL 与模型名;OpenAI 兼容端点适合已有网关或需要统一协议的场景。先按官方推荐的自定义提供方走。
Ollama 已经在本机跑起来却连不上,先确认 base URL 是否指向 127.0.0.1:11434、Ollama 是否监听该地址,再从本机用 curl 测一次模型列表。容器或远程场景还要检查地址是否能从 DSH 所在环境访问。
本地模型能连上但报模型不存在或 404,多数是模型名不一致:Ollama 里的模型名与配置里填的名不完全相同,或该模型还没 pull 下来。用 Ollama 的模型列表核对,再填一次。
本地模型不可用时,在 DeepSeek Harness 的模型设置里切回官方提供方,或停用自定义提供方;不要只改模型名。切换后新开会话验证,旧会话可能仍持有旧模型引用。
相关术语
- Ollama
- Ollama 是本地模型运行工具,默认在 127.0.0.1:11434 提供模型列表与推理接口。— Ollama 官方文档
- 自定义提供方
- 自定义提供方是 DeepSeek Harness 里手动填写模型服务信息的入口,包含 Provider ID、base URL、API 协议与模型名。— DeepSeek Harness 官方文档
- base URL
- base URL 是模型服务的根地址,Ollama 默认是 http://127.0.0.1:11434,填错会表现为连不上或 404。— Ollama 官方文档
- 回退
- 回退是把当前会话或默认模型切回官方提供方的动作,用于本地模型不可用时恢复使用。— DeepSeek Harness 官方文档
来源
- DeepSeek Harness 官方文档· deepseek-harness
- dsh CLI README· deepseek-ai
- Ollama 官方文档· Ollama