dsh-ai-output-trust：为 DeepSeek Harness 守住 AI 输出信任边界的安全检查

它是做什么的？

AI 输出信任边界是 DeepSeek Harness（DSH）的安全检查插件，专门排查代码里有没有把 AI 输出直接当成可信输入来执行。它解决的是「模型生成一段脚本、我直接跑」这类危险写法——AI 输出可能被提示注入控制，也可能自己发挥，等于把任意代码执行权交给一个概率模型，OWASP 把这类问题单列为 LLM05 Improper Output Handling。插件由 feely0208 维护，采用 MIT 协议，用 Shell 实现，最近更新于 2026-10-13。

核心功能

• 严重级检出：识别 eval(aiResponse)、new Function(...) 这类把 AI 输出直接当代码执行的写法。
• 命令注入检出：识别 AI 输出被拼进 exec / spawn 的调用点。
• 高风险检出：识别 AI 输出拼进 SQL 语句，以及文件路径来自 AI 输出导致的路径穿越。
• 精确命名识别：靠变量命名（如 ai* / llm* / model*）判断，而不是看到 .content 就报，因此把模型输出做结构化解析、Schema 校验的代码不会被误报。
• 规则可查：支持列出全部规则及其依据，方便对照 OWASP LLM 风险条目。

怎么使用这个插件？

在 DSH 中启用后，对目标代码运行检查即可得到按级别分组的检出结果，严重项与高风险项分别对应 eval、shell、SQL、路径四类用法。想先看效果可以用演示模式跑一遍，想了解每条规则的判定依据可以列出规则清单，需要交付报告时还能输出 HTML 结果页。使用时建议统一变量命名，否则靠命名识别的规则会漏检；插件只覆盖这四种明确的高危用法，不做数据流分析，也不处理其它间接信任场景，与查 GitHub Actions 脚本注入的 dsh-ci-guard 分工不同，这个查的是运行时。

报错怎么排查？

如果检查结果里没有报出你预期的风险点，通常是变量命名不统一导致的漏检——插件靠命名识别 AI 输出，建议按 ai* / llm* / model* 统一命名。如果报出了你认为安全的代码，先确认该处是否真的把 AI 输出直接交给了执行、查询或路径拼接，插件只看调用点附近，不做数据流分析。