AI 标识合规检查 feely0208/archive-ai-labeling-dup

@deepwhale-cn/dsh-ai-labeling

接了 OpenAI / Anthropic / DeepSeek 之后，帮你查「AI 生成的东西标了没」。

关键词：AI 生成内容标识 · 显式标识 · 隐式标识 · 深度合成标识 · AIGC 标注 · 人工核验提示 · 生成式人工智能合规 · 内容标识办法

先说清楚它是什么、不是什么

是：静态扫你的代码，找出调用了模型生成内容、却没有按法规做标识的位置 —— 缺「AI 生成」显式标识、缺「人工核验 / 仅供参考」提示、缺 generated_by / ai_generated 这类隐式标识元数据，以及把 AI 生成含糊写成「自动生成」。

不是：
- ❌ 不判断「这段内容是不是 AI 生成的」 —— 那要运行时才知道，静态分析看不出来
- ❌ 不做事实核查 —— 它查的是「有没有提示用户可能存在错误」，不是「这句话对不对」
- ❌ 不是内容安全审查 —— 不查生成内容有没有违规词
- ❌ 不下「合规 / 不合规」的结论 —— 命中是提示确认：这里可能缺标识，判断留给你

一句话分界：别的工具问「内容是 AI 写的吗」，这个问「你告诉用户了吗」。

它跟 dsh-ai-output-trust 不重叠：
ai-output-trust = AI 输出【喂给下游组件】时的注入风险（eval / SQL / shell）
ai-labeling = AI 输出【给人看】时的标识义务（显式 / 隐式 / 核验提示）

它查什么（5 条）

| 规则 | 查什么 | 级别 |
| AILABEL-NO-DISCLOSURE | 生成结果被直接回给用户的文件里，看不到任何「AI 生成」显式标识 | 🔴 |
| AILABEL-MISSING-TEXT | 项目里有 AI 生成调用，但全项目找不到一句「AI 生成 / 由 AI 生成 / AI-generated」标识文案 | 🔴 |
| AILABEL-NO-REVIEW | 面向用户的输出里没有「人工核验 / 仅供参考」提示 | 🟡 |
| AILABEL-NO-IMPLICIT-META | 生成产出文件里没有 generated_by / ai_generated 等隐式标识字段 | 🟡 |
| AILABEL-VAGUE-GENERATED | 用户可见文案写「自动生成 / 系统生成」，却没有 AI 字样 | ⚪ |

每条都会给出：哪个文件、第几行、那行代码长什么样、依据是哪一条法规。

为什么不会误伤不用 AI 的项目

五条规则全部带 when 守卫 —— 项目里没有 openai / anthropic / deepseek / generateText 这类痕迹时，规则被判定为不适用而不是「通过」，报告会写「5 条因不适用本项目未运行」。这是为了防「假绿」：不适用和不报是两件事，报告里必须分开说。

安装

dsh plugin --profile web add @deepwhale-cn/dsh-ai-labeling

用法

扫描一个项目 dsh-ai-labeling --root /path/to/your-project

看内置演示（一个接了 OpenAI、生成摘要直接展示给用户、没有任何标识的项目） dsh-ai-labeling --demo

列出规则与依据 dsh-ai-labeling --list-rules

出 HTML 报告 / 给 CI 用的 JSON dsh-ai-labeling --root . --html ai-labeling.html dsh-ai-labeling --root . --json

退出码：有 high/critical 命中返回 1，可以直接挂在 CI 上当卡口。

怎么修（报告里的 advice 是同一套思路）

1. 显式标识写进用户看得见的地方。 建一个统一常量，例如 export const AI_LABEL = '本内容由 AI 生成';，在页面/接口响应/消息正文里引用并渲染出来。
写在 README、代码注释、后台日志里不算标识 —— 用户看不到。
2. 加人工核验提示。 「本内容由 AI 生成，仅供参考，请以人工核验结果为准」。
AI 是概率输出，会有事实性错误，用户需要知道该不该直接采信。
3. 补隐式标识。 生成结果落库/落盘时带上 generated_by / ai_generated / model_name / service_provider / content_id。它的作用是内容被搬运、被二次分发之后仍然能追溯来源。
4. 别用糊涂词。 「自动生成」「系统生成」听起来像模板拼接，要改成带 AI 字样的表述；但也不能反过来写成「作者」「编辑」这类像自然人的身份来规避标识。

依据（每条都可查证）

- 《生成式人工智能服务管理暂行办法》第 12 条 —— 对生成内容进行标识
- 《互联网信息服务深度合成管理规定》第 17 条 —— 深度合成内容标识
- 《人工智能生成合成内容标识办法》第 4 条（显式标识）、第 5 条（隐式标识）

规则文件在 rules/，每条规则的 source 字段就是上面对应的条款。

已知边界

- 静态分析的边界：它看的是「代码里有没有调用模型、有没有标识文案」，不是运行时的真实输出。
标识文案在运行时才拼出来（比如从远端配置中心拉取）时，可能漏报 —— 这种情况请人工确认。
- 标识文案散落在多处时，规则按文件判断：某个用户可见输出文件里没有标识，就会报，即使项目别处有。这是有意为之 —— 标识要出现在用户实际看到的那一份内容上。
- 隐式标识的关键词是有限集合（generated_by / ai_generated / model_name 等）。
如果你用的是自定义字段名，会命中 —— 那是提示你确认「这个字段是否是给机器看的来源标识」。

许可

MIT