多智能体共识管线fangqian616/consensus-pipeline

🧠 共识管线

面向学术研究的多智能体辩论框架。
不再由一个 AI 为你撰写文献综述——而是一个 AI 团队对你进行访谈、对每个论断展开辩论、以逐条论断的置信度评分达成共识，并对照来源摘要核验每一条引用。

📖 中文文档 · 📦 GitHub Releases

⚡ 快速开始

从三条路径中选择一条（建议从 1 或 2 开始）：

🚀 1. 一键安装脚本（最快）

Windows PowerShell
irm https://github.com/fangqian616/consensus-pipeline/raw/main/install.ps1 | iex
macOS / Linux
curl -fsSL https://github.com/fangqian616/consensus-pipeline/raw/main/install.sh | bash

一条命令即可完成克隆 + 安装依赖 + 打印你的 MCP 配置。

🤖 2. DSH 插件（AI 驱动，推荐）

git clone --depth 1 https://github.com/fangqian616/consensus-pipeline.git
npx -p @deepseek-ai/dsh dsh plugin --profile web add file:./consensus-pipeline/dsh-plugin

然后告诉 DSH“共识管线开始需求调研”——它会依次执行需求访谈 → 部门配置 → 多轮辩论 → 带置信度标注的报告。右下角的 📊 控制台悬浮按钮会显示实时进度、原子化核验以及全文上传。

🖥️ 3. Streamlit / CLI（手动）

git clone https://github.com/fangqian616/consensus-pipeline.git
cd consensus-pipeline
pip install -r requirements.txt

Set the key (export on Linux/macOS, $env: on PowerShell)
export DEEPSEEK_API_KEY="sk-your-key-here"

streamlit run app.py                              # web UI, browser opens
python run_pipeline_v2.py --topic "Your Topic"    # headless CLI

完整运行是一次离线批处理任务——启动后让它在后台运行即可，无需盯着看。三条路径的完整细节（MCP 配置、全文上传、自定义端点）→ 📖 使用说明

❓ 为什么不直接问 ChatGPT？

单个 LLM 会给出听起来很自信、却未经交叉验证的答案——幻觉会蒙混过关，相互冲突的观点会被抹平，你无法分辨哪些结论是可靠的、哪些只是推测。

共识管线用结构化的多智能体辩论作为质量关卡，取代一次性生成：每一条论断都会受到独立“部门”的质疑，矛盾会被明确暴露出来，最终结论带有置信度标注（例如“42/77 篇论文，高置信度”）。

把它理解为内置的同行评审——不是单一作者，而是一个对抗性委员会。

📸 界面展示

第 1 步：需求访谈
该流水线首先对你进行访谈——一个 AI 智能体会提出澄清性问题，以理解你的研究范围、约束条件和目标。

步骤 2：智能部门配置
基于你的主题，AI 会自动生成 10 多个专业辩论部门，每个部门有多位辩手。每位辩手从不同的方法论视角展开论证。

步骤 3：多轮辩论
实时观看辩手们进行论证。每一轮，辩手们都会陈述自己的立场、质疑他人的假设，并完善自己的论点。该流水线在每个部门运行 3-8 轮（默认），一旦辩手们通过动态终止机制达成共识，就会提前停止。

步骤 4：结构化输出
辩论结果会被结构化为 JSON，包含清晰的角色、立场和共识点——可直接用于报告生成。

步骤 5：带置信度标注的报告
最终报告包含逐条主张的置信度评分、方法论比较矩阵，以及经过验证的引用。每个结论都会告诉你有多少篇论文支持它。

完整示例报告（148 篇论文，能源经济学）：参见 examples/final_report.md

额外功能：自动生成的代码与参考文献
该流水线还会为关键方法生成可运行的 Python 代码，并汇编一份经过验证的参考文献列表。

示例输出

以下是一段真实报告摘录的样子——注意逐条主张的置信度标注：

深度学习方法在短期能源负荷预测中占据主导地位 (42/77 篇论文，高置信度)

在多个基准数据集上，LSTM 和基于 Transformer 的模型在 MAE 指标上始终比传统 ARIMA 方法高出 10-40%。然而，方法论审查部门指出了普遍存在的数据泄漏问题——若干研究使用了重叠的训练/测试划分，从而夸大了表面上的准确率提升。

图神经网络在能源网络优化中展现出新兴潜力 (3/77 篇论文，低置信度——趋势尚未确立)

尽管 GNN 在建模电网拓扑方面展现出结构性优势，但当前证据仅限于小规模测试网络（ 深度学习方法在短期能源负荷预测中占据主导地位 （42/77 篇论文，高置信度）

图神经网络在能源网络优化中展现出新兴潜力 （3/77 篇论文，低置信度——趋势尚未确立）

不再有无依据的论断。

引文验证报告（NLI）

报告生成后，一个专门的验证器会使用自然语言推理对照检索到的摘要检查每一条论断——没有任何论断未经审查就发布。

每条论断都会得到一个明确的判定：
- ✅ 已验证——摘要直接支持该论断
- ⚠️ 部分验证——只有部分论断得到支持
- ❌ 相矛盾——摘要的说法相反
- ❓ 未验证——证据不足（计入评分）

仅凭摘要无法判断的论断会被如实区分，而非悄悄计入：
- 📖 需要全文——摘要未涵盖该论断（不计入评分）
- 📭 仅有标题——无可用摘要（不计入评分）

因此，总体置信度评分只反映验证器实际能够判断的论断。作者元数据会在验证过程中注入，因此检查器会先确认“这是正确的论文”，然后再判断内容——从而捕捉那些看似合理但实际不匹配的引文。

全文补充系统

付费墙论文是诚实的缺口：验证器只能从摘要判断论断，而许多论断需要真正的全文。该流水线通过两步填补这一缺口：

1. 阶段 4.9——自动（零用户操作）。 在辩论之前，流水线会为每篇检索到的论文抓取 OA 全文（Unpaywall → Semantic Scholar → OpenAlex），并匹配你放置在 fulltext_papers/ 中的任何 PDF。
2. 阶段 5.5——交互式中断点。 在最初几个辩论部门之后，流水线会提取辩论实际引用的每一篇论文，找出那些既缺少全文又必要（被共识引用或跨部门引用）的论文，并请你只导入这少数几篇。
3. 全文 NLI 升级。 当摘要为中性时，验证器会获取全文并重新检查：蕴含 → ✅ 已验证；矛盾 → ❌；仍为中性 → 归类为 ⚠️ 引文不匹配（论文错误）或 ✂️ 论断夸大（论文正确，但措辞过强）。
4. 强制纳入。 你导入的论文会被标记为 weight=core，并保证在报告中占有一席之地——你的上传绝不会白费。

通过两种方式上传 PDF：
- DSH 控制面板——批量上传（任意文件名；DOI 会从 PDF 内部自动提取），然后一键重新验证
- 将文件拖放到 fulltext_papers/，然后运行 --rerun-67 以仅重新生成报告 + 验证阶段

质控部门（3 层过滤器）

最大的质量关卡。三层确保零污染：
- 第 1 层——硬过滤器：通过 LLM 生成的排除信号移除明显跑题的论文
- 第 2 层 — LLM 分类：LLM 判断每篇论文的领域归属
- 第 3 层 — 重要性标记：分类为核心 / 方法 / 背景层级

能源经济学上的结果：219 → 77 篇论文，排除率 64.8%。

动态领域配置

没有硬编码关键词。LLM 根据你的主题生成一切——排除信号、查询轮换、层级定义。从“能源经济学中的 ML”换成“医疗保健中的 LLM”？零代码改动。

📖 使用方法

运行 Consensus Pipeline 有三种方式。任选其一：

| 入口 | 最适合 |
|-------|----------|
| 🚀 一键安装器 | 最快上手——一条命令完成克隆 + 安装 + 打印配置 |
| 🤖 DSH / MCP（AI 智能体） | 让 AI 智能体从聊天中驱动它（DeepSeek Harness、Claude、Cursor……） |
| 🖥️ Streamlit / CLI（手动） | 自己在本地运行，观看辩论，编写脚本 |

🚀 方式 1：一键安装器（推荐）

把一条命令发给别人，它就会自行安装。无需单独的克隆 / pip / 配置步骤。

Windows（PowerShell）：

irm https://github.com/fangqian616/consensus-pipeline/raw/main/install.ps1 | iex

macOS / Linux：

curl -fsSL https://github.com/fangqian616/consensus-pipeline/raw/main/install.sh | bash

它做了什么：git clone → pip install -r requirements.txt → 为你的 MCP 客户端打印 mcp.json 片段。

然后把打印出的片段粘贴到你的 MCP 客户端中（mcpServers.consensus-pipeline → python mcp_server.py）。支持：Claude Desktop、Cursor、Codex，以及任何兼容 MCP 的智能体。

💡 需要 git 和 python3.10+。首次 pip install 需要 1-2 分钟。

🤖 方式 2：AI 智能体（DSH / MCP）

DSH（DeepSeek Harness）——原生工具 + 控制面板

作为捆绑包安装（自动注册原生工具 + /consensus-pipeline/ 面板）：

git clone --depth 1 https://github.com/fangqian616/consensus-pipeline.git
npx -p @deepseek-ai/dsh dsh plugin --profile web add file:./consensus-pipeline/dsh-plugin

或者，对于本地开发，将插件目录链接到 DSH 的 node_modules 中并重启。

首次使用时，插件会自动将完整项目克隆到 ~/.dsh/consensus-pipeline（因此 Python mcp_server.py 始终存在——无需手动克隆）。📊 控制台 浮动按钮会出现在右下角。

日常使用：

1. 在聊天中告诉智能体你的研究方向 → 它会运行需求访谈，然后启动管线。
2. 点击 📊 控制台 打开面板——实时进度、原子验证、全文上传。
3. 在 Phase 5.5 断点处，会出现一个 ⏳ 待导入列表：暂停，放入付费墙后的 PDF，然后继续。

💡 提示： 要通过 DSH 启动管线，可以试着说：“共识管线开始需求调研” —— DSH 将启动需求访谈并引导你完成整个管线。

任何 MCP 客户端（Claude Desktop / Cursor / Codex……）

MCP 服务器零依赖（纯标准库）。将任何 MCP 客户端指向它：

{
"mcpServers": {
"consensus-pipeline": {
"command": "python",
"args": ["/path/to/consensus-pipeline/mcp_server.py"]
}
}
}

上面的一键安装器会为你打印出完全相同的这段代码片段。

🖥️ 方式 3：Streamlit / CLI（手动）

自行运行——可视化 UI 或无头脚本。

Streamlit Web UI
bash
git clone https://github.com/fangqian616/consensus-pipeline.git
cd consensus-pipeline
pip install -r requirements.txt
streamlit run app.py

浏览器会打开 http://localhost:8501。在侧边栏中：粘贴你的 DeepSeek API 密钥，选择一种语言，然后启动学术流水线——AI 访谈员会询问你的课题，生成辩论部门，多轮辩论会在实时监控下运行。

CLI（无头）
bash
git clone https://github.com/fangqian616/consensus-pipeline.git
cd consensus-pipeline
pip install -r requirements.txt

设置 API 密钥：
bash
Linux/macOS
export DEEPSEEK_API_KEY="sk-your-key-here"
Windows (PowerShell)
$env:DEEPSEEK_API_KEY="sk-your-key-here"
…或在项目根目录创建 .env：DEEPSEEK_API_KEY=sk-your-key-here

运行 v2 流水线（推荐——立场量化 + 动态终止）：
bash
python run_pipeline_v2.py --topic "Machine Learning in Energy Economics" --lang en
中文（默认）
python run_pipeline_v2.py --topic "碳市场价格预测与能源转型关联机制研究"

可选：先进行需求调研（阶段 0-3 → 部门配置）：
bash
python run_requirement_research.py --topic "你的课题"

仅重新运行报告 + 验证阶段（在添加全文 PDF 之后）：
bash
python run_pipeline_v2.py --topic "你的课题" --output-dir "v2_run_output/" --rerun-67

输出会落在 v2_run_output/_/（v2）或 run_output/（v1）——Markdown + DOCX 报告、citation_verification.json、辩论日志以及生成的图表。

全文补充（付费墙论文）

付费墙后的论文无法仅凭摘要进行验证。有两种方式弥补这一缺口：

- DSH 控制面板——批量上传付费墙 PDF（任意文件名；自动提取 DOI），一键重新验证并显示进度条，待导入列表支持暂停 / 继续 / 跳过。
- CLI --rerun-67——将 PDF 放入 fulltext_papers/，然后仅重新生成报告 + 验证阶段（复用已完成的辩论）。

自定义 API 端点（可选）

任何兼容 OpenAI 的 API 均可使用：
bash
export DEEPSEEK_API_KEY="your-key"
export DEEPSEEK_MODEL="deepseek-v4-flash"   # 或 deepseek-v4-pro
python run_pipeline_v2.py --topic "Your Topic" --lang en

📋 前置条件

| 要求 | 详情 |
|-------------|---------|
| Python 3.10+ | 推荐 3.11+ |
| DeepSeek API 密钥 | 注册——LLM 调用所必需 |
| git | 用于一键安装器 / 克隆 |
| 互联网 | 访问 DeepSeek API（支持自定义端点） |

💡 无需 GPU。无需数据库。论文检索使用免费开放 API（arXiv / Semantic Scholar / OpenAlex）。

⚙️ 配置
API 密钥

| 变量 | 是否必需 | 描述 |
|----------|----------|-------------|
| DEEPSEEK_API_KEY | ✅ 是 | 用于 LLM 调用的 API 密钥 |
| EASYSCHOLAR_SECRET_KEY | 否 | 增强期刊排名（可选，回退到 209 种期刊的本地注册表） |

支持的模型

| 提供商 | API URL | 测试所用模型 |
|----------|--------|-------------|
| DeepSeek | https://api.deepseek.com/v1 | deepseek-v4-flash（辩论）、deepseek-v4-pro（验证/报告） |
| OpenAI | https://api.openai.com/v1 | gpt-4o（兼容） |
| 自定义 | 任何兼容 OpenAI 的端点 | 任何模型 |

在 Streamlit 侧边栏中设置 API 密钥和模型，或通过环境变量设置。

📁 项目结构

consensus-pipeline/
├── install.ps1 / install.sh     # 一键安装脚本（clone + pip + mcp.json）
├── app.py                       # Streamlit 主应用
├── router.py                    # AI 路由器 — 智能部门配置
├── debate_engine.py             # 核心辩论引擎
├── config_manager.py            # 配置持久化与预设
├── run_pipeline.py              # CLI 运行器（v1）
├── run_pipeline_v2.py           # CLI 运行器（v2）— 立场量化 + 动态终止
├── stance_quant_v2.py           # v2 立场量化（CV + Kendall's W 收敛）
├── run_requirement_research.py  # 需求研究（阶段 0-3）
├── paper_importer.py            # 种子论文导入（PDF → 元数据）
├── consensus_meter.py           # 共识度量仪表盘
├── mcp_server.py                # MCP 服务器（零依赖）
├── panel.html                   # DSH 控制面板（验证卡 + 全文上传）
├── dsh-plugin/                  # DSH 插件包（挂载 /consensus-pipeline/ + 原生工具）
│   ├── index.js                 #   面板路由 + JSON-RPC 工具 + 自动克隆
│   └── cordis.patch.yml         #   包补丁
├── fulltext_papers/             # 用户上传的付费墙论文 PDF（已 gitignore）
├── quality_controller.py        # 质控部门（三层过滤器）
├── domain_config_generator.py   # 动态领域配置
├── docx_exporter.py             # Word 导出
├── pdf_exporter.py              # PDF 导出
├── academic/                    # 学术研究模块
│   ├── search_engine.py         # 多源论文搜索
│   ├── journal_classifier.py    # 期刊质量筛选
│   ├── journal_registry.py      # 209 种期刊本地注册表
│   ├── cross_validator.py       # 交叉验证与主题聚类
│   ├── report_generator.py      # 带置信度的报告生成
│   ├── report_visualizer.py     # 报告图表
│   └── visualizer.py            # 学术图表（趋势、分布）
├── requirement/                 # 需求与验证模块
│   ├── interviewer.py           # AI 访谈代理
│   ├── structurer.py            # 范围与约束提取
│   ├── discussion_group.py      # 多角度需求讨论
│   ├── config_recommender.py    # 部门配置推荐
│   ├── citation_verifier.py     # NLI 引用验证（全文升级 + 不匹配/夸大）
│   └── fact_checker.py          # 关键结论事实核查
├── templates/                   # 辩论提示词模板
├── presets/                     # 内置预设
├── docs/                        # 快速入门与预设指南
├── examples/                    # 截图与示例输出
└── user_profiles/               # 访谈档案

🗺️ 路线图

| 优先级 | 功能 | 状态 |
|----------|---------|--------|
| P0 | 修复英文模式下 UI 标签的双语显示 | 进行中 |
| P1 | 语义引用验证 | ✅ 已在 v0.12 发布（基于 NLI） |
| P1 | 子主题查询拆分 | 计划中 |
| P1 | 发表偏倚检测（漏斗图） | 计划中 |
| P2 | 跨语言检索（CNKI + 双语对齐） | 计划中 |
| P2 | 增量更新能力 | 计划中 |
| P2 | 辩论质量评估指标 | 计划中 |

❓ 常见问题

问：完整运行一次需要多长时间？
答：需要一段时间——具体时长取决于主题和论文数量。辩论阶段是瓶颈；部门越多 = API 调用越多。

问：费用是多少？
答：费用因主题、论文数量和当前 DeepSeek 定价而异。完整运行一次费用不高——查看最新定价以获取确切数字。

问：支持哪些模型？
答：任何 OpenAI 兼容的 API。主要使用 DeepSeek 进行测试。应该可以通过自定义端点与本地模型配合使用——尚未测试。

问：输出支持哪些语言？
答：学术流程：中文（--lang zh，默认）和英文（--lang en）。英文模式下部分 UI 标签仍为双语——正在处理中。

问：我可以自定义部门吗？
答：可以。AI 会根据你的主题自动生成部门，你可以在开始辩论前在 Streamlit UI 中编辑/添加/删除它们。

问：这与 Elicit 或 Consensus.app 有何不同？
答：那些工具进行提取和总结。这个工具进行辩论——每项发现都必须经受来自多个 AI 智能体的对抗性挑战，才能进入报告。权衡之处：更慢、更昂贵，但能捕捉到单次总结所遗漏的矛盾。

问：辩论真的值得吗？
答：是的，显然值得。我运行了两种模式。没有辩论时，报告只是总结论文所声称的内容。有辩论时，来自不同视角的智能体会相互挑战——而这些挑战会进入报告。例如：“准确性”智能体报告分解方法实现了 10-40% 的误差降低。“方法论严谨性”智能体指出这些论文中普遍存在数据泄露。两种视角都出现在最终报告中。没有辩论时，只有准确性声明会保留下来。我目前还无法量化的是整体报告好多少——正在研究评估指标。

🤝 贡献

欢迎提交 PR！尤其是：
- 🐛 Bug 修复
- 📝 文档改进
- 🎭 新的辩论者视角
- 📊 多智能体辩论质量的评估基准

📄 许可证

MIT 许可证

这是一个学生项目，正在积极开发和测试中。欢迎反馈、错误报告以及“你试过 X 吗？”之类的建议。

如果 Consensus Pipeline 对您的研究有帮助，在 GitHub 上点一个 ⭐ 意义重大——它能帮助其他人发现这个项目。