ROMEO 集群模型接入 wolf75222/dsh-romeo

dsh-romeo

DeepSeek Harness（dsh）是 DeepSeek 的编程智能体。把它装到你自己的电脑上，模型用 DeepSeek-V4.1-Flash，跑在 ROMEO 集群的 GPU 上。一条命令就能启动模型、打开隧道、打开 dsh。

dsh-romeo --launch 在 ROMEO 上启动 DeepSeek-V4.1-Flash 并打开 dsh Web UI，智能体在其中修复一个失败的测试；随后是该会话的 Trajectory 标签页

安装

在你的电脑上（macOS 或 Linux），先确认 ssh romeo 能免密登录 ROMEO：

git clone https://github.com/wolf75222/dsh-romeo.git ~/dsh-romeo && ~/dsh-romeo/install.sh

脚本会检查 dsh 是否已安装，缺了就装上（npm install -g @deepseek-ai/dsh，需要 Node.js 20 或更高版本）；询问用哪个 ROMEO 项目为模型作业付费；在 ~/.local/bin 里链接 dsh-romeo；把模型的 fiche 复制到 ROMEO 上的 ~/.romeollmtool/configs。更新：cd ~/dsh-romeo && git pull && ./install.sh。

还没有 romeo 别名？在 ~/.ssh/config 里加上：

Host romeo
HostName romeo1.univ-reims.fr
User <your ROMEO login>
IdentityFile ~/.ssh/<your key registered on ROMEO>

使用

| 命令 | |
| dsh-romeo --launch | 启动模型（一个作业，2 个节点，8 块 GH200），等到模型能应答（我们的测试里要 8 到 13 分钟），打开 dsh Web UI |
| dsh-romeo | 作业运行期间打开 Web UI |
| dsh-romeo headless "run the tests and fix them" | 执行单个任务，答案打印到 stdout：适合脚本调用 |
| dsh-romeo web --port 3000 | 任意 dsh 配置档和参数都原样透传 |
| dsh-romeo --launch 3 | 起三个作业：网关把智能体分摊到这些作业上 |
| dsh-romeo --status | 查看网关、模型作业、隧道 |
| dsh-romeo --stop | 停止模型作业并关闭隧道 |

智能体在你的电脑上干活：只有模型跑在 ROMEO 上。在 Web UI 里，会话在消息框上方选定的工作区中工作：首次使用时 dsh 会创建 ~/Documents/deepseek-harness/default-workspace；点 Workspaces 旁边的按钮添加你的项目文件夹。dsh-romeo headless 在当前文件夹里工作。

它做什么

- 模型。 用 ROMEO 自带的工具 romeollmtool 启动 DeepSeek-V4.1-Flash，用的 fiche 针对智能体调过：2 个节点上 8 块 GPU（张量并行），完整 1M token 上下文，256K token 输出，外加 DSpark 投机解码。在 ROMEO 上，7 个作业能同时服务约 500 个智能体，每个 30 token/s。ROMEO 官方验证过的 fiche 也能用：单节点，262K token 上下文，加载更久（DSH_ROMEO_FICHE=deepseek-v4.1-flash-vllm）。
- 网关。 让 romeollmtool 的网关一直跑在登录节点上：所有模型作业共用一个 URL 和一个 key，请求分摊到各作业。
- 等待模型就绪：发一个真实的单 token 请求来确认，同时显示作业当前进展：在队列里排第几、为什么排队，或者正在加载。
- 隧道。 一条 SSH 连接承载所有命令，并把隧道 127.0.0.1:11318 连到网关；这条连接从一次运行复用到下一次，电脑休眠后重新打开。
- dsh。 用覆盖层（dsh --patch）运行 dsh，加入 romeo 服务商，并把 DeepSeek-V4.1-Flash 设为默认模型，推理强度拉满。你自己的 dsh 配置档不受影响。网关的密钥通过环境变量传给 dsh，绝不写入磁盘。
- Web 搜索（可选）：install.sh --search 在 Docker 里跑 SearXNG，监听 127.0.0.1:8888，并接入 dsh 的 web_search 工具。

设置

install.sh 把它们写入 ~/.config/dsh-romeo/config；环境里设置的变量优先。

| 变量 | 默认值 | |
| ROMEO_PROJECT | 询问 | 为模型作业计费的 Slurm 项目代码 |
| ROMEO_SSH_HOST | romeo | ROMEO 登录节点的 ssh 别名 |
| DSH_ROMEO_FICHE | dsh-deepseek-v4.1-flash-1m | 模型的 romeollmtool fiche |
| DSH_ROMEO_TIME | 08:00:00 | 模型作业的时长（最多 24 小时） |
| DSH_ROMEO_EFFORT | max | 默认推理强度：none、low、high、max |
| DSH_ROMEO_PORT | 11318 | 隧道的本地端口 |
| DSH_ROMEO_SEARXNG_URL | 空 | 用于 Web 搜索的 SearXNG，例如 http://127.0.0.1:8888 |

费用

模型作业只要在运行，就一直占用你项目的 GPU 小时，即使没有智能体在工作：用完就执行 dsh-romeo --stop。它也会在 DSH_ROMEO_TIME 之后自行结束。网关在最后一次 dsh-romeo 之后 24 小时自动停止，并取消你的模型作业。

出问题时

- cannot connect to 'romeo' over SSH：ssh romeo hostname 必须免密码可用（见安装）。
- 作业在队列里等待：dsh-romeo --status 会说明原因（Resources：还没有空闲的 GPU 节点；Priority：其他作业优先）。按 Ctrl-C 可以停止等待：作业留在队列里，dsh-romeo 稍后会接上它。
- 作业在加载时结束：用 ssh romeo /apps/romeotools/romeollmtool/romeollmtool logs 读它的日志。GPU 显存被部分占用的节点会让 vLLM 启动失败：再执行一次 dsh-romeo --launch。
- cannot forward 127.0.0.1:11318：另一个程序占用了端口：设置 DSH_ROMEO_PORT。
- 电脑休眠后 dsh 显示连接错误：退出 dsh，再运行 dsh-romeo；隧道重新打开，dsh 保留你的会话。

开发

tests/run.sh # offline tests against a fake ROMEO (fake ssh, romeollmtool, squeue, gateway)
python tests/demo.py record # records a real run for the GIF (launches a model job): terminal, then the Web UI
python tests/demo.py render # draws img/dsh-romeo.gif

演示需要 pyte、Pillow 和 playwright（python -m playwright install chromium）。tests/tui.py（在伪终端里驱动程序并绘制其屏幕）来自 RSV。