AI 基建技能包 yzlnew/infra-skills

AI 基础设施智能体技能

⚠️ 警告本项目正在积极开发中，大量内容由 LLM 生成，未经严格校对。请谨慎使用，生产环境使用前请验证所有代码。

为 AI 基础设施工程师准备的一系列专用智能体技能，既覆盖技术开发（GPU kernel、分布式训练、推理优化），也覆盖软技能（流程图制作、演示设计）。

概述

本仓库提供面向 AI 基础设施工程的专家级技能。每项技能都打包了领域知识、代码示例和最佳实践，把 Claude 变成特定框架和工作流的专用助手——从编写高性能 CUDA kernel，到制作专业的技术演示。

构建方法（除非另有说明）

1. 知识收集：用 Gemini DeepResearch 收集目标框架全面、最新的信息
2. 技能开发：在 Claude Code 中用 skill-creator 把研究转成结构化技能
3. 验证：测试技能生成的代码示例，确保正确
4. 维护：根据最新官方文档定期更新

可用技能

TileLang 开发者

用 TileLang 为 NVIDIA、AMD 和 Ascend 硬件编写高性能 GPU kernel。

能力：
- 矩阵乘法（GEMM）kernel
- FlashAttention 实现
- DeepSeek MLA 算子
- 性能优化（swizzle 布局、流水线、warp 特化）
- 跨平台 kernel 开发

状态： ✅ 完成

Megatron 显存估算器

估算基于 Megatron 的 MoE 和稠密模型的 GPU 显存占用。基于 megatron_memory_estimator 构建。

能力：
- 从 HuggingFace 配置估算显存
- 支持 MoE 模型（DeepSeek-V3、Qwen 等）
- 并行策略对比（TP/PP/EP/CP）
- 显存优化建议

状态： ✅ 完成

SLIME 用户

SLIME（面向 RL Scaling 的 LLM 后训练框架）使用指南。基于 THUDM/slime 构建。

能力：
- RL 训练搭建与配置（GRPO、GSPO、PPO、Reinforce++）
- 多轮工具调用与智能体工作流
- 自定义奖励模型和生成函数
- Megatron 和 FSDP 后端配置
- SGLang 集成与优化
- 动态采样和部分 rollout
- 多节点分布式训练

状态： ✅ 完成

用 Sonnet 4.5 创建这项技能的提示词：

Use skill-creator to create a skill called slime-user at this repo. slime is an LLM
post-training framework for RL Scaling. Its repo is https://github.com/THUDM/slime.

Skill creation procedure:

1. Git clone the latest repo
2. Analyze docs/en, understand basic structure and write a doc navigation guide for user
getting started or finding docs for advanced usage
3. 从文档和 examples 目录里收集有价值的示例，写下关键思路和脚本路径，方便快速查阅
4. 挑一些重要源码来看，比如 slime/slime/utils/arguments.py 和 slime/rollout/sglang_rollout.py，给出路径和函数，方便快速定位。

TikZ 流程图

用 LaTeX TikZ 配合标准化样式，制作专业流程图和架构图。

能力：
- 专业流程图，配色接近 Google Material
- 标准化节点类型（数据、内存、操作、内核框）
- 架构图与流程流
- 分组与布局最佳实践
- 干净的直角连线和相对定位

示例输出： QAT 流程图 | Anthropic 主题

TikZ 流程图 Anthropic 主题

状态： ✅ 完成

Material You 幻灯片

用 Material You（Material Design 3）设计语言制作演示幻灯片。

能力：
- 自包含 HTML 幻灯片（1280x720），使用 M3 颜色 token
- Roboto 字体，支持多种字重
- 专业幻灯片类型（标题、章节分隔、内容）
- 组件库（卡片、流程图、指标卡、代码块）
- 圆角形状与充足留白
- 用表面层级替代投影
- 结构化布局（分栏、表格、列表、标签/芯片）

示例输出： SLIME RL 训练幻灯片

状态： ✅ 完成

Anthropic 主题流程图

制作精致的独立 HTML/CSS 流程图，采用 Anthropic 风格的柔和配色、可靠的几何布局和确定性的连线走线。

能力：
- 以 TS 优先的流程图规格，生成独立 HTML 产物
- 确定性的节点几何与基于锚点的连线走线
- 透明虚线分组框，按角色着色的柔和节点样式
- 空心 > 箭头与直角桥接连线
- 从同一几何源生成可直接入画廊的导出文件

示例输出： 评审演示 PNG

Anthropic 主题流程图评审演示

状态： ✅ 完成

HF 架构 TikZ

为任意 HuggingFace 纯解码器 LLM 生成 Sebastian-Raschka 画廊风格的 TikZ 架构图，每个子块都带参数公式和具体数值。

能力：
- 从 HuggingFace 配置中提取架构，整理成结构化规格
- 通过 Jinja 模板渲染出版级纵向 TikZ 图
- 为每个子块标注参数公式和具体数值
- 支持 MHA、GQA、MLA、Hyper-Connections、带学习式索引器的稀疏注意力
- 覆盖稠密与 MoE FFN（含哈希路由）以及 MTP 头
- 模型：DeepSeek-V4-Flash、Qwen、Llama、Mistral、gpt-oss 等示例输出： DeepSeek-V4-Flash PNG | PDF

DeepSeek-V4-Flash 架构

状态： ✅ 已完成

OpenAI Dotcom 可视化

按照 OpenAI 博客 / 研究 / system-card 的「dotcom」视觉风格绘制图表，输出为自包含的 HTML/SVG，零依赖。

能力：
- 单色柱状图（同色系深色描边、圆角、黑色 y 轴配向外刻度、无网格线、圆形图例标记、柱顶数值标签、倾斜的分类标签）
- 流程 / 过程图（圆角方框、等宽大写胶囊标签、粉色高亮、细开口箭头连接线、虚线否定分支）
- 真实 OpenAI Sans 字体排版，零外部依赖

状态： ✅ 已完成

计划中的技能

SGLang 开发者

面向 SGLang（Structured Generation Language）运行时与优化的开发技能。

计划能力：
- SGLang 运行时配置
- 自定义采样策略
- LLM 推理性能调优
- 多 GPU 服务优化

状态： 🚧 计划中

vLLM 开发者

面向 vLLM 引擎开发与部署的技能。

计划能力：
- PagedAttention 实现
- 自定义调度器开发
- 多 LoRA 服务
- 量化集成

状态： 🚧 计划中

用法

安装技能

把技能目录放进 Claude 的技能路径，即可完成安装：

自然语言： 直接对 Claude Code 说：「Help me install skills from https://github.com/yzlnew/infra-skills」

个人级（对所有项目生效）： Clone and copy to personal skills directory
git clone https://github.com/yzlnew/infra-skills.git
mkdir -p ~/.claude/skills
cp -r infra-skills/tilelang-developer ~/.claude/skills/
cp -r infra-skills/megatron-memory-estimator ~/.claude/skills/
cp -r infra-skills/slime-user ~/.claude/skills/
cp -r infra-skills/tikz-flowchart ~/.claude/skills/
cp -r infra-skills/material-you-slides ~/.claude/skills/
cp -r infra-skills/anthropic-theme-flowchart ~/.claude/skills/
cp -r infra-skills/hf-architecture-tikz ~/.claude/skills/

项目级（供仓库协作者使用）： Clone and copy to project's skills directory
cd your-project
git clone https://github.com/yzlnew/infra-skills.git .claude/skills-repo
mkdir -p .claude/skills
cp -r .claude/skills-repo/tilelang-developer .claude/skills/
cp -r .claude/skills-repo/megatron-memory-estimator .claude/skills/
cp -r .claude/skills-repo/slime-user .claude/skills/
cp -r .claude/skills-repo/tikz-flowchart .claude/skills/
cp -r .claude/skills-repo/material-you-slides .claude/skills/
cp -r .claude/skills-repo/anthropic-theme-flowchart .claude/skills/
cp -r .claude/skills-repo/hf-architecture-tikz .claude/skills/

检测到相关任务时，技能会自动激活。

示例

TileLang 内核开发：用户请求： "写一个针对 A100 优化的 FP16 矩阵乘法内核"

Claude 加载 tilelang-developer 技能并生成：
- 完整 TileLang 内核代码
- 性能优化（swizzle、流水线）
- 测试代码
- 针对硬件的调优建议

Megatron 显存估算：用户请求： "估算 DeepSeek-V3 在 TP=8、PP=4、EP=8 下的显存"

Claude 加载 megatron-memory-estimator 技能并提供：
- 详细显存拆解（模型、优化器、激活值）
- 不同并行策略的对比
- 显存优化建议
- 硬件配置建议

SLIME 强化学习训练搭建：用户请求： "帮我为 Qwen3-4B 搭建 GRPO 训练，支持多轮工具调用"

Claude 加载 slime-user 技能并提供：
- 环境搭建说明
- 用于工具调用的自定义生成函数
- 训练脚本配置
- 多节点扩展指导

TikZ 流程图制作：用户请求： "画一张流程图，展示 FlashAttention-2 算法的流程"

Claude 加载 tikz-flowchart 技能并生成：
- 专业的 LaTeX TikZ 图，配色标准化
- 数据节点（绿色）、操作节点（蓝色）、显存节点（橙色）
- 布局干净，边线正交
- 内核阶段分组，样式规范

Material You 幻灯片制作：用户请求： "做一份演示文稿，介绍我们的 AI 基础设施架构"

Claude 加载 material-you-slides 技能并生成：
- 自包含 HTML 文件，采用 Material Design 3 样式
- 标题页带渐变背景和品牌标识
- 章节分隔页带大号半透明数字
- 内容页带卡片、流程图和指标展示
- 响应式 1280x720 幻灯片，可直接演示

开发

测试技能

校验技能中的代码示例：

在项目根目录运行所有测试 pytest

运行指定技能的测试 pytest tests/tilelang-developer/

运行指定测试文件 pytest tests/tilelang-developer/test_gemm.py

更新技能

框架发布重大更新时：

1. 用最新信息更新技能源文件（SKILL.md、references/）
2. 运行校验测试，确保示例正确
3. 提交并打上新版本标签

质量标准

所有技能都必须满足以下要求：

- ✅ 准确：代码示例必须经过测试且正确
- ✅ 简洁：遵循渐进式披露（SKILL.md < 500 行）
- ✅ 完整：包含工作流、API 参考、示例和调试
- ✅ 最新：基于最新稳定版框架
- ✅ 清晰：description 中写明触发条件，便于自动激活

贡献

技能需求

提 issue，附上：
- 框架/工具名称
- 使用场景
- 官方文档链接

改进技能

1. Fork 仓库
2. 更新技能源文件
3. 运行验证测试
4. 提交 PR，附上更新日志

路线图

- [x] TileLang 开发者技能
- [x] Megatron 显存估算技能
- [x] SLIME 用户技能
- [x] TikZ 流程图技能
- [x] Material You 幻灯片技能
- [x] Anthropic 主题流程图技能
- [x] HF 架构 TikZ 技能
- [ ] SGLang 开发者技能
- [ ] vLLM 开发者技能
- [ ] 自动化测试流水线
- [ ] 文档更新监控
- [ ] 技能版本管理系统

资源

- Claude Agent Skills Documentation
- skill-creator Guide
- TileLang Repository
- SLIME Repository

许可证

技能按原样提供，仅供开发使用。生成的代码遵循底层框架的许可证条款。

注意：这是面向 AI 基础设施开发者的专用仓库。技能包含高级技术内容，默认你熟悉 GPU 编程、编译器设计和深度学习系统。