|
1 | 1 | # **《TraceSmith:GPU Profiling & Replay 系统》目标规划书** |
2 | 2 |
|
3 | | -## **📍** |
| 3 | +## **📍** |
4 | 4 | ## **一、项目概述** |
5 | 5 | **TraceSmith** 致力于构建一套跨平台、轻量、高性能的 GPU Profiling 工具,支持:* 在不中断业务的情况下采集 **1 万+ 指令级 GPU 调用栈** |
6 | 6 |
|
|
19 | 19 | ## **Phase 1:可运行的最小版本(MVP)** |
20 | 20 | 周期:4–6 周 |
21 | 21 | ### **目标:** |
22 | | - * 支持采集 GPU Kernel 执行事件* 基于 CUPTI / ROCprofiler 获取: |
| 22 | + * 支持采集 GPU Kernel 执行事件* 基于 CUPTI / ROCprofiler 获取: |
23 | 23 | * kernel launch events |
24 | 24 | * stream ID |
25 | | - * start/end timestamp |
| 25 | + * start/end timestamp |
26 | 26 | * 设计 Trace Record 结构与二进制格式(TraceSmith Trace v0.1) |
27 | 27 | * 开发 CLI 工具: * TraceSmith record(记录事件流) |
28 | 28 | * TraceSmith view(文本化显示) |
29 | 29 |
|
30 | 30 |
|
31 | | - ### **交付物:*** 事件采集模块(record) |
32 | | - |
| 31 | + ### **交付物:** |
| 32 | + * 事件采集模块(record) |
33 | 33 | * Trace 存储格式(sbt: TraceSmith Binary Trace) |
34 | | - * MVP 文档 + 样例 |
| 34 | + * MVP 文档 + 样例 |
| 35 | + |
| 36 | +## **Phase 2:指令级调用栈采集(核心功能)** |
35 | 37 |
|
36 | | -## **Phase 2:指令级调用栈采集(核心功能)**周期:5–8 周 |
| 38 | +周期:5–8 周 |
37 | 39 |
|
38 | | -### *目标:*** 使用 LLVM XRay/eBPF 采集 GPU kernel 的 host-side 调用栈 |
39 | | - * GPU kernel 内部之间的 “调用链” 与执行依赖图 |
40 | | - * 自动构建 GPU 指令流(Instruction Stream) |
41 | | - * 高性能 ring-buffer,确保低开销运行 |
| 40 | +### **目标:** |
| 41 | + * 使用 LLVM XRay/eBPF 采集 GPU kernel 的 host-side 调用栈 |
| 42 | + * GPU kernel 内部之间的 “调用链” 与执行依赖图 |
| 43 | + * 自动构建 GPU 指令流(Instruction Stream) |
| 44 | + * 高性能 ring-buffer,确保低开销运行 |
42 | 45 |
|
43 | 46 | ### **交付物:** |
44 | | -* 调用栈采集引擎(stack collector) |
45 | | -* Instruction Stream Builder |
46 | | -* 状态机初步实现(State Machine v0.1) |
| 47 | + * 调用栈采集引擎(stack collector) |
| 48 | + * Instruction Stream Builder |
| 49 | + * 状态机初步实现(State Machine v0.1) |
47 | 50 |
|
48 | | -## **Phase 3:GPU 状态机恢复与 Timeline 构建**周期:6–8 周 |
| 51 | +## **Phase 3:GPU 状态机恢复与 Timeline 构建** |
| 52 | +周期:6–8 周 |
49 | 53 |
|
50 | | -### **目标:*** |
51 | | -根据 Trace 事件重建 GPU 执行状态机: |
52 | | -* Idle → Dispatch Pending → Running → Wait → Finished |
53 | | -* 多流(Multi-stream)调度重建 |
54 | | -* 多 GPU(Multi-device)事件对齐* 生成可视化 Timeline(配合 Perfetto / 自制 UI) |
| 54 | +### **目标:** |
| 55 | + * 根据 Trace 事件重建 GPU 执行状态机: |
| 56 | + * Idle → Dispatch Pending → Running → Wait → Finished |
| 57 | + * 多流(Multi-stream)调度重建 |
| 58 | + * 多 GPU(Multi-device)事件对齐* 生成可视化 Timeline(配合 Perfetto / 自制 UI) |
55 | 59 |
|
56 | 60 | ### **交付物** |
57 | 61 | * 状态机恢复(State Rebuilder) |
|
66 | 70 |
|
67 | 71 | * 将采集的指令流序列化 |
68 | 72 | * 基于 Command Stream 进行 GPU 指令 Replay |
69 | | -* 支持: |
| 73 | +* 支持: |
70 | 74 | * 单流回放 |
71 | 75 | * 多流回放 |
72 | | - * 部分片段回放(Partial Replay) |
| 76 | + * 部分片段回放(Partial Replay) |
73 | 77 | * 回放一致性检查(Deterministic Check) |
74 | 78 |
|
75 | 79 | ### **交付物:** |
76 | 80 | * Replay Engine v1.0 |
77 | 81 | * 流调度仿真器(Stream Scheduler Emulator) |
78 | 82 | * 可复现性验证框架 |
79 | 83 |
|
80 | | -## **Phase 5:工程化、文档、可视化、发布**周期:4 周 |
| 84 | +## **Phase 5:工程化、文档、可视化、发布** |
| 85 | + |
| 86 | +周期:4 周 |
81 | 87 |
|
82 | 88 | ### **目标:*** 完整 API 文档 |
83 | 89 | * 图形界面的可视化工具(TraceSmith Studio) |
|
87 | 93 |
|
88 | 94 | # **🧱** # **四、系统架构(高层)** |
89 | 95 | ``` |
90 | | -
|
91 | 96 | ┌──────────────────────────────────────┐ |
92 | 97 | │ TraceSmith │ |
93 | 98 | ├──────────────────────────────────────┤ |
|
142 | 147 | * 提升异构集群的 GPU 分析能力 |
143 | 148 |
|
144 | 149 | ## **3. 商业价值** |
145 | | -* |
146 | | -可让国内 AI Infra 企业建立自己的 GPU 工具栈* 可进一步拓展至: |
| 150 | + * 可让国内 AI Infra 企业建立自己的 GPU 工具栈* 可进一步拓展至: |
147 | 151 | * 性能优化(Performance Tuning) |
148 | 152 | * GPU 资源调度 |
149 | | - * 自动化 Profiling Toolbox |
150 | | - |
| 153 | + * 自动化 Profiling Toolbox |
| 154 | + |
151 | 155 | # **🏁**# **七、未来扩展(2.0 / 长期规划)** |
152 | 156 | * AI 辅助 GPU 性能诊断(LLM-based Profiler Assistant) |
153 | 157 | * 与 TVM / Triton Compiler 集成 |
154 | 158 | * GPU 指令级仿真器(类似 GPGPU-Sim 的轻量版本) |
155 | 159 | * 全流程自动分析报告生成 |
156 | | -* Web 在线可视化平台# **📌** # ** |
157 | | -八、总结(一句话定位)**> **TraceSmith = 开源版 Nsight Systems + RenderDoc Replay 的融合体,面向国产 GPU、AI 编译器和深度学习系统的下一代 Profiling 工具。** |
| 160 | +* Web 在线可视化平台 |
| 161 | + |
| 162 | +# **📌** # **八、总结(一句话定位)** |
| 163 | +> **TraceSmith = 开源版 Nsight Systems + RenderDoc Replay 的融合体,面向国产 GPU、AI 编译器和深度学习系统的下一代 Profiling 工具。** |
0 commit comments