Skip to content

Commit 187d5f4

Browse files
author
Suibian-YY-pro
committed
新增具身智能组队学习路径v6
1 parent d7d5c10 commit 187d5f4

2 files changed

Lines changed: 121 additions & 1 deletion

File tree

Lines changed: 118 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,118 @@
1+
#### **9)具身智能零基础入门 v6**
2+
3+
- 开源内容:[Every-Embodied: Zero to Hero in Embodied AI](../README.md)
4+
- 学习指南知识库:[学习指南](https://datawhale-eai.feishu.cn/wiki/QvxQwV2Qyij1NakV9IdcjTl1nJd)
5+
- 提问部分:[问题记录和汇总](https://datawhale-eai.feishu.cn/wiki/DBSpwQysHiO9MbkA24qc4Xrxndd)
6+
- 打卡信息、优秀作业和助教协作表以当期 Datawhale 群公告为准。
7+
8+
本版路径基于 v5 的 20 天组队学习节奏更新,面向 2026 年 7 月之后仓库新增内容重新整理。v6 仍然坚持一个原则:**先跑通一个稳定链路,再根据兴趣进入分支,不要一开始同时装十几个环境。**
9+
10+
和 v5 相比,v6 的主要变化有五点:
11+
12+
| 更新方向 | v6 新增或强化的内容 | 学习定位 |
13+
| :--- | :--- | :--- |
14+
| 世界模型 | RISE、RAW-Dream、WoG、WALL-WM、RoboDream、VAE/DDPM 基础 | 用“能不能 rollout、能不能训练策略、能不能合成数据”区分不同世界模型 |
15+
| VLA 前沿 | DiT4DiT-LIBERO、EventVLA、WALL-OSS、WALL-X | 从经典 OpenVLA / SmolVLA 过渡到长时域记忆、开源模型和工程框架 |
16+
| 视觉与 3D | Locate Anything、LingBot-Map、SAM/深度估计 | 补齐视觉语言定位、流式三维重建和机器人感知基础 |
17+
| 代码建模与 3D 资产 | Build123d、Text-to-CAD、ForgeCAD | 理解“自然语言/图像参考 -> CAD 源码 -> STEP/STL/3MF”的真实工程链路 |
18+
| 仿真、数据与算力 | SIM1、UniLab + MotrixSim、Genesis World、AMD ROCm 专题、AGILE/HIMLoco | 给有 GPU、仿真或硬件条件的同学提供进阶路线 |
19+
20+
本版路径把后半程分为三条主线:
21+
22+
1. **操作模型、VLA 与世界模型**:适合想做机械臂操作、ACT、Pi0、SmolVLA、OpenVLA、LIBERO、世界模型和机器人策略学习的同学。
23+
2. **视觉、3D 与 CAD 建模**:适合想做视觉语言定位、视频三维重建、机器人可视化资产、Text-to-CAD 和 GPT 辅助建模的同学。
24+
3. **仿真、硬件与系统部署**:适合想做 RDK-X5、LeRobot、Isaac/MuJoCo/Genesis、柔体仿真、AMD ROCm 和真实系统调试的同学。
25+
26+
## 课程信息
27+
28+
- 面向人群:对具身智能感兴趣的学生、工程师、研究人员;建议具备 Python 基础和基本 Linux/命令行经验。
29+
- 学习周期:20 天,分 5 个 Task,每个 Task 4 天。
30+
- 学习群个数、学习人数、课程编号:以当期 Datawhale 平台报名页为准。
31+
- 最低完成目标:完成 Task01、Task02,并在 Task03 选择一条分支跑通一个优先复现任务。
32+
- 推荐完成目标:完成一个优先复现任务、一个进阶导读或复现任务,并在 Task05 输出一份可复用报告。
33+
34+
| 角色 | 姓名 |
35+
| --- | --- |
36+
| 航路开辟者(课程设计者) | 陈可为、李昀迪、张天一 |
37+
| 领航员(运营助教) | 以当期公告为准 |
38+
| 航海士(专业助教) | 以当期公告为准 |
39+
40+
## 总体打卡规则
41+
42+
每个 Task 不要求把所有链接都跑一遍。建议按下面顺序交付:
43+
44+
1. 先选择一个 **优先复现**,提交可运行截图、日志、视频、结果图或复现报告。
45+
2. 再选择一个 **补充阅读或进阶复现**,提交方法拆解、对比分析、踩坑记录或扩展实验。
46+
3. 如果环境暂时跑不通,可以提交“环境诊断报告”,但要写清楚系统版本、GPU/CPU、Python/Conda 环境、报错位置和下一步排查方案。
47+
4. 前沿论文导读类任务不强制复现论文结果,重点是讲清楚方法边界、适合做什么、不适合做什么。
48+
49+
## 任务安排
50+
51+
| 任务信息(每个 Task 任选一个优先任务打卡即可) | 天数 | 截止时间 | 评审 | 优秀作业 |
52+
| ------------------------------------------------------------ | -------- | ---------------------- | -------- | ------------ |
53+
| <strong>Task01:具身智能基础、机器人控制与最小 Demo</strong><br><br>本阶段目标是建立“机器人系统由感知、控制、仿真、数据和策略组成”的基本认识。优先跑通一个轻量 demo,不要求一开始安装 Isaac Sim 或大模型环境。<br><br><strong>优先完成作业:</strong><br>1. [项目快速入门](../examples/README.md):跑通仓库里的最小 MuJoCo 示例,理解本项目如何组织 demo。<br>2. [具身智能概述](../01-具身智能概述/01具身智能概述.md):用自己的话总结 VLA、世界模型、仿真和真实机器人之间的关系。<br>3. [机器人空间描述与坐标变换](../02-机器人基础和控制、手眼协调/01机器人空间描述与坐标变换.md):理解坐标系、位姿和变换矩阵。<br><br><strong>补充学习:</strong><br>[机器人运动学与 DH 参数](<../02-机器人基础和控制、手眼协调/02机器人运动学与 DH 参数.md>)、[Cartpole 建模与控制](../02-机器人基础和控制、手眼协调/补充代码教程_Cartpole三种控制算法实战/cartpole建模与控制.md)、[春晚舞蹈机器人复刻](../07-机器人操作、运动控制/Locomotion/01春晚舞蹈机器人复刻.md)。<br><br><strong>建议打卡:</strong>提交一个最小 demo 运行结果,或者用 500 字说明机器人学基础、仿真和策略学习之间的关系。 | 4 天 | 以当期群公告为准 | | |
54+
| <strong>Task02:共通能力收束:视觉、3D、CAD 与仿真入口</strong><br><br>Task02 用来补齐后续分支都会用到的基础能力。视觉方向至少理解一项感知任务;3D/CAD 方向至少理解“模型生成不是一张图直接变 CAD,而是生成参数化源码再由 CAD runtime 导出模型”;仿真方向至少选择一个容易安装的环境入口。<br><br><strong>优先完成作业:三选一即可。</strong><br>1. [SAM 和深度估计](../04-具身场景的计算机视觉、3D重建/01-sam和深度估计.md):理解分割、深度和机器人抓取感知之间的关系。<br>2. [Locate Anything 视觉语言定位](../04-具身场景的计算机视觉、3D重建/04-Locate-Anything视觉语言定位.md):跑通或阅读 `nvidia/LocateAnything-3B`,重点理解开放词汇定位和 YOLO 类检测的差异。<br>3. [Build123d 代码建模入门](../21-机械臂和机器人设计/01Build123d代码建模入门/README.md):用代码生成一个简单 3D 模型,理解 CAD-as-code。<br><br><strong>补充学习:</strong><br>[LingBot-Map 视频流式三维重建](../04-具身场景的计算机视觉、3D重建/03-LingBot-Map视频流式三维重建.md)、[Text-to-CAD 工程化建模入门](../21-机械臂和机器人设计/02Text-to-CAD工程化建模入门/README.md)、[ForgeCAD 视觉逆向工程入门](../21-机械臂和机器人设计/03ForgeCAD视觉逆向工程入门/README.md)、[ManiSkill 环境仿真配置](../10-具身智能其他仿真工具及仿真前沿/02Maniskill环境仿真配置.md)、[GenieSim3 配置](../10-具身智能其他仿真工具及仿真前沿/08GenieSim3配置.md)。<br><br><strong>建议打卡:</strong>提交一个视觉定位结果、一个 3D/CAD 导出结果,或一个仿真环境 smoke test。 | 4 天 | 以当期群公告为准 | | |
55+
| <strong>Task03:分支入门:选择 1 条主线,跑通 1 个经典任务</strong><br><br>完成 Task01 和 Task02 后开始分流。每位同学只需要选择一条主线,不建议同时做 VLA、CAD、Isaac、世界模型和硬件。<br><br><strong>分支 A:操作模型、VLA 与世界模型</strong><br>适合喜欢机械臂操作、抓取、模仿学习、VLA、LIBERO 和世界模型的同学。<br><strong>优先复现建议:二选一即可。</strong><br>1. [OpenVLA 复现](../06-策略抓取或抓取VLA/大模型控制、VLA、VLM/02OpenVLA复现/02openvla复现.md):经典 VLA 入门,适合理解视觉语言如何输出动作。<br>2. [MuJoCo 复现 ACT、Pi0、SmolVLA](../06-策略抓取或抓取VLA/大模型控制、VLA、VLM/04mujoco复现ACT、Pi0、SmolVLA/README.md):适合想做抓取、模仿学习和动作策略训练的同学。<br><br><strong>分支 B:视觉、3D 与 CAD 建模</strong><br>适合希望把视觉定位、三维重建和机器人资产建模串起来的同学。<br><strong>优先复现建议:二选一即可。</strong><br>1. [Locate Anything 视觉语言定位](../04-具身场景的计算机视觉、3D重建/04-Locate-Anything视觉语言定位.md):适合做开放词汇目标定位与检测结果对比。<br>2. [ForgeCAD 官方案例复现](../21-机械臂和机器人设计/03ForgeCAD视觉逆向工程入门/README.md):适合理解 GPT 辅助 3D 建模的真实工程链路。<br><br><strong>分支 C:仿真、硬件与系统部署</strong><br>适合希望做开发板、真实机械臂、仿真平台或训练系统的同学。<br><strong>优先复现建议:二选一即可。</strong><br>1. [RDK-X5 超新手入门教程](../03-机器人硬件、lerobot及地瓜RDK-X5开发板控制教程/01RDKX5超新手入门教程.md):适合有开发板或希望进入硬件链路的同学。<br>2. [Habitat Sim 基础实践](../08-具身导航及VLN/02仿真环境基础/habitat导航环境/habitat_sim基础实践.md):适合没有机械臂硬件、先从导航仿真进入的同学。<br><br><strong>建议打卡:</strong>说明选择的分支、为什么选它、跑通了哪个优先任务、当前结果证明了什么、还没有证明什么。 | 4 天 | 以当期群公告为准 | | |
56+
| <strong>Task04:分支深入:做一次进阶复现或方法拆解</strong><br><br>Task04 不要求换方向。它的目标是把 Task03 的“跑通”升级成“能解释、能比较、能复盘”。选择一个进阶内容即可。<br><br><strong>分支 A:操作模型、VLA 与世界模型进阶</strong><br>适合已经完成 OpenVLA、MuJoCo ACT/Pi0/SmolVLA 或 LIBERO 入门的同学。<br><strong>优先进阶建议:</strong><br>1. [DiT4DiT-LIBERO 训练与评估](../06-策略抓取或抓取VLA/大模型控制、VLA、VLM/05DiT4DiT-LIBERO/01DiT4DiT-LIBERO训练与评估.md):理解 diffusion transformer 在 LIBERO 里的训练/评估链路。<br>2. [LeWorldModel 分析解读与实验复现](../17-具身世界模型/Leworldmodel分析解读与实验复现/Leworldmodel分析解读与实验复现.md):理解世界模型如何预测未来、服务规划。<br><br><strong>前沿导读选做:</strong><br>[RISE 自我改进机器人策略](../17-具身世界模型/RISE自我改进机器人策略复现/README.md)、[RAW-Dream 任务无关世界模型强化 VLA](../17-具身世界模型/RAW-Dream任务无关世界模型强化VLA/README.md)、[WoG 条件空间世界模型](../17-具身世界模型/WoG条件空间世界模型导读/README.md)、[WALL-WM 事件级世界动作模型](../17-具身世界模型/WALL-WM事件级世界动作模型导读/README.md)、[RoboDream 可组合世界模型数据合成](../17-具身世界模型/RoboDream可组合世界模型数据合成导读/README.md)、[EventVLA 视觉证据记忆](../06-策略抓取或抓取VLA/大模型控制、VLA、VLM/06EventVLA视觉证据记忆导读/README.md)、[WALL-OSS 开源 VLA 模型](../06-策略抓取或抓取VLA/大模型控制、VLA、VLM/07WALL-OSS开源VLA模型导读/README.md)、[WALL-X 工程框架导航](../06-策略抓取或抓取VLA/大模型控制、VLA、VLM/08WALL-X开源工程框架导航/README.md)。<br><br><strong>分支 B:视觉、3D 与 CAD 建模进阶</strong><br>适合已经完成视觉定位或 CAD 入门的同学。<br><strong>优先进阶建议:</strong><br>1. [LingBot-Map 视频流式三维重建](../04-具身场景的计算机视觉、3D重建/03-LingBot-Map视频流式三维重建.md):理解视频轨迹、深度、点云和地图构建的关系。<br>2. [Text-to-CAD 工程化建模入门](../21-机械臂和机器人设计/02Text-to-CAD工程化建模入门/README.md):理解自然语言到参数化 CAD 源码再到 3D 文件的过程。<br>3. [ForgeCAD 官方 3D 打印机、键盘与灵巧手案例](../21-机械臂和机器人设计/03ForgeCAD视觉逆向工程入门/README.md):适合提交一个渲染图、STEP/STL/3MF 导出和模型结构解释。<br><br><strong>分支 C:仿真、硬件与系统部署进阶</strong><br>适合已经完成一个基础仿真、开发板或硬件链路的同学。<br><strong>优先进阶建议:</strong><br>1. [SIM1 柔体仿真与数据生成](../10-具身智能其他仿真工具及仿真前沿/09SIM1柔体仿真与数据生成/01SIM1环境配置与运行.md):适合做布料、柔体和数据生成方向。<br>2. [UniLab + MotrixSim 异构机器人 RL](../10-具身智能其他仿真工具及仿真前沿/11UniLab-MotrixSim异构RL训练/README.md):适合理解 state-based RL、PBR 渲染和资源占用。<br>3. [AMD ROCm 策略复刻专题](../16-专题组队学习/04-AMD-ROCm策略复刻专题/README.md):适合有 AMD Ryzen AI MAX+ / ROCm 设备,想做策略迁移和调试复盘的同学。<br>4. [RDK-X5 连接 LeRobot 机械臂进行遥操作](../03-机器人硬件、lerobot及地瓜RDK-X5开发板控制教程/03RDK-X5连接lerobot机械臂进行遥操作.md):适合做真实硬件数据采集和遥操作链路。<br><br><strong>补充进阶:</strong><br>[Genesis World 1.0 完整体验与机器人仿真流水线](../10-具身智能其他仿真工具及仿真前沿/Genesis仿真环境配置/03Genesis%20World%201.0完整体验与机器人仿真流水线.md)、[AGILE 人形机器人 Loco-Manipulation](../05-具身场景的深度和强化学习/03AGILE人形机器人Loco-Manipulation复现/README.md)、[HIMLoco 四足机器人运动控制](../05-具身场景的深度和强化学习/02HIMLoco-IsaacLab复现/README.md)、[ETPNav 代码复现](../08-具身导航及VLN/03前沿VLN复现/01VLNCE/02ETPNav代码复现.md)。<br><br><strong>建议打卡:</strong>提交一份进阶复盘,至少包含任务目标、环境或阅读材料、关键结果、失败点、下一步改进。 | 4 天 | 以当期群公告为准 | | |
57+
| <strong>Task05:成果整理与交叉分享</strong><br><br>最后阶段不建议再开新环境。重点是把前面完成的通识学习和分支实践整理成可复用成果。<br><br><strong>推荐成果形式:</strong><br>1. 复现报告:记录环境、命令、关键输出、结果图、失败排查。<br>2. 方法导读:选择一篇 VLA、世界模型、视觉定位、3D/CAD 或仿真论文,讲清楚任务定义、模块拆解、基准和边界。<br>3. 对比分析:例如 Locate Anything vs YOLO、OpenVLA vs SmolVLA、LeWM vs RAW-Dream vs RoboDream、CAD-as-code vs Text-to-CAD。<br>4. 项目演示:提交一个视频、动图、网页截图、3D 模型渲染图或真实硬件照片,并说明它证明了什么。<br><br><strong>建议打卡:</strong>提交最终成果报告,结构建议为:选择的分支、完成的优先任务、完成的进阶任务、关键截图或指标、主要踩坑、对后来学习者的建议。 | 4 天 | 以当期群公告为准 | | |
58+
59+
## v6 推荐路线
60+
61+
如果同学不知道怎么选,可以直接按下面三条路线走。
62+
63+
### 路线 A:操作模型、VLA 与世界模型
64+
65+
1. Task01 跑通最小 MuJoCo demo 或完成机器人基础概述。
66+
2. Task02 读 SAM/深度估计或 Locate Anything,理解视觉输入。
67+
3. Task03 选择 OpenVLA 或 MuJoCo ACT/Pi0/SmolVLA。
68+
4. Task04 选择 DiT4DiT-LIBERO 或 LeWorldModel。
69+
5. Task05 对比一个 VLA 和一个世界模型,说明它们分别解决什么问题。
70+
71+
这条路线适合后续做 LIBERO、真实机械臂策略、VLA 微调、机器人世界模型、数据合成和模仿学习。
72+
73+
### 路线 B:视觉、3D 与 CAD 建模
74+
75+
1. Task01 理解机器人系统整体结构。
76+
2. Task02 选择 Locate Anything 或 Build123d。
77+
3. Task03 选择 ForgeCAD 或 Locate Anything。
78+
4. Task04 选择 LingBot-Map、Text-to-CAD 或 ForgeCAD 官方案例。
79+
5. Task05 输出一个“视觉/3D/CAD 如何服务机器人”的小报告。
80+
81+
这条路线适合后续做机器人视觉定位、场景重建、资产生成、机械臂建模、3D 打印和仿真资产准备。
82+
83+
### 路线 C:仿真、硬件与系统部署
84+
85+
1. Task01 跑通最小 demo。
86+
2. Task02 选择 ManiSkill、GenieSim3 或基础视觉任务。
87+
3. Task03 选择 RDK-X5、Habitat 或一个轻量仿真链路。
88+
4. Task04 选择 SIM1、UniLab + MotrixSim、AMD ROCm 或 LeRobot 遥操作。
89+
5. Task05 输出一份系统部署/排障复盘。
90+
91+
这条路线适合后续做真实机器人、仿真平台迁移、算力适配、数据采集和工程部署。
92+
93+
## 参考:v6 新增重点内容索引
94+
95+
| 主题 | 推荐入口 |
96+
| :--- | :--- |
97+
| 视觉语言定位 | [Locate Anything 视觉语言定位](../04-具身场景的计算机视觉、3D重建/04-Locate-Anything视觉语言定位.md) |
98+
| 视频流式三维重建 | [LingBot-Map 视频流式三维重建](../04-具身场景的计算机视觉、3D重建/03-LingBot-Map视频流式三维重建.md) |
99+
| CAD-as-code | [Build123d 代码建模入门](../21-机械臂和机器人设计/01Build123d代码建模入门/README.md) |
100+
| Text-to-CAD | [Text-to-CAD 工程化建模入门](../21-机械臂和机器人设计/02Text-to-CAD工程化建模入门/README.md) |
101+
| GPT 辅助 3D 模型 | [ForgeCAD 视觉逆向工程入门](../21-机械臂和机器人设计/03ForgeCAD视觉逆向工程入门/README.md) |
102+
| VLA 训练与评估 | [DiT4DiT-LIBERO](../06-策略抓取或抓取VLA/大模型控制、VLA、VLM/05DiT4DiT-LIBERO/01DiT4DiT-LIBERO训练与评估.md) |
103+
| VLA 长时域记忆 | [EventVLA 视觉证据记忆](../06-策略抓取或抓取VLA/大模型控制、VLA、VLM/06EventVLA视觉证据记忆导读/README.md) |
104+
| 开源 VLA 模型和框架 | [WALL-OSS](../06-策略抓取或抓取VLA/大模型控制、VLA、VLM/07WALL-OSS开源VLA模型导读/README.md)[WALL-X](../06-策略抓取或抓取VLA/大模型控制、VLA、VLM/08WALL-X开源工程框架导航/README.md) |
105+
| 世界模型基础 | [VAE 详解](../17-具身世界模型/2、VAE详解与代码实现/VAE详解与代码实现.md)[DDPM 详解](../17-具身世界模型/3、DDPM详解与代码实现/DDPM详解与代码实现.md)[LeWorldModel](../17-具身世界模型/Leworldmodel分析解读与实验复现/Leworldmodel分析解读与实验复现.md) |
106+
| 世界模型前沿 | [RISE](../17-具身世界模型/RISE自我改进机器人策略复现/README.md)[RAW-Dream](../17-具身世界模型/RAW-Dream任务无关世界模型强化VLA/README.md)[WoG](../17-具身世界模型/WoG条件空间世界模型导读/README.md)[WALL-WM](../17-具身世界模型/WALL-WM事件级世界动作模型导读/README.md)[RoboDream](../17-具身世界模型/RoboDream可组合世界模型数据合成导读/README.md) |
107+
| 柔体仿真与数据生成 | [SIM1 柔体仿真与数据生成](../10-具身智能其他仿真工具及仿真前沿/09SIM1柔体仿真与数据生成/01SIM1环境配置与运行.md) |
108+
| 异构机器人 RL | [UniLab + MotrixSim 异构 RL](../10-具身智能其他仿真工具及仿真前沿/11UniLab-MotrixSim异构RL训练/README.md) |
109+
| AMD 算力适配 | [AMD ROCm 策略复刻专题](../16-专题组队学习/04-AMD-ROCm策略复刻专题/README.md) |
110+
111+
## 最终提交建议
112+
113+
最终作业不追求“链接越多越好”,而是追求一条链路讲清楚。一个合格成果至少回答四个问题:
114+
115+
1. 我选择了哪条路线,为什么?
116+
2. 我跑通或精读了哪个任务,证据是什么?
117+
3. 这个结果证明了什么,没有证明什么?
118+
4. 如果下一期同学继续做,应该先避开哪些坑?

0 commit comments

Comments
 (0)