unitree_rl_gym_新手教程_第5章_训练师手册
2026/8/1 15:46:49 网站建设 项目流程

第 5 章:训练师手册 — 所有训练操作详解

这是你的训练操作速查手册。每个命令都会解释清楚:什么时候用、为什么这样写、注意什么。

5.1 训练前必做:激活环境

每次打开新终端,第一步永远是:

conda activate unitree_rl cd /workspace_project/g1_robot/unitree_rl_gym_study/unitree_rl_gym

⚠️ 终端提示符必须显示(unitree_rl)。如果显示(base),说明环境没切过来,后面的 pip/python 都会装错地方。


5.2 训练命令大全

5.2.1 基础训练

# 无头训练(推荐,速度快) python legged_gym/scripts/train.py --task=g1 --headless --num_envs=512 # 有头训练(看过程,慢) python legged_gym/scripts/train.py --task=g1 --num_envs=64
参数作用RTX 4060 8GB 建议值
--task=g1选机器人(g1/h1/h1_2/go2)必填
--headless不渲染窗口,纯计算正式训练加上
--num_envs=N同时模拟 N 个机器人无头 512 / 有头 64
--max_iterations=N跑 N 轮自动停测试用 200,正式用 2000~10000
--seed=N随机种子(同样的种子=同样的结果)需要复现实验时指定
--run_name=xxx给这次训练起个名字方便区分不同实验
--experiment_name=xxx实验组名默认 g1,不改也行

自定义参数说明:

--task: 指定任务名称(默认 'go2')
--resume: 是否恢复训练
--experiment_name: 实验名称
--run_name: 运行名称
--load_run: 要加载的运行名称(-1 表示加载最后一个)
--checkpoint: 要加载的检查点编号(-1 表示加载最后一个)
--headless: 无头模式运行(不显示图形界面)
--horovod: 使用 horovod 进行多GPU训练
--rl_device: RL算法使用的设备(如 'cuda:0', 'cpu')
--num_envs: 环境数量
--seed: 随机种子
--max_iterations: 最大训练迭代次数

5.2.2 选对 num_envs:显存规则

RTX 4060 8GB 实测: --num_envs=64 有头模式 ✅ --num_envs=128 有头模式 ❌ 会卡 --num_envs=512 无头模式 ✅ --num_envs=1024 无头模式 ⚠️ 可能OOM

经验:训练用无头 512 最快;想看过程就用有头 64,看完关掉换无头正式跑。

5.2.3 训练时你会看到的输出

Learning iteration 100/10000 ← 当前第 100 轮 / 总共 10000 轮 Computation: 15000 steps/s ← 每秒算 15000 步 Mean reward: 0.04 ← ★ 总奖励(最重要) Mean episode length: 300 ← ★ 平均存活步数(越久越好) Mean action noise std: 0.80 ← 探索噪声(慢慢变小 = AI 有把握了) Value function loss: 0.0011 ← Critic 的预测误差

看两个数就够了

  • Mean reward在涨 → AI 在进步
  • Mean episode length在涨 → 越来越久不摔倒

5.3 停掉训练、接着跑

5.3.1 正常停止

在训练终端按Ctrl+C。模型会自动保存当前最新的 checkpoint。

5.3.2 从上次停止的地方继续

# 继续最近一次训练 python legged_gym/scripts/train.py --task=g1 --headless --num_envs=512 --resume # 从指定训练继续 python legged_gym/scripts/train.py --task=g1 --headless --num_envs=512 \ --resume --load_run=Jul26_21-25-34_ # 从指定轮数的模型继续(比如从第 3100 轮继续跑到 5000) python legged_gym/scripts/train.py --task=g1 --headless --num_envs=512 \ --resume --load_run=Jul26_21-25-34_ --checkpoint=3100 --max_iterations=5000
参数作用
--resume告诉程序"接着训,别从头来"
--load_run=文件夹名指定用哪次训练的模型(写文件夹名,不写完整路径)
--checkpoint=N从第 N 轮的模型开始(不写就用最新的)
--max_iterations=N新的目标轮数(要大于当前已跑的轮数)

⚠️ 重要:--load_run只写文件夹名,比如Jul26_21-25-34_不要logs/g1/Jul26_21-25-34_


5.4 模型存在哪?

unitree_rl_gym/logs/g1/ ├── Jul26_21-25-34_/ ← 一次训练 = │ ├── model_0.pt ← 初始化模型 │ ├── model_50.pt ← 第 50 轮 │ ├── model_100.pt ← 第 100 轮 │ ├── ... 每 50 轮存一个 │ ├── model_3100.pt ← 你上次停在这 │ └── events.out.tfevents.xxx ← TensorBoard 数据文件 ├── Jul26_20-56-14_/ ← 更早的训练 └── exported/ ← play.py 导出的 JIT 模型
知识点说明
保存频率50 轮自动存一次
文件夹命名月日_时-分-秒_(run_name 为空时)
文件大小~777KB 每个,不占空间
旧模型能删吗可以,训练完了只保留最后一个和最好的

5.5 看训练结果

5.5.1 用 play.py 可视化

# 看最新训练的模型(1 个机器人) python legged_gym/scripts/play.py --task=g1 --num_envs=1 # 看指定训练的指定轮数 python legged_gym/scripts/play.py --task=g1 --num_envs=1 \ --load_run=Jul26_21-25-34_ --checkpoint=3100 # 对比不同阶段(同一训练、不同轮数) python legged_gym/scripts/play.py --task=g1 --num_envs=1 \ --load_run=Jul26_21-25-34_ --checkpoint=500 # 早期 python legged_gym/scripts/play.py --task=g1 --num_envs=1 \ --load_run=Jul26_21-25-34_ --checkpoint=1500 # 中期 python legged_gym/scripts/play.py --task=g1 --num_envs=1 \ --load_run=Jul26_21-25-34_ --checkpoint=3100 # 最新

窗口操作:

按键功能
ESC退出
V切换视角追踪模式
鼠标左键拖拽旋转视角
鼠标滚轮缩放
鼠标中键拖拽平移视角

5.5.2 play.py 的地形限制

play.py 默认用一个5×5 的小地形,不是训练时的无限平面。G1 走到边界会被墙卡住。这是正常行为,看个十几步够判断策略效果就行。


5.6 用 TensorBoard 看训练曲线

5.6.1 启动

# 新终端 conda activate unitree_rl cd /workspace_project/g1_robot/unitree_rl_gym_study/unitree_rl_gym tensorboard --logdir=logs/g1/ --reload_interval=5

浏览器打开 http://localhost:6006

5.6.2 关键曲线速查

曲线名(SCALARS 页)好信号坏信号
Train/mean_reward或类似含 reward 的📈 上升📉 下降或完全不涨
Train/mean_episode_length📈 从 20 → 300+📉 越跑越短
Policy/mean_noise_std📉 从 0.8 → 0.3📈 反弹或卡在 0.8
Loss/value_function📉 稳步下降📈 爆炸式上升
Episode/rew_alive📈 上升➡️ 不涨(一直在摔)
Episode/rew_base_height➡️ 接近 0📉 越来越负(老摔)
Episode/rew_tracking_lin_vel📈 上升📉 不跟指令走

5.6.3 常见问题

曲线没动?→ 检查 TensorBoard 启动时--logdir指向的文件夹是不是最新的训练目录。

报 protobuf 错误?→ 降级过 protobuf 了(protobuf==3.20.3),不会再出现。

多个训练混在一起?logs/g1/会显示所有训练记录。勾选左下角 Runs 面板中对应的训练来筛选。


5.7 训练实战流程

新手推荐的标准流程

第 1 步:跑一个测试看看链路通不通 python legged_gym/scripts/train.py --task=g1 --headless --num_envs=512 --max_iterations=200 第 2 步:看测试效果 python legged_gym/scripts/play.py --task=g1 --num_envs=1 → 能站着不摔 = 正常 第 3 步:正式训练 python legged_gym/scripts/train.py --task=g1 --headless --num_envs=512 --max_iterations=2000 → 约 30 分钟 第 4 步:观察中期效果 python legged_gym/scripts/play.py --task=g1 --num_envs=1 → 能走几步了 = 方向正确 第 5 步:继续训练 python legged_gym/scripts/train.py --task=g1 --headless --num_envs=512 --resume --max_iterations=5000 → 再接再厉 第 6 步:评估最终效果 python legged_gym/scripts/play.py --task=g1 --num_envs=1 → 能稳定走不摔 = 达成目标

一次成功的训练长什么样

训练轮数 机器人行为 0-100 乱动、频繁摔倒、reward 很低 100-500 开始能站几秒了 500-1000 会迈步了但不稳 1000-2000 走路越来越稳、有点方向感 2000-4000 基本能走直线、偶尔摔倒 4000+ 走得流畅、很少摔倒

5.8 调参入门

5.8.1 能不能边跑边调?

不能。必须停掉训练 → 改参数 → 重新启动。不存在"跑着跑着中途改一下"这种操作。

标准流程:

Ctrl+C 停训练 → 改参数 → 决定从头训还是接跑 → 重新启动

5.8.2 改了参数后,从头训还是接跑?

这个很重要,搞错了等于白训:

你改了什么怎么重启 .为什么
奖励权重(rewards.scales从头训改变了"游戏规则",旧模型是按老规则练的,不能混用
action_scalestiffnessdamping从头训改变了"行为方式",旧模型不会新玩法
域随机化(domain_rand从头训改变了"训练环境",旧模型没见过
只改max_iterations可以接跑只是说"再多跑几轮",模型本身没变
学习率、网络结构从头训改变了"学习方法",旧模型不适用

简单记法:改了配置文件(g1_config.py)里的东西 → 从头训。只改命令行参数(max_iterationsnum_envs)→ 可以接跑。(不推荐新手改参数后接着训练,其实微调也行,但要注意参数突变带来的震荡,极有可能导致训练失败)

5.8.3 实际操作演示

假设你觉得机器人抬脚不够高(拖地走),想加大feet_swing_height惩罚:

# 第 1 步:Ctrl+C 停掉正在跑的训练 # 第 2 步:打开配置文件 # legged_gym/envs/g1/g1_config.py # 找到 feet_swing_height = -20.0 # 改成 feet_swing_height = -30.0 (更重的惩罚) # 第 3 步:因为改了奖励(游戏规则变了),必须从头训 # 给这次实验起个名字,方便以后在 TensorBoard 里对比 python legged_gym/scripts/train.py --task=g1 --headless --num_envs=512 \ --max_iterations=500 --run_name=high_step_test # 第 4 步:看效果 python legged_gym/scripts/play.py --task=g1 --num_envs=1 \ --load_run=<high_step_test的文件夹名>

5.8.4 对比新旧实验

这就是为什么调参原则里说给每个实验起名字

logs/g1/ ├── Jul26_21-25-34_/ ← 默认参数,跑了 3100 轮 ├── Jul27_10-30-15_high_step/ ← feet_swing_height = -30 └── Jul27_11-00-00_faster/ ← tracking_lin_vel = 2.0

TensorBoard 启动时会同时显示所有三个实验,你可以在左下角 Runs 面板里勾选两条叠在一起看同一张图表里谁更优。

5.8.5 什么时候该调

  • 训了 500 轮 reward 完全不涨 → 可能学习率有问题
  • 机器人走路抽搐 → 加大action_rate惩罚的绝对值
  • 总往一边歪 → 加大orientation惩罚的绝对值
  • 抬脚拖地 → 加大feet_swing_height惩罚的绝对值
  • 走得太慢 / 不走 → 加大tracking_lin_vel奖励

5.8.6 调参原则

  1. 一次只改一个参数:改多个你没法判断是哪个起的作用
  2. 给每个实验起名字--run_name=test_faster,方便 TensorBoard 对比
  3. 先少跑几轮测试:改参数后先跑--max_iterations=500,方向对了再正式跑
  4. 对比要公平:同样的随机种子、同样的训练轮数
  5. 记录你改了什么:开一个笔记记下:日期、改了哪个参数、从多少改成多少、效果怎样

5.9 命令速查卡

你想做什么命令
从头训练train.py --task=g1 --headless --num_envs=512
测试 200 轮train.py --task=g1 --headless --num_envs=512 --max_iterations=200
接着上次跑train.py --task=g1 --headless --num_envs=512 --resume
从第 N 轮接跑train.py --task=g1 --headless --num_envs=512 --resume --checkpoint=N
有头看过程train.py --task=g1 --num_envs=64
看策略效果play.py --task=g1 --num_envs=1
看指定模型play.py --task=g1 --num_envs=1 --load_run=文件夹名 --checkpoint=N
看训练曲线tensorboard --logdir=logs/g1/→ 浏览器 localhost:6006
列出模型文件ls -la logs/g1/文件夹名/

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询