312 lines
27 KiB
Markdown
312 lines
27 KiB
Markdown
# Transformer 多峰策略端到端训练与浏览器部署
|
||
|
||
机械臂避障策略运行手册。目标：在你的机器上从零跑出 Transformer 避障策略，并在查看器里直接用上。
|
||
方案依据见 `docs/Transformer轨迹拟合训练方案.md`。所有命令在**仓库根目录**执行。
|
||
|
||
**一键运行（无人值守）**：先激活训练用的 Python 环境，Windows 双击 `ml/console.bat`（Linux/WSL 运行 `bash ml/console.sh`），浏览器自动打开训练控制台 `http://localhost:8100/`，点「开始训练」即从对拍一路跑到验收。等价的终端命令是 `bash ml/pipeline.sh all`。
|
||
- **断了再点一次就是续跑**（断电、蓝屏、误关、手动停止都一样），损失不超过几分钟：
|
||
- 已成功的阶段自动跳过；
|
||
- 生成：每条任务的随机数只由（种子, 序号）决定，没写完的 `shard_XXXX.jsonl.part` 保留完整的行、从下一条接着写；
|
||
- 打包：已打包完的 shard 跳过；
|
||
- 预训练 / WTA / APG：每 10 分钟原子存一次 `last.pt`（含优化器、步数、最好成绩、早停计数；配置项 `ckpt_min`），续跑时自动 `--resume`；
|
||
- M5：已评完的那一半（比检查点新的结果文件）跳过；挖错：已过门禁的轮次跳过，断在某轮的 APG 用该轮 `last.pt` 续。
|
||
- 不续的只有几分钟级的短步骤（对拍、一致性门禁、R4、导出、bench、验收），它们整步重跑。
|
||
- **同一时间只能跑一条**：网页、终端、`all` 共用一把锁 `ml/runs/pipeline.lock`，第二个入口会被直接拒绝。
|
||
- **关窗口不影响训练**：网页和控制台窗口都可以关，重新打开即可接着看、可停止。
|
||
- **门槛在流程内自动处理**：R4 推理延迟自动测（不过就在训练前停下）；R2 只警告；M5 不过自动改训 WTA 头，两种头都不过才停；每个阶段有超时上限（估时 ×3），卡死会判失败并放锁。
|
||
也可以按阶段单独执行 `bash ml/pipeline.sh <阶段>`；每一阶段完成后看本手册对应小节的「检查」。
|
||
|
||
| 阶段 | 命令 | 预计耗时（28 核 CPU + RTX 3090） | 产出 |
|
||
|---|---|---|---|
|
||
| 1 环境 | `bash ml/pipeline.sh setup` | 10 分钟 | 依赖 |
|
||
| 2 对拍 | `bash ml/pipeline.sh kin` | 约 1 分钟（估算：300 条对拍实测 7.6 s，流程跑 2000 条） | `ml/assets/kin.json`、对拍 PASS |
|
||
| 2′ R4 延迟 | `bash ml/pipeline.sh r4`（无头 Edge/Chrome 自动测） | 约 5 分钟 | `ml/runs/r4.json` |
|
||
| 3 老师门禁 | `bash ml/pipeline.sh gate1` | 25–30 分钟（单核） | `ml/data/consistency.json` |
|
||
| 4 生成数据 | `bash ml/pipeline.sh gen` | 不共识约 1 小时；共识约 4–5 小时 | `ml/data/shard_*.jsonl`、`stats.json` |
|
||
| 5 打包样本 | `bash ml/pipeline.sh prep` | 15–30 分钟 | `ml/data/samples/`、`ml/data/r2.json` |
|
||
| 6 预训练 | `bash ml/pipeline.sh train` | 测速 2000 步约 6 分钟，正式约 3 小时 | `ml/runs/base/best.pt` |
|
||
| 7 M5 门禁 | `bash ml/pipeline.sh m5` | 估算 10–20 分钟 | `ml/runs/m5_gate_base.json` |
|
||
| 8 APG 微调 | `bash ml/pipeline.sh apg` | 未实测：展开长度 60–150 次推理随批变化，以监控页前 50 步换算的 ETA 为准 | `ml/runs/apg/best.pt` |
|
||
| 9 挖错循环 | `bash ml/pipeline.sh mine` | 未实测：每轮 = 5 万题作答 + APG，以第 1 轮实际耗时 × 轮数为准 | `ml/runs/current.pt` |
|
||
| 10 导出 | `bash ml/pipeline.sh export` | 1 分钟 | `webapp/models/traj_policy.onnx`（fp32） |
|
||
| 11 部署评测 | `bash ml/pipeline.sh bench` | 估算约 1 小时（Node CPU，1120 个任务；R8 出题耗时未实测）+ 查看器 R9 约 5 分钟 | `ml/runs/policy_bench.json`、`ml/runs/r9_browser.json` |
|
||
| 12 验收汇总 | `bash ml/pipeline.sh accept` | 10–20 分钟 | `ml/runs/acceptance.json` |
|
||
| 13 使用 | `python ml/serve.py` → 浏览器 `?policy=1` | — | — |
|
||
|
||
第 4/5/6 步耗时为 RTX 3090 + 28 核实测换算；标「估算」「未实测」的不要当预算，以每步首次输出的速度为准。
|
||
第 1 步（安装依赖）建议先手动做；一键流程默认从第 2 步开始，含 2′。
|
||
|
||
---
|
||
|
||
> 分歧规则：审查方与实现方意见讨论后仍不一致时，以实现方（Hark）的意见为准先落地；下一轮用实测数据说话（见 docs/ML运行手册审查.md 第二节）。
|
||
|
||
## 1. 环境
|
||
|
||
- Linux / WSL2，或 **Windows 原生 + Git Bash**（实测第 2/4/5/6 步与闭环仿真可跑）；NVIDIA 驱动 + CUDA（`nvidia-smi` 能看到 3090）
|
||
- Node ≥ 18，Python 3.10–3.12
|
||
- 脚本统一用 `$PYTHON`（默认 `python`）。Linux 上没有 `python` 命令时：`export PYTHON=python3`。Windows 不要用 `python3`（那是 WindowsApps 假壳）
|
||
- 先按 CUDA 版本装 PyTorch（https://pytorch.org ），再：
|
||
|
||
```bash
|
||
git pull
|
||
bash ml/pipeline.sh setup # pip install -r ml/requirements.txt；cd ml && npm install（onnxruntime-node）
|
||
```
|
||
|
||
## 2. 碰撞模型导出与对拍（必须 PASS）
|
||
|
||
```bash
|
||
bash ml/pipeline.sh kin
|
||
```
|
||
|
||
检查：最后打印的 JSON 里 `"PASS": true`（fk、姿态、组对间隙、83 维特征、间隙梯度与 JS 一致）。
|
||
`docs/collide.json` 以后只要重新拟合或重生成 `pair2d`/`roadmap`，这一步、数据、模型都要重来（指纹不符时各脚本会拒绝运行）。
|
||
|
||
**真跑之前（第七轮新增，5–10 分钟）**：`bash ml/pipeline.sh selftest`（进程生命周期与断点续跑自检 → `ml/runs/selftest.json`，不碰本仓库数据）。通过后正式流程按「数据 → 训练 → 后训练与评测」三段跑，中途出错从该阶段 `FROM=` 续跑。`bash ml/pipeline.sh smoke`（副本里极小模型全流程冒烟，40–70 分钟）备用，不必跑。已定判据与待回答问题见 `docs/ML运行手册审查.md`。
|
||
|
||
**R4 延迟（训练前做，自动）**：推理延迟只取决于模型结构，与权重无关，所以用随机初始化模型先测，不过就在训练前改结构，不必等训完。
|
||
|
||
```bash
|
||
bash ml/pipeline.sh r4 # 随机初始化模型导出到 ml/runs/r4/traj_policy_r4.onnx（不碰 webapp/models/），无头浏览器自动测 → ml/runs/r4.json
|
||
```
|
||
|
||
部署形态：模型每次只编码 1 行观测、解码 K=8 条候选（`meta.enc_once`）；wasm 线程默认 `min(16, ⌊0.6×逻辑核⌋)`，推理放在 onnxruntime 的代理 Worker 里不占主线程。
|
||
探针测 4 种配置：默认线程 + Worker（部署口径）、4 线程（对照旧默认）、默认线程不开 Worker（看 `tickGapMax`：推理是否卡住 20 ms 节拍）、WebGPU。
|
||
**通过线：部署口径 batch=8 P99 < 15 ms**；wasm 不过而 WebGPU 过也算通过，`r4.json` 记 `deploy_ep: webgpu`，查看器用 `&ep=webgpu`。
|
||
不通过时流程停在这里（返回码 5）：改用 `CFG=ml/configs/small.json`（d=128、ff=512，约 1.8 M 参数）重跑。确认要继续设 `R4_STRICT=0`。
|
||
找不到浏览器时 `pass` 为 null、流程继续、验收标红；可用 `R4_BROWSER=浏览器路径` 指定。
|
||
onnxruntime-web 默认用本地副本 `webapp/vendor/ort/`（`setup` 与 `r4` 会自动执行 `bash ml/prep/vendor_ort.sh` 放好，约 33 MB、不入库），不依赖 CDN；`ORT_LOCAL=0` 强制走 CDN。
|
||
WebGPU 配置和查看器参考测试会弹出一个有界面的浏览器窗口（无头模式拿不到真 GPU），跑完自动关闭，期间别动它。
|
||
`r4.json` 还带一项 `viewer_ref`：随机模型在真查看器里跑 30 道贴柱题的整次规划耗时，**只作参考**（随机策略几乎每次都要认证多条候选，安全层路径不代表真模型），R9 以第 11 步为准。
|
||
手动看：`python ml/serve.py` 后打开 `http://localhost:8000/?policy=../ml/runs/r4/traj_policy_r4.onnx&probe=1`（随机模型默认会被查看器拒绝，`&probe=1` 才放行，徽标标红「随机探针模型」）。
|
||
|
||
## 3. 老师一致性门禁
|
||
|
||
```bash
|
||
bash ml/pipeline.sh gate1
|
||
```
|
||
|
||
看 `consistentByGateRule`：≥ 0.90 直接生成；< 0.90 时第 4 步自动加 `--consensus 4`（每条任务另跑 4 个 ±5 mm 邻居，与多数绕法不一致的样本丢弃，生成成本约 5 倍）。可用 `CONSENSUS=0/1` 手动覆盖。
|
||
|
||
## 4. 生成老师数据
|
||
|
||
```bash
|
||
bash ml/pipeline.sh gen # 默认 5 万条、进程数 = CPU 核数
|
||
# 自定义：N_TASKS=50000 NPROC=28 CONSENSUS=1 TARGET_SAMPLES=1700000 bash ml/pipeline.sh gen
|
||
```
|
||
|
||
不共识约 1.6 秒/条/核；共识约 8 秒/条/核。生成完自动统计；**样本数不足 `TARGET_SAMPLES`（默认 170 万）时按实测「样本/任务」自动补生成**（最多补 2 次），不用手动加 `N_TASKS`。
|
||
|
||
检查 `ml/data/stats.json`：
|
||
|
||
| 字段 | 不共识（实测） | 共识（估算） | 不正常时 |
|
||
|---|---|---|---|
|
||
| `keepRate` | ≈ 0.97 | 0.80–0.88 | 共识 < 0.75：把 `stats.json` 发我（老师左右跳变比预期多） |
|
||
| `samplesPerTask` | ≈ 36.5 | ≈ 36.5 | — |
|
||
| `samplesEvery3` | ≥ 170 万（自动补量后） | ≥ 170 万 | 补量后仍不足：发我 |
|
||
| `consensusDrop` | 0 | 约任务数的 10–20% | — |
|
||
| `vertexMinGapMm` | p50 ≈ 4.4、p90 ≈ 5.9 mm | 同 | — |
|
||
| `gapDrop` | 认证最小间隙 < 3 mm 被剔除的轨迹数（未实测，预计约 10%） | 同 | > 25%：发我（自动补量会按剔除后的样本数补，但老师整体太贴柱） |
|
||
| `byCatMode` | C 类（贴立柱）各模式都有数千条 | 同 | — |
|
||
|
||
## 5. 打包训练样本 + R2 检查
|
||
|
||
```bash
|
||
bash ml/pipeline.sh prep
|
||
```
|
||
|
||
每条轨迹按 50 Hz 时间律重放，每 3 步取一个样本（特征与部署同一份 JS 代码计算），30% 样本加 σ = 1° 噪声增广（加噪后间隙 < 3 mm 的不用）。
|
||
认证最小间隙 < 3 mm 的老师轨迹不进训练集（`MIN_GAP_MM=3`，与 `stats.json` 的 `gapDrop` 同一口径）：模型只学离障碍 ≥ 3 mm 的走法，运行时投影护栏仍保持 5 mm。
|
||
检查 `ml/data/samples/index.json`：`train_samples` 约 170 万、`val_samples` 约 9 万（5% 任务划为 val）。
|
||
`MIN_GAP_MM` 必须与生成阶段相同（`stats.json` 的 `minGapFilterMm`），不一致时这一步直接报错（返回码 8）。
|
||
随后自动跑 R2 检查（`ml/data/r2.json`）：判据是 `label_std_norm < 0.10`（近邻距离 → 0 的回归截距，与搜索池大小无关）；`label_std_mean` 是旧口径（取最近 5% 近邻，随池大小变），只作参考。
|
||
不通过时默认**只警告、继续训练**（阈值尚未经实测校准），验收汇总列为参考项；`R2_STRICT=1` 才在这里停（返回码 4）。小样本时近邻对不足，`pass` 为 null。
|
||
|
||
## 6. 预训练
|
||
|
||
```bash
|
||
bash ml/pipeline.sh train # MeanFlow 头 → ml/runs/bench_base/、ml/runs/base/
|
||
```
|
||
|
||
先跑 2000 步测吞吐（`ml/runs/bench_base/log.jsonl` 的 `samples_per_s`，`eta_h` 是剩余小时数），再正式训练到 60000 步或闭环到达率连续 5 次不升为止。
|
||
|
||
- **通过线（R10）：`samples_per_s` ≥ 5000，即 60000 步 ≤ 3.5 小时**。参考：3090、batch 1024 实测 6.2 k 样本/s ≈ 2.8 小时。MeanFlow 的 JVP 双前向使训练受算力限制，加大 batch 不会提高样本/s；低于通过线时把 `configs/base.json` 的 `fk_caps` 从 96 降到 48，仍不够再把 `steps` 降到 40000
|
||
- 训练中每 2000 步打印一行 `EVAL {...}`：val 任务闭环（部署节奏、不开安全层）`success`、`collision_rate`、`time_ok_1p3`、`start_fail`。时限 = 老师时长 × 2（至少 3 s）
|
||
- 显存预算按 **19–20 GB** 算（Windows + 4K 桌面常驻占 4–5 GB），训练与 APG 进程启动时自设硬帽 `VRAM_FRAC=0.78`（≈18.7 GiB），日志 `vram` 字段记峰值；预训练 `batch=1024` 实测峰值 2.76 GiB。显存不够把 `batch` 改成 512。中断后再跑 `bash ml/pipeline.sh train`（或 `all`）会自动从 `ml/runs/<头>/last.pt` 续训（每 10 分钟存一次），测速那 2000 步做过就跳过。训练发散时不会用发散的权重覆盖 `last.pt` / `best.pt`。
|
||
|
||
## 7. M5 门禁：选定动作头
|
||
|
||
```bash
|
||
bash ml/pipeline.sh m5
|
||
```
|
||
|
||
1000 个贴立柱任务（无老师题，定长 6 s 时限）跑两遍，结果在 `ml/runs/m5_gate_base.json`：
|
||
|
||
- `policy_only`：关安全层的纯策略指标。**门禁只看这一项：穿柱率 ≤ 2% 通过**，通过后把该模型记为选定模型（`ml/runs/selected_ckpt`），后续阶段自动从它开始
|
||
- `with_sim_safety`：仿真里的近似安全层（候选逐步干涉就换下一条）。只作参考
|
||
|
||
三种口径的关系：M5 是纯策略能力；仿真安全层是近似；**部署能不能过只看第 11 步**（与浏览器同一份运行时，含投影、距离认证、刹停、预算、换向锁）。三者互不替代。
|
||
|
||
不通过时**流程内自动**改训 WTA K=8 头（约 3 小时，产物在 `ml/runs/bench_wta/`、`ml/runs/wta/`，不覆盖 MeanFlow），再判一次 → `ml/runs/m5_gate_wta.json`；两种头都不过才停（返回码 3）。`AUTO_WTA=0` 关闭自动分支。
|
||
单独跑 WTA：`CFG=ml/configs/wta.json bash ml/pipeline.sh train` 再 `CFG=ml/configs/wta.json bash ml/pipeline.sh m5`。
|
||
|
||
需要强制指定后续阶段的起点模型时用 `CKPT=路径 bash ml/pipeline.sh apg`。
|
||
|
||
## 8. APG 可微微调
|
||
|
||
```bash
|
||
bash ml/pipeline.sh apg
|
||
```
|
||
|
||
按部署节奏（每次推理提交 3 步、50 Hz）可微展开策略，优化到达、碰撞余量、平滑与行程，并保留 BC 锚定。每 500 步闭环验证，按到达率存 `best.pt`，完成后复制为 `ml/runs/current.pt`。
|
||
|
||
- **展开长度**：每批覆盖该批老师时长 p90 × 1.2（无老师题按 6 s），在 60–150 次推理（3.6–9 s）之间；日志 `plans` 字段是本批实际次数
|
||
- **到达项**：每 10 次推理段末的 TCP 距离与姿态误差，没有「到达即停」。这是有意的：段末项在整条展开上持续给出接近目标的梯度
|
||
- **碰撞项**：每步端点与中点的逐胶囊对铰链 `ReLU(3 mm − 间隙)`，两处取均值（与只查端点同量纲，`w_col` 不变）。3 mm 与训练数据的过滤线一致，碰撞项不与 BC 标签对抗；运行时投影护栏是独立的 5 mm
|
||
- `configs/apg.json` 定为 `batch=48`、`steps=8000`（本机实测 `batch=48/plans=150` 峰值 13.08 GiB；`batch=128` 必 OOM；总任务量与原 128×3000 相同）。仍超预算时把 `seg_plans` 从 10 降到 5，不降 `plans_max`（会截掉长任务的绕出段）
|
||
|
||
## 9. 挖错循环
|
||
|
||
```bash
|
||
bash ml/pipeline.sh mine # 默认 6 轮；ROUNDS=3 APG_STEPS=1000 MINE_N=50000 可调
|
||
```
|
||
|
||
每轮：5 万道新题关安全层作答 → 错题分类 E1–E5 → **本轮**错题与邻居进 APG 采样池（不累积历史轮，旧错题由门禁的「上轮修好仍对 ≥ 95%」把关）→ E2（局部极小）请老师补少量路径 → APG 微调 → 门禁集比较，不达标自动回滚。连续 2 轮提升 < 0.5 个百分点自动停止。
|
||
|
||
门禁（`ml/runs/mine/r*/gate.json`）：到达率不降、A 类降幅 ≤ 0.5 个百分点、上轮修好的题 ≥ 95% 仍对、**R7**：B/C 类左右绕行比例变化 ≤ 5 个百分点、行程中位数比 ≤ 1.05。挖错题与门禁集都是无老师题，到达按定长 6 s 判，`time_ok_1p3` 与行程比只在有老师参考的题上统计（门禁集上为 null）。
|
||
|
||
## 10. 导出
|
||
|
||
```bash
|
||
bash ml/pipeline.sh export # fp32 ONNX + meta.json → webapp/models/（约 20 MB）
|
||
```
|
||
|
||
默认 fp32：部署走 wasm 与 Node CPU，fp16 在 CPU 后端上不保证更快。只有第 13 步用 `&ep=webgpu` 实测 `__POLICY.latency()` 明显受益时，才另导出 fp16 做对比：
|
||
|
||
```bash
|
||
pip install onnxconverter-common
|
||
python -m ml.export_onnx --ckpt ml/runs/current.pt --out webapp/models/traj_policy_fp16.onnx --fp16
|
||
```
|
||
|
||
## 11. 部署形态评测（策略 + 安全层）
|
||
|
||
```bash
|
||
bash ml/pipeline.sh bench
|
||
```
|
||
|
||
跑与浏览器同一份运行时（`webapp/js/ik-policy.js`）：贴立柱 30 例（pos、pose 各一遍）、直线被挡 40 例、R8 对抗 50 例（J1 起终差 ≥ 140°、终点贴立柱、两侧都要绕远）、一次性贴立柱扩展集 1000 例。各集合数量可用 `--nc-n` / `--route-n` / `--r8-n` 单独调。
|
||
|
||
看 `ml/runs/policy_bench.json`：各集合 `collisionFrames` 为 0；`near_column_*` 与 `route40` 全部 `ok`；`near_column_1000` 0 失败；`brakeRate` < 0.02；`r8_adversarial` 的 `recoveryRate` ≥ 0.95、`livelock` = 0。
|
||
同一步还会在查看器里跑**同一批** 30 道贴柱题（与 Node 同种子），写 `ml/runs/r9_browser.json`（会弹出浏览器窗口几分钟）：
|
||
- **R9 通过线：稳态规划 `planWarmP99` < 45 ms、运动中饥饿节拍 `starve_rate` < 1%、认证超时占比 `cert_time_rate` < 5%**（整次规划 = 推理 + 前瞻 + 安全层，60 ms 周期留 15 ms 给渲染与执行时钟；稳态 = 剔除每题静止起步那次冷启动规划，冷启动只是起步延迟，`planColdP99` 只报；饥饿 = 运动中执行时钟到点队列空了，即实际丢步；认证超时一闸防止靠拒绝候选、刹停换来耗时达标）。`brake_rate`、`tickGapMax` 只报不判。
|
||
- 两边对照：`policy_bench.json` 的 `near_column_pos.safetyMsP99` 与浏览器 `safetyP99` 差 > 3× 时验收标红，用 `certQueriesP99`（每次规划新增距离查询）、`certMemoHitRate`、`certFailWhy`（`cert` / `budget` / `time` / `box`）定位。
|
||
|
||
## 12. 验收汇总
|
||
|
||
```bash
|
||
bash ml/pipeline.sh accept
|
||
```
|
||
|
||
自己补跑 val 全部任务的闭环（开仿真安全层）：可达任务到达率 ≥ 98%、D 类停靠距离 ≤ 老师 + 5 mm、起步失败率 ≤ 0.2%；再读第 5–11 步产物核对 R2、R7、R8、R10、M5 与部署形态各项。逐项打印「通过 / 未过」，结果在 `ml/runs/acceptance.json`。
|
||
|
||
## 13. 在查看器里使用
|
||
|
||
```bash
|
||
python -m arm.viewer.build_viewer # 若 webapp/generated/00_data.js 还没生成（查看器原有构建步骤）
|
||
python ml/serve.py # 带跨源隔离头的本地服务，wasm 可用多线程
|
||
```
|
||
|
||
浏览器打开 `http://localhost:8000/?policy=1`：右上角徽标显示「策略模式就绪」后，拖动黄球或松手，手臂由策略闭环执行（不调用任何规划器）。
|
||
- `&ep=webgpu` 改用 WebGPU 后端对比延迟
|
||
- 控制台 `__POLICY.latency()` 查看推理、前瞻、安全层、整次规划的 P50/P99 与节拍；`__POLICY.stats()` 查看刹停、换向、精修次数
|
||
- `&autotest=30` 自动跑与 bench 同一批贴柱题，结果在 `__POLICY.autotest`
|
||
- 运行时投影护栏 5 mm：候选动作离障碍 < 5 mm 时沿间隙梯度外推（训练数据的过滤线是 3 mm，护栏比数据更保守）
|
||
- 工具偏移 ≠ 0 时自动交回原规划器
|
||
- 离线环境：`bash ml/prep/vendor_ort.sh` 把 onnxruntime-web 放到 `webapp/vendor/ort/`，地址加 `&ortLocal=1`（WebGPU 同样可用）
|
||
|
||
## 14. 回传给我
|
||
|
||
| 步骤 | 文件 |
|
||
|---|---|
|
||
| 2 | 对拍输出（终端 JSON）、`ml/runs/r4.json` |
|
||
| 3–5 | `ml/data/consistency.json`、`ml/data/stats.json`、`ml/data/samples/index.json`、`ml/data/r2.json` |
|
||
| 6 | `ml/runs/bench_base/log.jsonl`（测速）、`ml/runs/base/log.jsonl` |
|
||
| 7 | `ml/runs/m5_gate_*.json` |
|
||
| 8–9 | `ml/runs/apg/log.jsonl`、`ml/runs/mine/r*/report.json` 与 `gate.json` |
|
||
| 11–13 | `ml/runs/policy_bench.json`、`ml/runs/r9_browser.json`、`ml/runs/acceptance.json` |
|
||
| 任一步出错 | `ml/runs/pipeline.json`、`ml/runs/console.log`（控制台启动时）或终端输出 |
|
||
|
||
## 训练控制台
|
||
|
||
```text
|
||
Windows：双击 ml/console.bat Linux / WSL：bash ml/console.sh
|
||
（等价于 python -m ml.monitor --open。先激活训练用的 Python 环境；或设环境变量 PYTHON=训练环境 python 的完整路径。
|
||
启动器以「能 import torch」判断 Python 可用；Windows 另需 Git for Windows 提供的 Git Bash）
|
||
```
|
||
不要直接双击 `ml/monitor.html`：那样只能看到示例数据（页面顶部有黄色提示）。
|
||
|
||
浏览器自动打开 `http://localhost:8100/`，零第三方依赖、不连外网，每 5 秒刷新。
|
||
|
||
**自检**：控制台启动时检查训练用 Python 能否 `import torch`、GPU、node、bash，结果显示在「全流程」卡片底部；不过则「开始训练」不可点。
|
||
**开始**：点「▶ 开始训练」→ 运行方式（续跑 / 从头重跑）、动作头、共识过滤、任务数、进程数、目标样本数、挖错轮数、`MIN_GAP_MM` → 「开始」。控制台在后台执行 `bash ml/pipeline.sh all`。
|
||
- 续跑：跳过已成功的阶段。改了参数时只作废受影响的阶段（改生成参数 → 从生成起重跑；改动作头 → R4 与训练起重跑；改挖错参数 → 从挖错起重跑），旧产物移到 `ml/archive/<时间>/`，不删除。
|
||
- 从头重跑（`FRESH=1`）：全部旧产物移到 `ml/archive/<时间>/`。
|
||
**停止**：「■ 停止」时，训练类阶段（预训练 / M5 / APG / 挖错）先收到停止请求（`ml/runs/STOP`），存好 `last.pt` 自行退出（最多等 90 秒），然后结束整个进程树；这一步记为「已停止」并放锁，再点「开始训练」即从断点续跑。终端里按 Ctrl+C 或 `kill` 也会先存档再退出。终端或上一个控制台窗口起的流水线也能在这里停（按锁里记录的进程号）。
|
||
**网页和控制台窗口都可以关**，训练不受影响（Windows 子进程有自己的隐藏控制台，Linux 在独立会话里），重新双击 `console.bat` 即可接着看。
|
||
**互斥**：已有一条在跑时（网页、终端或 `all` 起的都算），第二个入口会被拒绝并给出持锁进程号；进程被强杀没来得及放锁时，心跳 5 分钟不刷新即视为失效。
|
||
**超时**：每个阶段上限 = 估时 ×3（网页「本步粗估 / 上限」；`TIMEOUT_SCALE=2` 整体放宽），超了判卡死、阶段失败、放锁。生成阶段每分钟往终端输出打一行节拍。
|
||
**安全**：开始/停止只接受本控制台页面发起的请求（自定义请求头 + 同源检查），本机其他网页发不进来。
|
||
|
||
页面内容，从上到下：
|
||
|
||
| 区域 | 内容 | 数据来源 |
|
||
|---|---|---|
|
||
| 流水线 | 12 个阶段的状态（完成 / 运行中 / 失败 / 已停止 / 未开始）与各步用时 | `ml/runs/pipeline.json`（每个阶段开始结束时自动写） |
|
||
| 全流程 | 全流程百分比（按各步粗估耗时加权）、当前步骤与它的进度、总用时、本步用时、剩余粗估、开始/停止按钮 | 同上 + 各阶段产物 |
|
||
| GPU | 利用率、显存、温度、功耗 | `nvidia-smi` |
|
||
| 当前运行 | 正在跑的训练（自动跟随；顶部下拉框可切换 `ml/runs` 下任一次运行）：步数、已用/剩余时间、预计完成时刻、评估标记 | `ml/runs/*/log.jsonl` |
|
||
| 指标卡与曲线 | 预训练：总损失、各损失分量、吞吐（R10 线 5000 样本/s）、闭环评估（到达率 / 碰撞率 / ≤老师时长×1.3 / 起步失败）；APG：到达误差、损失分量、展开长度 | 同上 |
|
||
| 各阶段结果 | 数据统计（含 `gapDrop`）、R2、M5 两种口径、挖错各轮与门禁、部署评测、验收逐项 | `ml/data/*.json`、`ml/runs/*.json` |
|
||
| 终端输出 | 控制台启动的流水线的命令行输出，报错标红 | `ml/runs/console.log` |
|
||
|
||
当前步骤的进度怎么算：生成数据 = 已写出任务条数 / 目标条数（含自动补量）；打包 = 已打包分片 / 分片数；预训练 = (测速 2000 步 + 正式步数) / (2000 + 总步数)；APG = 步数；挖错 = 已完成轮数 + 本轮 APG 步数（共最多 `ROUNDS` 轮，提升不足会提前停）；M5 = 两遍评估；对拍、老师门禁、导出、部署评测、验收无法计量，显示用时与粗估。全流程百分比与剩余时间按 `ml/pstate.py` 里的阶段估时加权（与超时上限同一份表），只作参考。
|
||
|
||
同一局域网的手机或其他电脑要看：`python -m ml.monitor --host 0.0.0.0`，用本机 IP 访问；其他机器只能看，开始/停止只接受本机操作（`--remote-control` 放开）。
|
||
|
||
## 常见问题
|
||
|
||
- **指纹不符**：`collide.json` 变了。依次重跑第 2、4、5 步并重训。
|
||
- **训练发散**（loss 出现 nan/inf，自动停在 `diverged.pt`）：先把 `lr` 降到 5e-4 重试一次，仍发散就走 WTA 回退（第 7 步）。
|
||
- **显存/内存不足**：降 `batch`；APG 还可把 `seg_plans` 降到 5。出题与间隙计算按空闲显存自动分块（用 1/4；空闲量本就扣除了桌面占用）。`check_r2` 常驻约 1.6 GB（1.7 M 样本）。
|
||
- **小样本摸底**：几百条任务时 val 可能为空，训练会提示并跳过闭环验证；R2 检查近邻对不足时 `pass` 为 null，不拦后续步骤。
|
||
- **返回码**：3 = M5 两种头都没过；4 = R2 不过且 `R2_STRICT=1`；5 = R4 不过；6 = 生成进程崩溃（看 `ml/data/log_*.txt`，采样器连续失败会写明原因）；8 = `MIN_GAP_MM` 前后不一致；9 = 已有一条在跑；124 = 阶段超时。
|
||
- **生成阶段报「采样失败：…连续 N 次未命中」**：多半是 `collide.json` 或关节限位变了，某类位形几乎不存在；把该日志发我。
|
||
- **浏览器只有 1 线程**：没走 `ml/serve.py`（缺 COOP/COEP 头）。
|
||
- **查看器徽标「策略模式不可用」**：看控制台报错，多为模型文件缺失、指纹或 TCP 不符。
|
||
|
||
## 文件地图
|
||
|
||
```
|
||
ml/
|
||
pipeline.sh 一条龙阶段脚本（环境变量见文件头）；每阶段开始/结束经 pstate.py 写 runs/pipeline.json
|
||
console.bat / console.sh 训练控制台一键启动（Windows / Linux）
|
||
monitor.py monitor.html 训练控制台：本地 HTTP 服务（开始/停止/进度/日志接口）+ 零依赖网页（地址带 ?demo=1 看示例数据）
|
||
pstate.py 流水线状态 runs/pipeline.json、互斥锁 runs/pipeline.lock、阶段估时/超时表（唯一来源）
|
||
gen/ 老师数据：sampler / teacher（确定性 PRM A*）/ cert.cjs（距离下界认证，实现在 ik-policy.js）/
|
||
pathdev.cjs（同伦类判定，共识过滤与一致性门禁用）/ timelaw / gen_dataset / consistency / stats / run_parallel.sh
|
||
prep/ export_kin.cjs（→ assets/kin.json）、build_dataset.cjs（→ samples/*.npy）、npy.cjs（.npy 写出）、run_prep.sh
|
||
common/ kin_torch.py（可微运动学 + 胶囊间隙）、features.py（83 维特征，与 JS 逐项一致）
|
||
model/ policy.py（Transformer + MeanFlow / WTA 头）、meanflow.py
|
||
data.py train.py 样本加载、预训练
|
||
sim/closed_loop.py 部署节奏闭环仿真（验证 / 挖错 / 门禁）
|
||
apg/apg_finetune.py APG 可微微调
|
||
mining/ tasks.py（无老师出题）、mine_round.py、gate.py（含 R7）、loop.sh
|
||
eval/ dump_parity.cjs + check_parity.py（JS↔PyTorch 对拍）、check_r2.py（R2）、r4_probe.py（R4 无头浏览器探针）、acceptance.py（验收汇总）
|
||
toy/toy_bimodal.py 2D 双模态对照实验（动作头选型依据）
|
||
export_onnx.py serve.py
|
||
configs/ base.json（MeanFlow）、wta.json（回退）、small.json（R4 不过时的 d=128）、apg.json
|
||
webapp/js/ik-policy.js 运行时：特征、距离下界认证、刹停、投影、精修、Runner（浏览器与 Node 共用）
|
||
webapp/js/ik-policy-glue.js 查看器接入（?policy=1；&threads= &proxy=0 &ep=webgpu &probe=1）
|
||
webapp/r4_probe.html R4 探针页（r4_probe.py 打开）
|
||
tests/policy_bench.cjs 部署形态评测（nc / route / r8 / nc1000）
|
||
```
|