- 显存:APG batch 128→48(实测 d=192 下 128 无论 plans 60/150 都 OOM,崩前已分配 17.85 GiB;48/plans150=13.08、48/60=7.67);新增 ml/common/vram.py 每进程硬帽 VRAM_FRAC=0.78 并把 vram 峰值写进 train/APG 日志、监控页加「显存峰值」卡与按 20 GB 预算的显存条;smoke.json 补 apg 段并让自检带 --config。 - 自检修复:find_bash 兼容便携版 git 的 mingw64 布局(本机原返回 None → 网页「开始训练」起不动);selftest_proc.alive 读中文 tasklist 的 GBK 崩溃;rec 值非法 JSON 时静默丢项;gen_resume 判据剔除 plan_ms/cert.ms 两个墙钟字段(旧判据恒 false)。整轮重跑 7/8 通过、3.5 分钟,仅 train_term 为 Windows 真实限制(TERM 送不到原生 python)。 - vendor: onnxruntime-web 1.20.1 本地副本入库(约 33 MB),查看器与 R4/R9 探针不再依赖 npm/CDN;.gitignore 同步移除该目录。 - docs: 第八节 R4 复跑(feat_dyn 新模型):部署口径 P99 12.67 通过;WebGPU 首次实测 27.09(有界面窗口,adapter nvidia ampere);viewer_ref 随机模型 planP99 131 / starve 32.7% / lookaheadP99 170 / certFailWhy time 948 / tickGapMax 736,三条判读留给实现方。
机械臂避障策略:从数据到部署的运行手册
目标:在你的机器上从零跑出 Transformer 避障策略,并在查看器里直接用上。
方案依据见 docs/Transformer轨迹拟合训练方案.md。所有命令在仓库根目录执行。
一键运行(无人值守):先激活训练用的 Python 环境,Windows 双击 ml/console.bat(Linux/WSL 运行 bash ml/console.sh),浏览器自动打开训练控制台 http://localhost:8100/,点「开始训练」即从对拍一路跑到验收。等价的终端命令是 bash ml/pipeline.sh all。
- 断了再点一次就是续跑(断电、蓝屏、误关、手动停止都一样),损失不超过几分钟:
- 已成功的阶段自动跳过;
- 生成:每条任务的随机数只由(种子, 序号)决定,没写完的
shard_XXXX.jsonl.part保留完整的行、从下一条接着写; - 打包:已打包完的 shard 跳过;
- 预训练 / WTA / APG:每 10 分钟原子存一次
last.pt(含优化器、步数、最好成绩、早停计数;配置项ckpt_min),续跑时自动--resume; - M5:已评完的那一半(比检查点新的结果文件)跳过;挖错:已过门禁的轮次跳过,断在某轮的 APG 用该轮
last.pt续。 - 不续的只有几分钟级的短步骤(对拍、一致性门禁、R4、导出、bench、验收),它们整步重跑。
- 同一时间只能跑一条:网页、终端、
all共用一把锁ml/runs/pipeline.lock,第二个入口会被直接拒绝。 - 关窗口不影响训练:网页和控制台窗口都可以关,重新打开即可接着看、可停止。
- 门槛在流程内自动处理:R4 推理延迟自动测(不过就在训练前停下);R2 只警告;M5 不过自动改训 WTA 头,两种头都不过才停;每个阶段有超时上限(估时 ×3),卡死会判失败并放锁。
也可以按阶段单独执行
bash ml/pipeline.sh <阶段>;每一阶段完成后看本手册对应小节的「检查」。
| 阶段 | 命令 | 预计耗时(28 核 CPU + RTX 3090) | 产出 |
|---|---|---|---|
| 1 环境 | bash ml/pipeline.sh setup |
10 分钟 | 依赖 |
| 2 对拍 | bash ml/pipeline.sh kin |
约 1 分钟(估算:300 条对拍实测 7.6 s,流程跑 2000 条) | ml/assets/kin.json、对拍 PASS |
| 2′ R4 延迟 | bash ml/pipeline.sh r4(无头 Edge/Chrome 自动测) |
约 5 分钟 | ml/runs/r4.json |
| 3 老师门禁 | bash ml/pipeline.sh gate1 |
25–30 分钟(单核) | ml/data/consistency.json |
| 4 生成数据 | bash ml/pipeline.sh gen |
不共识约 1 小时;共识约 4–5 小时 | ml/data/shard_*.jsonl、stats.json |
| 5 打包样本 | bash ml/pipeline.sh prep |
15–30 分钟 | ml/data/samples/、ml/data/r2.json |
| 6 预训练 | bash ml/pipeline.sh train |
测速 2000 步约 6 分钟,正式约 3 小时 | ml/runs/base/best.pt |
| 7 M5 门禁 | bash ml/pipeline.sh m5 |
估算 10–20 分钟 | ml/runs/m5_gate_base.json |
| 8 APG 微调 | bash ml/pipeline.sh apg |
未实测:展开长度 60–150 次推理随批变化,以监控页前 50 步换算的 ETA 为准 | ml/runs/apg/best.pt |
| 9 挖错循环 | bash ml/pipeline.sh mine |
未实测:每轮 = 5 万题作答 + APG,以第 1 轮实际耗时 × 轮数为准 | ml/runs/current.pt |
| 10 导出 | bash ml/pipeline.sh export |
1 分钟 | webapp/models/traj_policy.onnx(fp32) |
| 11 部署评测 | bash ml/pipeline.sh bench |
估算约 1 小时(Node CPU,1120 个任务;R8 出题耗时未实测)+ 查看器 R9 约 5 分钟 | ml/runs/policy_bench.json、ml/runs/r9_browser.json |
| 12 验收汇总 | bash ml/pipeline.sh accept |
10–20 分钟 | ml/runs/acceptance.json |
| 13 使用 | python ml/serve.py → 浏览器 ?policy=1 |
— | — |
第 4/5/6 步耗时为 RTX 3090 + 28 核实测换算;标「估算」「未实测」的不要当预算,以每步首次输出的速度为准。 第 1 步(安装依赖)建议先手动做;一键流程默认从第 2 步开始,含 2′。
分歧规则:审查方与实现方意见讨论后仍不一致时,以实现方(Hark)的意见为准先落地;下一轮用实测数据说话(详见 docs/ML运行手册审查.md 第五轮第〇节)。
1. 环境
- Linux / WSL2,或 Windows 原生 + Git Bash(实测第 2/4/5/6 步与闭环仿真可跑);NVIDIA 驱动 + CUDA(
nvidia-smi能看到 3090) - Node ≥ 18,Python 3.10–3.12
- 脚本统一用
$PYTHON(默认python)。Linux 上没有python命令时:export PYTHON=python3。Windows 不要用python3(那是 WindowsApps 假壳) - 先按 CUDA 版本装 PyTorch(https://pytorch.org ),再:
git pull
bash ml/pipeline.sh setup # pip install -r ml/requirements.txt;cd ml && npm install(onnxruntime-node)
2. 碰撞模型导出与对拍(必须 PASS)
bash ml/pipeline.sh kin
检查:最后打印的 JSON 里 "PASS": true(fk、姿态、组对间隙、83 维特征、间隙梯度与 JS 一致)。
docs/collide.json 以后只要重新拟合或重生成 pair2d/roadmap,这一步、数据、模型都要重来(指纹不符时各脚本会拒绝运行)。
真跑之前(第七轮新增,5–10 分钟):bash ml/pipeline.sh selftest(进程生命周期与断点续跑自检 → ml/runs/selftest.json,不碰本仓库数据)。通过后正式流程按「数据 → 训练 → 后训练与评测」三段跑,中途出错从该阶段 FROM= 续跑。bash ml/pipeline.sh smoke(副本里极小模型全流程冒烟,40–70 分钟)备用,不必跑。待办与已定做法见 docs/ML运行手册审查.md 第六节。
R4 延迟(训练前做,自动):推理延迟只取决于模型结构,与权重无关,所以用随机初始化模型先测,不过就在训练前改结构,不必等训完。
bash ml/pipeline.sh r4 # 随机初始化模型导出到 ml/runs/r4/traj_policy_r4.onnx(不碰 webapp/models/),无头浏览器自动测 → ml/runs/r4.json
部署形态:模型每次只编码 1 行观测、解码 K=8 条候选(meta.enc_once);wasm 线程默认 min(16, ⌊0.6×逻辑核⌋),推理放在 onnxruntime 的代理 Worker 里不占主线程。
探针测 4 种配置:默认线程 + Worker(部署口径)、4 线程(对照旧默认)、默认线程不开 Worker(看 tickGapMax:推理是否卡住 20 ms 节拍)、WebGPU。
通过线:部署口径 batch=8 P99 < 15 ms;wasm 不过而 WebGPU 过也算通过,r4.json 记 deploy_ep: webgpu,查看器用 &ep=webgpu。
不通过时流程停在这里(返回码 5):改用 CFG=ml/configs/small.json(d=128、ff=512,约 1.8 M 参数)重跑。确认要继续设 R4_STRICT=0。
找不到浏览器时 pass 为 null、流程继续、验收标红;可用 R4_BROWSER=浏览器路径 指定。
onnxruntime-web 默认用本地副本 webapp/vendor/ort/(setup 与 r4 会自动执行 bash ml/prep/vendor_ort.sh 放好,约 33 MB、不入库),不依赖 CDN;ORT_LOCAL=0 强制走 CDN。
WebGPU 配置和查看器参考测试会弹出一个有界面的浏览器窗口(无头模式拿不到真 GPU),跑完自动关闭,期间别动它。
r4.json 还带一项 viewer_ref:随机模型在真查看器里跑 30 道贴柱题的整次规划耗时,只作参考(随机策略几乎每次都要认证多条候选,安全层路径不代表真模型),R9 以第 11 步为准。
手动看:python ml/serve.py 后打开 http://localhost:8000/?policy=../ml/runs/r4/traj_policy_r4.onnx&probe=1(随机模型默认会被查看器拒绝,&probe=1 才放行,徽标标红「随机探针模型」)。
3. 老师一致性门禁
bash ml/pipeline.sh gate1
看 consistentByGateRule:≥ 0.90 直接生成;< 0.90 时第 4 步自动加 --consensus 4(每条任务另跑 4 个 ±5 mm 邻居,与多数绕法不一致的样本丢弃,生成成本约 5 倍)。可用 CONSENSUS=0/1 手动覆盖。
4. 生成老师数据
bash ml/pipeline.sh gen # 默认 5 万条、进程数 = CPU 核数
# 自定义:N_TASKS=50000 NPROC=28 CONSENSUS=1 TARGET_SAMPLES=1700000 bash ml/pipeline.sh gen
不共识约 1.6 秒/条/核;共识约 8 秒/条/核。生成完自动统计;样本数不足 TARGET_SAMPLES(默认 170 万)时按实测「样本/任务」自动补生成(最多补 2 次),不用手动加 N_TASKS。
检查 ml/data/stats.json:
| 字段 | 不共识(实测) | 共识(估算) | 不正常时 |
|---|---|---|---|
keepRate |
≈ 0.97 | 0.80–0.88 | 共识 < 0.75:把 stats.json 发我(老师左右跳变比预期多) |
samplesPerTask |
≈ 36.5 | ≈ 36.5 | — |
samplesEvery3 |
≥ 170 万(自动补量后) | ≥ 170 万 | 补量后仍不足:发我 |
consensusDrop |
0 | 约任务数的 10–20% | — |
vertexMinGapMm |
p50 ≈ 4.4、p90 ≈ 5.9 mm | 同 | — |
gapDrop |
认证最小间隙 < 3 mm 被剔除的轨迹数(未实测,预计约 10%) | 同 | > 25%:发我(自动补量会按剔除后的样本数补,但老师整体太贴柱) |
byCatMode |
C 类(贴立柱)各模式都有数千条 | 同 | — |
5. 打包训练样本 + R2 检查
bash ml/pipeline.sh prep
每条轨迹按 50 Hz 时间律重放,每 3 步取一个样本(特征与部署同一份 JS 代码计算),30% 样本加 σ = 1° 噪声增广(加噪后间隙 < 3 mm 的不用)。
认证最小间隙 < 3 mm 的老师轨迹不进训练集(MIN_GAP_MM=3,与 stats.json 的 gapDrop 同一口径):模型只学离障碍 ≥ 3 mm 的走法,运行时投影护栏仍保持 5 mm。
检查 ml/data/samples/index.json:train_samples 约 170 万、val_samples 约 9 万(5% 任务划为 val)。
MIN_GAP_MM 必须与生成阶段相同(stats.json 的 minGapFilterMm),不一致时这一步直接报错(返回码 8)。
随后自动跑 R2 检查(ml/data/r2.json):判据是 label_std_norm < 0.10(近邻距离 → 0 的回归截距,与搜索池大小无关);label_std_mean 是旧口径(取最近 5% 近邻,随池大小变),只作参考。
不通过时默认只警告、继续训练(阈值尚未经实测校准),验收汇总列为参考项;R2_STRICT=1 才在这里停(返回码 4)。小样本时近邻对不足,pass 为 null。
6. 预训练
bash ml/pipeline.sh train # MeanFlow 头 → ml/runs/bench_base/、ml/runs/base/
先跑 2000 步测吞吐(ml/runs/bench_base/log.jsonl 的 samples_per_s,eta_h 是剩余小时数),再正式训练到 60000 步或闭环到达率连续 5 次不升为止。
- 通过线(R10):
samples_per_s≥ 5000,即 60000 步 ≤ 3.5 小时。参考:3090、batch 1024 实测 6.2 k 样本/s ≈ 2.8 小时。MeanFlow 的 JVP 双前向使训练受算力限制,加大 batch 不会提高样本/s;低于通过线时把configs/base.json的fk_caps从 96 降到 48,仍不够再把steps降到 40000 - 训练中每 2000 步打印一行
EVAL {...}:val 任务闭环(部署节奏、不开安全层)success、collision_rate、time_ok_1p3、start_fail。时限 = 老师时长 × 2(至少 3 s) - 显存不够把
batch改成 512。中断后再跑bash ml/pipeline.sh train(或all)会自动从ml/runs/<头>/last.pt续训(每 10 分钟存一次),测速那 2000 步做过就跳过。训练发散时不会用发散的权重覆盖last.pt/best.pt。
7. M5 门禁:选定动作头
bash ml/pipeline.sh m5
1000 个贴立柱任务(无老师题,定长 6 s 时限)跑两遍,结果在 ml/runs/m5_gate_base.json:
policy_only:关安全层的纯策略指标。门禁只看这一项:穿柱率 ≤ 2% 通过,通过后把该模型记为选定模型(ml/runs/selected_ckpt),后续阶段自动从它开始with_sim_safety:仿真里的近似安全层(候选逐步干涉就换下一条)。只作参考
三种口径的关系:M5 是纯策略能力;仿真安全层是近似;部署能不能过只看第 11 步(与浏览器同一份运行时,含投影、距离认证、刹停、预算、换向锁)。三者互不替代。
不通过时流程内自动改训 WTA K=8 头(约 3 小时,产物在 ml/runs/bench_wta/、ml/runs/wta/,不覆盖 MeanFlow),再判一次 → ml/runs/m5_gate_wta.json;两种头都不过才停(返回码 3)。AUTO_WTA=0 关闭自动分支。
单独跑 WTA:CFG=ml/configs/wta.json bash ml/pipeline.sh train 再 CFG=ml/configs/wta.json bash ml/pipeline.sh m5。
需要强制指定后续阶段的起点模型时用 CKPT=路径 bash ml/pipeline.sh apg。
8. APG 可微微调
bash ml/pipeline.sh apg
按部署节奏(每次推理提交 3 步、50 Hz)可微展开策略,优化到达、碰撞余量、平滑与行程,并保留 BC 锚定。每 500 步闭环验证,按到达率存 best.pt,完成后复制为 ml/runs/current.pt。
- 展开长度:每批覆盖该批老师时长 p90 × 1.2(无老师题按 6 s),在 60–150 次推理(3.6–9 s)之间;日志
plans字段是本批实际次数 - 到达项:每 10 次推理段末的 TCP 距离与姿态误差,没有「到达即停」。这是有意的:段末项在整条展开上持续给出接近目标的梯度
- 碰撞项:每步端点与中点的逐胶囊对铰链
ReLU(3 mm − 间隙),两处取均值(与只查端点同量纲,w_col不变)。3 mm 与训练数据的过滤线一致,碰撞项不与 BC 标签对抗;运行时投影护栏是独立的 5 mm - 显存不够把
configs/apg.json的batch降到 64,或把seg_plans从 10 降到 5
9. 挖错循环
bash ml/pipeline.sh mine # 默认 6 轮;ROUNDS=3 APG_STEPS=1000 MINE_N=50000 可调
每轮:5 万道新题关安全层作答 → 错题分类 E1–E5 → 本轮错题与邻居进 APG 采样池(不累积历史轮,旧错题由门禁的「上轮修好仍对 ≥ 95%」把关)→ E2(局部极小)请老师补少量路径 → APG 微调 → 门禁集比较,不达标自动回滚。连续 2 轮提升 < 0.5 个百分点自动停止。
门禁(ml/runs/mine/r*/gate.json):到达率不降、A 类降幅 ≤ 0.5 个百分点、上轮修好的题 ≥ 95% 仍对、R7:B/C 类左右绕行比例变化 ≤ 5 个百分点、行程中位数比 ≤ 1.05。挖错题与门禁集都是无老师题,到达按定长 6 s 判,time_ok_1p3 与行程比只在有老师参考的题上统计(门禁集上为 null)。
10. 导出
bash ml/pipeline.sh export # fp32 ONNX + meta.json → webapp/models/(约 20 MB)
默认 fp32:部署走 wasm 与 Node CPU,fp16 在 CPU 后端上不保证更快。只有第 13 步用 &ep=webgpu 实测 __POLICY.latency() 明显受益时,才另导出 fp16 做对比:
pip install onnxconverter-common
python -m ml.export_onnx --ckpt ml/runs/current.pt --out webapp/models/traj_policy_fp16.onnx --fp16
11. 部署形态评测(策略 + 安全层)
bash ml/pipeline.sh bench
跑与浏览器同一份运行时(webapp/js/ik-policy.js):贴立柱 30 例(pos、pose 各一遍)、直线被挡 40 例、R8 对抗 50 例(J1 起终差 ≥ 140°、终点贴立柱、两侧都要绕远)、一次性贴立柱扩展集 1000 例。各集合数量可用 --nc-n / --route-n / --r8-n 单独调。
看 ml/runs/policy_bench.json:各集合 collisionFrames 为 0;near_column_* 与 route40 全部 ok;near_column_1000 0 失败;brakeRate < 0.02;r8_adversarial 的 recoveryRate ≥ 0.95、livelock = 0。
同一步还会在查看器里跑同一批 30 道贴柱题(与 Node 同种子),写 ml/runs/r9_browser.json(会弹出浏览器窗口几分钟):
- R9 通过线:整次规划
planP99< 45 ms、饥饿节拍starve_rate< 1%(整次规划 = 推理 + 前瞻 + 安全层,60 ms 周期留 15 ms 给渲染与执行时钟;饥饿 = 执行时钟到点时队列空了,即实际丢步)。 - 两边对照:
policy_bench.json的near_column_pos.safetyMsP99与浏览器safetyP99差 > 3× 时验收标红,用certQueriesP99(每次规划新增距离查询)、certMemoHitRate、certFailWhy(cert/budget/time/box)定位。
12. 验收汇总
bash ml/pipeline.sh accept
自己补跑 val 全部任务的闭环(开仿真安全层):可达任务到达率 ≥ 98%、D 类停靠距离 ≤ 老师 + 5 mm、起步失败率 ≤ 0.2%;再读第 5–11 步产物核对 R2、R7、R8、R10、M5 与部署形态各项。逐项打印「通过 / 未过」,结果在 ml/runs/acceptance.json。
13. 在查看器里使用
python -m arm.viewer.build_viewer # 若 webapp/generated/00_data.js 还没生成(查看器原有构建步骤)
python ml/serve.py # 带跨源隔离头的本地服务,wasm 可用多线程
浏览器打开 http://localhost:8000/?policy=1:右上角徽标显示「策略模式就绪」后,拖动黄球或松手,手臂由策略闭环执行(不调用任何规划器)。
&ep=webgpu改用 WebGPU 后端对比延迟- 控制台
__POLICY.latency()查看推理、前瞻、安全层、整次规划的 P50/P99 与节拍;__POLICY.stats()查看刹停、换向、精修次数 &autotest=30自动跑与 bench 同一批贴柱题,结果在__POLICY.autotest- 运行时投影护栏 5 mm:候选动作离障碍 < 5 mm 时沿间隙梯度外推(训练数据的过滤线是 3 mm,护栏比数据更保守)
- 工具偏移 ≠ 0 时自动交回原规划器
- 离线环境:
bash ml/prep/vendor_ort.sh把 onnxruntime-web 放到webapp/vendor/ort/,地址加&ortLocal=1(WebGPU 同样可用)
14. 回传给我
| 步骤 | 文件 |
|---|---|
| 2 | 对拍输出(终端 JSON)、ml/runs/r4.json |
| 3–5 | ml/data/consistency.json、ml/data/stats.json、ml/data/samples/index.json、ml/data/r2.json |
| 6 | ml/runs/bench_base/log.jsonl(测速)、ml/runs/base/log.jsonl |
| 7 | ml/runs/m5_gate_*.json |
| 8–9 | ml/runs/apg/log.jsonl、ml/runs/mine/r*/report.json 与 gate.json |
| 11–13 | ml/runs/policy_bench.json、ml/runs/r9_browser.json、ml/runs/acceptance.json |
| 任一步出错 | ml/runs/pipeline.json、ml/runs/console.log(控制台启动时)或终端输出 |
训练控制台
Windows:双击 ml/console.bat Linux / WSL:bash ml/console.sh
(等价于 python -m ml.monitor --open。先激活训练用的 Python 环境;或设环境变量 PYTHON=训练环境 python 的完整路径。
启动器以「能 import torch」判断 Python 可用;Windows 另需 Git for Windows 提供的 Git Bash)
不要直接双击 ml/monitor.html:那样只能看到示例数据(页面顶部有黄色提示)。
浏览器自动打开 http://localhost:8100/,零第三方依赖、不连外网,每 5 秒刷新。
自检:控制台启动时检查训练用 Python 能否 import torch、GPU、node、bash,结果显示在「全流程」卡片底部;不过则「开始训练」不可点。
开始:点「▶ 开始训练」→ 运行方式(续跑 / 从头重跑)、动作头、共识过滤、任务数、进程数、目标样本数、挖错轮数、MIN_GAP_MM → 「开始」。控制台在后台执行 bash ml/pipeline.sh all。
- 续跑:跳过已成功的阶段。改了参数时只作废受影响的阶段(改生成参数 → 从生成起重跑;改动作头 → R4 与训练起重跑;改挖错参数 → 从挖错起重跑),旧产物移到
ml/archive/<时间>/,不删除。 - 从头重跑(
FRESH=1):全部旧产物移到ml/archive/<时间>/。 停止:「■ 停止」时,训练类阶段(预训练 / M5 / APG / 挖错)先收到停止请求(ml/runs/STOP),存好last.pt自行退出(最多等 90 秒),然后结束整个进程树;这一步记为「已停止」并放锁,再点「开始训练」即从断点续跑。终端里按 Ctrl+C 或kill也会先存档再退出。终端或上一个控制台窗口起的流水线也能在这里停(按锁里记录的进程号)。 网页和控制台窗口都可以关,训练不受影响(Windows 子进程有自己的隐藏控制台,Linux 在独立会话里),重新双击console.bat即可接着看。 互斥:已有一条在跑时(网页、终端或all起的都算),第二个入口会被拒绝并给出持锁进程号;进程被强杀没来得及放锁时,心跳 5 分钟不刷新即视为失效。 超时:每个阶段上限 = 估时 ×3(网页「本步粗估 / 上限」;TIMEOUT_SCALE=2整体放宽),超了判卡死、阶段失败、放锁。生成阶段每分钟往终端输出打一行节拍。 安全:开始/停止只接受本控制台页面发起的请求(自定义请求头 + 同源检查),本机其他网页发不进来。
页面内容,从上到下:
| 区域 | 内容 | 数据来源 |
|---|---|---|
| 流水线 | 12 个阶段的状态(完成 / 运行中 / 失败 / 已停止 / 未开始)与各步用时 | ml/runs/pipeline.json(每个阶段开始结束时自动写) |
| 全流程 | 全流程百分比(按各步粗估耗时加权)、当前步骤与它的进度、总用时、本步用时、剩余粗估、开始/停止按钮 | 同上 + 各阶段产物 |
| GPU | 利用率、显存、温度、功耗 | nvidia-smi |
| 当前运行 | 正在跑的训练(自动跟随;顶部下拉框可切换 ml/runs 下任一次运行):步数、已用/剩余时间、预计完成时刻、评估标记 |
ml/runs/*/log.jsonl |
| 指标卡与曲线 | 预训练:总损失、各损失分量、吞吐(R10 线 5000 样本/s)、闭环评估(到达率 / 碰撞率 / ≤老师时长×1.3 / 起步失败);APG:到达误差、损失分量、展开长度 | 同上 |
| 各阶段结果 | 数据统计(含 gapDrop)、R2、M5 两种口径、挖错各轮与门禁、部署评测、验收逐项 |
ml/data/*.json、ml/runs/*.json |
| 终端输出 | 控制台启动的流水线的命令行输出,报错标红 | ml/runs/console.log |
当前步骤的进度怎么算:生成数据 = 已写出任务条数 / 目标条数(含自动补量);打包 = 已打包分片 / 分片数;预训练 = (测速 2000 步 + 正式步数) / (2000 + 总步数);APG = 步数;挖错 = 已完成轮数 + 本轮 APG 步数(共最多 ROUNDS 轮,提升不足会提前停);M5 = 两遍评估;对拍、老师门禁、导出、部署评测、验收无法计量,显示用时与粗估。全流程百分比与剩余时间按 ml/pstate.py 里的阶段估时加权(与超时上限同一份表),只作参考。
同一局域网的手机或其他电脑要看:python -m ml.monitor --host 0.0.0.0,用本机 IP 访问;其他机器只能看,开始/停止只接受本机操作(--remote-control 放开)。
常见问题
- 指纹不符:
collide.json变了。依次重跑第 2、4、5 步并重训。 - 训练发散(loss 出现 nan/inf,自动停在
diverged.pt):先把lr降到 5e-4 重试一次,仍发散就走 WTA 回退(第 7 步)。 - 显存/内存不足:降
batch;APG 还可把seg_plans降到 5。出题与间隙计算按空闲显存自动分块(用 1/4)。 - 小样本摸底:几百条任务时 val 可能为空,训练会提示并跳过闭环验证;R2 检查近邻对不足时
pass为 null,不拦后续步骤。 - 返回码:3 = M5 两种头都没过;4 = R2 不过且
R2_STRICT=1;5 = R4 不过;6 = 生成进程崩溃(看ml/data/log_*.txt,采样器连续失败会写明原因);8 =MIN_GAP_MM前后不一致;9 = 已有一条在跑;124 = 阶段超时。 - 生成阶段报「采样失败:…连续 N 次未命中」:多半是
collide.json或关节限位变了,某类位形几乎不存在;把该日志发我。 - 浏览器只有 1 线程:没走
ml/serve.py(缺 COOP/COEP 头)。 - 查看器徽标「策略模式不可用」:看控制台报错,多为模型文件缺失、指纹或 TCP 不符。
文件地图
ml/
pipeline.sh 一条龙阶段脚本(环境变量见文件头);每阶段开始/结束经 pstate.py 写 runs/pipeline.json
console.bat / console.sh 训练控制台一键启动(Windows / Linux)
monitor.py monitor.html 训练控制台:本地 HTTP 服务(开始/停止/进度/日志接口)+ 零依赖网页(地址带 ?demo=1 看示例数据)
pstate.py 流水线状态 runs/pipeline.json、互斥锁 runs/pipeline.lock、阶段估时/超时表(唯一来源)
gen/ 老师数据:sampler / teacher(确定性 PRM A*)/ cert.cjs(距离下界认证,实现在 ik-policy.js)/
pathdev.cjs(同伦类判定,共识过滤与一致性门禁用)/ timelaw / gen_dataset / consistency / stats / run_parallel.sh
prep/ export_kin.cjs(→ assets/kin.json)、build_dataset.cjs(→ samples/*.npy)、npy.cjs(.npy 写出)、run_prep.sh
common/ kin_torch.py(可微运动学 + 胶囊间隙)、features.py(83 维特征,与 JS 逐项一致)
model/ policy.py(Transformer + MeanFlow / WTA 头)、meanflow.py
data.py train.py 样本加载、预训练
sim/closed_loop.py 部署节奏闭环仿真(验证 / 挖错 / 门禁)
apg/apg_finetune.py APG 可微微调
mining/ tasks.py(无老师出题)、mine_round.py、gate.py(含 R7)、loop.sh
eval/ dump_parity.cjs + check_parity.py(JS↔PyTorch 对拍)、check_r2.py(R2)、r4_probe.py(R4 无头浏览器探针)、acceptance.py(验收汇总)
toy/toy_bimodal.py 2D 双模态对照实验(动作头选型依据)
export_onnx.py serve.py
configs/ base.json(MeanFlow)、wta.json(回退)、small.json(R4 不过时的 d=128)、apg.json
webapp/js/ik-policy.js 运行时:特征、距离下界认证、刹停、投影、精修、Runner(浏览器与 Node 共用)
webapp/js/ik-policy-glue.js 查看器接入(?policy=1;&threads= &proxy=0 &ep=webgpu &probe=1)
webapp/r4_probe.html R4 探针页(r4_probe.py 打开)
tests/policy_bench.cjs 部署形态评测(nc / route / r8 / nc1000)