EXP-3D-RGBD-DEPTHSPLAT-JEPA-ARKIT-OVERLAP-V1:重叠感知的真实数据逆向 JEPA
结论:OVERLAP_JEPA_PARTIAL,OVERLAP_TRAINING_NOT_ESTABLISHED。
- 在有重叠的新查询上,平均改善明显,但不一致(O1,PARTIAL)。
- 查询改为与上下文部分重叠的第 6、7 帧后,真实数据训练的逆向 JEPA 在 FAR 上平均明显好于调和插值:AbsRel 从 0.452 降到 0.341,约 −24%。
- 但只有 54% 的场景变好(80/0/67),中位数只有 +0.005。逐一剔除场景后均值都为正,最大单场景贡献 0.057;O1 只差"≥ 75% 场景不变差"这一项。
- 重叠感知训练没有带来额外收益(O2,NOT_ESTABLISHED)。 原配方训练的 JA 在同样的查询上是 0.337,与 JO 打平。原配方的训练目标里,本来就有约 57% 与上下文有重叠(命中比例 ≥ 0.05)。
- 其他结论:
- 真实数据训练比合成数据训练好:Hypersim 训练的 J 是 0.407,对比调和插值不成立。
- 但真实数据训练只追平了旧基座。Hypersim 训练的小载体 G1(归一化读出)是 0.344,均值与 JO 打平。JO 在 96/147 个场景更好(中位数 +0.028),但少数场景差得多。
- 把 JO 与调和插值取平均(HJO)更一致:65% 的场景变好,中位数 +0.016,但仍是 PARTIAL。
- 与 JEPA-ARKIT-V1 合起来看:
- 在重叠较多的近处视角(第 6、7 帧)上,学到的补全平均能带来约 1/4 的误差下降。
- 在重叠很少的远处视角(第 14、15 帧中有命中的查询)上,它与调和插值打平。
- 两种情况都过不了一致性门槛。
说明:
- 预注册: 见 PROTOCOL.md,2026-10-09 01:19:13 锁定,sha256
27d25dd4…。锁定时 JEPA-ARKIT-V1 还没有任何结果。 - 训练(JO1–JO3): 沿用 JEPA-ARKIT-V1 的配方,只改一处:目标帧只从上下文命中比例 ≥ 0.05 的帧中抽取(4732 个帧对中有 2697 个合格,364 个"记录 × 角色"中有 356 个至少有 2 个合格帧)。每个种子 1.6 小时,6.2 GB。
- 评估: ARKIT160_OVERLAP,即 ARKIT160 的 160 个扫描。
- 查询为第 6、7 帧,它们从未被评估过,也从未作为输入;只有 1 个记录因冲突顺延为 [7, 9]。
- 640 个查询中有 122 个没有上下文命中。147 个场景有 FARH 像素。
- 执行:
- arms 封存在 CPU 上于 01:19 开始。原任务链在 01:33:45 被替换,封存恰好在同一秒完成,640 个哈希都已核对。
- GPU 部分排在 EXP-3D-RGBD-DEPTHSPLAT-JEPA-BASE-TTT-ARKIT-V1 之后,04:10 开始。见
audit/execution_note.txt。 - 分析运行两次,结果逐字节相同。
- 统计: 统计单位是场景,bootstrap 10,000 次,种子 20260928,判定用 V2 gate。
训练
DEV 读数取 ARKit 训练折的 8 个扫描、第 14、15 帧(与 JA 相同,只作记录),格式为"被覆盖像素 AbsRel / 覆盖率":
| 步数 | 0 | 1000 | 2000 | 3000 | 4000 |
|---|---|---|---|---|---|
| JO1 | 0.329 / 0.23 | 0.438 / 0.44 | 0.407 / 0.50 | 0.452 / 0.53 | 0.435 / 0.53 |
| JO2 | 0.329 / 0.23 | 0.391 / 0.44 | 0.455 / 0.55 | 0.471 / 0.52 | 0.472 / 0.54 |
| JO3 | 0.329 / 0.23 | 0.451 / 0.48 | 0.465 / 0.53 | 0.466 / 0.55 | 0.463 / 0.52 |
训练损失明显低于 JA(深度项约 0.15,JA 为 0.35–0.45),因为目标都与上下文有重叠。
结果
FARH 指有上下文命中的查询中的 FAR 区域,共 147 个场景。
| 编号 | 对比(> 0 表示右边更好) | 区域 | 均值 | 95% CI | 好/平/差 | 中位数 | 状态 |
|---|---|---|---|---|---|---|---|
| O1 | H3 − JO | FARH | +0.1101 | [+0.0613, +0.1623] | 80/0/67 | +0.005 | PARTIAL |
| O2 | JA − JO | FARH | −0.0047 | [−0.0319, +0.0195] | 79/0/68 | +0.003 | NOT_ESTABLISHED |
| S1 | H3 − JA | FARH | +0.1148 | [+0.0595, +0.1729] | 75/0/72 | +0.002 | PARTIAL |
| S2 | H3 − J | FARH | +0.0442 | [−0.0011, +0.0957] | 69/0/78 | −0.001 | NOT_ESTABLISHED |
| S3 | ZS3 − JO | FARH | +0.0955 | [+0.0476, +0.1457] | 75/0/72 | +0.002 | PARTIAL |
| S4 | H3 − HGN | FARH | +0.0918 | [+0.0596, +0.1263] | 86/0/61 | +0.009 | PARTIAL |
| S5 | H3 − HJO | FARH | +0.0775 | [+0.0506, +0.1061] | 95/0/52 | +0.016 | PARTIAL |
| S6 | H3 − JO | NEAR(153 场景) | +0.0293 | [+0.0020, +0.0590] | 54/0/99 | −0.005 | PARTIAL |
| S7 | H3CAL − JO_CAL | FAR,全部查询(155 场景) | +0.0792 | [+0.0374, +0.1242] | 83/0/72 | +0.003 | PARTIAL |
| S8 | G1N − JO | FARH | +0.0023 | [−0.0426, +0.0417] | 96/0/51 | +0.028 | NOT_ESTABLISHED |
FARH 均值与覆盖率:
| 读出 | FARH AbsRel | FARH 覆盖率 |
|---|---|---|
| H3(调和插值) | 0.452 | — |
| ZS3(发布权重,上限 3.0) | 0.437 | 0.17 |
| J(Hypersim 训练) | 0.407 | 0.61 |
| JA(ARKit,原配方) | 0.337 | 0.80 |
| JO(ARKit,重叠感知) | 0.341 | 0.80 |
| G1N(旧基座,Hypersim) | 0.344 | — |
| HGN | 0.360 | — |
| HJO | 0.374 | — |
- 按来源队列: FARH 上 H3 → JO,ARKIT_VAL 为 0.471 → 0.354,ARKIT_CONFIRM 为 0.431 → 0.328,两个队列方向一致。
- 全部查询的 FAR(含 122 个无命中的查询):H3 0.614,H3CAL 0.430,JO 0.454,JO_CAL 0.351。
- NEAR: H3 0.143,JO 0.114。
解读
- 学到的补全在真实数据上"平均有效、逐场景不稳"。
- 在部分可见的视角上,三种学到的补全都把 FAR 误差从 0.45 降到约 0.34:ARKit 训练的 JO、JA,以及 Hypersim 训练的小载体 G1N。
- 但改善集中在一部分场景,中位场景几乎不变。这与 Hypersim 上旧载体(V17、V18)的情形一样:均值改善,约 2/3 的场景变好,过不了一致性门槛。
- 训练数据的作用:
- 用真实数据训练,DepthSplat-JEPA 从 0.407(Hypersim 训练)提升到 0.34,这是真实数据训练的实际收益。
- 但只追平了一个 6.4 万参数、在 Hypersim 上训练的小载体。
- 只在有重叠的目标上训练,没有额外收益。
- 重叠决定了补全能做多少。 与 JEPA-ARKIT-V1 合起来看:近处视角(第 6、7 帧)上学到的补全平均降约 1/4 的误差;远处视角(第 14、15 帧)即使有命中,也与调和插值打平;完全无重叠时,只能学到"室内大概多深"。
- 下一步应关注一致性而不是均值。 例如:
- 弃权:只在模型有把握的像素上使用学到的补全;
- 与调和插值集成:HJO 已经把一致性从 54% 提到 65%;
- 弄清哪些场景会变差。
文件
PROTOCOL.md、preregistration.json、frame_role_lock.json、evaluation_contract.json、manifest_arkit160_overlap.jsonhit_shares_ARKIT160.json:评估记录的命中表,仅供参考training/hit_shares_TRAIN.json:训练用的命中表code/:train_jepa_arkit_overlap.py,由derive_train_overlap.py生成- 建目录、锁定、任务和打分脚本,以及
hit_share_table.py
checkpoints/JO1–JO3/(含SHA256SUMS)raw/eval/ARKIT160_OVERLAP/:arms 封存ds/ARKIT160_OVERLAP/:JO1–3、JA1–3、J1–3、ZS3 的 DepthSplat 封存scores/、results/、audit/
事后探索:一致性门控(探索性,样本内)
exploratory_posthoc/gating_explore.* 在同一批封存和真值上(FARH,147 个场景)比较了几种组合,所有组合在不满足条件的像素上都回退到 H3:
| 变体 | FARH AbsRel | 采用学习预测的像素比例 | H3 − X | 好/平/差 |
|---|---|---|---|---|
| JO(预注册读出) | 0.341 | 0.80 | +0.110 | 80/0/67 |
| HJO(与调和插值平均) | 0.374 | 0.80 | +0.078 | 95/0/52 |
| HJOG(H3、JO、G1N 三者平均) | 0.329 | 0.96 | +0.123 | 90/0/57 |
| JO 与 G1N 平均 | 0.301 | 0.97 | +0.150 | 79/0/68 |
| JO 种子一致(相对极差 ≤ 0.10) | 0.369 | 0.57 | +0.083 | 78/1/68 |
| JO 与 G1N 一致(相对差 ≤ 0.20) | 0.408 | 0.35 | +0.043 | 78/2/67 |
- 门控没有提高一致性。 不论按种子一致性还是按两种独立模型一致性筛选像素,变好的场景都在 50–55% 之间。不一致不是像素级的不确定,而是场景级的:约 45% 的场景里,任何学到的补全都不如调和插值。
- 两种独立模型取平均最有效,但只体现在均值上。 JO 与 G1N 取平均把均值降到 0.301(约 −33%),但一致性不变。
- 以上是样本内的探索,没有用于任何预注册判定。