Source: docs/experiments/EXP-3D-RGBD-DEPTHSPLAT-JEPA-ARKIT-V1/README.md · Plain text

EXP-3D-RGBD-DEPTHSPLAT-JEPA-ARKIT-V1:在真实传感器数据上训练逆向 JEPA

结论:REAL_JEPA_PARTIAL,REAL_DATA_TRAINING_PARTIAL。但修订 1 表明,这个增益几乎全部来自"替换掉一个错误的常数",而不是补全。

说明:

训练

步数 0(发布权重) 500 1000 2000 3000 4000
JA1 0.329 / 0.23 0.345 / 0.47 0.367 / 0.49 0.402 / 0.46 0.441 / 0.50 0.442 / 0.48
JA2 0.329 / 0.23 0.332 / 0.49 0.464 / 0.60 0.409 / 0.47 0.418 / 0.51 0.436 / 0.51
JA3 0.329 / 0.23 0.329 / 0.45 0.482 / 0.59 0.438 / 0.49 0.452 / 0.50 0.450 / 0.49

训练让覆盖率翻倍,但被覆盖像素的误差也随之上升。

预注册结果(159 个有 FAR 像素的场景)

编号 对比(> 0 表示右边更好) 区域 均值 95% CI 好/平/差 状态
R1 H3 − JA FAR +0.2101 [+0.1334, +0.2962] 90/14/55 PARTIAL
R2 J − JA FAR +0.2307 [+0.1564, +0.3157] 104/13/42 PARTIAL
S1 ZS3 − JA FAR +0.2106 [+0.1352, +0.2952] 91/14/54 PARTIAL
S2 H3 − J FAR −0.0206 [−0.0482, +0.0067] 65/36/58 NOT_ESTABLISHED
S3 H3 − HJA FAR +0.1961 [+0.1465, +0.2516] 108/14/37 SUPPORTED
S4 HGN − HJAGN FAR +0.1219 [+0.0881, +0.1591] 103/14/42 PARTIAL
S5 H3 − HJAGN FAR +0.1769 [+0.1407, +0.2168] 117/13/29 SUPPORTED
S6 H3 − HGN FAR +0.0550 [+0.0377, +0.0739] 96/37/26 SUPPORTED
S7 H3 − JA NEAR −0.0293 [−0.0661, +0.0125] 32/0/67 NOT_ESTABLISHED
S8 H3 − HJA ALL +0.1895 [+0.1394, +0.2447] 111/15/34 SUPPORTED
S9 HJ − HJA FAR +0.1825 [+0.1333, +0.2373] 109/13/37 SUPPORTED

FAR 均值:

读出 FAR AbsRel FAR 覆盖率
H3(调和插值) 0.793 —
ZS3(发布权重,上限 3.0) 0.794 0.10
J(Hypersim 训练) 0.814 0.36
JA(ARKit 训练) 0.583 0.65
G1N 0.747 —
HGN 0.738 —
HJA 0.597 —
HJAGN 0.616 —

修订 1:调和插值在 ARKit 上为什么偏远,以及校准基线

原因: 修订前在训练折的 728 个查询上查明,只读训练数据:

校准基线 H3CAL(训练折拟合): 无命中的查询取常数 1.05 m,有命中的查询保持 H3(k = 1)。训练折上 FAR AbsRel 从 0.742 降到 0.379。

编号 对比(> 0 表示右边更好) 区域 均值 95% CI 好/平/差 状态
X1 H3CAL − JA_CAL FAR −0.0289 [−0.0562, −0.0004] 57/14/88 HARMFUL
X2 H3 − H3CAL FAR +0.3749 [+0.2823, +0.4718] 72/69/18 SUPPORTED
X3 H3CAL − JA FAR −0.1648 [−0.2339, −0.1005] 56/0/103 HARMFUL
X4 H3CAL − HGN FAR −0.3199 [−0.4183, −0.2270] 71/0/88 HARMFUL
X5 H3CAL − JA JA 覆盖的 FAR 像素(145 场景) −0.0562 [−0.0996, −0.0130] 56/0/89 HARMFUL(描述性)
X6 H3 − JA 有命中查询的 FAR(98 场景) +0.0269 [−0.0116, +0.0716] 48/0/50 NOT_ESTABLISHED(描述性)

事后拆分(探索性,exploratory_posthoc/overlap_split.*)

只读修订 1 的场景表,按来源队列和"查询是否有上下文命中"拆开:

队列 对比 区域 均值 95% CI 好/平/差 状态
全部 H3 − HGN 有命中查询的 FAR +0.0509 [+0.0326, +0.0704] 67/0/31 PARTIAL
ARKIT_VAL H3 − HGN 同上 +0.0406 [+0.0167, +0.0654] 34/0/16 PARTIAL
ARKIT_CONFIRM H3 − HGN 同上 +0.0617 [+0.0330, +0.0909] 33/0/15 PARTIAL
ARKIT_VAL H3 − JA 同上 +0.0487 [−0.0175, +0.1240] 23/0/27 NOT_ESTABLISHED
ARKIT_CONFIRM H3 − JA 同上 +0.0042 [−0.0359, +0.0424] 25/0/23 NOT_ESTABLISHED
ARKIT_VAL H3CAL − JA_CAL FAR +0.0008 [−0.0407, +0.0470] 29/8/43 NOT_ESTABLISHED
ARKIT_CONFIRM H3CAL − JA_CAL FAR −0.0589 [−0.0929, −0.0257] 28/6/45 HARMFUL

解读

文件