Source: docs/experiments/EXP-3D-RGBD-DEPTHSPLAT-JEPA-ARKIT-OVERLAP-V1/README.md · Plain text

EXP-3D-RGBD-DEPTHSPLAT-JEPA-ARKIT-OVERLAP-V1:重叠感知的真实数据逆向 JEPA

结论:OVERLAP_JEPA_PARTIAL,OVERLAP_TRAINING_NOT_ESTABLISHED。

说明:

训练

DEV 读数取 ARKit 训练折的 8 个扫描、第 14、15 帧(与 JA 相同,只作记录),格式为"被覆盖像素 AbsRel / 覆盖率":

步数 0 1000 2000 3000 4000
JO1 0.329 / 0.23 0.438 / 0.44 0.407 / 0.50 0.452 / 0.53 0.435 / 0.53
JO2 0.329 / 0.23 0.391 / 0.44 0.455 / 0.55 0.471 / 0.52 0.472 / 0.54
JO3 0.329 / 0.23 0.451 / 0.48 0.465 / 0.53 0.466 / 0.55 0.463 / 0.52

训练损失明显低于 JA(深度项约 0.15,JA 为 0.35–0.45),因为目标都与上下文有重叠。

结果

FARH 指有上下文命中的查询中的 FAR 区域,共 147 个场景。

编号 对比(> 0 表示右边更好) 区域 均值 95% CI 好/平/差 中位数 状态
O1 H3 − JO FARH +0.1101 [+0.0613, +0.1623] 80/0/67 +0.005 PARTIAL
O2 JA − JO FARH −0.0047 [−0.0319, +0.0195] 79/0/68 +0.003 NOT_ESTABLISHED
S1 H3 − JA FARH +0.1148 [+0.0595, +0.1729] 75/0/72 +0.002 PARTIAL
S2 H3 − J FARH +0.0442 [−0.0011, +0.0957] 69/0/78 −0.001 NOT_ESTABLISHED
S3 ZS3 − JO FARH +0.0955 [+0.0476, +0.1457] 75/0/72 +0.002 PARTIAL
S4 H3 − HGN FARH +0.0918 [+0.0596, +0.1263] 86/0/61 +0.009 PARTIAL
S5 H3 − HJO FARH +0.0775 [+0.0506, +0.1061] 95/0/52 +0.016 PARTIAL
S6 H3 − JO NEAR(153 场景) +0.0293 [+0.0020, +0.0590] 54/0/99 −0.005 PARTIAL
S7 H3CAL − JO_CAL FAR,全部查询(155 场景) +0.0792 [+0.0374, +0.1242] 83/0/72 +0.003 PARTIAL
S8 G1N − JO FARH +0.0023 [−0.0426, +0.0417] 96/0/51 +0.028 NOT_ESTABLISHED

FARH 均值与覆盖率:

读出 FARH AbsRel FARH 覆盖率
H3(调和插值) 0.452 —
ZS3(发布权重,上限 3.0) 0.437 0.17
J(Hypersim 训练) 0.407 0.61
JA(ARKit,原配方) 0.337 0.80
JO(ARKit,重叠感知) 0.341 0.80
G1N(旧基座,Hypersim) 0.344 —
HGN 0.360 —
HJO 0.374 —

解读

文件

事后探索:一致性门控(探索性,样本内)

exploratory_posthoc/gating_explore.* 在同一批封存和真值上(FARH,147 个场景)比较了几种组合,所有组合在不满足条件的像素上都回退到 H3:

变体 FARH AbsRel 采用学习预测的像素比例 H3 − X 好/平/差
JO(预注册读出) 0.341 0.80 +0.110 80/0/67
HJO(与调和插值平均) 0.374 0.80 +0.078 95/0/52
HJOG(H3、JO、G1N 三者平均) 0.329 0.96 +0.123 90/0/57
JO 与 G1N 平均 0.301 0.97 +0.150 79/0/68
JO 种子一致(相对极差 ≤ 0.10) 0.369 0.57 +0.083 78/1/68
JO 与 G1N 一致(相对差 ≤ 0.20) 0.408 0.35 +0.043 78/2/67