Source: docs/experiments/EXP-3D-RGBD-DEPTHSPLAT-JEPA-CAP01-TTT-ARKIT-V1/PROTOCOL.md · Plain text

EXP-3D-RGBD-DEPTHSPLAT-JEPA-CAP01-TTT-ARKIT-V1:在 TTT 的尺度上限下训练逆向 JEPA,能否改进 TTT

本文件即预注册。锁定时间与哈希见 preregistration.json。

1. 问题

EXP-3D-RGBD-DEPTHSPLAT-JEPA-BASE-TTT-ARKIT-V1(JBT)发现,以真实数据训练的逆向 JEPA(JA)为起点做 TTT,比以发布权重为起点更差。分析指向两个原因:

本实验是在看到 JBT 与 EXP-3D-RGBD-DEPTHSPLAT-JEPA-ARKIT-OVERLAP-V1 的结果之后设计的,有动机来源,但预注册在本实验的任何训练与评估之前。它只改一处:训练改在 TTT 最好的尺度上限 0.1 下进行,其余沿用 OVERLAP-V1 的配方。

问题是:在同样的上限 0.1 下,逆向 JEPA 训练能否让 TTT 比发布权重更好?

2. 数据

3. 状态构建器

所有构建器都使用 V1 锁定的 ds_eval.py:CACHE 为 7 帧一次性前馈;TTT_m1 为 100 步 Adam,m = 1。

名称 权重 尺度上限 来源
JC 本实验训练的 JC1 0.1 本实验新跑
ZS 发布权重 0.1 复用 ENSEMBLES-ARKIT 的封存
JA JEPA-ARKIT-V1 的 JA1 3.0 复用 JBT 的封存
ZS3 发布权重 3.0 复用 JBT 的封存

4. 读出与指标

5. 主检验

使用 V2 gate;统计用场景 bootstrap,10,000 次,种子 20260928。

编号 对比(> 0 表示右边更好) 区域 分支
P1 ZS_TTT − JC_TTT ALL JEPA_CAP01_IMPROVES_TTT(SUPPORTED)/ _PARTIAL / _NOT_ESTABLISHED / _HARMFUL
P2 ZS_CACHE − JC_CACHE ALL JEPA_CAP01_IMPROVES_CACHE(SUPPORTED)/ _PARTIAL / _NOT_ESTABLISHED / _HARMFUL

6. 次要分析(只给标签)

编号 对比 区域 含义
S1 GEO_ZS_TTT − GEO_JC_TTT ALL 集成后的比较
S2 R7 − GEO_JC_TTT ALL JC 集成是否胜过无模型
S3 JC_CACHE − JC_TTT ALL JC 基座上 TTT 的增益
S4 JA_TTT − JC_TTT ALL 同为逆向 JEPA 训练,上限 0.1 对比 3.0
S5 ZS_TTT − JC_TTT NEAR7
S6 ZS_TTT − JC_TTT FAR7

另外报告各构建器、各臂的覆盖率。复现检查:复用封存的均值必须与原实验相同。

7. 完整性与局限