LeJEPA何时学习世界模型？

David Klindt, Yann LeCun, Randall Balestriero

摘要

本文证明了LeJEPA（对齐加高斯正则化）在广泛的一类世界中能够线性恢复潜在变量，实现线性可识别性，其中高斯分布是唯一保证此性质的潜在分布。理论结果进一步支持了最优潜在空间规划，并通过从2D到1024维潜在变量的实验验证，包括基于像素的机器人控制。

world modelidentifiabilityrepresentation learningGaussian regularizationplanning

LEARNING

📊 8,465 引用

D. O. Hebb

2005

LEARNING

📊 7,678 引用

Benoît B. Mandelbrot, John W. Van Ness

1968

LEARNING

开放获取📊 7,484 引用

Laith Alzubaidi, Jinglan Zhang, Amjad J. Humaidi 等 10 位作者

2021

LEARNING

📊 4,608 引用

Andre Esteva, Alexandre Robicquet, Bharath Ramsundar 等 10 位作者

2018