借此机会简单整理一下JEPA的思想以及他最近的发展。
一言以蔽之，JEPA的思想是不去预测像素空间中的变化，而是转向embedding空间。高维的像素空间有太多噪声和无用的信息，JEPA希望能够在embedding空间中学习到世界的规律/只是，而不只是预测视频而已。