跳到正文
机器之心· 关注AI的·· 5 小时前AI 评分60

LeCun 团队论文用 JEPA 证明柏拉图表征假说,1.09 亿参数模型对齐效果超过 720 亿 LLM

LeCun证明了:规模从未起作用,下一token路线效率低

AI 导读

机器之心报道,Yann LeCun 参与方向的论文《Proving and Improving the Platonic Representation Hypothesis with JEPAs》从数学上论证了下一 token 预测在跨模态表征对齐上效率偏低,并提出用同一场景的不同描述作为「好视图」训练 JEPA。

来源:机器之心 · mp.weixin.qq.com