本文由中国人民大学高瓴人工智能学院李崇轩团队和字节跳动Seed团队共同完成。第一作者郑晨宇是中国人民大学高瓴人工智能学院二年级博士生，主要研究方向为基础模型的优化、泛化和可扩展性理论，导师为李崇轩副教授，论文为其在字节跳动Seed实习期间完成。第二作者张新雨是字节跳动研究员，主要研究方向为视觉生成模型。李崇 ...

为此，来自加州大学伯克利分校和MIT的研究者们联合提出了Sparse VideoGen（SVG）框架。这是一种完全无需重新训练模型的视频生成加速方法。该框架通过挖掘并利用3D Full ...

随着训练时间的增加，EBT的思考能力持续提升，性能提升幅度从4%-8%逐步增长到10%-14%。这种渐进式的能力提升，意味着EBT模型在长期训练中的稳定性和适应性，为实际应用提供了保障。研究人员的扩展实验显示，EBT在不更换分词器的情况下，成为首个在 ...

大利 SISSA Medialab 与瑞士 EPFL（洛桑联邦理工学院）联合研究，首次从理论角度验证：「Transformers」神经网路在训练过程中会出现如同物理相变的转折点，初期阶段以「位置」为依据理解语句，当训练资料量足够後，模型会突然切换到以 ...