Apple 发布三模态掩码扩散模型设计空间研究

Apple 团队发布首个从零预训练的三模态掩码扩散模型（MDM）研究，在文本、图文和音频文本数据上训练。论文系统分析了多模态缩放规律、模态混合比例、噪声调度和 batch size 影响，提出基于 SDE 的重参数化方法免去调优最优 batch size，并在 3B 模型规模（6.4T tokens）上验证了文本生成、T2I 和 T2S 任务的表现。