前沿 | 极简方案刷新扩散模型推理纪录,阿里清华论文入选IC

7月5日,阿里巴巴与清华大学合作的论文The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models(灵活性陷阱:重新审视扩散语言模型中任意顺序生成的价值)入选AI顶会ICML杰出论文(Outstanding Paper),杰出论文是ICML最高荣誉,代表当年最具影响力的研究工作,通常只授予2-3篇,获奖率仅占接受论文的千分之一。

研究发现,不确定性高的关键逻辑节点(如“因此”“因而”),像是一个分叉口。若采用从左向右的顺序,模型必须在此处当场作出选择,生成下一个token,不能跳过。若应用任意选择生成顺序,模型会倾向于绕过这些难点,优先处理容易的部分。等回头再填充这些节点时,前后文已经确立,原本的推理分叉口变成了填空题——答案被上下文锁定了。

“JustGRPO”训练完成后,模型推断能力速度不受影响,推理效果大幅提高。在GSM8K(业界衡量大模型推理能力的标准测试集,包含约8500道多步推理小学数学应用题)上实现89.1%准确率,全面超越d1、ESPO、SPG、GDPO等所有为扩散AI模型专门设计的复杂强化学习算法方案。

示意图

具体来看,此前,为dLLM设计强化学习算法架构面临一系列工程难题,比如生成顺序不固定导致无法准确归因每个词的贡献,各团队不得不引入各种复杂手段。“JustGRPO”则是一种大道至简的方法,类似于当所有人在给左手练力量,有人说:为什么不直接用右手?

基于这一发现,团队提出的解决方案是“JustGRPO”——意为在强化学习训练阶段放弃任意顺序,强制大模型从左到右生成,采用GRPO就可以了。GRPO是一种主流算法方案,让模型对同一道题生成多组答案、通过组内优劣对比来优化策略。

需要说明的是,选择权被悄悄消解,研究者将这一现象命名为“熵退化”。实证训练数据证实了这一现象:在HumanEval代码生成任务上,从左往右顺序能解出、而任意顺序解不出的题目占21.3%,反向仅0.6%。且顺序的自由度越大,推理性能越差。

示意图

图说:从左向右的自回归顺序(a)迫使模型在每个逻辑分叉口做出选择;任意顺序(b)绕过难点,优先处理容易部分,导致推理路径被提前锁死。(图片翻译自论文)

图说:2026年7月5日,ICML 2026主席团公布两篇杰出论文名单,阿里巴巴与清华大学合作的论文入选。

姚班学霸陈立杰:16岁保送清华,18岁拿下IOI世界冠军,现摘得FOCS 2019最佳学生论文

OpenAI宋飏被Meta挖跑了!扩散算法模型崛起关键人物,加入MSL再会师清华校友赵晟佳

(附:论文下载地址https://arxiv.org/abs/2601.15165)

行业首个具身原生世界动作AI模型来了!蚂蚁灵波发布LingBot-VA 2.0

山东科技胜过吉大,湖南大学超哈工大,US News2022世界大学排行榜引热议

根据官方公布的信息,QS最新大学排名惹争议:深大南科大再获认可,上海大学超华科,人大校友心里最苦

1688全面AI化:上线“1688 AI版”App以及免费查企工具“88查”

极简方案刷新扩散AI模型推理纪录,阿里巴巴集团清华论文入选ICML杰出论文

AI聪明够了,行动呢?WAIC首夜,来聊点下一步的真实判断|活动报名

本文由阿里x清华提供,量子位获授权转载,观点归原作者所有。

第十一届中国航空创新创业大赛报名开启|熵跃苍穹 无界新元

阿里巴巴官宣新晋升季名单 蒋凡王磊等人晋升到M7/P12

版权所有,未经授权不得以任何形式转载及使用,违者必究。

2026年世界AI大会,7月17-7月20上海举办

业内人士普遍认为,这一进展将对行业产生深远影响。

从目前的发展态势来看,该领域还有巨大的增长空间。

行业观察人士认为,这将成为未来竞争的关键赛道。

伴随技术不断成熟,商业化落地进程也在加快。

持续的技术创新正在推动产业升级。

持续的技术创新正在推动产业升级。

2022USNews世界大学排名

整理编辑:硅基前哨

作者 AI采集