
7月5日,阿里巴巴与清华大学携手的论文The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models(灵活性陷阱:重新审视扩散语言模型中任意顺序生成的价值)入选AI技术顶会ICML杰出论文(Outstanding Paper),杰出论文是ICML最高荣誉,代表当年最具影响力的研究工作,通常只授予2-3篇,获奖率仅占接受论文的千分之一。
研究发现,不确定性高的关键逻辑节点(如“因此”“所以”),像是一个分叉口。若采用从左向右的顺序,模型必须在此处当场作出选择,生成下一个token,不能跳过。若应用任意选择生成顺序,模型会倾向于绕过这些难点,优先处理容易的部分。等回头再填充这些节点时,前后文已经确立,原本的推理计算分叉口变成了填空题——答案被上下文锁定了。
“JustGRPO”训练完成后,模型推理速度不受影响,推理计算效果大幅提高。在GSM8K(业界衡量大模型推理能力的标准测试集,包含约8500道多步推理小学数学应用题)上达到89.1%准确率,全面超越d1、ESPO、SPG、GDPO等所有为扩散AI模型专门设计的复杂强化学习算法方案。

此前,为dLLM设计强化学习算法面临一系列工程难题,比如生成顺序不固定导致无法准确归因每个词的贡献,各团队不得不引入各种复杂手段。“JustGRPO”则是一种大道至简的方法,类似于当所有人在给左手练力量,有人说:为什么不直接用右手?
基于这一发现,团队提出的解决方案是“JustGRPO”——意为在强化学习训练阶段放弃任意顺序,强制模型从左到右生成,使用GRPO就可以了。GRPO是一种主流算法,让智能模型对同一道题生成多组答案、通过组内优劣对比来优化策略。
选择权被悄悄消解,研究者将这一现象命名为“熵退化”。实证数据证实了这一现象:在HumanEval代码生成任务上,从左往右顺序能解出、而任意顺序解不出的题目占21.3%,反向仅0.6%。且顺序的自由度越大,推理计算性能越差。

图说:从左向右的自回归顺序(a)迫使模型在每个逻辑分叉口做出选择;任意顺序(b)绕过难点,优先处理容易部分,导致推理路径被提前锁死。(图片翻译自论文)
图说:2026年7月5日,ICML 2026主席团公布两篇杰出论文名单,阿里巴巴与清华大学合作的论文入选。
姚班学霸陈立杰:16岁保送清华,18岁拿下IOI世界冠军,现摘得FOCS 2019最佳学生论文
OpenAI宋飏被Meta挖跑了!扩散模型崛起关键人物,加入MSL再会师清华校友赵晟佳
(附:论文下载地址https://arxiv.org/abs/2601.15165)
1688全方面人工智能化:推出“1688 AI版”App以及免费查企工具“88查”
QS最新一代大学排名惹争议:深大南科大再获认可,上海大学超华科,人大校友心里最苦
山东科技胜过吉大,湖南大学超哈工大,US News2022世界大学排行榜引热议
行业内率先具身原生世界动作模型来了!蚂蚁灵波发布LingBot-VA 2.0
值得关注的是,AI聪明够了,行动呢?WAIC首夜,来聊点下一步的真实判断|活动报名
极简方案刷新扩散算法模型推理纪录,阿里清华论文入选ICML杰出论文
本文由阿里x清华提供,量子位获授权转载,观点归原作者所有。
第十一届中国航空创新创业大赛报名开启|熵跃苍穹 无界新元
值得一提的是,阿里巴巴宣布新晋升季名单 蒋凡王磊等人晋升到M7/P12
版权所有,未经授权不得以任何形式转载及运用,违者必究。
2026年世界人工智能大会,7月17-7月20上海举办
越来越多的企业开始在这一领域布局加码。
具体来看,2022USNews世界大学排名
整理编辑:硅基前哨
