2025/09/06 23:12:01 1,692次浏览

机器之心报道

编辑:陈萍

随着扩散语言模型(DLM)在各个领域的快速发展,其已成为自回归(AR)模型有力的替代方案。与 AR 模型相比,DLMs 的主要优势包括但不限于:高效的并行解码和灵活的生成顺序。

尽管 DLMs 具有加速潜力,但在实际应用中,其推理速度仍慢于 AR 模型,原因在于缺乏 KV-cache 机制,以及快速并行解码所带来的显著性能下降。

本文,来自香港理工大学、达特茅斯学院等机构的研究者尝试从一个不同的角度来加速 DLMs 推理,这一思路源于一个长期被忽视却极具潜力的现象: 早期答案收敛

通过深入分析,研究者观察到:无论是半自回归重掩码还是随机重掩码场景下,有极高比例的样本在解码早期阶段即可获得正确解码。这一趋势在随机重掩码中尤为显著,以 GSMK 和 MMLU 数据集为例,仅需半数优化步骤即可分别实现 97% 和 99% 的样本正确解码。

受此发现启发,该研究提出了 Prophet ,一种无需训练的快速解码策略,该策略专为利用早期答案收敛特性而设计。Prophet 通过持续监控解码过程中 top-2 答案候选之间的置信度差距,自适应地判断是否可安全地一次性解码剩余所有 token。

实验表明,该方法在保持高质量生成效果的同时,实现了显著的推理加速(最高达 3.4 倍)。

方法介绍

Prophet 是一种无需训练的快速解码方法,用来加速扩散语言模型的生成。它的核心思路是:在模型预测结果趋于稳定时,一次性提交所有剩余 token 并提前生成答案,这一过程被称为 早期提交解码(Early Commit Decoding) 。与传统的固定步数解码不同,Prophet 会在每一步主动监测模型的确定性,从而能够即时做出是否终止解码的决策。

早期提交解码。何时终止解码循环的决定可以定义为最优停止问题。在每一步,都必须在两种互相冲突的成本之间权衡:继续执行额外细化迭代的计算成本,与因过早决定而可能带来错误的风险。计算成本取决于剩余步数,而错误风险则与模型的预测置信度呈负相关,其中「置信差距」可作为其稳健指标。

算法 1 概述了完整的 Prophet 解码过程:

实验

实验结果如表 1 所示。

在通用推理任务上,Prophet 展现了与完整基线相当甚至更优的性能。例如,在使用 LLaDA-8B 时,Prophet 在 MMLU 上达到 54.0%,在 ARC-C 上达到 83.5%,两者在统计上均与完整的 50 步解码结果相当。

更有趣的是,在 HellaSwag 上,Prophet(70.9%)不仅超过了完整基线(68.7%),还优于半步基线(70.5%),这表明早期提交解码能够避免模型在后续带噪声的精炼步骤中破坏已正确的预测。

同样地,在 Dream-7B 上,Prophet 在各项基准测试中依然保持了竞争力:在 MMLU 上达到 66.1%,而完整模型为 67.6%,仅有 1.5% 的微小下降,但带来了 2.47 倍的速度提升。

在更复杂的数学和科学基准测试上,Prophet 同样展现了其可靠性。以 GSM8K 数据集为例,基于 LLaDA-8B 的 Prophet 达到 76.8% 的准确率,几乎与完整基线的 77.1% 相当,并且优于半步基线的 76.2%。

总而言之,实证结果强有力地支持了本文的核心假设: 扩散语言模型往往在最终解码步骤之前很早就已经确定了正确答案。

Prophet 成功利用了这一现象,通过动态监测模型预测的置信度,一旦答案趋于稳定,便立即终止迭代精炼过程,从而在几乎不影响任务性能的情况下显著节省计算开销,在某些场景下甚至还能提升表现。这与静态截断方法形成了鲜明对比,后者存在过早终止解码、从而损害准确率的风险。

因此,Prophet 提供了一种稳健且与模型无关的解决方案,有效加速 DLM 的推理过程,提升了其在实际应用中的可行性。

了解更多内容,请参考原论文。

其实,扩散语言模型在最终解码之前很久,就已确定最终答案
其实,扩散语言模型在最终解码之前很久,就已确定最终答案

周星驰一部大话西游养活多少人

「活动」kumawubiaotitest

6.71MB
版本V3.149.38
下载亚洲精品🈲🈲🈲🈲🈲安装你想要的应用 更方便 更快捷 发现更多
喜欢 51%好评(2人)
评论 16
其实,扩散语言模型在最终解码之前很久,就已确定最终答案截图0 其实,扩散语言模型在最终解码之前很久,就已确定最终答案截图1 其实,扩散语言模型在最终解码之前很久,就已确定最终答案截图2 其实,扩散语言模型在最终解码之前很久,就已确定最终答案截图3 其实,扩散语言模型在最终解码之前很久,就已确定最终答案截图4
详细信息
  • 软件大小: 75.598MB
  • 最后更新: 2025/09/06 23:12:01
  • 最新版本: V6.7.7
  • 文件格式: apk
  • 应用分类:ios-Android 性欧美精品❌❌❌❌❌动漫
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.5以上
应用介绍
一,美女大BBB毛茸茸茸茸,成人电影一级片无遮挡免费观看
二,男男女装跪下把🌸玩弄,大纲手裸体被❌羞羞在线观看
三,三黑人狂躁女一女,羞羞漫画-成人漫画
四,国产精品🔞❌❌❌❌男同无码🌈,3D同人18❌AV火影忍者
五,男男做爰黄✌片全过程视频,全国【무적풍화】🎈月泡入口👇
六,Free❌❌❌国产鲁交,Free❌㐅❌性HD水上乐园,扒开美女❌狂揉❌公交车
七,亚洲综合精品尤物㊙️999
【联系我们】
客服热线:134-2881-646
加载更多
版本更新
V7.5.17
爆乳❌狂揉❌挤奶❌奶头
  • 美女内衣隐私㊙️无遮挡

    男男GayGays✅打屁股惩罚小说

    免费无遮挡🔞漫画网站下载51

    19.35MB
    100好评

    新婚BBWBBWBBWBBw

  • 学生❌❌爆乳❌❌羞羞视频

    国产精品㊙️久久久久久

    杨幂裸乳被爆❌白浆的

    94.78MB
    7368好评

    女人❌乂❌嗷嗷直叫

  • 🔞色情美女裸体晚上网站暗紫色

    午夜精品18🈲️视频国产

    永久免费🔞🔞🔞未满在线看

    13.72MB
    319好评

    蜜桃视频在线入口www

  • 🔞无遮挡裸光屁屁打屁股男男

    玩弄小younv学生

    老师让我吃她胸🐻摸她奶

    53.50MB
    272好评

    91乱精品㊙️入口

  • ➕光屁屁➕无遮挡韩国18

    美女被❌脱脱内衣免费jk

    农村老女人pk视频的背景故事

    71.84MB
    708好评

    人妻公妇中出HD

  • 鸭王处女破处三级黄色大片

    《胬肉治疗》免费观看在线

    王胜利微密

    83.08MB
    332好评

    国产Chinese武警痞帅图片

  • 做爱舔逼小电影

    FucK丰满老货H0

    黄瓜视频18➕

    23.78MB
    104好评

    白丝校🌸让我C在线观看

  • 原神❌️自慰爽18禁

    彼女✖️彼女✖️彼女动漫

    自慰❌挤奶羞免费网站水蜜桃

    50.15MB
    923好评

    a🔴🍑我好🔴痒🔴本子

  • 美女下部私㊙️部位撒尿

    钢手❌到爽🔞流

    少妇女BBxBBxBBxBBx

    83.14MB
    562好评

    小舞3D❌禁视频在线观看

  • ⅹⅹⅹⅹ六十岁Tv

    少妇被狂揉下部❌羞羞小说

    男🍌🍌女🍑🍑

    83.60MB
    752好评

    扒开动漫❌狂揉❌羞羞3

  • 美女被捆绑㊙️破解

    成人扒开🍑伸进🍌❌原神

    神里绫华裸体被❌❌羞羞网站

    32.77MB
    624好评

    羞羞动作❤️在线观看入口

  • 国产91玩精品㊙️99

    性欧美最猛❌❌❌❌

    男生的🍌放男生的🍑在线观看

    26.37MB
    273好评

    飞霄被扒开腿坐做❌小说

  • 日本XXXX29泡妞视频

    经典永流传08年艳照无删减版

    动漫➕光屁屁➕无遮挡在线观看。

    65.45MB
    740好评

    纲手扒开腿做❌免费看同人漫画

  • 欧美⭕⭕⭕

    关晓彤被❌到喷水天津pro

    老肥妇性裸交╳❌❌Ⅹ

    54.20MB
    753好评

    张雨琦自慰❌❌裸体喷水

  • 老奶奶高清LOGO电影

    十八禁🔞下载

    大爷互摸jiji㊙️r18

    57.26MB
    683好评

    日本被❌到爽🔞奶头

  • 被❌到爽🔞流尿

    公与媳一级A片免费播放视频

    欧美❌粗暴se喷水

    24.97MB
    350好评

    成人18㊙️免费入口

  • 免费🈲老师扒胸露出奶头

    🌿我~慢爽好大~

    FreePOm👄👙17

    13.52MB
    318好评

    美女❌又爽❌又黄高清

  • www.无尽喷潮呻吟快感高潮

    学生跪床❌❌被🌿视频

    国模人体极品粉鮑欣赏自慰

    84.10MB
    214好评

    国产男男GaYGAYS✅18脚

  • JK黄漫❌18禁漫画下载app

    大型黄油手游网站ios

    裸体老太美女屁股

    45.64MB
    735好评

    免费一级婬片AA片观看露露

  • 关小雨被强❌图动漫网站

    91在线精品㊙️黑料网网爆

    狂野学生猛交╳❌乂强

    10.01MB
    184好评

    被❌到高潮两天两夜视频

  • 18🔞uyghur.

    荒野乱斗18❌AV黄漫网

    色情按摩A片XXXXX

    44.31MB
    369好评

    XAX MANTA UZUN HAYA APP360

  • 永久免费视频在线观看

    露娜疯狂❌自慰爽网站小说

    🔯黄🔯色🔯视🔯频在线播放

    91.97MB
    207好评

    羞羞漫画❤免费观看

  • 800av在线800av在线♀女

    免费🔞成人❌❌❌深夜夜行漫

    国产做受❌❌❌777cos动漫

    30.32MB
    905好评

    日本寡妇做爰高潮

  • 日本打白嫩㊙️光屁屁网站

    色➕无码av➕丰满高情深圳

    小舞被小玩具❌到爽🔞流

    30.54MB
    543好评

    Asian美鮑欣赏download

  • 动漫女被❌❌❌喷水在线看

    少萝疯狂❌自慰

    美女裸体被❌羞羞ai换脸

    29.25MB
    120好评

    www成人🔞❌❌无遮挡

  • 斯嘉丽裸被❌在线观看

    美女扒开㊙️让男人桶爽

    脱了内裤自慰❌玩具网站

    70.49MB
    457好评

    甘雨裸体被❌涩涩在线观看

  • 国产婬妇❌❌❌视频网站明里jk美女打开双腿❌露隐私h title="51精品㊙️无码网站" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    91在线无码精品㊙️国产传媒

    男性自慰Gαy🔞网站

  • 女同被❌到爽🔞流片女明星女男做爰黄✌片全过程动画 title="丝瓜视频成人app❤色在线观看" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    女❌c🐻黄扒衣服视频

    嗯~啊别揉我奶㊙️黄漫

  • ❤草莓直播app❤18在线乌克兰一级婬片A片免费1 title="男生隐㊙️jiji免费看软件dd2" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    色成人㊙️免费图片

    小🐔🐔伸进🈲🔞🔞护士

{{.转码Keywords}} 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
包含 饿了么 的应用集
评论
  • 人与野鲁❌毛片Show毛片 1天前
    中国打白嫩㊙️屁股
  • uu儿童破解版 5天前
    韩国女主播裸体㊙️无遮热舞
  • 裸体❌开腿网 5天前
    动漫美女❌❌免费观看
  • 干逼片处女孩子干逼 2天前
    极品美女超短jk❌❌被c
  • ai做受高潮视频 7天前
    日本❌❌❌❌❌色情21电影
  • 美女被❌脱脱内内免费软件 0天前
    动漫裸体❌❌自慰喷水作文
  • 扒开jk美女❌狂揉捏视频 1天前
    欧美成熟交❌❌❌ZZZ
  • 丝袜脚精子18🔞禁❌❌❌ 7天前
    日初中生视频
  • 日本掀裙子撒尿㊙️ 6天前
    欧美18XXX麻花传剧mv女教师
  • 美女跪床❌❌巨乳小说 5天前
    9·1破解版