这项由阿联酋穆罕默德·本·扎耶德人工智能大学(MBZUAI)的研究团队，包括Zayd M. K. Zuhri、Erland Hilman Fuadi和Alham Fikri Aji在2025年8月发表的研究，提出了一种名为"令牌顺序预测"(Token Order Prediction, TOP)的全新训练方法。有兴趣深入了解的读者可以通过论文链接https://github.com/zaydzuhri/token-order-prediction访问完整研究成果。

当我们使用ChatGPT或其他AI聊天工具时，它们背后的工作原理就像一个超级厉害的"接龙游戏"选手。给定前面的文字，AI需要猜测下一个最合适的词是什么。这种训练方式被称为"下一个词预测"，就好比你在玩填空游戏，必须准确填出空白处的那个词。

然而，研究人员发现这种方法有些局限性。为了让AI表现更好，他们尝试了一种叫做"多令牌预测"的方法，这就像让AI不仅要猜下一个词，还要同时猜出后面的第二个、第三个、第四个词。这听起来很厉害，但实际使用中效果并不稳定，有时候反而会让AI的表现变差。

研究团队通过深入分析发现了问题所在。他们训练了一个小型AI模型，让它同时预测未来16个位置的词汇，然后观察训练过程。结果就像爬楼梯一样，预测距离越远的词，难度就呈阶梯式上升。预测紧接着的下一个词相对容易，但要准确预测第10个或第16个位置的词就变得极其困难，训练效果也明显下降。这就好比让你站在一个路口，不仅要猜测下一个路口会遇到什么，还要精确预测10个路口后会发生什么事情，显然后者的难度要大得多。

基于这个发现，研究团队提出了一个巧妙的解决方案：既然精确预测很困难，为什么不让AI学会"排序"呢？他们开发了令牌顺序预测方法，这种方法不要求AI准确说出下一个词是什么，而是让它对所有可能的词按照"出现的先后顺序"进行排列。

这个想法的巧妙之处在于，它将一个极其困难的精确预测任务转换成了一个相对容易的排序任务。就像你在图书馆整理书籍时，虽然你可能不知道读者下一本要借的确切书名，但你可以根据书籍的热门程度和相关性，大致排出哪些书更可能被先借走。这种排序能力虽然不如精确预测那么"神奇"，但却更实用、更容易掌握。

具体来说，令牌顺序预测的工作机制是这样的：对于每个位置的词汇，AI需要查看后续一定范围内的文本内容，然后为词汇表中的每个词分配一个"接近度分数"。离当前位置越近的词汇得分越高，越远的得分越低。这就像制作一个"出场顺序表"，按照词汇在后续文本中出现的先后顺序给它们排名。

研究团队采用了一种来自"学习排序"领域的数学方法来训练这个系统。这种方法不像传统的分类那样要求给出唯一正确答案，而是允许AI给出一个"软性"的排序结果，就像评委为选手打分一样，可以给出连续的分数而不是简单的"对"或"错"。

在技术实现上，令牌顺序预测比多令牌预测要简单得多。多令牌预测需要为每个要预测的未来位置都添加一个完整的变换器层，就像在原有的AI"大脑"上接上好几个额外的"处理单元"。而令牌顺序预测只需要添加一个简单的输出层，就像在现有系统上加装一个"排序器"。这种设计不仅节省了计算资源，还让整个系统更容易维护和升级。

为了验证这个想法的有效性，研究团队进行了大规模的对比实验。他们分别训练了三种不同规模的AI模型：包含3.4亿参数的小型模型、18亿参数的中型模型，以及70亿参数的大型模型。每种规模都分别用传统的下一词预测、多令牌预测，以及他们提出的令牌顺序预测方法进行训练。

实验的训练数据来自FineWeb-Edu数据集的子集，这是一个经过精心筛选的高质量文本集合。小型模型使用了520亿个词汇进行训练，而中型和大型模型则使用了1040亿个词汇。训练过程就像让不同规模的学生用不同的学习方法来掌握语言知识，然后比较他们在各项测试中的表现。

测试环节包括了八个标准的自然语言处理任务，涵盖了阅读理解、常识推理、科学问答等多个方面。这些测试就像给AI学生安排了语文、数学、科学等不同科目的综合考试，全面评估它们的语言理解和推理能力。

实验结果让人印象深刻。在大多数测试任务中，使用令牌顺序预测训练的模型都表现出了更好的性能。特别是在大型模型上，这种优势更加明显。例如，在TriviaQA这个常识问答测试中，70亿参数的令牌顺序预测模型比传统方法训练的模型提高了6.63个百分点，这是一个相当显著的改进。

有趣的是，研究团队还发现了一个意外现象：虽然使用令牌顺序预测的模型在训练时的损失值稍高一些，但它们在实际测试中的表现却更好。这就像一个学生在练习时可能错误稍多，但在正式考试中反而发挥更好。研究人员认为这可能是因为令牌顺序预测起到了某种"正则化"的作用，类似于给AI增加了适度的"学习难度"，反而帮助它避免了过度拟合，提高了泛化能力。

与多令牌预测相比，令牌顺序预测在小规模模型上也展现出了更好的适应性。研究结果显示，多令牌预测往往需要模型达到一定规模（通常是10亿到30亿参数之间）才能显示出优势，而令牌顺序预测即使在3.4亿参数的小模型上也能带来改善。这对于资源有限的应用场景来说具有重要意义。

从实用角度来看，令牌顺序预测还有一个重要优势：它在推理时的表现与传统模型完全相同。训练完成后，额外的排序输出层可以被移除，模型就变回了标准的变换器结构。这意味着采用这种训练方法不会增加部署时的计算负担，也不会影响推理速度。

研究团队还对比了他们的方法与最近其他改进尝试的效果。结果显示，即使是像DeepSeek-V3这样只预测未来两个词的简化版多令牌预测，在一般任务上的效果也不如令牌顺序预测稳定。这进一步证实了他们的核心观点：相比于追求精确的多步预测，学会合理的顺序排列是一个更可行、更有效的改进方向。

值得注意的是，这项研究还为AI训练领域带来了一个重要的方法论启示：有时候降低任务难度反而能获得更好的效果。这种"以退为进"的思路在其他领域也有类似的应用，比如在教育中，循序渐进的学习往往比一步到位更有效。

从技术实现角度，研究团队还开发了一个高效的计算内核，能够在训练过程中实时生成令牌顺序预测的目标序列，几乎不增加额外的计算开销。这种优化确保了新方法在实际应用中的可行性。

这项研究的意义不仅仅在于提出了一种新的训练方法，更重要的是它展示了重新思考基础问题的价值。当多令牌预测这种看似更强大的方法遇到瓶颈时，研究人员没有沿着"更多预测步数"的路线继续前进，而是转换思路，寻找到了一个更巧妙的解决方案。

目前这项研究还处于早期阶段，研究团队计划在未来版本中加入更多的实验内容，包括与DeepSeek-V3版本的多令牌预测进行对比，在生成性任务如代码编写和文本总结上的测试，以及对一些特定合成任务的评估。这些后续工作将进一步验证令牌顺序预测在更广泛应用场景中的潜力。

说到底，这项研究告诉我们一个简单而深刻的道理：在AI的世界里，有时候"聪明"并不意味着要做最困难的事情，而是要找到最合适的方法。令牌顺序预测虽然放弃了精确预测未来的"神通"，但却获得了更好的实际效果，这种务实的智慧值得我们在解决其他复杂问题时借鉴。对于普通人来说，这意味着我们日常使用的AI助手可能会变得更加准确和可靠，而这种改进来自的不是更复杂的技术，而是更聪明的训练策略。有兴趣了解更多技术细节的读者可以访问研究团队提供的开源代码和完整论文。

A：传统方法像填空游戏，必须准确猜出下一个词是什么。令牌顺序预测则像制作"出场顺序表"，让AI对所有可能的词按出现先后顺序排列，不需要精确猜测，但能获得更好的整体效果。

A：多令牌预测要求AI同时准确预测好几个未来位置的词，就像让人精确预测10个路口后会发生什么，难度太大导致训练效果差。令牌顺序预测只需要排序，难度适中，反而让AI学得更好。

A：不会。训练时虽然需要额外的排序模块，但训练完成后这个模块可以移除，最终的AI模型与传统模型完全相同，运行速度和资源消耗都没有增加。

阅兵当天才知道自己做的包去哪儿了

「活动」kumawubiaotitest

495.71MB

版本V3.53.38

下载APK 高速下载

下载王者女生裸体被❌歪歪安装你想要的应用更方便更快捷发现更多

51%好评(949人)

详细信息

软件大小: 26.260MB
最后更新: 2025/09/07 11:41:58
最新版本: V6.03.7
文件格式: apk
应用分类:ios-Android 女性裸体㊙️无遮挡奶黄
使用语言: 中文
: 需要联网
系统要求: 5.8以上

应用介绍

一，A片在线无限看❤喷水白浆视频，女性下底㊙️免费看
二，18➕精品➕爽➕视频➕在线观看，波奇酱裸体被❌黄漫
三，老年人性爱视频，黃色A片三級三級三級免费看密爱
四，91麻豆精品秘密㊙️入口在线观看，女人张开腿㊙️真人版漫画
五，成人🔞以下禁止关看网站入口，在线无码精品㊙️动漫网站
六，美女又爽❌又黄❌丝袜,男生把🍌伸进男生🍑里无遮挡，www.国产做受❌❌❌麻豆
七，18🈲动漫免费看
【联系我们】
客服热线：134-2881-646

加载更多

版本更新

V7.5.17

亚洲性⭕⭕⭕⭕XXXX

Lisa❌❌裸体热舞视频

初音裸体被❌到爽羞羞网站

090.12MB

108好评

彩虹🌈Gay.com下载
非洲14may18_XXXXXL56eduws

欧洲老妇做爰XXXⅩ性活仓井空

916.51MB

3208好评

马和珍的黄色片。
成人做爰黄✌片视频樱桃漫画

国产无遮挡A片又黄又爽动漫网站

13.64MB

318好评

亚洲AV无码㊙️吉沢明步
女初高中鞭打屁股♥网站

亚洲18🈲在线天

53.80MB

277好评

毛茸茸BBMMBBBB视频
XXNX16👙中国免费,视频

动漫美女露出🐻让男生摸

71.63MB

701好评

肥胖女人真人倣爱视频
动漫男男被❌到爽🔞

❌❌❌❌59HDA片

83.23MB

336好评

91丨九色丨国产丨PORNY
国产⭐浪潮AV一级毛

❤UOCO2❤福利姬最新pr社

23.53MB

101好评

MM131杨晨晨被❌到喷水视频
美女裸体❌开腿在线观看

美女露出🐻让男生揉和play网站

50.91MB

923好评

色哟哟❤️入口国产精品
特级肉体AAAAAAA片

五十路老熟女🈚

83.53MB

560好评

在线🍓蓝莓免费
胡桃撕内衣👙挠奶头

女被❌c🐻黄扒衣服91在线

83.06MB

756好评

女同学求我让我🌿她小说
❌㐅❌国产精品㐅❌❌❌

外网男女自慰18㊙️免费

32.62MB

628好评

❌蜜❌桃❌黄❌片AV动漫
少妇扒开腿㊙️让男人桶

在线无码精品㊙️cos胡桃

26.20MB

273好评

日本免费无遮挡吸乳🔞网站
免费看雏田同人18❌动漫

nxgxcomk4💋💋

65.42MB

744好评

揉我胸⋯啊...
免费看美女拉屎㊙️视频

亚洲扒开美女❌狂揉下部❌

54.79MB

755好评

网禁🈲拗女稀缺1366
禁漫天堂漫画网站

男女又爽❌又黄❌3D免费漫画

57.45MB

689好评

欧美性爱✘✘✘✘黑人性爱✘✔✘
欧产➕日产➕国产蜜臀

男人的🍌伸到男人🍑的软件3.03

24.49MB

359好评

雏田❌乳喷3d💗流水🔞
扒开珂莱塔疯狂揉❌难受3d

yy4080影院❤旧里番3D

13.62MB

312好评

小五被❌到爽🔞高潮疗挛
特级特黄囗交免费视频

疯狂❌喷水自慰爽w波波浏览器

84.43MB

211好评

jm漫画天堂禁漫♥成人
男男无套禁🈲Gay精品成人

大乳美女❌❌❌视频

45.56MB

735好评

美女奶头㊙️无遮挡
女人👩🏻脱了裤衩让男人桶app

刘涛AV婬乱一级A片

10.87MB

188好评

斗罗美女被❌黄漫在线观看
提纳里被扒开腿坐做❌

日本白鹿被❌c🐻扒衣服视频

44.95MB

368好评

脱了内裤自慰喷水❌在HD
日本BBwBBw高潮视频

Ai金晨被❌到喷水18禁

91.82MB

206好评

高清🔞❌♋免费网站视频
蝴蝶忍被强❌乳喷水视频

国产男女无套✅在线播放

30.43MB

907好评

18🈲🍆🍑无套直国产男男
成人性生活毛片

性裸❌❌❌❌❌A片手机版

30.85MB

543好评

男GaYGAYS✅免费自慰软件
麻豆毛片❌❌❌加微信

在线观看无码精品㊙️日本

29.79MB

120好评

日本撒尿小便嘘嘘嘘嘘
殴美作爱AAAAA纹毛片

18禁美女裸体被❌吸乳

70.83MB

455好评

中国videos❌❌❌中国
xo爽影 title="粉红女郎黄A片免费观看" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

🔞免费吃奶摸下激烈女同

国产女性捆绑✅免费网站

详情
撕开她的👙吸奶头打扑克漫画 title="艾莉被❌❌爆乳无尽小说" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

守望先锋黑寡妇裸体❌❌

肥女巨肥BBWBBwBBwBwBw

详情
班长被❌到爽🔞高潮痉挛 title="女子腿部打开无遮挡72🈲️" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

女学生❌c服自慰

大🐔🐔伸进🈲🔞🔞糖心视频

详情