人工智能正在经历从 “感知” 到 “行动” 的跨越式发展，融合大模型的具身智能被认为是人工智能的下一发展阶段，成为学术界与工业界共同关注的话题。

在大模型领域，随着 o1/R1 系列推理模型的发布，模型训练的重心逐渐从数据驱动的预训练 / 后训练转向奖励驱动的强化学习（Reinforcement Learning, RL）。OpenAI 预测强化学习所需要的算力甚至将超过预训练。与此同时，能够将大规模算力高效利用的 RL infra 的重要性也日益凸显，近期也涌现出一批优秀的框架，极大地促进了该领域的发展。

然而，当前框架对具身智能的支持仍然受限。相比推理大模型这一类纯大脑模型，具身智能领域存在大脑（侧重推理、长程规划，如RoboBrain）、小脑（侧重执行、短程操作，如OpenVLA）及大小脑联合（快慢系统，如pi 0.5）等多样模型。

其次，具身智能除了包含Agentic AI的多步决策属性外，他还有一个独特属性：渲训推一体化。与工具调用智能体、浏览器智能体所交互的仿真器相比，具身仿真器通常需要高效并行物理仿真和3D图形渲染等，因此当前主流仿真器通常采用GPU加速，耦合多步决策带来了算力和显存竞争的新挑战。

总的来说，具身智能领域不仅继承了推理大模型和数字智能体的难点，同时还引入了新的渲训推一体化特征，再加上具身智能模型尚未收敛，对框架的灵活性、高效性和易用性提出挑战。

在这样的背景下，清华大学、北京中关村学院和无问芯穹联合推出了一个面向具身智能的灵活的、可扩展的大规模强化学习框架 RLinf

RLinf 的 “inf” 不仅代表着 RL “infrastructure”，也代表着 “infinite” scaling，体现了该框架极度灵活的系统设计思想。

RLinf 的系统可以抽象为用户层（统一编程接口）、任务层（多后端集成方案）、执行层（灵活执行模式）、调度层（自动化调度）、通信层（自适应通信）和硬件层（异构硬件）6 大层级。相比其他框架的分离式执行模式，RLinf 提出的混合式执行模式，在具身智能训练场景下实现了超 120% 的系统提速，VLA 模型涨幅 40%-60%。同时，RLinf 高度灵活、可扩展的设计使其可快速应用于其他任务，所训练的 1.5B 和 7B 数学推理大模型在 AIME24、AIME25 和 GPQA-diamond 数据集上取得 SOTA。

利用微执行流实现宏工作流，实现一套代码驱动多种执行模式

当前已有强化学习框架通常采用两种执行模式：共享式（所有卡跑同一个组件）和分离式（不同的卡分配不同的组件）。然而，这两种模式在具身智能 “渲训推一体” 的特点下都存在局限性。主要是：由于具身智能体多步决策的属性，模型（Actor）要和仿真器（Simulator）频繁交互，而当前框架一方面不支持仿真器状态快速卸载和加载，另一方面若用共享式需要频繁加载卸载组件，切换开销大，严重降低系统效率。

因此，目前已有的框架在这个场景下仅支持分离式训练，但分离式采用 on-policy 算法训练时资源闲置率高，系统气泡比较大。 RLinf 针对这一问题，提出了混合式执行模式，如图 4 所示，这种模式兼具分离式和共享式的优势，再配合上细粒度流水设计，使得系统几乎无气泡，显著提升了系统运行效率。

然而，要想实现一套代码驱动多种执行模式（即无需更改代码，通过配置参数即可实现分离、共享或混合）是不容易的，一种标准的解决方案是构建计算流图，但会导致编程灵活性降低，debug 难度直线上升，所以当前已有框架通常只支持一种模式（分离或者共享），引入新的执行模式需要大量的系统开发。

为此，RLinf 提出了创新的宏工作流到微执行流的映射机制（Macro-to-Micro Flow，M2Flow），实现从组件级而非任务级进行调度。M2Flow 允许用户使用过程式编程方式灵活构建复杂训练流程，解决传统计算流图构建编程灵活性低的问题，同时能够将过程式的训练流程灵活映射到底层不同的执行模式上，为不同的训练流程（如 RLHF、RLVR 等）选择最优执行模式（配合自动调度模块）。

因此，该映射机制兼具过程式编程（Imperative Programming）的灵活性、易用性、易调试性和声明式编程（Declarative Programming）的编译优化能力。具体而言，RLinf 采用基于 Worker 的统一编程接口，允许用户将训练流程中的不同组件，如模拟器、训练推理引擎，封装成不同 Worker，然后通过过程式编程将这些 Worker 串起来形成完整的训练流程。M2Flow 通过细粒度控制微执行流，即控制每个 Worker 的运行 GPU、执行的批大小、执行时机等，实现极度灵活的执行模式。

总结来说，RLinf 使用户能够以高度可适配的方式编排组件（Actor、Critic、Reward、Simulator 等），组件可以放置在任意 GPU 上，并自动配置不同的执行模式，目前支持 3 种执行模式：

如前文提到，具身智能领域的特点是：大小脑同时存在，且该领域仍处在蓬勃发展期，技术路线尚未收敛。因此为了更好地支持具身智能不同用户（如具身大小脑研究人员）的需求，RLinf 集成了两套后端：

同时 RLinf 也支持多项来自一线从业者的刚需，包括 LoRA 训练，断点续训，以及适应不同网速用户的训练可视化（Tensorboard、W&B、SwanLab）等。此外，RLinf 也正在集成 SFT 模块，致力于提供一站式的服务，通过一套代码满足多样化的训练需求。

设计 3: 设计面向强化学习的自适应通信库和自动化调度模块，

强化学习存在多个组件，且这些组件之间存在大量的数据交互。灵活、高效的互通信是支撑强化学习框架高效运行的关键，也是框架可扩展性的重要保证。因此，RLinf 特别设计了一套面向强化学习的通信库，其中主要包含四项优化技术：自适应 CUDAIPC/NCCL 通信、负载均衡传输队列、多通道并发通信机制、快速通信重配置。

大规模强化学习框架的优化目标是尽量减少系统资源闲置。已有框架通常采用人为指定资源配置的方案，依赖于人工经验，容易造成系统资源浪费， RLinf 设计了一套自动调度策略，可以针对用户的训练流以及用户所使用的计算资源，选择最优的执行模式

具体而言，RLinf 会对各组件做自动化性能分析，获得各组件对资源的使用效率和特征。然后，构建执行模式的搜索空间，该搜索空间描述了强化学习算法各组件对计算资源的分配复用关系，包括 “时分复用”、“空分复用” 以及二者结合的资源分配方案；在这样的建模下，RLinf 的自动化调度不仅支持已有强化学习框架中 “共享式” 和 “分离式” 的典型资源分配方式，还支持二者结合的混合分配方案的建模分析。

最后，基于上述性能分析数据，在该空间中搜索出最优的执行模式。除此之外，该自动调度策略还集成 “秒级在线扩缩容（Online Scaling）” 能力，70B 模型只需 1 秒即可完成 5D 并行动态扩缩，而传统方案需十几秒甚至更久。该功能及相关论文将于 10 月上线开源版本。基于该技术可进一步实现运行时组件间计算资源的动态调度，配合细粒度流水设计，可以在保证算法 on-policy 属性的前提下进一步压缩系统气泡率，且显著提升训练稳定性。

在应用上，与其他框架相比，RLinf 的特色在于 Vision-Language-Action Models (VLAs)+RL 的支持，为研究人员探索 VLAs+RL 领域提供了良好的基础算法性能及测试平台。RLinf 支持了主流的 CPU-based 和 GPU-based 仿真器（具体平台见说明文档），支持了百余类具身智能任务，集成了主流的具身大模型 OpenVLA、OpenVLA-OFT、Pi 0。

特别地，团队率先实现了对 Pi 0 的大规模强化学习微调，相关算法及论文将在 9 月底发布。在量化指标上，以 Maniskill3（典型的 GPU-based Simulator ）为例进行测试，RLinf 采用混合式结合细粒度流水的执行模式。相比其他框架的分离式执行模式，系统效率显著提速 120% 以上（图 7）。

OpenVLA 及 OpenVLA-OFT 在 Maniskill3 自建 25 个任务 [1] 中采用 PPO 算法和适配具身的 GRPO 算法训练后，成功率曲线如图 8 所示，可以看到模型成功率可以从 SFT 后的 30%-50% 提升至 80%-90%，涨幅 40%-50% 以上。

在公开测试平台 LIBERO 的 4 个场景中，OpenVLA-OFT 采用 RLinf 适配具身的 GRPO 算法训练后，平均成功率达到 97.3%，相比 SFT 模型涨幅 62.4%。

团队前序工作曾探讨 RL 和 SFT 对 VLA 泛化性提升的不同之处 [1]，RLinf 将研究进一步拓展至大规模场景下，助力探索具身智能领域的 RL Scaling Law。相关模型已开源在 https://huggingface.co/RLinf，欢迎下载测试。

图 8：OpenVLA、OpenVLA-OFT 在 Maniskill3 自建 25 个任务中采用 PPO 算法及具身版 GRPO 算法的训练曲线

面向具身智能是 RLinf 的应用特色，但 RLinf 的系统设计思想不仅限于具身智能，灵活、可扩展的设计理念使得其可以快速支持其他应用，体现了其通用性。

以 RLinf 支持的推理大模型训练为例，团队集成优化后的 GRPO 算法 [2] 进行了数学推理大模型的训练，数据集为 AReal-boba 数据集 [3]，基座模型为 DeepSeek-R1-Distill-Qwen。在三个测试集（AIME24、AIME25、GPQA-diamond）中进行测评，32 个样本取平均，Pass@1 测试结果如表 2 和 3 所示，RLinf-math-1.5B 和 RLinf-math-7B 在三个测试集上均取得 SOTA 性能。

（注：表格中的模型均来自 HuggingFace 开源模型，统一测试脚本 https://github.com/RLinf/LLMEvalKit）

考虑到框架的易用性，RLinf 提供了全面且系统化的使用文档。RLinf 在开发之初的目标就是开源，因此让每一个用户能够理解、使用和修改是设计原则之一，也是一个优秀开源框架必备的属性。团队采用公司级代码开发流程，确保文档内容覆盖从入门到深度开发的各层次需求。此外，RLinf 还提供完整的 API 文档与集成 AI 问答机器人支持，以进一步提升开发体验与支持效率。

RLinf 团队的开发成员具有交叉研究背景，包含从系统到算法到应用的技术全栈，例如系统架构设计、分布式系统、大模型训练推理加速、强化学习、具身智能、智能体等。正是由于这样的交叉背景，使得团队能够从应用需求驱动算法设计，算法指导系统设计，高效系统加速算法迭代，体现了大模型时代下新型科研形态。未来 RLinf 团队也将持续开发和维护，具体 Roadmap 见 Github 网站。

最后，诚挚地邀请大家体验 RLinf 框架，并且与我们交流技术观点与潜在合作机会。同时，RLinf 团队持续招聘博士后、博士、硕士、研究员、工程师及实习生，欢迎投递简历，与我们共同推进下一代强化学习基础设施的建设与发展。

[1] Liu, Jijia, et al. "What can rl bring to vla generalization? an empirical study." arXiv preprint arXiv:2505.19789 (2025).

她的瞳官宣杀青

「活动」kumawubiaotitest

3.71MB

版本V3.646.38

下载APK 高速下载

下载真人实拍wwww女处破安装你想要的应用更方便更快捷发现更多

51%好评(92人)

详细信息

软件大小: 843.60MB
最后更新: 2025/09/08 04:35:23
最新版本: V6.65.7
文件格式: apk
应用分类:ios-Android 小太正♂Gay动漫
使用语言: 中文
: 需要联网
系统要求: 5.63以上

应用介绍

一，成人无码www樱桃影视，国产做受❌❌❌吞精免费
二，日本❌❌❌❌❌色情20，动漫做爰A片免费看网站性晶
三，美女露出🐻让男人捏，18禁❤frisk❤chara
四，黃色A片美女人20岁日韩美女，海角社区深夜㊙️入口
五，MM131杨晨晨被❌视频，美女胸又黄又❌❌❌水
六，小柔好湿⋯好紧⋯太爽了动态图,91久久精品一区二区，🈹🈲🅰️❌🔞男女C吃
七，裸裸裸裸体吃㊙️雏田吃㊙️
【联系我们】
客服热线：134-2881-646

加载更多

版本更新

V7.5.17

米精品久久㊙️福利姬

神子疯狂❌喷水自慰爽漫画

香蕉🍌破解版

4.81MB

104好评

麻豆国产㊙️网站入口
免费无遮挡🔞酒店偷拍

修女被扒开腿做❌同人网站

814.12MB

41好评

18美女被❌吸乳羞羞免费360
白丝jk爆❌❌乳

原神男角色裸体㊙️网址

13.68MB

316好评

莉莉成人🔞私人影院
孕妇自慰❌❌❌网站

潘金莲一级婬片AAAAAA在线

53.53MB

275好评

重口60兰州熟女露脸
美女又爽❌又黄❌网站腾讯动漫

女仆❌触手❌无尽小说

71.95MB

707好评

男人㊙️桶进美女屁股免费
免费观看打雷打狙网站

Xxxxxx无码毛片

83.68MB

334好评

无遮挡性爱
女人被❌❌免费视频

禁止1000部拍拍❤️

23.98MB

103好评

西施裸体被❌羞羞视频网站
女性裸捆绑挠脚心✅免费网站

91在线精品㊙️一二三区

50.93MB

923好评

美女❌18禁漫画网站视频
国产双乳露双奶头被❌小说

爆❌喷水❌洗澡❌titouk

83.88MB

566好评

omoani失禁隐私㊙️
原神2D同人18❌AVFree

美女❌❌❌免费视频裸体动漫网站

83.57MB

753好评

女同被❌到爽🔞漫画
千人千色9t9t9t9t9t

水门❌❌玖辛奈污图

32.39MB

627好评

白丝校花🌸扒腿让我c免费
外国沙滩裸体㊙️无遮

国产chinese男男GayGay视频

26.89MB

279好评

原神男角色裸体㊙️
🐔桶烂🍑30分钟动漫

LOL祼体啪啪❌漫画

65.35MB

743好评

Billie裸被❌视频观看
绝区零被爆❌挤奶歪歪

91兰州熟女富婆露脸

54.82MB

752好评

动漫❌大胸❌动漫看视频
美女扒开胸罩👙给男生摸无网络

丰满的亂伦XXXⅩ

57.82MB

689好评

成熟女人A片
把小🐥🐥放进女人的🍑

美女洗澡被❌羞羞视频动漫

24.02MB

357好评

扒开❌狂揉❌喷水视频欧美
欧美❌❌❌网站免费

白丝美女被强❌娇喘网站在线

13.16MB

311好评

教师被狂揉下部❌视频在线观看
性欧美老妪

jk杨晨晨双腿❌开露

84.65MB

214好评

性少妇videosexfreeXXXX中国公交车
妓女黄色免费软件

两男生互摸jiji㊙️小说

45.58MB

734好评

!脱👙男人🐻
🔞色情美女下部

老妪性色AV老太色HD

10.55MB

180好评

免费看裸体美女🔞🔞🔞厂
二次元❌爆爽喷水自慰

天堂18🈲🍆🍑无套直jk

44.23MB

361好评

精品➕国产➕无码软件
a片资源200首

91在线无精精品㊙️一区二区

91.39MB

208好评

范冰冰一级特黄大片林志玲在线
女厕美女内急视频㊙️

露娜被❌到爽流白浆小说

30.45MB

902好评

蜜桃㊙️无码一线二线三线av
赵露思裸体❌开腿羞羞视频

女被❌c🐻黄扒衣服韩国网站

30.49MB

549好评

51成人做爰www免费看网站
国产精品18🈲️高潮站小说

嗷大喵绳艺cosplay捆绑vk

29.80MB

120好评

大雷打狙在线观看
成人福利㊙️涩涩屋

91♥️丨丨白浆

70.14MB

456好评

国产⭕⭕⭕⭕拗女
扒腿吃奶18禁🈲️视频日本 title="无码做爰内谢免费" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

🔞狂C美女🐻

法国老妇性猛交

详情
领导玩弄人妻全过程免费观看已满十八岁下载 title="3d 繁♥夏色蜜汗在线" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

🔞🍌进去里❌❌❌视频网站

春药➕灌尿➕调教➕电击软件

详情
"18🈲🍆🍆🍆🍆漫画 title="免费学生妹毛片" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

50岁妇女做爰在线观看

http://www.bm48.cc/

详情