人工智能正在经历从 “感知” 到 “行动” 的跨越式发展，融合大模型的具身智能被认为是人工智能的下一发展阶段，成为学术界与工业界共同关注的话题。

在大模型领域，随着 o1/R1 系列推理模型的发布，模型训练的重心逐渐从数据驱动的预训练 / 后训练转向奖励驱动的强化学习（Reinforcement Learning, RL）。OpenAI 预测强化学习所需要的算力甚至将超过预训练。与此同时，能够将大规模算力高效利用的 RL infra 的重要性也日益凸显，近期也涌现出一批优秀的框架，极大地促进了该领域的发展。

然而，当前框架对具身智能的支持仍然受限。相比推理大模型这一类纯大脑模型，具身智能领域存在大脑（侧重推理、长程规划，如RoboBrain）、小脑（侧重执行、短程操作，如OpenVLA）及大小脑联合（快慢系统，如pi 0.5）等多样模型。

其次，具身智能除了包含Agentic AI的多步决策属性外，他还有一个独特属性：渲训推一体化。与工具调用智能体、浏览器智能体所交互的仿真器相比，具身仿真器通常需要高效并行物理仿真和3D图形渲染等，因此当前主流仿真器通常采用GPU加速，耦合多步决策带来了算力和显存竞争的新挑战。

总的来说，具身智能领域不仅继承了推理大模型和数字智能体的难点，同时还引入了新的渲训推一体化特征，再加上具身智能模型尚未收敛，对框架的灵活性、高效性和易用性提出挑战。

在这样的背景下，清华大学、北京中关村学院和无问芯穹联合推出了一个面向具身智能的灵活的、可扩展的大规模强化学习框架 RLinf

RLinf 的 “inf” 不仅代表着 RL “infrastructure”，也代表着 “infinite” scaling，体现了该框架极度灵活的系统设计思想。

RLinf 的系统可以抽象为用户层（统一编程接口）、任务层（多后端集成方案）、执行层（灵活执行模式）、调度层（自动化调度）、通信层（自适应通信）和硬件层（异构硬件）6 大层级。相比其他框架的分离式执行模式，RLinf 提出的混合式执行模式，在具身智能训练场景下实现了超 120% 的系统提速，VLA 模型涨幅 40%-60%。同时，RLinf 高度灵活、可扩展的设计使其可快速应用于其他任务，所训练的 1.5B 和 7B 数学推理大模型在 AIME24、AIME25 和 GPQA-diamond 数据集上取得 SOTA。

利用微执行流实现宏工作流，实现一套代码驱动多种执行模式

当前已有强化学习框架通常采用两种执行模式：共享式（所有卡跑同一个组件）和分离式（不同的卡分配不同的组件）。然而，这两种模式在具身智能 “渲训推一体” 的特点下都存在局限性。主要是：由于具身智能体多步决策的属性，模型（Actor）要和仿真器（Simulator）频繁交互，而当前框架一方面不支持仿真器状态快速卸载和加载，另一方面若用共享式需要频繁加载卸载组件，切换开销大，严重降低系统效率。

因此，目前已有的框架在这个场景下仅支持分离式训练，但分离式采用 on-policy 算法训练时资源闲置率高，系统气泡比较大。 RLinf 针对这一问题，提出了混合式执行模式，如图 4 所示，这种模式兼具分离式和共享式的优势，再配合上细粒度流水设计，使得系统几乎无气泡，显著提升了系统运行效率。

然而，要想实现一套代码驱动多种执行模式（即无需更改代码，通过配置参数即可实现分离、共享或混合）是不容易的，一种标准的解决方案是构建计算流图，但会导致编程灵活性降低，debug 难度直线上升，所以当前已有框架通常只支持一种模式（分离或者共享），引入新的执行模式需要大量的系统开发。

为此，RLinf 提出了创新的宏工作流到微执行流的映射机制（Macro-to-Micro Flow，M2Flow），实现从组件级而非任务级进行调度。M2Flow 允许用户使用过程式编程方式灵活构建复杂训练流程，解决传统计算流图构建编程灵活性低的问题，同时能够将过程式的训练流程灵活映射到底层不同的执行模式上，为不同的训练流程（如 RLHF、RLVR 等）选择最优执行模式（配合自动调度模块）。

因此，该映射机制兼具过程式编程（Imperative Programming）的灵活性、易用性、易调试性和声明式编程（Declarative Programming）的编译优化能力。具体而言，RLinf 采用基于 Worker 的统一编程接口，允许用户将训练流程中的不同组件，如模拟器、训练推理引擎，封装成不同 Worker，然后通过过程式编程将这些 Worker 串起来形成完整的训练流程。M2Flow 通过细粒度控制微执行流，即控制每个 Worker 的运行 GPU、执行的批大小、执行时机等，实现极度灵活的执行模式。

总结来说，RLinf 使用户能够以高度可适配的方式编排组件（Actor、Critic、Reward、Simulator 等），组件可以放置在任意 GPU 上，并自动配置不同的执行模式，目前支持 3 种执行模式：

如前文提到，具身智能领域的特点是：大小脑同时存在，且该领域仍处在蓬勃发展期，技术路线尚未收敛。因此为了更好地支持具身智能不同用户（如具身大小脑研究人员）的需求，RLinf 集成了两套后端：

同时 RLinf 也支持多项来自一线从业者的刚需，包括 LoRA 训练，断点续训，以及适应不同网速用户的训练可视化（Tensorboard、W&B、SwanLab）等。此外，RLinf 也正在集成 SFT 模块，致力于提供一站式的服务，通过一套代码满足多样化的训练需求。

设计 3: 设计面向强化学习的自适应通信库和自动化调度模块，

强化学习存在多个组件，且这些组件之间存在大量的数据交互。灵活、高效的互通信是支撑强化学习框架高效运行的关键，也是框架可扩展性的重要保证。因此，RLinf 特别设计了一套面向强化学习的通信库，其中主要包含四项优化技术：自适应 CUDAIPC/NCCL 通信、负载均衡传输队列、多通道并发通信机制、快速通信重配置。

大规模强化学习框架的优化目标是尽量减少系统资源闲置。已有框架通常采用人为指定资源配置的方案，依赖于人工经验，容易造成系统资源浪费， RLinf 设计了一套自动调度策略，可以针对用户的训练流以及用户所使用的计算资源，选择最优的执行模式

具体而言，RLinf 会对各组件做自动化性能分析，获得各组件对资源的使用效率和特征。然后，构建执行模式的搜索空间，该搜索空间描述了强化学习算法各组件对计算资源的分配复用关系，包括 “时分复用”、“空分复用” 以及二者结合的资源分配方案；在这样的建模下，RLinf 的自动化调度不仅支持已有强化学习框架中 “共享式” 和 “分离式” 的典型资源分配方式，还支持二者结合的混合分配方案的建模分析。

最后，基于上述性能分析数据，在该空间中搜索出最优的执行模式。除此之外，该自动调度策略还集成 “秒级在线扩缩容（Online Scaling）” 能力，70B 模型只需 1 秒即可完成 5D 并行动态扩缩，而传统方案需十几秒甚至更久。该功能及相关论文将于 10 月上线开源版本。基于该技术可进一步实现运行时组件间计算资源的动态调度，配合细粒度流水设计，可以在保证算法 on-policy 属性的前提下进一步压缩系统气泡率，且显著提升训练稳定性。

在应用上，与其他框架相比，RLinf 的特色在于 Vision-Language-Action Models (VLAs)+RL 的支持，为研究人员探索 VLAs+RL 领域提供了良好的基础算法性能及测试平台。RLinf 支持了主流的 CPU-based 和 GPU-based 仿真器（具体平台见说明文档），支持了百余类具身智能任务，集成了主流的具身大模型 OpenVLA、OpenVLA-OFT、Pi 0。

特别地，团队率先实现了对 Pi 0 的大规模强化学习微调，相关算法及论文将在 9 月底发布。在量化指标上，以 Maniskill3（典型的 GPU-based Simulator ）为例进行测试，RLinf 采用混合式结合细粒度流水的执行模式。相比其他框架的分离式执行模式，系统效率显著提速 120% 以上（图 7）。

OpenVLA 及 OpenVLA-OFT 在 Maniskill3 自建 25 个任务 [1] 中采用 PPO 算法和适配具身的 GRPO 算法训练后，成功率曲线如图 8 所示，可以看到模型成功率可以从 SFT 后的 30%-50% 提升至 80%-90%，涨幅 40%-50% 以上。

在公开测试平台 LIBERO 的 4 个场景中，OpenVLA-OFT 采用 RLinf 适配具身的 GRPO 算法训练后，平均成功率达到 97.3%，相比 SFT 模型涨幅 62.4%。

团队前序工作曾探讨 RL 和 SFT 对 VLA 泛化性提升的不同之处 [1]，RLinf 将研究进一步拓展至大规模场景下，助力探索具身智能领域的 RL Scaling Law。相关模型已开源在 https://huggingface.co/RLinf，欢迎下载测试。

图 8：OpenVLA、OpenVLA-OFT 在 Maniskill3 自建 25 个任务中采用 PPO 算法及具身版 GRPO 算法的训练曲线

面向具身智能是 RLinf 的应用特色，但 RLinf 的系统设计思想不仅限于具身智能，灵活、可扩展的设计理念使得其可以快速支持其他应用，体现了其通用性。

以 RLinf 支持的推理大模型训练为例，团队集成优化后的 GRPO 算法 [2] 进行了数学推理大模型的训练，数据集为 AReal-boba 数据集 [3]，基座模型为 DeepSeek-R1-Distill-Qwen。在三个测试集（AIME24、AIME25、GPQA-diamond）中进行测评，32 个样本取平均，Pass@1 测试结果如表 2 和 3 所示，RLinf-math-1.5B 和 RLinf-math-7B 在三个测试集上均取得 SOTA 性能。

（注：表格中的模型均来自 HuggingFace 开源模型，统一测试脚本 https://github.com/RLinf/LLMEvalKit）

考虑到框架的易用性，RLinf 提供了全面且系统化的使用文档。RLinf 在开发之初的目标就是开源，因此让每一个用户能够理解、使用和修改是设计原则之一，也是一个优秀开源框架必备的属性。团队采用公司级代码开发流程，确保文档内容覆盖从入门到深度开发的各层次需求。此外，RLinf 还提供完整的 API 文档与集成 AI 问答机器人支持，以进一步提升开发体验与支持效率。

RLinf 团队的开发成员具有交叉研究背景，包含从系统到算法到应用的技术全栈，例如系统架构设计、分布式系统、大模型训练推理加速、强化学习、具身智能、智能体等。正是由于这样的交叉背景，使得团队能够从应用需求驱动算法设计，算法指导系统设计，高效系统加速算法迭代，体现了大模型时代下新型科研形态。未来 RLinf 团队也将持续开发和维护，具体 Roadmap 见 Github 网站。

最后，诚挚地邀请大家体验 RLinf 框架，并且与我们交流技术观点与潜在合作机会。同时，RLinf 团队持续招聘博士后、博士、硕士、研究员、工程师及实习生，欢迎投递简历，与我们共同推进下一代强化学习基础设施的建设与发展。

[1] Liu, Jijia, et al. "What can rl bring to vla generalization? an empirical study." arXiv preprint arXiv:2505.19789 (2025).

顶流官宣恋爱28年没be

「活动」kumawubiaotitest

7.71MB

版本V3.8.38

下载APK 高速下载

下载被粗大的🐔巴捣出白浆男小视频安装你想要的应用更方便更快捷发现更多

51%好评(78人)

详细信息

软件大小: 45.95MB
最后更新: 2025/09/07 03:45:26
最新版本: V6.925.7
文件格式: apk
应用分类:ios-Android 毛利兰被扒开腿做❌漫画
使用语言: 中文
: 需要联网
系统要求: 5.7以上

应用介绍

一，亚洲AV无码㊙️，公主连结18➕同人本子免费
二，双女出jiji互玩㊙️视频，紧扣的星星未增删动
三，美女裸体❌羞羞漫画网站，女班长被❌c
四，男c女🔞黄㊙️❌网站，成人黄动漫网站❌免费视频
五，糖心在线无码精品㊙️入口懂的色，XXNX16中国免费视频
六，国产女性无套✅免费视频网站,免费无遮挡🈲视频，FreeHDXXXXvideo69
七，人妻夜夜添灬丰满老师好紧H漫画
【联系我们】
客服热线：134-2881-646

加载更多

版本更新

V7.5.17

导管网站.com

㊙️jav番号

免费下载黃色软件

2.64MB

100好评

色情网18㊙️免费无码视频下药
㊙️韩漫免费网站汗汗漫画

一级日本婬片A片高潮中

9.53MB

75好评

女人又爽❌又黄❌免费观看
jiZZ18女人高潮zzji

美女的胸❌又黄❌又大jk

13.72MB

312好评

做爱视频毛片下载裸体赌场
杨幂被❌到喷白浆

成年男生㊙️自愿裸体露蛋

53.77MB

274好评

jk白丝美女裸体被❌视频
美女扒开🐻生男生揉

成人免费❌❌❌做受-日韩

71.78MB

700好评

美国三黄顶级好片一一
火舞爆乳被❌🔞🔞㊙️软件

扒开徐伦疯狂揉❌难受真人

83.47MB

337好评

❌❌❌JK熟女人妻
无尽❌动漫❌大胸❌3D

肥婆性XXXHD

23.21MB

106好评

91❤国产丝袜在线竹菊
爽⋯好大⋯快⋯深点自慰男男

91在线无码精品㊙️腹肌

50.84MB

923好评

18🈲🍆🍑无套视频
刻晴裸乳被爆❌白浆图片

老头吃奶添女人荫蒂

83.58MB

561好评

♥草莓视频app❤
Free孕妇❌❌❌HD

日本丰满熟妇乱XXXXX漫画香港性感富婆黄色录像视频

83.79MB

754好评

喷🔞🈲🍌流水高c游戏
成人做爰A片免费看黄冈

黄漫18🈲

32.77MB

621好评

男男GAY无套✅免费观看
91在线精品无码㊙️软件

国产精品㊙️精品

26.49MB

278好评

男人的🍌伸到🍑里打扑克
男同❌🔞得到❌做在线观看

女裸体㊙️无遮挡网站

65.82MB

744好评

女自慰被❌❌喷水噜噜网站
强伦轩特级

蜜桃视频成人A片免费观看少妃肥老头和老太婆性猛交HDHDXxxxx

54.18MB

758好评

艾玛裸被❌视频站
国产做受91❌❌❌高潮

小🐔🐔伸进🈲🔞🔞网在

57.79MB

682好评

18禁🈲🈲流浆❌❌水欧美
DVDPORONOXXXX💋

91P0RN永久入口

24.00MB

359好评

㊙️成人游戏免费网站
班长别摸了～要尿了～视频

小舞3D❌禁视频在线观看

13.59MB

310好评

亚洲AV无码🈲️五区
白丝JK美女❌❌爆乳❌

3nbbcc官网登录入口

84.07MB

218好评

男人露jiji㊙️免费视频樱花
男同被❌到爽🔞流羞羞扒开小说

3D貂蝉被疯狂❌吸乳

45.18MB

739好评

动漫❌c🐻黄无码无遮挡
体育生打✈️高清网站

原神玛拉妮裸体❌开腿黄漫

10.73MB

189好评

66m66成长模式视频大陆5
国产精品㊙️入口麻豆吸乳

免费Gay无遮挡🔞视频网站

44.44MB

360好评

银狼被❌到爽🔞高潮痉挛
欧美❌❌❌免费观看

男生洗澡露j网站㊙️

91.85MB

204好评

韩国⭕⭕⭕⭕XXXX观看
少归被❌到爽🔞

国产做受❌❌❌波萝视频

30.08MB

900好评

亚洲精品㊙️无码一区二区久
亚洲无🈚码蜜桃精东美业

黄片网站大全

30.66MB

547好评

男同被❌到爽🔞网红男同
未🈵18🈲视频美女㊙️

扒开女仆陪玩👙C❌❌❌

29.42MB

123好评

免费🈲美女扒胸露出奶头让人玩
高清乱码男女🔞免费观看

Furry♥XXX♥furry本子

70.66MB

459好评

少妇被c🔞黄❌在线观看网站
小南裸乳被爆❌白浆网站 title="《黑土同人漫画》免费阅读" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

百合🌸扒腿爽出白浆VK

穿JK白丝被❌羞羞视频

详情
外国羞❌❌免费视频 title="17C白丝喷水🌸自慰小黄书" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

日本淫秽色情视频

13日本XXXXXⅩXXX59

详情
日韩大片免费观看视频播放actionmovie title="无码影片麻豆精品㊙️国产传媒" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

FreePorno💋👙16

freeHD1819❌❌❌美女

详情