2025/09/08 10:43:00 1,323次浏览

本文的共同第一作者为新加坡国立大学博士生陈浩楠,南京大学研究助理 / 本科生李骏骁和北京大学博士吴睿海。合作者为刘益伟、侯懿文、徐志轩、郭京翔、高崇凯、卫振宇、许申思、黄嘉祺。通讯作者为新加坡国立大学计算机学院助理教授邵林,研究方向为机器人和人工智能。

机器人对可形变物体的操作(Deformable Object Manipulation, DOM),是衡量通用机器人智能水平的关键指标之一。与刚体操作不同,衣物、绳索、食物等物体的形态不固定,其状态空间维度极高,且物理交互过程呈现出复杂的非线性动力学特性,为感知、规划和控制带来了巨大挑战。

传统的服装折叠方法往往依赖于预定义的关键点或演示数据 [1, 2],这严重限制了它们在不同服装类别间的泛化能力。现有研究大多采用基于规则的启发式方法或依赖人工演示的学习方式,这些方法在面对多样化的服装类型和用户指令时表现出明显的局限性。

近年来,随着基础模型在计算机视觉和自然语言处理领域的巨大成功,研究者们开始探索将这些先进技术应用于机器人操作任务 [3]。视觉和语言引导的机器人操作已成为当前研究的热点,它能够让机器人理解自然语言指令并执行相应的操作任务。然而,在可变形物体操作,特别是服装折叠任务中,如何有效结合视觉和语言指导与物理操作仍然是一个亟待解决的问题。

在此背景下,MetaFold旨在填补现有研究的空白:创建一个既能理解人类语言的丰富内涵和场景的视觉信息,又能精准、泛化地操作多类别衣物的、具有良好解释性的机器人框架。

目前,该论文已被机器人领域顶级会议 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2025) 接收。

MetaFold:基于轨迹生成和动作预测的分层架构

MetaFold 采用了一种创新的分层架构设计,将复杂的服装折叠任务分解为两个相对独立的子问题:任务规划(task planning)和动作预测(action prediction)。这种分离式设计受到人类神经系统结构的启发 —— 大脑负责高级任务理解和物体识别,而脊髓和外周神经系统管理手部运动和抓取动作。

该框架的核心思想是通过语言引导的点云轨迹生成来处理任务规划,同时使用低级基础模型来进行动作预测。这种模块化设计不仅简化了训练过程,还显著提高了模型在不同服装类别间的泛化能力。

Fig. 1 MetaFold 框架

数据集生成与标注

由于当前衣物折叠数据稀缺,研究团队首先构建了一个包含 1210 个服装和 3376 条轨迹的大规模数据集。该数据集基于ClothesNet[4] 提供的服装模型,使用 DiffClothAI [5] 可微分仿真器生成高质量的点云轨迹数据。

对于不同种类的衣物,研究团队首先使用启发式的方法生成折叠轨迹,并记录每时刻的衣物网格。从连续帧的衣物网格中,可以提取出衣物的点云轨迹。研究团队对这些衣物的折叠轨迹进行筛选,将失败的折叠轨迹去除,构建了一个成功折叠的衣物折叠数据集。

数据集涵盖了四种主要的折叠类型:(1)无袖折叠(包括连衣裙、裙子和无袖上衣)(2)短袖折叠(3)长袖折叠(4)裤子折叠。每个轨迹都配有相应的自然语言描述,用于指导折叠过程。

数据集已经在 huggingface 上开源:

开源地址:https://huggingface.co/datasets/chenhn02/MetaFold

轨迹生成模型

轨迹生成模型的核心是一个基于注意力机制的跨模态融合模型。它首先通过独立的编码器分别提取点云的几何特征和语言指令的语义特征,然后利用交叉注意力机制来深度融合这两种模态的信息,从而理解指令在特定几何形态上的具体意图。

该模型的输出并非直接的机器人动作,而是衣物形态在未来的一系列几何快照。这种以点云轨迹作为中间表征的设计是 MetaFold 的关键创新之一,其优势在于:

轨迹生成模型基于条件变分自编码器(CVAE)构建,其编码器和解码器均采用 Transformer 编码器架构。该模型接收点云观察和语言描述,生成点云轨迹。模型使用 PointNet++ 提取点云空间信息,得到点云特征。同时,LLaMA 模型处理语言描述的语义信息,经过降维后得到语言特征。

底层操作策略

ManiFoundation[6] 模型将操作任务形式化为接触合成问题。接收两个连续点云状态,模型将输出从上一个点云状态转移到下一个点云状态所需要的动作。这个动作将以接触合成的形式表示,即若干个接触点和对应的运动方向。

为减轻随机种子对预测结果的影响,系统采用模型集成方法,使用 160 个不同随机种子生成多个预测结果。当两个预测结果之间的距离小于阈值时,将它们归为同一组,最终选择排名最高的组内平均位置最近的点及其对应力作为输出。

系统实施闭环反馈控制策略,在机器人执行动作后重新获取服装状态,将当前点云输入轨迹生成模型产生后续轨迹。这种设计使框架能够适应环境扰动和变化,确保操作的鲁棒性和精确性。

实验结果与深度分析

数据集与评估指标

实验在 Isaac Sim 仿真环境中进行,相比传统的 PyFleX 仿真环境,该环境能够提供更准确的服装内力仿真和更低的网格穿透发生率。为了能同时衡量多种衣物的折叠效果,研究团队采用三个关键评估指标:

性能对比分析

MetaFold 在多项指标上显著优于现有方法。

在未见过的 CLOTH3D [7] 数据集上,MetaFold 仍然达到 79%-97% 的成功率,证明了其强大的跨数据集泛化能力。

在语言指导的实验中,MetaFold 与基线比较了已见指令与未见指令的泛化能力。结果表明,MetaFold 在处理不同类型语言指令方面表现出色。除此之外,系统能够处理复杂的用户指令,如指定折叠顺序(「先左后右」)等,即使这些顺序在训练数据中未出现过,模型仍能正确理解和执行。

真实环境验证

研究团队使用 uFactory xArm6 机器人配备 xArm Gripper 和俯视 RealSense D435 相机进行真实环境实验。通过 SAM2 [8] 分割 RGB 图像生成服装掩码,结合深度数据提取真实服装点云。相比于 RGB 图片,点云模态有更小的模拟与实际差距 (sim-to-real gap),使其能够直接迁移到真实环境,而无需另外训练。

真实环境实验证实了 MetaFold 从仿真到现实的有效迁移能力,成功完成了多种服装的折叠任务,验证了框架的实用性和鲁棒性。

结论和展望

本研究成功地提出并验证了一个名为 MetaFold 的、用于机器人多类别衣物折叠的语言引导框架。其核心贡献在于:

参考文献

[1] Canberk, Alper, et al. "Cloth Funnels: Canonicalized-Alignment for Multi-Purpose Garment Manipulation." 2023 IEEE International Conference on Robotics and Automation (ICRA). IEEE, 2023.

[2] Ganapathi, Aditya, et al. "Learning dense visual correspondences in simulation to smooth and fold real fabrics." 2021 IEEE International Conference on Robotics and Automation (ICRA). IEEE, 2021.

[3] Raval, Vedant, et al. "GPT-Fabric: Folding and Smoothing Fabric by Leveraging Pre-Trained Foundation Models." CoRR (2024).

[4] Zhou, Bingyang, et al. "Clothesnet: An information-rich 3d garment model repository with simulated clothes environment." Proceedings of the IEEE/CVF International Conference on Computer Vision. 2023.

[5] Yu, Xinyuan, et al. "Diffclothai: Differentiable cloth simulation with intersection-free frictional contact and differentiable two-way coupling with articulated rigid bodies." 2023 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS). IEEE, 2023.

[6] Xu, Zhixuan, et al. "Manifoundation model for general-purpose robotic manipulation of contact synthesis with arbitrary objects and robots." 2024 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS). IEEE, 2024.

[7] Bertiche, Hugo, Meysam Madadi, and Sergio Escalera. "Cloth3d: clothed 3d humans." European Conference on Computer Vision. Cham: Springer International Publishing, 2020.

[8] Ravi, Nikhila, et al. "Sam 2: Segment anything in images and videos." arXiv preprint arXiv:2408.00714 (2024).

[9] Wu, Ruihai, et al. "Unigarmentmanip: A unified framework for category-level garment manipulation via dense visual correspondence." Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2024.

机器人衣物折叠新范式,NUS邵林团队用MetaFold解耦轨迹与动作
机器人衣物折叠新范式,NUS邵林团队用MetaFold解耦轨迹与动作

BLG对战JDG

「活动」kumawubiaotitest

1.71MB
版本V3.1.38
下载小🐔🐔伸进🈲🔞🔞电视安装你想要的应用 更方便 更快捷 发现更多
喜欢 51%好评(998人)
评论 16
机器人衣物折叠新范式,NUS邵林团队用MetaFold解耦轨迹与动作截图0 机器人衣物折叠新范式,NUS邵林团队用MetaFold解耦轨迹与动作截图1 机器人衣物折叠新范式,NUS邵林团队用MetaFold解耦轨迹与动作截图2 机器人衣物折叠新范式,NUS邵林团队用MetaFold解耦轨迹与动作截图3 机器人衣物折叠新范式,NUS邵林团队用MetaFold解耦轨迹与动作截图4
详细信息
  • 软件大小: 6.609MB
  • 最后更新: 2025/09/08 10:43:00
  • 最新版本: V6.319.7
  • 文件格式: apk
  • 应用分类:ios-Android 国产区🔞成人视kkhxnd
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.557以上
应用介绍
一,男男H捆绑➕调教➕sm,男人🍌伸到🍑坤坤
二,富婆按摩XXXⅩ私密全套,上流社会农村操逼
三,爱丝钻石李丽莎,小舞3D同人❌18吸乳羞羞在线观看
四,纲手被扒开腿做❌同人动漫,久久玉足涩18禁🈲图站
五,迪丽热巴❌❌喷水好爽,brazzerssex21💋
六,动漫少年裸体被❌羞羞,动漫美女被❌奶头动漫网站,日本少妇⭕⭕⭕⭕XXXX软件
七,成人片试看120分钟做任务
【联系我们】
客服热线:134-2881-646
加载更多
版本更新
V7.5.17
chara❌天堂污在线
  • 校花🌸自慰

    ass水嫩pics

    中国老头老太做爰全过程

    694.29MB
    101好评

    美熟婦高跟鞋👠性另類HD

  • 男性脱👙给我揉🐻+亲嘴漫画

    一级做a爰片毛片❌❌❌

    国产精品㊙️入口水果派

    47.39MB
    9501好评

    女生AA视频

  • 成人🔞免费精品动漫

    糖心在线播放免费观看

    Ferrdojki💋👙91

    13.18MB
    313好评

    美女露出100%🐻

  • 少萝被❌脱脱内内做运动代码

    羞羞18🈲拔萝卜免费观看双男

    不卡一卡二新区乱码无人区

    53.24MB
    270好评

    cf女角色被狂❌高潮

  • 陆雪琪3D被❌吸乳在线观看

    富婆玩小伙子一级A片

    www成人🔞色情美女双色乳

    71.61MB
    705好评

    美女奶头被❌免费游戏

  • xxxxx19法国

    蘑菇视频成人18🈲

    打白嫩㊙️光屁屁调教网站

    83.32MB
    330好评

    高清少妇做受❌❌高潮免费看

  • 男同被❌c🐻扒衣服网站

    情侣❌狂揉❌视频App

    ❌X❌X紧身牛仔裤美女视频

    23.81MB
    101好评

    撕开👙吸奶头

  • 耄耋老太性做爰HD视频

    色墦

    seo短视频网页入口引流

    50.20MB
    923好评

    ❌❌❌❌日本人HD色射淫

  • 美女隐私光屁股㊙️

    久久久久久18禁裸体

    美女又爽❌又黄❌网

    83.67MB
    569好评

    公交车上无套进内谢

  • 日本❌❌❌Japanfre

    hp里德尔✖️你控制欲

    91♥️丨PORN天堂

    83.24MB
    752好评

    打女班长白嫩㊙️屁屁网站

  • 美女屁股㊙️免费看网站

    jk杨晨晨双腿❌开露出

    婬荡交换乱婬A片免费视频

    32.55MB
    626好评

    扒开小舞❌狂揉❌难受3d

  • 疯狂❌喷水自慰爽w

    人与野鲁❌毛片2588

    宁荣荣被❌挤奶羞羞网站

    26.08MB
    274好评

    中国XXXXXL19Dfm免费

  • 芙宁娜被❌黄漫

    日韩精品㊙️视频在线观看

    亚洲男男GaYGaY无套✅游戏

    65.61MB
    740好评

    被黑人狂躁A片免费视频小说

  • 八重神子❌自慰

    小🐤🐤戳进🍑无遮挡保障日本

    15🈲少萝羞羞开腿白丝视频免费

    54.90MB
    756好评

    MatureTubeⅩXXX

  • 小🐤🐤戳进🍑里面游戏

    佐助❌小樱18禁漫画

    COS❌开腿让我爽了视频

    57.19MB
    682好评

    雏田❌爆🈲🔞

  • 美女被❌❌羞羞免费软件下载

    不知火舞十八禁❌喷水自慰

    洛天依被❌到喷水18禁AV

    24.63MB
    351好评

    Futa♥XXX♥Hentai3D

  • 啊灬蒂法被❌🔞‼️动漫

    泳装美女被扒开👙吃奶

    DJ版沧川和尚歌曲原唱

    13.95MB
    316好评

    黑人荫道BBwBBB大荫道

  • 特黄A片。无码做爱

    玖辛奈被扒开腿坐做❌视频

    免费看小黄片链接

    84.63MB
    212好评

    中国xxxxxx69泡妞

  • 公天天吃我奶躁我爽快A片动漫

    永久免费🔞🔞🔞成人代码

    美女扒开内👙给男生玩的视频

    45.34MB
    735好评

    91在线无码精品㊙️伪娘

  • 亚洲俩老头野外XXXX×

    XXXXHD💋18

    免费🔞🔞🔞未满

    10.76MB
    188好评

    女同被c🔞黄㊙️❌B站

  • ceкес欧洲видео⚡️

    成人🔞涩涩小片视频美国

    男生女生一起愁愁愁30大全免费欧洲最猛A级成人片

    44.09MB
    369好评

    ❤禁漫天堂❤网站P站

  • 婷婷国产AV成人精品㊙️

    刻晴裸乳被爆❌白浆图片

    裸交❌❌❌❌❌9117c网站

    91.51MB
    202好评

    美女捆绑❌又黄❌捆绑

  • 美国黄色A片

    美女露出㊙️奶j私照白馒

    白丝校花🌸扒腿自慰爽出白浆

    30.36MB
    902好评

    紧身皮衣美女被❌爆

  • 男生摸jiji㊙️视频

    成人免费🔞网站

    纲手被自来也❌吸乳羞视频

    30.22MB
    547好评

    美女被❌c🐻扒衣服

  • 男明星私㊙️Gay网站

    顶级特黄少妇做受A片

    成人黄漫画❌免费涩漫APP

    29.35MB
    123好评

    男男被❌爽无套免费看视频

  • 摸下面十八禁🔞高潮喷水图片

    巨茎破少女处穴视频

    男女被❌到爽🔞蘑菇视频

    70.24MB
    453好评

    扒腿吃奶18禁🈲️黄漫

  • 肥臀❌❌国产做受❌❌❌高潮游 title="3D首页❤️歪歪漫画" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    免费无遮挡㊙️视频网站抖音

    日本丰滿岳乱DVD

  • 91精品网站㊙️入口无遮挡成人A片 title="美女被爆❌羞羞喷水" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    国产精品㊙️果冻国产吴梦梦

    国产打屁屁㊙️网站动漫

  • 美女露🐻让男生摸美女✅✅✅✅✅隐私视频 title="性高湖婬AAA片A片美国网页版" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    91久久娇小无码❌❌❌

    黄☸️色☸️☸️女

{{.转码Keywords}} 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
包含 饿了么 的应用集
评论
  • 动漫美女羞羞视频免费下载 0天前
    动漫美女被❌吸乳羞羞漫画APP
  • 女生男生做的视频原声在线观看 4天前
    姬小满㊙️黄漫免费网站
  • 巨胸爆乳❌❌❌动漫视频 5天前
    云堇同人18❌漫画
  • 人与禽性猛交狂配视频 8天前
    女模秘㊙️免费视频
  • 印度少妇凸BBwBBwHD 8天前
    流萤双腿张开被❌小说
  • 中国人真人性做爰 3天前
    脱👙给我揉🐻+亲嘴视频
  • 国产高清❌❌❌精 4天前
    碧蓝航线被❌18禁网站
  • 动漫男❌差女www免费视频 4天前
    人妻丁aPanHD❌XXX
  • 美女露裆内裤㊙图 3天前
    鸣人和水影❌漫画
  • 美女裸体做受❌❌❌游戏 3天前
    国产a∨无码专区精品麻豆网站