2025/09/08 11:43:19 1,630次浏览

本文的共同第一作者为新加坡国立大学博士生陈浩楠,南京大学研究助理 / 本科生李骏骁和北京大学博士吴睿海。合作者为刘益伟、侯懿文、徐志轩、郭京翔、高崇凯、卫振宇、许申思、黄嘉祺。通讯作者为新加坡国立大学计算机学院助理教授邵林,研究方向为机器人和人工智能。

机器人对可形变物体的操作(Deformable Object Manipulation, DOM),是衡量通用机器人智能水平的关键指标之一。与刚体操作不同,衣物、绳索、食物等物体的形态不固定,其状态空间维度极高,且物理交互过程呈现出复杂的非线性动力学特性,为感知、规划和控制带来了巨大挑战。

传统的服装折叠方法往往依赖于预定义的关键点或演示数据 [1, 2],这严重限制了它们在不同服装类别间的泛化能力。现有研究大多采用基于规则的启发式方法或依赖人工演示的学习方式,这些方法在面对多样化的服装类型和用户指令时表现出明显的局限性。

近年来,随着基础模型在计算机视觉和自然语言处理领域的巨大成功,研究者们开始探索将这些先进技术应用于机器人操作任务 [3]。视觉和语言引导的机器人操作已成为当前研究的热点,它能够让机器人理解自然语言指令并执行相应的操作任务。然而,在可变形物体操作,特别是服装折叠任务中,如何有效结合视觉和语言指导与物理操作仍然是一个亟待解决的问题。

在此背景下,MetaFold旨在填补现有研究的空白:创建一个既能理解人类语言的丰富内涵和场景的视觉信息,又能精准、泛化地操作多类别衣物的、具有良好解释性的机器人框架。

目前,该论文已被机器人领域顶级会议 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2025) 接收。

MetaFold:基于轨迹生成和动作预测的分层架构

MetaFold 采用了一种创新的分层架构设计,将复杂的服装折叠任务分解为两个相对独立的子问题:任务规划(task planning)和动作预测(action prediction)。这种分离式设计受到人类神经系统结构的启发 —— 大脑负责高级任务理解和物体识别,而脊髓和外周神经系统管理手部运动和抓取动作。

该框架的核心思想是通过语言引导的点云轨迹生成来处理任务规划,同时使用低级基础模型来进行动作预测。这种模块化设计不仅简化了训练过程,还显著提高了模型在不同服装类别间的泛化能力。

Fig. 1 MetaFold 框架

数据集生成与标注

由于当前衣物折叠数据稀缺,研究团队首先构建了一个包含 1210 个服装和 3376 条轨迹的大规模数据集。该数据集基于ClothesNet[4] 提供的服装模型,使用 DiffClothAI [5] 可微分仿真器生成高质量的点云轨迹数据。

对于不同种类的衣物,研究团队首先使用启发式的方法生成折叠轨迹,并记录每时刻的衣物网格。从连续帧的衣物网格中,可以提取出衣物的点云轨迹。研究团队对这些衣物的折叠轨迹进行筛选,将失败的折叠轨迹去除,构建了一个成功折叠的衣物折叠数据集。

数据集涵盖了四种主要的折叠类型:(1)无袖折叠(包括连衣裙、裙子和无袖上衣)(2)短袖折叠(3)长袖折叠(4)裤子折叠。每个轨迹都配有相应的自然语言描述,用于指导折叠过程。

数据集已经在 huggingface 上开源:

开源地址:https://huggingface.co/datasets/chenhn02/MetaFold

轨迹生成模型

轨迹生成模型的核心是一个基于注意力机制的跨模态融合模型。它首先通过独立的编码器分别提取点云的几何特征和语言指令的语义特征,然后利用交叉注意力机制来深度融合这两种模态的信息,从而理解指令在特定几何形态上的具体意图。

该模型的输出并非直接的机器人动作,而是衣物形态在未来的一系列几何快照。这种以点云轨迹作为中间表征的设计是 MetaFold 的关键创新之一,其优势在于:

轨迹生成模型基于条件变分自编码器(CVAE)构建,其编码器和解码器均采用 Transformer 编码器架构。该模型接收点云观察和语言描述,生成点云轨迹。模型使用 PointNet++ 提取点云空间信息,得到点云特征。同时,LLaMA 模型处理语言描述的语义信息,经过降维后得到语言特征。

底层操作策略

ManiFoundation[6] 模型将操作任务形式化为接触合成问题。接收两个连续点云状态,模型将输出从上一个点云状态转移到下一个点云状态所需要的动作。这个动作将以接触合成的形式表示,即若干个接触点和对应的运动方向。

为减轻随机种子对预测结果的影响,系统采用模型集成方法,使用 160 个不同随机种子生成多个预测结果。当两个预测结果之间的距离小于阈值时,将它们归为同一组,最终选择排名最高的组内平均位置最近的点及其对应力作为输出。

系统实施闭环反馈控制策略,在机器人执行动作后重新获取服装状态,将当前点云输入轨迹生成模型产生后续轨迹。这种设计使框架能够适应环境扰动和变化,确保操作的鲁棒性和精确性。

实验结果与深度分析

数据集与评估指标

实验在 Isaac Sim 仿真环境中进行,相比传统的 PyFleX 仿真环境,该环境能够提供更准确的服装内力仿真和更低的网格穿透发生率。为了能同时衡量多种衣物的折叠效果,研究团队采用三个关键评估指标:

性能对比分析

MetaFold 在多项指标上显著优于现有方法。

在未见过的 CLOTH3D [7] 数据集上,MetaFold 仍然达到 79%-97% 的成功率,证明了其强大的跨数据集泛化能力。

在语言指导的实验中,MetaFold 与基线比较了已见指令与未见指令的泛化能力。结果表明,MetaFold 在处理不同类型语言指令方面表现出色。除此之外,系统能够处理复杂的用户指令,如指定折叠顺序(「先左后右」)等,即使这些顺序在训练数据中未出现过,模型仍能正确理解和执行。

真实环境验证

研究团队使用 uFactory xArm6 机器人配备 xArm Gripper 和俯视 RealSense D435 相机进行真实环境实验。通过 SAM2 [8] 分割 RGB 图像生成服装掩码,结合深度数据提取真实服装点云。相比于 RGB 图片,点云模态有更小的模拟与实际差距 (sim-to-real gap),使其能够直接迁移到真实环境,而无需另外训练。

真实环境实验证实了 MetaFold 从仿真到现实的有效迁移能力,成功完成了多种服装的折叠任务,验证了框架的实用性和鲁棒性。

结论和展望

本研究成功地提出并验证了一个名为 MetaFold 的、用于机器人多类别衣物折叠的语言引导框架。其核心贡献在于:

参考文献

[1] Canberk, Alper, et al. "Cloth Funnels: Canonicalized-Alignment for Multi-Purpose Garment Manipulation." 2023 IEEE International Conference on Robotics and Automation (ICRA). IEEE, 2023.

[2] Ganapathi, Aditya, et al. "Learning dense visual correspondences in simulation to smooth and fold real fabrics." 2021 IEEE International Conference on Robotics and Automation (ICRA). IEEE, 2021.

[3] Raval, Vedant, et al. "GPT-Fabric: Folding and Smoothing Fabric by Leveraging Pre-Trained Foundation Models." CoRR (2024).

[4] Zhou, Bingyang, et al. "Clothesnet: An information-rich 3d garment model repository with simulated clothes environment." Proceedings of the IEEE/CVF International Conference on Computer Vision. 2023.

[5] Yu, Xinyuan, et al. "Diffclothai: Differentiable cloth simulation with intersection-free frictional contact and differentiable two-way coupling with articulated rigid bodies." 2023 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS). IEEE, 2023.

[6] Xu, Zhixuan, et al. "Manifoundation model for general-purpose robotic manipulation of contact synthesis with arbitrary objects and robots." 2024 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS). IEEE, 2024.

[7] Bertiche, Hugo, Meysam Madadi, and Sergio Escalera. "Cloth3d: clothed 3d humans." European Conference on Computer Vision. Cham: Springer International Publishing, 2020.

[8] Ravi, Nikhila, et al. "Sam 2: Segment anything in images and videos." arXiv preprint arXiv:2408.00714 (2024).

[9] Wu, Ruihai, et al. "Unigarmentmanip: A unified framework for category-level garment manipulation via dense visual correspondence." Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2024.

机器人衣物折叠新范式,NUS邵林团队用MetaFold解耦轨迹与动作
机器人衣物折叠新范式,NUS邵林团队用MetaFold解耦轨迹与动作

苹果 果张力

「活动」kumawubiaotitest

5.71MB
版本V3.894.38
下载同性男男黄A片免费安装你想要的应用 更方便 更快捷 发现更多
喜欢 51%好评(563人)
评论 16
机器人衣物折叠新范式,NUS邵林团队用MetaFold解耦轨迹与动作截图0 机器人衣物折叠新范式,NUS邵林团队用MetaFold解耦轨迹与动作截图1 机器人衣物折叠新范式,NUS邵林团队用MetaFold解耦轨迹与动作截图2 机器人衣物折叠新范式,NUS邵林团队用MetaFold解耦轨迹与动作截图3 机器人衣物折叠新范式,NUS邵林团队用MetaFold解耦轨迹与动作截图4
详细信息
  • 软件大小: 6.89MB
  • 最后更新: 2025/09/08 11:43:19
  • 最新版本: V6.1.7
  • 文件格式: apk
  • 应用分类:ios-Android 免费🔞无码小说
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.25以上
应用介绍
一,被❌🍑下部🔞在线观看,18🈲黄漫
二,18🈲成人免费观看网站小红书,🈲️18内内🍑大机八免费看
三,секс少妇идео,Gey男生撒尿✅观看网站
四,性爱视频成人免费a片,精品㊙️一区二三区免费雷安胖子
五,精品成人18㊙️,国产大胸美女私㊙️部位
六,永久免费🔞🔞🔞看片,www❌❌⭕️⭕️禁区男男,女人私㊙️Gay免费网站打屁股
七,水门玖辛奈同人18❌
【联系我们】
客服热线:134-2881-646
加载更多
版本更新
V7.5.17
日本❌❌❌free
  • 国产人妻精品久久久久野外

    国产做受❌❌❌流水

    XXXX泡妞🍆🍑中国老师

    812.81MB
    106好评

    火影忍者❌❌爆乳❌❌3d扶她

  • http://h3h.cc边添小泬边狠狠躁口述

    美女被❌脱脱内衣

    免费看女人裸体🔞🔞🔞

    270.56MB
    365好评

    911在线无码精品㊙️旗袍

  • 校长猛挺进小莹的体内

    白丝校🌸脱白丝让我c真人

    白丝美女❌开腿让我艹

    13.68MB
    315好评

    中国一级A片捷克美女性爱中出中文字幕

  • ❤UOCO2❤福利姬最新pr社

    男人的🍌伸到🍑动漫

    国产⭐浪潮AV 永久

    53.64MB
    277好评

    3dMAX9喷射2D3D视频

  • 熟女系列16

    18禁漫画🍆🍑🈲❌❌网站

    无尽❌裸体❌女同❌3D森林动漫

    71.36MB
    706好评

    免费高清理伦片在线播放视频

  • 四川美女一级大黄毛片

    13🈲♋在线观看免费入口

    玖辛奈暴❌自慰naruto动漫

    83.94MB
    337好评

    尼泊尔性A片免费看

  • 美女扒开腿调教❌裸体视频网站

    欧美一级黃色A片韩国

    日本人与禽动交交ZoZ0z最新女人性交另类

    23.18MB
    104好评

    小🐥手戳进🍑🍑视频

  • ⭕️⭕️✖️✖️在线观看

    1024tv深夜㊙️入口

    圣女内裤被灌满春药了视频

    50.70MB
    924好评

    原神akt3D同人❌羞羞

  • 狂野激情欧美性❌❌❌名字

    jiZZjiZZ丰满熟妇

    日本老师Xx❌❌18护士软件

    83.56MB
    560好评

    91九色丨国产人妻❤️

  • 动漫美女被❌黄漫爆乳视频app

    日韩❌动漫网站免费

    美女跪床❌❌被🌿国产在线看

    83.67MB
    751好评

    两个男人又爽❌又黄❌

  • 黑土被扒开腿做🔞本子

    一起🌿免费视频

    dj和尚最火的十首歌

    32.07MB
    622好评

    9色PORNY丨首页❤入口

  • 黄片视频45分钟blackedHD喷潮娇小

    成人生理网站🔞cao

    男c男🔞黄㊙️❌91

    26.48MB
    279好评

    MM131杨晨晨被❌喷水www

  • 欧美人干逼视频下载

    美女下部隐私㊙️撒尿下载

    小太正男黄GAY片

    65.63MB
    742好评

    成人做爰黄AA片免费下载

  • 白鹿摘下奶罩🐻让我爽了小说

    云缨疯狂❌喷水自慰爽18禁ai

    公交车日本无码特写

    54.15MB
    756好评

    囯严做受❌❌❌高潮A

  • 印度xxxxxxxxxxxx

    国产男女无套✅免费软件下载

    99在线无码精品㊙️竹菊

    57.20MB
    686好评

    捆绑㊙️免费视频网站

  • 女人打屁股♥网站╳

    91丨国产丨白浆㊙️洗澡动漫涙

    日本黄爽动漫kiss18🈲

    24.40MB
    353好评

    把熟女屁股眼玩出屎在线观看

  • 杨幂裸乳被爆❌白浆巧露

    印度高清❌❌❌O0

    厨房性饥渴XXXXXXHD

    13.35MB
    312好评

    坤坤如别人戳🍑里面的视频

  • 15后脱了内裤自慰❌在

    鲁大师影院免费高清观看

    动漫❌❌爆乳❌❌扶她毛茸茸

    84.08MB
    219好评

    李丽珍被躁120分钟在线播放

  • 女生扒开🍑给女生玩甸园

    欧美做受高潮小说宏文美记

    欧姜老熟妇性XXXXXX

    45.15MB
    738好评

    护士被❌羞羞产奶

  • 国产成人➕亚洲➕丝瓜Av

    原神大胸美女被❌黄网站

    明日香被扒开腿猛❌网站视频

    10.48MB
    184好评

    国产91❤边播边对白m

  • 黃色一级A片一毛片黄欢欢春雨

    精品蜜桃㊙️一区二区三

    田小玟被❌18禁同人动漫

    44.66MB
    366好评

    拉丝吻伸舌头👅无遮挡动漫

  • 潘多拉黄片软件下载

    体内裸交❌❌❌❌

    扒开胡桃❌狂揉❌难受com

    91.56MB
    206好评

    初高中女粉嫩小裸体69XX网站

  • секС女♀️人идеo

    女扑扒开🍑让客人添

    黄漫❌jk漫画

    30.84MB
    900好评

    变态男把🍌弄进我的🍑里视频

  • 扒开动漫❌狂揉❌羞羞3d91

    两年半成人版视频黄在线观看

    高清🔞❌♋免费视频下载

    30.90MB
    541好评

    莫妮卡被❌120分钟无码

  • 男男脱裤子露小jiji 🔞

    国产精品㊙️麻豆果冻传媒阿朱

    公妇乱婬100集

    29.56MB
    124好评

    小舞裸体❌开腿露出桃子的软件

  • 日本撒尿全过程㊙️免费

    重口㊙️猎奇在线观看

    爆桶美女在线观看❌❌❌❌

    70.26MB
    459好评

    扒开胡桃❌狂揉❌难受的漫画

  • 貂蝉的隐私㊙️视频网站图片足控❎❌❌免费视频 title="大胸美女㊙️…免费网站" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    ass中国女明星裸体pics

    91XXX.com

  • 国产精品㊙️入口福利姬婴井雪峰XXXX48🍆🍆🍆HD免费。 title="女人扒开㊙️让男人桶爽动画" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    成人久久18㊙️免费网址

    大美女🐻100%露出奶头视频

  • 疯狂××××吃奶视频mature熟女老熟妇pics title="被❌到爽🔞流片v36" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    Free❌❌❌左右影院

    男c女🔞黄㊙️❌B

{{.转码Keywords}} 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
包含 饿了么 的应用集
评论
  • 美女cos打开腿❌暴爽 0天前
    AAAAAA片黑毛B
  • 午夜精品18🈲视频 0天前
    禁🔞网站在线观看免费视频
  • 女女🔞被一堆玩具玩哭微博 4天前
    原神诺艾尔裸体❌开腿图片
  • 女教师洗澡一级特黄毛片 6天前
    小🐔🐔差进🍑里91
  • 宁荣荣张开双腿被强❌视频 7天前
    小🐔🐔伸进🐻🐻喷水成人直播
  • 宁容容裸体❌ 4天前
    naruto18❌tube video
  • 扌喿辶畐的小说 8天前
    爱情岛❤️AV永久入口
  • 国产成人AⅤ在线现看 0天前
    日本少妇睡觉X❌❌XHD
  • 动漫美女扒精光㊙️动漫 6天前
    欧美护士❌❌⭕⭕a
  • 女仆扒开🍑让男人玩🍆🍆 9天前
    Jennie疯狂❌喷水自慰网站