2025/09/06 23:01:39 1,579次浏览

本系列工作核心作者: 郭海洋(自动化所博士生)、 朱飞 (中科院香港院AI中心AP)、 曾繁虎 (自动化所硕士生)、 刘文卓 (自动化所博士生)、 赵宏博 (自动化所博士生)。通讯作者为自动化所博士生导师张煦尧研究员和刘成林研究员。团队长期从事人工智能研究,成果发表于 CVPR、ICCV、NeurIPS、ICLR、ACL、TPAMI、IJCV 等国际顶级会议与期刊。

近年来,生成式 AI 和多模态大模型在各领域取得了令人瞩目的进展。然而,在现实世界应用中,动态环境下的数据分布和任务需求不断变化,大模型如何在此背景下实现持续学习成为了重要挑战。为了应对这一问题,中国科学院自动化研究所联合中国科学院香港院 AI 中心系统性地研究了生成式 AI 和多模态大模型的持续学习,提出了一系列综述、方法、Benchmark 和 Codebase,为相关领域的研究者和实践者提供了全面支持。

生成式 AI 的持续学习综述

论文:Continual Learning for Generative AI: From LLMs to MLLMs and Beyond

研究动机:以大模型为代表的生成式 AI 模型的快速发展让现代智能系统具备了理解和生成复杂内容的能力,甚至在部分领域达到了接近人类的表现。然而,这些模型依旧面临着“灾难性遗忘”问题,即在学习新任务时,往往会导致已学任务性能的显著下降。为解决这一挑战,大量的研究提出了多种方法以增强生成式 AI 在实际应用中的适应性和扩展性。本文系统性地综述了生成式 AI 的持续学习方法,涵盖大语言模型(LLMs)、多模态大语言模型(MLLMs)、视觉语言动作模型(VLA)和扩散模型(Diffusion Models)。

图 1:生成式 AI 中的持续学习示意图

研究内容:本文围绕生成式 AI 的持续学习问题,系统性地综述了不同模型的训练目标、应用场景及技术方法。研究涵盖大语言模型在理解与生成中的知识保留与任务适应、多模态大模型处理跨模态数据时的抗遗忘能力、视觉语言动作模型在机器人动态环境中的行为迁移与适应,以及扩散模型针对个性化生成需求的增量学习。这些模型的持续学习方法主要包括架构扩展、正则化和回放策略,旨在平衡新任务学习与旧任务性能的保持。此外,研究还探讨了评估指标(整体性能、遗忘程度、泛化能力)和未来方向(高效机制、强化学习范式、多模态扩展等),为生成式 AI 的持续学习提供了全面参考。

图 2:持续学习方法分类图

多模态大模型持续学习:Benchmark 与方法

传统的持续学习任务多聚焦于单模态场景,如图像或文本分类,但随着应用需求的复杂化,多模态任务逐渐成为核心。为此,我们提出了一系列新的 Benchmark 和方法,旨在推动多模态大模型持续学习的发展。

论文 1:[ACL 2025] HiDe-LLaVA: Hierarchical Decoupling for Continual Instruction Tuning of Multimodal Large Language Model

研究动机:本文认为当前的多模态大模型的持续学习面临两大关键挑战:一是现有评测基准普遍存在与预训练数据重叠的问题,导致评估结果失真;二是传统方法难以平衡新任务学习与旧任务遗忘之间的矛盾。为此,本研究提出构建全新的UCIT评测基准,通过严格的 zero-shot 筛选机制,构建了全新的无信息泄露风险数据集。同时创新性地提出层次化解耦学习策略,旨在解决持续指令微调中的灾难性遗忘问题,为多模态大模型的持续学习提供可靠的评估框架和解决方案。

研究方法:本文通过 CKA 相似性分析揭示了模型不同层级的任务特性差异:顶层具有任务特异性,其余层则保持任务通用性。基于此,本文提出的HiDe-LLaVA采用分层处理机制:在顶层引入多模态锚点驱动的动态专家选择模块,实现任务自适应;在其余层采用参数融合策略保留跨任务共享知识。实验结果表明,该方法可以有效缓解模型的灾难性遗忘现象,并且有效平衡了模型性能与计算资源效率。

目前该研究已被ACL 2025主会接收,相关代码及数据已全部开源。

图 3:HiDe-LLaVA 模型框架示意图。

论文 2:[ICCV 2025] Federated Continual Instruction Tuning

研究动机:当前多模态大模型的指令微调面临集中训练成本高、实用性差的问题,而现有联邦学习方案在动态环境中难以实现持续学习与知识保留的平衡。为此,本文首次提出联邦连续指令微调(FCIT)基准,以解决分布式环境下持续学习的关键挑战。FCIT 基准包含同质(各客户端学习相同任务)和异质(各客户端学习不同任务)两种现实场景,通过 4 种实验设置和 12 个精选数据集,全面评估模型在非独立同分布数据和灾难性遗忘情况下的表现,为多模态大模型的联邦持续学习研究提供标准化评测框架。

图 4:FCIT 设定示意图

研究方法:为应对 FCIT 中的挑战,我们提出了DISCO框架,结合了 动态知识梳理(DKO) 和 子空间选择激活(SSA) 两种策略。DKO 利用全局服务器的动态缓存,存储并组织任务特定的参数,减少任务间和阶段间的冲突;SSA 则通过匹配输入特征与动态缓存中的任务子空间,选择性激活相关输出,同时过滤无关信息。实验结果表明,DISCO 在解决数据异质性和灾难性遗忘方面显著提升了模型性能,全面超越现有方法,并在 FCIT 基准上取得了最好的表现。

目前该研究已被ICCV 2025接收,相关代码及数据已全部开源。

论文 3:[EMNLP 2025]ModalPrompt: Dual-Modality Guided Prompt for Continual Learning of Large Multimodal Models

研究动机:为缓解多模态大模型持续学习任务中的灾难性遗忘现象,本文认为现有解决方案存在显著局限性:基于数据回放的方法面临隐私泄露风险和存储成本压力,而模型扩展策略则不可避免地引发计算资源的线性增长。值得注意的是,当前研究尚未充分探索多模态数据在持续学习中的协同监督潜力。而当前领域内缺乏专门针对多模态特性的持续学习框架,因此需要开发一种既能利用图像-文本双重监督、又能避免计算膨胀的新方法,以实现高效且隐私安全的知识持续积累。

图 5:ModalPrompt 模型框架示意图

研究方法:本文提出ModalPrompt框架,利用多模态监督,通过构建任务特定的图像文本原型提示,结合双模态引导提示选择和多任务提示融合机制,实现了在无回放数据的情况下有效保留旧任务知识并提升新任务性能。此外,该方法通过动态提示选择降低计算复杂度,使推理速度提升 1.42 倍,同时显著减少存储和训练成本。

目前该研究已被EMNLP 2025主会接收,相关代码已全部开源。

论文 4. MLLM-CL: Continual Learning for Multimodal Large Language Models

研究动机:本文认为现有的多模态大模型连续指令微调评测基准主要关注独立同分布(IID)场景下的领域知识评估,缺乏对模型基础能力(如 OCR、数学推理等)在非 IID 场景下的系统性评测。为此,本文提出了一个新的多模态大模型持续学习基准MLLM-CL,涵盖领域持续学习(DCL) 和能力持续学习(ACL) 两种设置,分别针对同分布(IID)和非同分布(non-IID)场景下的领域知识和基础能力学习进行评估。

图 6:MLLM-CL 基准示意图

研究方法:为解决灾难性遗忘问题,本文提出了MR-LoRA,通过领域或能力特定的 LoRA 模块实现参数隔离,避免任务间干扰,并设计了基于 MLLM 自身的多模态理解能力的路由选择器,仅需少量样本微调即可精准匹配输入与最优专家模块。实验表明,该方法在领域持续学习(DCL)和能力持续学习(ACL)任务上显著优于传统回放或模型扩展方法。

论文 5. LLaVA-c: Continual Improved Visual Instruction Tuning

研究动机:多模态大模型(如 LLaVA-1.5)在连续指令微调中面临的两大核心挑战:首先,传统的多任务联合训练存在任务平衡困难(需人工调整数据比例)和扩展成本高(新增任务需全量重训练)的固有缺陷;其次,现有持续学习方法虽能增量学习新任务,但普遍存在 "基础模型退化" 现象——模型过度拟合任务特定指令(如强制单字回答),丧失处理多样化指令的通用能力。

图 7:LLaVA-c 模型框架示意图

研究方法:本文提出了LLaVA-c,通过两个核心技术改进 LLaVA-1.5 模型:1)谱感知巩固(SAC),基于奇异值分解的模型融合策略有效克服新旧知识冲突,相比传统的模型混合策略提升了任务兼容性;2)无监督查询正则化(UIR),通过约束未标注文本指令的特征空间偏移(L2 距离损失)防止基础模型退化,在零额外标注成本下保持指令跟随能力。本文在预训练和指令微调两阶段上都验证了所提出方法的有效性,在通用评价基准和下游任务指标上均取得了最优的性能,并且首次实现持续学习效果超越多任务联合训练。

多模态大模型持续学习:代码仓库

论文:MCITlib: Multimodal Continual Instruction Tuning Library and Benchmark

研究动机:随着多模态大模型持续学习研究的蓬勃发展,各类创新方法和评估基准不断涌现,但研究社区始终缺乏一个系统化、标准化的开发与评测平台。为填补这一关键空白,我们推出了MCITlib,一个开源的多模态持续指令微调代码仓库。MCITlib 集成了当前领域内 8 种主流算法,精心挑选了两个高质量基准(UCIT 和 DCL),有效避免信息泄露,为研究者提供了一个统一、公平的实验环境,便于全面评估不同方法的优劣。

图 8:开源代码仓库 MCITlib

未来,MCITlib 也将持续进行更新,扩展更多模型、任务和评测维度,为多模态大模型持续学习研究提供坚实助力。

总结与展望

赋予以多模态大模型为代表的生成式 AI 持续学习的能力是迈向人工智能通用化的重要一步。我们希望通过系统的综述、完善的 Benchmark、前沿的方法和开源的工具,能够为这一领域的研究者和应用开发者提供更多支持。未来,我们团队将继续深耕多模态大模型持续学习领域,探索更广泛的应用场景,持续推动该领域技术的发展与创新。

多模态大模型持续学习,综述+Benchmark+方法+Codebase一网打尽
多模态大模型持续学习,综述+Benchmark+方法+Codebase一网打尽

协会称智能网联汽车屡现无底线营销

「活动」kumawubiaotitest

074.71MB
版本V3.501.38
下载祢豆子被❌黄漫免费安装你想要的应用 更方便 更快捷 发现更多
喜欢 51%好评(821人)
评论 16
多模态大模型持续学习,综述+Benchmark+方法+Codebase一网打尽截图0 多模态大模型持续学习,综述+Benchmark+方法+Codebase一网打尽截图1 多模态大模型持续学习,综述+Benchmark+方法+Codebase一网打尽截图2 多模态大模型持续学习,综述+Benchmark+方法+Codebase一网打尽截图3 多模态大模型持续学习,综述+Benchmark+方法+Codebase一网打尽截图4
详细信息
  • 软件大小: 1.36MB
  • 最后更新: 2025/09/06 23:01:39
  • 最新版本: V6.62.7
  • 文件格式: apk
  • 应用分类:ios-Android 草莓视频成人app❤免费ios
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.509以上
应用介绍
一,野外妓女B❌❌❌BXXX网站,男男GaysGay✅亚洲网站
二,丝袜美女尿网站❎XX,把白丝美女🌸吊起来揉搓污文-百度
三,丰满老妇高潮一级A片老妇女黄色片,成人🔞高潮片免费视频100
四,18🈲乳啊好湿迅速网站,国产色情性黄❌片免费网址
五,夫妻主VK,🔞🍌进🍑里❌❌❌游戏
六,扒开米塔❌狂揉下部,被❌到爽🔞流视频推特,美女㊙️裸体视频网站
七,永久免费🔞🔞🔞可自选
【联系我们】
客服热线:134-2881-646
加载更多
版本更新
V7.5.17
男人的🍌伸到🍑水APP
  • 免费看片在线

    粉嫩小泬无遮挡BBBBB软件

    免费➕无码➕国产无线

    6.47MB
    105好评

    扒开女人大荫蒂毛耸耸

  • 91丨国产丨白浆㊙️3

    精品➕无码➕无套内谢直播

    WWWXXX免费视频

    3.98MB
    45好评

    女人扒开腿㊙️打扑克免费。全部内容免费,无遮盖,无马赛克。

  • 欧美另类丰满熟妇乱Xx

    18🈲视频❌❌❌两年

    ㊙️韩漫漫画网站漫画

    13.58MB
    319好评

    ,老师脱👙让学生摸🐻

  • 红桃视频躁女人㊙️免费看片

    把男生的🐔放在男生的🍑里

    米塔资源库

    53.00MB
    278好评

    男女被❌到爽🔞流尿小说

  • 性猛交乱婬AV免费看网站下载

    男性自慰Gαy🔞furry网站

    钢手❌❌❌爆🈲🔞

    71.35MB
    703好评

    班长趴下让我❌了一节课作

  • 18🈲男女瑟瑟真人免费无遮挡

    白丝少萝疯狂❌喷水自慰漫画

    纲手被扒开腿做❌漫画

    83.45MB
    335好评

    免费观看范冰冰mv的软件下载

  • 美女脱👙给男主捏🐻电影

    www深夜成人🔞

    动漫美女裸体被❌涩涩动画网站

    23.12MB
    108好评

    中国男体育生洗澡㊙️

  • 韩19+vip+瑟妃内部视频

    女性脱👙给我揉🐻漫

    色情啪啪美女流水游戏🔞

    50.52MB
    923好评

    GAY无套✅小鲜肉

  • 美杜莎3D被❌吸乳羞羞3b

    男人私㊙️Gay玩奴调教小说

    中国少妇色❌❌❌❌

    83.65MB
    566好评

    免费🔞成人❌❌❌泡妞

  • 18🈲🍆🍑无套直导航视频

    男男Gay✅✅免费漫画

    亚洲另类⭕⭕⭕⭕XXXX18

    83.14MB
    758好评

    高清码🔞作爱视频

  • 美女露出❌❌部位撒尿

    动漫裸体❌羞羞网声音

    俏佳人新版本

    32.84MB
    627好评

    虐菊➕虐乳➕折磨

  • 女兵洗澡露黑毛视频播放

    云璃被狂❌到高潮的图片

    美女㊙️旗袍啪啪

    26.00MB
    276好评

    ❌❌美女女同性羞羞动漫

  • www.1688.com麻豆

    扒开🐻让我❌❌❌蜜桃视频

    chinese偷拍gototoilet5

    65.97MB
    747好评

    国产精品㊙️密入口导航AV

  • 火影忍者小南被❌到流水

    美女憋尿灌水㊙️网站

    伽罗裸体被爆❌的羞羞漫画

    54.77MB
    752好评

    亚洲AV㊙️无码八区

  • XXXXXXX泡妞🍆🍑网站

    高清乱码🔞❌♋入口

    男同被❌到爽🔞流羞羞扒开

    57.71MB
    687好评

    16女学生被❌c🐻扒衣服

  • 嗯~啊~快点🌿死我动漫

    国产精品系列在线播放

    美女被爆❌羞羞网站app下载

    24.57MB
    359好评

    免费看韩国美女㊙️隐私

  • 我把英语老师❌了一晚上网站

    沙奈朵同人18❌网趾

    美女又爽❌又黄❌丝袜被c

    13.93MB
    317好评

    国产精品香蕉🍌

  • 欧美性❌❌❌性潮喷33p

    泰国变性㊙️免费网站

    意大利男同视频在线免费看

    84.03MB
    215好评

    美女裸露全㊙️遮挡奶头视频

  • 四川少妇bb按摩视频

    日韩精品一区二区三区⋯

    鲁大师在线观看免费观看在线

    45.46MB
    738好评

    男女在床做爰A片高潮

  • 斩神红缨扒开腿坐做❌同人游戏

    日本AAAAA级婬片A片

    动漫❌❌❌❌流白浆

    10.83MB
    188好评

    91亚洲精品久久久久久久久久久久

  • 日本学生13一17A片

    八卦海被操啪啪的APP下载

    动漫🈚码18🈲免费网站

    44.29MB
    362好评

    bM48-CC

  • 布洛妮娅裸体❌开腿小说

    惩罚女扒开🍑用棉签和冰块动漫

    专门看强奸的软件

    91.86MB
    200好评

    动漫被❌到爽🔞流王者荣耀

  • 蘑菇TV成人网站❤️免费

    DJR.AS|A

    纲手被❌到喷水18禁免费看

    30.90MB
    901好评

    学生自慰✅免费网站

  • 甘雨模拟器1.3

    八重神子疯狂❌喷水自慰爽

    打中国美女白嫩㊙️屁屁网站

    30.21MB
    548好评

    国产做受69❌❌❌视

  • 哪里有毛片在线观看

    99杨晨晨被❌

    日本成熟婬A片高清观看l

    29.92MB
    126好评

    ♥桃花视频♥入口在线看

  • 男性GAY无套国产✅G片图片

    逼特逼性爱最新发布页

    水蜜桃处破女A片60分钟粉嫩

    70.35MB
    450好评

    变态摸🍑揉🐻樱花校园

  • 国产5G精品㊙️入口草莓🍓香蕉🍌视频 title="四川富婆玩茎活做爰" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    XXXX🍑🍆泡妞免费

    白丝校🌸扒开腿自慰软件

  • 申鹤疯狂❌️自慰爽亚洲AV㊙️无码一区楪カレン title="㊙️漫画" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    欧洲肥胖少妇超级特黄BBBB大片

    maturemilfXXXXmature

  • 色情性❌片涩涩涩黄游河南少妇搡BBBB搡BBBB title="中国奶奶A级" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    美女被❌吸乳得到大胸91

    美女被触手狂揉下部❌动图

{{.转码Keywords}} 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
包含 饿了么 的应用集
评论
  • Ai男明星被❌到喷水18禁视频网站 2天前
    成人私人🔞YouTube
  • www成人🔞色情最强萝 4天前
    美女脱👙露出🐻让男人揉捏
  • 小🐥🐥伸入🍑游戏 2天前
    看裸体🔞🔞🔞网站蓝莓
  • 男生的坤坤放到女生的坤里 2天前
    国产➕白浆➕喷水动漫
  • 91禁🍆🍑🔞❌❌❌电视剧 2天前
    91|竹菊丨国产熟女❤
  • p站码无精品㊙️ 2天前
    大胸女被🔞黄㊙️动漫❌
  • 老太婆大黑BBBBBB 2天前
    ㊙️羞羞漫画在线入口
  • 偷拍美女拉屎❌❌❌网站 0天前
    Gαy❤♂yαoi漫画
  • 💚奇优影院️手机在线观看 7天前
    中国老头吃嫩草HD
  • 91♥️丨PORNY丨动漫 8天前
    🔯黄🔯色情网🔯炮🔯