魈被疯狂揉捏下部❌同人图片 最近更新| 安卓软件| 安卓游戏| 电脑版| 手机版

当前位置: 首页 单机游戏 冒险解谜

v3.7.1.80

猜你喜欢
分类:单机 / 冒险解谜 大小:6.81 MB 授权:免费游戏
语言:中文 更新:2025/09/08 22:52:49 等级:
平台:Android 厂商: 日逼黃片 官网:暂无
权限: 查看
允许程序访问网络.
备案:湘ICP备2023018554号-3A
标签: 男女之间爆乳18🔞 中国♂露jiji㊙️网站 成人免费视频🔞国产免费麻豆,
详情
介绍
猜你喜欢
相关版本

截图

内容详情

Metal 田栩宁

清华大学食堂吃四顿能花多少钱

九门全阵容官宣

装修前问问猫的意见第一视角体验工具维修师傅的日常 2025/09/08 22:52:49

    • 编辑:admin

    2025/09/08 22:52:49

    胡(hu)寒(han)笑】
我们的宿舍集体干杯

Metal 田栩宁

国内外AI大厂重押,初创梭哈,谁能凭记忆成为下一个DeepSeek?

机器之心报道

作者:Youli

「记忆」会是引爆新一轮 AI 浪潮的最后一块拼图吗?

如果时间往前推半年或四五个月,业界对于这一问题可能都是疑惑、不解:彼时 DeepSeek 将大模型推理能力推至高潮引起的余波仍在蔓延,Manus 在全球范围内开启通用 AI Agent 新叙事,人们正沉浸在技术和应用双面开花带来的热闹、狂欢中……「记忆」,有什么好说的?

然而时至今日,推理已然成为各大模型标配,「百 Agent 混战」的背后,「通用 Agent」一席仍旧空缺。技术演进曲线的放缓和爆发式应用到来的「遥遥无期」,开始让业界意识到,下一轮 AI 智能提升的关键在于,让 AI 能够像人类一样持续学习积累经验、适应新任务而不遗忘旧知识,同时实现长上下文的高效理解。

换句话说,就是让大模型拥有像人类一样的「记忆」能力。或许有人会问,当前大模型似乎依靠长文本、外部数据库已经有「记忆」?

是,也不是。如果按照业界呼唤的「类人记忆」这一范畴来看,现在我们所讨论的「记忆」,是指大模型能够具备人类对记忆的组织、检索、应用方式,是一种相较于当前大模型「短期记忆」的「长期记忆」或「终身记忆」。

其实,从国内外大模型从业者的一些操作中也可以感知到「记忆」在业界的「变热」,尤其是刚刚过去的 8 月:

8 月 12 日,Anthropic 宣布旗下聊天机器人 Claude 具有记忆功能,对话中可根据搜索过去对话,在新的聊天中寻找及引用相关资讯,让双方能够无缝地持续讨论,「不必每次都从头开始」。

随后 13 日,谷歌宣布 Gemini 也已配备记忆能力,且支持跨越多次对话,从用户交流中提炼关键细节和偏好,并在下一次交互时主动调用,让对话更自然、更连贯。

8 月 14 日,字节跳动 Seed 团队发布 M3-Agent 系统,首次让 AI 具备了类似人类的长期记忆和推理能力,且不再仅限于文本,已然扩展到视频、音频等多模态中。

8 月 20 日,OpenAI CEO Sam Altman 在发布 GPT-5 后,谈及 GPT-6 的设计愿景时提到,他希望未来的 ChatGPT 版本能够让用户定义语气和个性,而其中关键就在于「记忆」,这将是 GPT-6 的重点所在。

其实早在去年 2 月的时候,OpenAI 已经在 ChatGPT 上线记忆功能。

而今年 4 月,马斯克的 xAI 也宣称 Grok 已经能够记住多轮对话内容。

最新的消息是,又有一个玩家「跑步入场」——Mistral AI,宣布开始引入「记忆」系统,已与 20 多个由 MCP 提供支持的企业平台集成,试图通过记忆来记住重要的事情……

越来越多的玩家开始入局、押注「记忆」。基于此,机器之心与业界从业者进行了交流,我们发现: 围绕「记忆」的研究将是接下来大模型的新方向,而谁能率先让大模型拥有像人类一样的「记忆」能力,谁就掌握了主动权。

「记忆」能力,是此刻 AI 技术侧和应用侧的双重诉求

虽然国内外 AI 厂商最近纷纷扎堆推出「记忆」相关产品,但实际上,在学术界,意识到应该将 AI 与记忆相结合的研究要开始得更早一些。

记忆张量 CTO 李志宇告诉机器之心, 大概是从 2023 年年底开始的。

记忆张量是一家聚焦 Agent Memory 的初创企业,推出了业界首个记忆操作系统,也是业界最早关注到这一领域的研究团队之一。2024 年 7 月,中国科学院院士鄂维南牵头主导,杨泓康、熊飞宇、李志宇等人参与研发的记忆分层大模型 ——Memory³(忆立方)正式发布,该模型开创性地将参数拆解为隐性记忆、显性记忆和外置记忆库,以优化推理效率并降低幻觉问题。一经发布,便引起关注,并在后续被 Meta、Google 等团队跟进。而大多数参与成员则是记忆张量的初始团队成员。

李志宇告诉机器之心,虽然早早开始推进「记忆」相关研究,但其实内心也并非那么笃定。

怎么理解?

回顾那一时间段,业界正沉浸在 Scaling Law 是 LLM 第一性原理的叙事中,各大模型厂商忙着堆算力、堆数据,来换取大模型性能提升,但现实是算力匮乏,大厂可以依靠资金与资源上的累积来「大力出奇迹」,但这对许多开发基座模型的团队来说就是一个巨大成本负担,根本比不过。

基于此,团队开始思考能不能从基础理论角度把大模型再「拆开」,看看是否还有可提升空间? 「如果某一时刻,当下的 Scaling Law 失效,另一条 Scaling 路线又会是什么?」

一番研究后发现, 其实没必要把所有知识(记忆)都压缩进大模型参数空间,只需把公共常识或推理能力压缩进去 ,而对于那些细碎知识,保证让它在需要用这条具体记忆时能够去检索、使用、与模型一起做推理就够了。团队便试着将模型参数记忆按照显性记忆、隐性记忆和外部记忆做分层建模,以便获得更好的性能提升。

结果很明显,「赌」对了,这是一条具有开创意义的道路,之后团队便继续沿着这一路线进行大模型「记忆」能力的探索……

而腾讯 AI Lab 专家研究员王琰开始感知到大模型「记忆」能力的重要, 也是在 2023 年年底,不同的是,他是从应用侧感知到的。

腾讯 AI Lab 是腾讯推出的企业级 AI 实验室,成立于 2016 年 4 月,致力于推动 AGI 发展,研究方向涵盖 NLP、语音、CV、游戏等多个领域。据了解,AI Lab 是业界最早进行利用 RAG 提升模型「记忆」能力的研究团队之一,相关研究曾获得 2021 年 ACL 杰出论文奖。

王琰告诉机器之心,当时他正在开发一款游戏 Agent,其中最重要的一个功能是「陪伴」,比如玩家玩了一年的游戏,那 Agent 就应该记得玩家这一年在游戏里所发生的事情,这就意味着 Agent 需要「终身记忆」。但明显,当时模型的「记忆」能力根本达不到这一诉求。

那时大模型应用主要集中在对话产品,一种主流观点认为,长文本(Long Context)就是一切,或将是通往 AGI 的最佳路径。「如果我们有无限长的 Long Context,我们就能解决任何问题」,是大多数业内人士所坚信的。

但在游戏 Agent 的研究实践上,让王琰意识到不是这么回事。

Long Context 生成方面的研究主要集中在长度外推和扩充窗口长度上,其主要思想是在模型的 KV states 中尽可能多且有效地储存上文信息,并让模型在推理时候尽可能准确用好这些信息。

但这种理念仅适用于对话场景,因为对话场景的 state(状态)不会改变,可 Agent 不同,Agent 场景的一个特点就是场景周围环境随时变化,即 state 随时变化,如果这种变化以 Long Context 形式注入,Context Window 分分钟就要「爆炸」。

当然,扩 Context Window 也是一种有效办法,可更长的上下文意味着更大的显存消耗,「这是个根本无法承受的成本。」

意识到这一点,王琰开始探索新方法。2024 年 1 月,新方法初见成效。

这是一种全新思路: 将上文信息储存在模型参数,而非 KV cache 中,来降低对 KV states 的依赖。 这些用来储存上文信息的参数被集中在一个临时的 Lora 模块(Temp-Lora)中,推理过程不断拿模型生成的 token 训练这一模块,以实现历史信息存储。

结合他在游戏 Agent 的开发上来看,这是一个参数化记忆,用一个 Lora 模块来记载 Agent 与玩家过去的交互历史,让模型实现类似「终身记忆」的能力。

很明显,在获悉早期从业者之所以进行「记忆」能力相关研究的「缘起」后,对于当下各大模型厂商不断重申「记忆」的重要性也就不难理解: 这是技术侧和应用侧的双重诉求。

从技术层面来看,如果说 2023 年年底,只是少数人担心 Scaling Law 会失效,那么现在不管是 OpenAI 还是其他 AI 大厂都已经清楚认识到,过去几年通过堆算力、参数量来获得性能提升的「边际效应」已经明显下降,即便再去堆成倍的算力,都拿不到 10% 甚至 5% 的能力突破,仅仅依靠「大」已经无法把模型性能,或者在应用场景的能力进行比较好的提升。他们同样也想要去寻找新的技术范式。

「技术本身的瓶颈导致大家开始寻找新方向。」李志宇说道。

他认为,从这个角度来看,如果用人类来类比大模型,人与动物的不同在于,一是人会制造和使用工具,这对应的是(模型)MCP 这一层的能力。另外一点是,人能够总结、思考和反馈,并且形成记忆,然后让「记忆」在人类整个文明传承过程当中,被不断建模、重构以获得进一步性能提升。如今看来,模型工具层面已经做完了,而且更多是横向过程(MCP 层级),接下来大家想要突破的可能就是「记忆」这个口子了。

从应用层面来看,当前 AI Agent 已是大模型主流叙事,数量上「百 Agent」竞相狂奔的盛景已是事实。能力上,大家对于模型本身的要求越来越高,不再是最开始仅作为单一工具去解决瞬时问题,而是把 AI 当成合作伙伴或秘书去解决更为长期的问题,这就需要它能够记住之前的交互与反馈。

「这种情况下,模型终身记忆,而且是不依赖 Context Window 的终身记忆就成为非常重要的事情了。」王琰说道。

Agent 想要取得突破性进展,「记忆」是必不可少的一个环节。

技术尚未收敛,路径抉择不一

当前,随着市场上开始重视模型「记忆」能力的大模型厂商越来越多,「记忆」前面的限定词也变得五花八门,「终身记忆」「持久记忆」「全局记忆」「个性化记忆」等术语不断涌现。

在李志宇看来,这是因为单纯谈「记忆」本身对于普通用户的理解成本较高,所以 各大厂商在命名时会在前面加限定词,一定程度上也代表了各自的技术侧重点不同。

比如,OpenAI 提及的是「全局记忆」,更像是对应于 Anthropic 提出的「局部记忆」概念的映射。前者认为记忆应该无处不在,在用户可能用到的地方随时随地出现,所以「全局记忆」是从覆盖面上考虑的,而「终身或持久记忆」是基于时间线角度的考量。归根究底,「记忆」能力的重点在于如何把大模型记忆本身或 AI 应用的记忆本身这件事情做好。

目前来看,当前业界对于大模型「记忆」能力的研究主要有这样几种路线。

一是参数化记忆, 是架构层面,基于基座模型本身的驱动融合记忆创新,去解决记忆问题。目标是让模型从参数层面自己能够区分哪些是需要被作为「记忆」去检索和建模,然后在推理过程中融合到前向推理过程中。

参数化记忆也分两种,一种是直接基于目前模型主流的 Transformer 架构展开研究,比如 Temp-Lora 方法,就是用 Lora 模块来记录过去的对话历史。

另外一种是采用非 Transformer 架构。比如,谷歌推出 Titans 架构,提出三级记忆(短期 / 长期 / 持久记忆),用「惊讶度」机制动态更新记忆;Meta 的研究突破在于将 Transformer 中的前馈网络(FFN)替换为记忆层,并保持其他部分不变;国内的非 Transformer 架构 RWKV 等。

李志宇认为,这一路线的好处在于整体理论上限非常高,(做得好的话)可能突破现有的模型「记忆」,对于时间、人物、连续性的感知问题都能够有较好解决方案。但问题也很明显,「研发成本非常高,短期内落地难度比较大。」

王琰持相似看法。在他看来,当前市场上有多种非 Transformer 模型架构宣称自己有「长期记忆」能力,但问题在于这种「长期」局限于架构,就像人脑容量一样,是有上限的。这就导致这些所谓的「长期记忆」模型在长期记忆上「打不过」只有短期记忆的 Transformer,因为 Transformer 可以通过堆硬件来解决,实现「长期记忆」。

二是上下文记忆(上下文工程), 即将模型需要知道的信息以 prompt 方式放在 Context Window 中,当模型开始推理之前可以先浏览一遍获取相应信息。Manus 是一家典型将上下文工程做到极致的公司,近期研究中不断强调在 Agent 交互过程中更好地做 KV cache 管理(KV cache 管理本质上就是一种记忆管理形式),尽可能让不同 Agent 之间能够复用一些「记忆」。

但局限性也很明显,上下文工程是基于人类智慧来指挥,那当模型推理出错时就容易混淆,到底是上下文工程出错还是模型本身出错?当前并没有一个自动化机制来评判,所以最后上下文工程容易变成纯粹的工程事情。

三是外部数据库 / RAG, 即将信息存储在模型外部数据库中(如向量数据库),在需要时通过 RAG 将最相关内容取回,注入到当前 Context Window 中,为模型提供决策依据。

从研究上来看,现有 RAG 最终目的是让模型每次搜索都一定返回正确结果,可即便是人类用搜索引擎也会经常修改关键词,所以难以保证搜索时能够找到自己想要的内容。为此,就不得不修改检索算法,但这也并非易事,甚至需要扩大团队规模来专门做这件事,最后往往变成大家都在做 RAG,并非模型本身,本末倒置。而且这显然也无法通过训练来实现模型整体性能提升,所以虽然看似工程上广泛使用,但上限低。

很明显,每一条路线都有各自优势与局限性,短期内并没有一个最优解,有些玩家甚至选择的不是单一路线,而是探索多种路线的融合。

王琰认为,这是由于当前技术路线还未收敛,按照各自路线进行探索与改进,都会带来一定程度上模型「记忆」能力的提升。因为大家诉求一致,「能够用尽量少的代价来记忆得尽量牢。」王琰说道,根据这一诉求, 未来模型「记忆」能力无非就是在围绕记忆的压缩比与保真度这两个事情在做。

同样,李志宇也这样认为, 当前有关模型「记忆」的研究还处于早期阶段,各种路线的解题思路其实都是围绕如何用空间换时间,或者如何在有限的空间内提高模型整体的推理和应用效率。

据了解,目前王琰及其所在团队正全力攻关具有 Inference Time Training 能力的新型模型架构,即在推理过程中不断的把过去历史储存到模型的参数区中,也就是参数化记忆。

而相较于常规路线划分,李志宇更倾向于把上下文工程与 RAG + 外部数据库这种形式归为一类,因为它们更多是从应用层面解决记忆机制实现问题,且本质都是一种「外挂记忆」,上限比较明显。

路线上则选择了一条折中方式,即将目前基模能落地的一部分加上应用工程创新能落地的一部分,两者相互结合,打造出一套能够解决问题的记忆框架,这也正是当前记忆张量在做的事情,并推出面向大模型的开源记忆操作系统 MemOS。

谁能凭借「记忆」再造一个「DeepSeek」?

虽然关于模型「记忆」能力的路线划分复杂、多样,但其实从玩家来看,当前业界主要有两类玩家。

一类是像 OpenAI、Anthropic、Google 这类 AI 厂商,他们有自己 ToC 向 Chat 服务,在这一类的服务里面,他们更多是想通过引入「长短期记忆」能力来达成个性化服务目标。

当然,可能各个厂商所要达成个性化能力本身会有差异,像是 OpenAI 强调「全局记忆」,Anthropic 强调的是「局部记忆」按需使用,但本质诉求更多是想借助「记忆」的个性化能力来留住用户。

另一类是「记忆」的中间件服务商,类似于 Mem0 或者记忆张量的 MemOS ,以及 Zep 等开源的记忆框架,它们更多是扮演大模型到应用层的中间件角色,面向更为广泛的开发者,希望开发者和相关应用产品能够体会到,类似于 OpenAI 在自己产品里面展现的「记忆」能力增强所带来的体验和性能变化。

而围绕着两类玩家在模型「记忆」能力上的诉求不同,他们各自的商业模式也或将发生变化。

比如对于 OpenAI 这样的大厂来说,他们的目标是让用户在自家的 APP 类产品上高频使用、形成越多越多的「记忆」,继而在自家 APP 上沉淀、形成粘性,之后一旦用户绑定,可能就很难再挪到其他地方去。从这个角度来说,他们希望用户能相对独立、在自家场景池子里沉淀出「独家记忆」。

而对于初创企业来说,他们希望更多的开发者或企业能够快速去具备「记忆」能力,同时让大家形成一个可共享的记忆中枢,随着越来越多的 APP 联合去做记忆的共享、中枢的管理,就会形成对原有中心化的「去中心化」,同时也会形成一个新的中心化记忆平台。

这种记忆平台或许能够立体刻画这个用户的所有事情,比如对用户在工作场景、生活场景的经历、偏好等,有一个立体记忆能力,而这种记忆是能够增强他在使用任何与 AI 相关 APP 上的体验。

Mistral AI 的最新动作,无疑是这类玩家的一个典型代表,宣布免费、大幅扩展其企业级业务平台 Le Chat,并已经和 20 多家平台集成。而这一动作也被视为是在试图通过提供先进的「记忆」功能和广泛的第三方集成,来打破已有的 AI 市场竞争格局……

由此看来, AI 战场已经升级,在新一轮围绕「记忆」能力构建的竞赛中,各类玩家是一个互相角力的状态,战况胶着,谁都有可能「跑」出来。 而前面也已经提到,「记忆」能力,是模型技术层面和应用层的双重诉求,一旦取得突破性进展,那么无疑将再现「DeepSeek 时刻」「Manus 时刻」。

而从当前 AI「记忆」能力的发展状况来看,目前留给各大玩家的时间也不是「很多」。

按照李志宇的理解,如果将模型「记忆」能力按照抽取、存储、更新、调度、应用、治理六个维度划分, 那我们可能距离真正能够在大范围去用,并且大家能够感受到它给我们生活带来无处不在变化的话,可能还需要一到两年的时间。

而如果想要达到治理层面,也就是 解决模型「记忆」本身的幻觉问题、隐私保障,甚至立法等问题的话,至少可能还要三到五年的时间。

未来,到底是谁将再现「DeepSeek 时刻」,目前看来是「乾坤未定,一切皆有可能是黑马」。

  优酷年度片单 

机器之心报道

作者:Youli

「记忆」会是引爆新一轮 AI 浪潮的最后一块拼图吗?

如果时间往前推半年或四五个月,业界对于这一问题可能都是疑惑、不解:彼时 DeepSeek 将大模型推理能力推至高潮引起的余波仍在蔓延,Manus 在全球范围内开启通用 AI Agent 新叙事,人们正沉浸在技术和应用双面开花带来的热闹、狂欢中……「记忆」,有什么好说的?

然而时至今日,推理已然成为各大模型标配,「百 Agent 混战」的背后,「通用 Agent」一席仍旧空缺。技术演进曲线的放缓和爆发式应用到来的「遥遥无期」,开始让业界意识到,下一轮 AI 智能提升的关键在于,让 AI 能够像人类一样持续学习积累经验、适应新任务而不遗忘旧知识,同时实现长上下文的高效理解。

换句话说,就是让大模型拥有像人类一样的「记忆」能力。或许有人会问,当前大模型似乎依靠长文本、外部数据库已经有「记忆」?

是,也不是。如果按照业界呼唤的「类人记忆」这一范畴来看,现在我们所讨论的「记忆」,是指大模型能够具备人类对记忆的组织、检索、应用方式,是一种相较于当前大模型「短期记忆」的「长期记忆」或「终身记忆」。

其实,从国内外大模型从业者的一些操作中也可以感知到「记忆」在业界的「变热」,尤其是刚刚过去的 8 月:

8 月 12 日,Anthropic 宣布旗下聊天机器人 Claude 具有记忆功能,对话中可根据搜索过去对话,在新的聊天中寻找及引用相关资讯,让双方能够无缝地持续讨论,「不必每次都从头开始」。

随后 13 日,谷歌宣布 Gemini 也已配备记忆能力,且支持跨越多次对话,从用户交流中提炼关键细节和偏好,并在下一次交互时主动调用,让对话更自然、更连贯。

8 月 14 日,字节跳动 Seed 团队发布 M3-Agent 系统,首次让 AI 具备了类似人类的长期记忆和推理能力,且不再仅限于文本,已然扩展到视频、音频等多模态中。

8 月 20 日,OpenAI CEO Sam Altman 在发布 GPT-5 后,谈及 GPT-6 的设计愿景时提到,他希望未来的 ChatGPT 版本能够让用户定义语气和个性,而其中关键就在于「记忆」,这将是 GPT-6 的重点所在。

其实早在去年 2 月的时候,OpenAI 已经在 ChatGPT 上线记忆功能。

而今年 4 月,马斯克的 xAI 也宣称 Grok 已经能够记住多轮对话内容。

最新的消息是,又有一个玩家「跑步入场」——Mistral AI,宣布开始引入「记忆」系统,已与 20 多个由 MCP 提供支持的企业平台集成,试图通过记忆来记住重要的事情……

越来越多的玩家开始入局、押注「记忆」。基于此,机器之心与业界从业者进行了交流,我们发现: 围绕「记忆」的研究将是接下来大模型的新方向,而谁能率先让大模型拥有像人类一样的「记忆」能力,谁就掌握了主动权。

「记忆」能力,是此刻 AI 技术侧和应用侧的双重诉求

虽然国内外 AI 厂商最近纷纷扎堆推出「记忆」相关产品,但实际上,在学术界,意识到应该将 AI 与记忆相结合的研究要开始得更早一些。

记忆张量 CTO 李志宇告诉机器之心, 大概是从 2023 年年底开始的。

记忆张量是一家聚焦 Agent Memory 的初创企业,推出了业界首个记忆操作系统,也是业界最早关注到这一领域的研究团队之一。2024 年 7 月,中国科学院院士鄂维南牵头主导,杨泓康、熊飞宇、李志宇等人参与研发的记忆分层大模型 ——Memory³(忆立方)正式发布,该模型开创性地将参数拆解为隐性记忆、显性记忆和外置记忆库,以优化推理效率并降低幻觉问题。一经发布,便引起关注,并在后续被 Meta、Google 等团队跟进。而大多数参与成员则是记忆张量的初始团队成员。

李志宇告诉机器之心,虽然早早开始推进「记忆」相关研究,但其实内心也并非那么笃定。

怎么理解?

回顾那一时间段,业界正沉浸在 Scaling Law 是 LLM 第一性原理的叙事中,各大模型厂商忙着堆算力、堆数据,来换取大模型性能提升,但现实是算力匮乏,大厂可以依靠资金与资源上的累积来「大力出奇迹」,但这对许多开发基座模型的团队来说就是一个巨大成本负担,根本比不过。

基于此,团队开始思考能不能从基础理论角度把大模型再「拆开」,看看是否还有可提升空间? 「如果某一时刻,当下的 Scaling Law 失效,另一条 Scaling 路线又会是什么?」

一番研究后发现, 其实没必要把所有知识(记忆)都压缩进大模型参数空间,只需把公共常识或推理能力压缩进去 ,而对于那些细碎知识,保证让它在需要用这条具体记忆时能够去检索、使用、与模型一起做推理就够了。团队便试着将模型参数记忆按照显性记忆、隐性记忆和外部记忆做分层建模,以便获得更好的性能提升。

结果很明显,「赌」对了,这是一条具有开创意义的道路,之后团队便继续沿着这一路线进行大模型「记忆」能力的探索……

而腾讯 AI Lab 专家研究员王琰开始感知到大模型「记忆」能力的重要, 也是在 2023 年年底,不同的是,他是从应用侧感知到的。

腾讯 AI Lab 是腾讯推出的企业级 AI 实验室,成立于 2016 年 4 月,致力于推动 AGI 发展,研究方向涵盖 NLP、语音、CV、游戏等多个领域。据了解,AI Lab 是业界最早进行利用 RAG 提升模型「记忆」能力的研究团队之一,相关研究曾获得 2021 年 ACL 杰出论文奖。

王琰告诉机器之心,当时他正在开发一款游戏 Agent,其中最重要的一个功能是「陪伴」,比如玩家玩了一年的游戏,那 Agent 就应该记得玩家这一年在游戏里所发生的事情,这就意味着 Agent 需要「终身记忆」。但明显,当时模型的「记忆」能力根本达不到这一诉求。

那时大模型应用主要集中在对话产品,一种主流观点认为,长文本(Long Context)就是一切,或将是通往 AGI 的最佳路径。「如果我们有无限长的 Long Context,我们就能解决任何问题」,是大多数业内人士所坚信的。

但在游戏 Agent 的研究实践上,让王琰意识到不是这么回事。

Long Context 生成方面的研究主要集中在长度外推和扩充窗口长度上,其主要思想是在模型的 KV states 中尽可能多且有效地储存上文信息,并让模型在推理时候尽可能准确用好这些信息。

但这种理念仅适用于对话场景,因为对话场景的 state(状态)不会改变,可 Agent 不同,Agent 场景的一个特点就是场景周围环境随时变化,即 state 随时变化,如果这种变化以 Long Context 形式注入,Context Window 分分钟就要「爆炸」。

当然,扩 Context Window 也是一种有效办法,可更长的上下文意味着更大的显存消耗,「这是个根本无法承受的成本。」

意识到这一点,王琰开始探索新方法。2024 年 1 月,新方法初见成效。

这是一种全新思路: 将上文信息储存在模型参数,而非 KV cache 中,来降低对 KV states 的依赖。 这些用来储存上文信息的参数被集中在一个临时的 Lora 模块(Temp-Lora)中,推理过程不断拿模型生成的 token 训练这一模块,以实现历史信息存储。

结合他在游戏 Agent 的开发上来看,这是一个参数化记忆,用一个 Lora 模块来记载 Agent 与玩家过去的交互历史,让模型实现类似「终身记忆」的能力。

很明显,在获悉早期从业者之所以进行「记忆」能力相关研究的「缘起」后,对于当下各大模型厂商不断重申「记忆」的重要性也就不难理解: 这是技术侧和应用侧的双重诉求。

从技术层面来看,如果说 2023 年年底,只是少数人担心 Scaling Law 会失效,那么现在不管是 OpenAI 还是其他 AI 大厂都已经清楚认识到,过去几年通过堆算力、参数量来获得性能提升的「边际效应」已经明显下降,即便再去堆成倍的算力,都拿不到 10% 甚至 5% 的能力突破,仅仅依靠「大」已经无法把模型性能,或者在应用场景的能力进行比较好的提升。他们同样也想要去寻找新的技术范式。

「技术本身的瓶颈导致大家开始寻找新方向。」李志宇说道。

他认为,从这个角度来看,如果用人类来类比大模型,人与动物的不同在于,一是人会制造和使用工具,这对应的是(模型)MCP 这一层的能力。另外一点是,人能够总结、思考和反馈,并且形成记忆,然后让「记忆」在人类整个文明传承过程当中,被不断建模、重构以获得进一步性能提升。如今看来,模型工具层面已经做完了,而且更多是横向过程(MCP 层级),接下来大家想要突破的可能就是「记忆」这个口子了。

从应用层面来看,当前 AI Agent 已是大模型主流叙事,数量上「百 Agent」竞相狂奔的盛景已是事实。能力上,大家对于模型本身的要求越来越高,不再是最开始仅作为单一工具去解决瞬时问题,而是把 AI 当成合作伙伴或秘书去解决更为长期的问题,这就需要它能够记住之前的交互与反馈。

「这种情况下,模型终身记忆,而且是不依赖 Context Window 的终身记忆就成为非常重要的事情了。」王琰说道。

Agent 想要取得突破性进展,「记忆」是必不可少的一个环节。

技术尚未收敛,路径抉择不一

当前,随着市场上开始重视模型「记忆」能力的大模型厂商越来越多,「记忆」前面的限定词也变得五花八门,「终身记忆」「持久记忆」「全局记忆」「个性化记忆」等术语不断涌现。

在李志宇看来,这是因为单纯谈「记忆」本身对于普通用户的理解成本较高,所以 各大厂商在命名时会在前面加限定词,一定程度上也代表了各自的技术侧重点不同。

比如,OpenAI 提及的是「全局记忆」,更像是对应于 Anthropic 提出的「局部记忆」概念的映射。前者认为记忆应该无处不在,在用户可能用到的地方随时随地出现,所以「全局记忆」是从覆盖面上考虑的,而「终身或持久记忆」是基于时间线角度的考量。归根究底,「记忆」能力的重点在于如何把大模型记忆本身或 AI 应用的记忆本身这件事情做好。

目前来看,当前业界对于大模型「记忆」能力的研究主要有这样几种路线。

一是参数化记忆, 是架构层面,基于基座模型本身的驱动融合记忆创新,去解决记忆问题。目标是让模型从参数层面自己能够区分哪些是需要被作为「记忆」去检索和建模,然后在推理过程中融合到前向推理过程中。

参数化记忆也分两种,一种是直接基于目前模型主流的 Transformer 架构展开研究,比如 Temp-Lora 方法,就是用 Lora 模块来记录过去的对话历史。

另外一种是采用非 Transformer 架构。比如,谷歌推出 Titans 架构,提出三级记忆(短期 / 长期 / 持久记忆),用「惊讶度」机制动态更新记忆;Meta 的研究突破在于将 Transformer 中的前馈网络(FFN)替换为记忆层,并保持其他部分不变;国内的非 Transformer 架构 RWKV 等。

李志宇认为,这一路线的好处在于整体理论上限非常高,(做得好的话)可能突破现有的模型「记忆」,对于时间、人物、连续性的感知问题都能够有较好解决方案。但问题也很明显,「研发成本非常高,短期内落地难度比较大。」

王琰持相似看法。在他看来,当前市场上有多种非 Transformer 模型架构宣称自己有「长期记忆」能力,但问题在于这种「长期」局限于架构,就像人脑容量一样,是有上限的。这就导致这些所谓的「长期记忆」模型在长期记忆上「打不过」只有短期记忆的 Transformer,因为 Transformer 可以通过堆硬件来解决,实现「长期记忆」。

二是上下文记忆(上下文工程), 即将模型需要知道的信息以 prompt 方式放在 Context Window 中,当模型开始推理之前可以先浏览一遍获取相应信息。Manus 是一家典型将上下文工程做到极致的公司,近期研究中不断强调在 Agent 交互过程中更好地做 KV cache 管理(KV cache 管理本质上就是一种记忆管理形式),尽可能让不同 Agent 之间能够复用一些「记忆」。

但局限性也很明显,上下文工程是基于人类智慧来指挥,那当模型推理出错时就容易混淆,到底是上下文工程出错还是模型本身出错?当前并没有一个自动化机制来评判,所以最后上下文工程容易变成纯粹的工程事情。

三是外部数据库 / RAG, 即将信息存储在模型外部数据库中(如向量数据库),在需要时通过 RAG 将最相关内容取回,注入到当前 Context Window 中,为模型提供决策依据。

从研究上来看,现有 RAG 最终目的是让模型每次搜索都一定返回正确结果,可即便是人类用搜索引擎也会经常修改关键词,所以难以保证搜索时能够找到自己想要的内容。为此,就不得不修改检索算法,但这也并非易事,甚至需要扩大团队规模来专门做这件事,最后往往变成大家都在做 RAG,并非模型本身,本末倒置。而且这显然也无法通过训练来实现模型整体性能提升,所以虽然看似工程上广泛使用,但上限低。

很明显,每一条路线都有各自优势与局限性,短期内并没有一个最优解,有些玩家甚至选择的不是单一路线,而是探索多种路线的融合。

王琰认为,这是由于当前技术路线还未收敛,按照各自路线进行探索与改进,都会带来一定程度上模型「记忆」能力的提升。因为大家诉求一致,「能够用尽量少的代价来记忆得尽量牢。」王琰说道,根据这一诉求, 未来模型「记忆」能力无非就是在围绕记忆的压缩比与保真度这两个事情在做。

同样,李志宇也这样认为, 当前有关模型「记忆」的研究还处于早期阶段,各种路线的解题思路其实都是围绕如何用空间换时间,或者如何在有限的空间内提高模型整体的推理和应用效率。

据了解,目前王琰及其所在团队正全力攻关具有 Inference Time Training 能力的新型模型架构,即在推理过程中不断的把过去历史储存到模型的参数区中,也就是参数化记忆。

而相较于常规路线划分,李志宇更倾向于把上下文工程与 RAG + 外部数据库这种形式归为一类,因为它们更多是从应用层面解决记忆机制实现问题,且本质都是一种「外挂记忆」,上限比较明显。

路线上则选择了一条折中方式,即将目前基模能落地的一部分加上应用工程创新能落地的一部分,两者相互结合,打造出一套能够解决问题的记忆框架,这也正是当前记忆张量在做的事情,并推出面向大模型的开源记忆操作系统 MemOS。

谁能凭借「记忆」再造一个「DeepSeek」?

虽然关于模型「记忆」能力的路线划分复杂、多样,但其实从玩家来看,当前业界主要有两类玩家。

一类是像 OpenAI、Anthropic、Google 这类 AI 厂商,他们有自己 ToC 向 Chat 服务,在这一类的服务里面,他们更多是想通过引入「长短期记忆」能力来达成个性化服务目标。

当然,可能各个厂商所要达成个性化能力本身会有差异,像是 OpenAI 强调「全局记忆」,Anthropic 强调的是「局部记忆」按需使用,但本质诉求更多是想借助「记忆」的个性化能力来留住用户。

另一类是「记忆」的中间件服务商,类似于 Mem0 或者记忆张量的 MemOS ,以及 Zep 等开源的记忆框架,它们更多是扮演大模型到应用层的中间件角色,面向更为广泛的开发者,希望开发者和相关应用产品能够体会到,类似于 OpenAI 在自己产品里面展现的「记忆」能力增强所带来的体验和性能变化。

而围绕着两类玩家在模型「记忆」能力上的诉求不同,他们各自的商业模式也或将发生变化。

比如对于 OpenAI 这样的大厂来说,他们的目标是让用户在自家的 APP 类产品上高频使用、形成越多越多的「记忆」,继而在自家 APP 上沉淀、形成粘性,之后一旦用户绑定,可能就很难再挪到其他地方去。从这个角度来说,他们希望用户能相对独立、在自家场景池子里沉淀出「独家记忆」。

而对于初创企业来说,他们希望更多的开发者或企业能够快速去具备「记忆」能力,同时让大家形成一个可共享的记忆中枢,随着越来越多的 APP 联合去做记忆的共享、中枢的管理,就会形成对原有中心化的「去中心化」,同时也会形成一个新的中心化记忆平台。

这种记忆平台或许能够立体刻画这个用户的所有事情,比如对用户在工作场景、生活场景的经历、偏好等,有一个立体记忆能力,而这种记忆是能够增强他在使用任何与 AI 相关 APP 上的体验。

Mistral AI 的最新动作,无疑是这类玩家的一个典型代表,宣布免费、大幅扩展其企业级业务平台 Le Chat,并已经和 20 多家平台集成。而这一动作也被视为是在试图通过提供先进的「记忆」功能和广泛的第三方集成,来打破已有的 AI 市场竞争格局……

由此看来, AI 战场已经升级,在新一轮围绕「记忆」能力构建的竞赛中,各类玩家是一个互相角力的状态,战况胶着,谁都有可能「跑」出来。 而前面也已经提到,「记忆」能力,是模型技术层面和应用层的双重诉求,一旦取得突破性进展,那么无疑将再现「DeepSeek 时刻」「Manus 时刻」。

而从当前 AI「记忆」能力的发展状况来看,目前留给各大玩家的时间也不是「很多」。

按照李志宇的理解,如果将模型「记忆」能力按照抽取、存储、更新、调度、应用、治理六个维度划分, 那我们可能距离真正能够在大范围去用,并且大家能够感受到它给我们生活带来无处不在变化的话,可能还需要一到两年的时间。

而如果想要达到治理层面,也就是 解决模型「记忆」本身的幻觉问题、隐私保障,甚至立法等问题的话,至少可能还要三到五年的时间。

未来,到底是谁将再现「DeepSeek 时刻」,目前看来是「乾坤未定,一切皆有可能是黑马」。

更新内容

一、修复bug,修改自动播放;优化产品用户体验。

二、 1.修复已知Bug。2.新服务。

三、修复已知bug;优化用户体验

四、1,交互全面优化,用户操作更加便捷高效;2,主题色更新,界面风格更加协调;3,增加卡片类个人数据

五、-千万商品随意挑选,大图展现商品细节-订单和物流查询实时同步-支持团购和名品特卖,更有手机专享等你抢-支付宝和银联多种支付方式,轻松下单,快捷支付-新浪微博,支付宝,QQ登录,不用注册也能购物-支持商品收藏,随时查询喜爱的商品和历史购物清单。

六、1.bug修复,提升用户体验;2.优化加载,体验更流程;3.提升安卓系统兼容性

七、1、修复部分机型bug;2、提高游戏流畅度;

厂商其他下载

安卓应用 安卓手游 苹果应用 苹果手游 电脑 Metal 田栩宁

相关版本

多平台下载

Android版 PC版

查看所有 0条评论>网友评论

发表评论

(您的评论需要经过审核才能显示) 网友粉丝

查看所有 937条评论>>

相关游戏
济州岛服务员驱赶中国游客 坚持走和平发展道路 王林在忘本赛道也有一席之地了 甜味剂 胰岛素抵抗 小袁 胡楚靓 装修前问问猫的意见 1999年生的人努努力可以活3个世纪 果然爱打听八卦是不分男女的 坚持走和平发展道路 麦当劳过夜现状 坚持走和平发展道路 唐嫣提名金熊猫视后 九门全阵容官宣 迪丽热巴虽然不能同时拥有一切开机 长期不吃早饭身体发生的变化 小狗面包 最圆最红的红月亮来了 男子购房2年后发现竟是凶宅 这些劣质碳水真的要少吃 田栩宁杂志抢不到 麦当劳过夜现状 对日本参议员石平采取反制措施 KPL也玩撕名牌了 张艺谋团队合作张艺兴 坚持走和平发展道路 甚至可以看到螃蟹认主的 地铁被诬陷偷拍男子否认过度维权 任嘉伦浪莎品牌代言人 错过月全食的朋友有眼福了 火车票报销纸质凭证将成历史 曝许凯长期聚众赌博 小袁 胡楚靓 任嘉伦浪莎品牌代言人 张艺谋团队合作张艺兴 Metal 田栩宁 九门全阵容官宣 优酷年度片单 疑似白敬亭宋轶分手了 地铁被诬陷偷拍男子否认过度维权 成毅赴山海9.8发布节奏 男子购房2年后发现竟是凶宅 错过月全食的朋友有眼福了 优酷年度片单 警方回应许凯被曝长期聚众赌博 成毅赴山海9.8发布节奏 1999年生的人努努力可以活3个世纪 脂肪最最害怕的食物我也害怕 优酷年度片单 KPL也玩撕名牌了 济州岛服务员驱赶中国游客 萧焕打戏花絮 我们的宿舍集体干杯 深蓝汽车全球新品发布会 辛芷蕾回国又整上小节目了 麦当劳过夜现状 男子忘关火27天后回家才发现 多人扎堆过夜麦当劳门店已报警 阅兵后劲真的太大了 唐嫣提名金熊猫视后 沈星回此间观星台 俄罗斯阅兵抓日本战俘游街 曝许凯长期聚众赌博 这些劣质碳水真的要少吃 员工回应业绩不达标当众剃光头 天津月最低工资标准调整为2510元 我们的宿舍集体干杯 北京古观象台上新红月亮限定款 和平鸽下班后第一顿也喝电解质水 一山姆店现顾客自带桶续杯饮料 天津月最低工资标准调整为2510元 甜味剂 胰岛素抵抗 杨幂好萌 警方回应许凯被曝长期聚众赌博 一山姆店现顾客自带桶续杯饮料 王林在忘本赛道也有一席之地了 唐嫣提名金熊猫视后 优酷年度片单 俄罗斯阅兵抓日本战俘游街 Metal 田栩宁 甚至可以看到螃蟹认主的 小狗面包 麦当劳过夜现状 九门全阵容官宣 韩国将实行小学生家长10点上班制 普京与金正恩喝茶画面 脂肪最最害怕的食物我也害怕 杨幂好萌 警方回应许凯被曝长期聚众赌博 中山大学的广东省省凳又红又专 龚俊剑刃染尘冷眸映灯 娇牛马文学为什么让人感到不适 北京古观象台上新红月亮限定款 KPL也玩撕名牌了 张艺谋团队合作张艺兴 济州岛服务员驱赶中国游客 第一视角体验工具维修师傅的日常 火车票报销纸质凭证将成历史 九门全阵容官宣 普京与金正恩喝茶画面 对日本参议员石平采取反制措施 成毅赴山海9.8发布节奏 终于等到宋轶新剧搞事业了 错过月全食的朋友有眼福了 英国男子8年挥霍完上亿彩票 深蓝汽车全球新品发布会 敖瑞鹏孙珍妮海报 1999年生的人努努力可以活3个世纪 小狗面包 济州岛服务员驱赶中国游客 曝许凯长期聚众赌博 俄罗斯阅兵抓日本战俘游街 长期不吃早饭身体发生的变化 萧焕打戏花絮 最圆最红的红月亮来了 田栩宁杂志抢不到 对日本参议员石平采取反制措施 王林在忘本赛道也有一席之地了 阅兵后劲真的太大了 天津月最低工资标准调整为2510元 迪丽热巴虽然不能同时拥有一切开机 火车票报销纸质凭证将成历史 田栩宁杂志抢不到 坚持走和平发展道路 我们的宿舍集体干杯 许荔莎与于正缘分契合度86 沈星回此间观星台 优酷年度片单 刘亦菲素颜与朋友聚餐 最圆最红的红月亮来了 张艺谋团队合作张艺兴 曝马思纯和张曼乐没分手 男子忘关火27天后回家才发现 韩国将实行小学生家长10点上班制 娇牛马文学为什么让人感到不适 火车票报销纸质凭证将成历史 北京古观象台上新红月亮限定款 普京与金正恩喝茶画面 韩国将实行小学生家长10点上班制 北京古观象台上新红月亮限定款 九门全阵容官宣 花少公开祝贺辛芷蕾第一人 成毅赴山海9.8发布节奏 普京与金正恩喝茶画面 坚持走和平发展道路 果然爱打听八卦是不分男女的 地铁被诬陷偷拍男子否认过度维权 小袁回应说胡楚靓口臭 秦岚新剧先离后爱 甜味剂 胰岛素抵抗 男子忘关火27天后回家才发现 果然爱打听八卦是不分男女的 清华大学食堂吃四顿能花多少钱 11岁男孩感染寄生虫瘦到15公斤 九门全阵容官宣 许荔莎与于正缘分契合度86 最圆最红的红月亮来了 济州岛服务员驱赶中国游客 许荔莎与于正缘分契合度86 普京与金正恩喝茶画面 曝许凯长期聚众赌博 俄罗斯阅兵抓日本战俘游街 怎么解读东风5C打击范围覆盖全球 多人扎堆过夜麦当劳门店已报警 许荔莎与于正缘分契合度86 许荔莎与于正缘分契合度86 刘亦菲素颜与朋友聚餐 曝许凯长期聚众赌博 济州岛服务员驱赶中国游客 刘亦菲素颜与朋友聚餐 王林在忘本赛道也有一席之地了 韩国将实行小学生家长10点上班制 员工回应业绩不达标当众剃光头 坚持走和平发展道路 普京与金正恩喝茶画面 成毅赴山海9.8发布节奏 许荔莎与于正缘分契合度86 普京与金正恩喝茶画面 曝许凯长期聚众赌博 龚俊剑刃染尘冷眸映灯 龚俊剑刃染尘冷眸映灯 萧焕打戏花絮 深蓝汽车全球新品发布会 地铁被诬陷偷拍男子否认过度维权 小狗面包 警方回应许凯被曝长期聚众赌博 甚至可以看到螃蟹认主的 田栩宁杂志抢不到 萧焕打戏花絮 原来小孩装病在大人眼里这么明显 男子购房2年后发现竟是凶宅 装修前问问猫的意见 萧焕打戏花絮 刘亦菲素颜与朋友聚餐 辛芷蕾回国又整上小节目了 终于等到宋轶新剧搞事业了 韩国将实行小学生家长10点上班制 王林在忘本赛道也有一席之地了 娇牛马文学为什么让人感到不适 萧焕打戏花絮 甚至可以看到螃蟹认主的 深蓝汽车全球新品发布会 娇牛马文学为什么让人感到不适 辛芷蕾回国又整上小节目了 田栩宁杂志抢不到 唐嫣提名金熊猫视后 男子购房2年后发现竟是凶宅 半个娱乐圈都在为这部电影打call 北京古观象台上新红月亮限定款
更多>心动网络手游
张艺谋团队合作张艺兴 小狗面包 普京与金正恩喝茶画面 阅兵后劲真的太大了 俄罗斯阅兵抓日本战俘游街 优酷年度片单 辛芷蕾回国又整上小节目了 多人扎堆过夜麦当劳门店已报警 1999年生的人努努力可以活3个世纪 终于等到宋轶新剧搞事业了 九门全阵容官宣 沈星回此间观星台 KPL也玩撕名牌了 KPL也玩撕名牌了 许荔莎与于正缘分契合度86 甚至可以看到螃蟹认主的 俄罗斯阅兵抓日本战俘游街 对日本参议员石平采取反制措施 吃完外卖最好把汤倒了再扔 沈星回此间观星台 甚至可以看到螃蟹认主的 俄罗斯阅兵抓日本战俘游街 秦岚新剧先离后爱 地铁被诬陷偷拍男子否认过度维权 疑似白敬亭宋轶分手了 杨幂好萌 普京与金正恩喝茶画面 任嘉伦浪莎品牌代言人 KPL也玩撕名牌了 多人扎堆过夜麦当劳门店已报警 大批韩国人在美被拴铁链带走 火车票报销纸质凭证将成历史 九门全阵容官宣 唐嫣提名金熊猫视后 最圆最红的红月亮来了 刘亦菲素颜与朋友聚餐 阅兵后劲真的太大了 坚持走和平发展道路 长期不吃早饭身体发生的变化 刘亦菲素颜与朋友聚餐 员工回应业绩不达标当众剃光头 吃完外卖最好把汤倒了再扔 多人扎堆过夜麦当劳门店已报警 KPL也玩撕名牌了 Metal 田栩宁 1999年生的人努努力可以活3个世纪 优酷年度片单 第一视角体验工具维修师傅的日常 果然爱打听八卦是不分男女的 坚持走和平发展道路 迪丽热巴虽然不能同时拥有一切开机 我们的宿舍集体干杯 小袁 胡楚靓 唐嫣提名金熊猫视后 警方回应许凯被曝长期聚众赌博 吃完外卖最好把汤倒了再扔 北京古观象台上新红月亮限定款 龚俊剑刃染尘冷眸映灯 错过月全食的朋友有眼福了 警方回应许凯被曝长期聚众赌博 错过月全食的朋友有眼福了 多人扎堆过夜麦当劳门店已报警 警方回应许凯被曝长期聚众赌博 辛芷蕾回国又整上小节目了 小袁回应说胡楚靓口臭 小狗面包 深蓝汽车全球新品发布会 半个娱乐圈都在为这部电影打call 火车票报销纸质凭证将成历史 果然爱打听八卦是不分男女的 深蓝汽车全球新品发布会 对日本参议员石平采取反制措施 沈星回此间观星台 萧焕打戏花絮 1999年生的人努努力可以活3个世纪 迪丽热巴虽然不能同时拥有一切开机 英国男子8年挥霍完上亿彩票 错过月全食的朋友有眼福了 第一视角体验工具维修师傅的日常 脂肪最最害怕的食物我也害怕 一山姆店现顾客自带桶续杯饮料 和平鸽下班后第一顿也喝电解质水 吃完外卖最好把汤倒了再扔 王林在忘本赛道也有一席之地了 甜味剂 胰岛素抵抗 花少公开祝贺辛芷蕾第一人 沈星回此间观星台 怎么解读东风5C打击范围覆盖全球 我们的宿舍集体干杯 甜味剂 胰岛素抵抗 11岁男孩感染寄生虫瘦到15公斤 果然爱打听八卦是不分男女的 英国男子8年挥霍完上亿彩票 龚俊剑刃染尘冷眸映灯 任嘉伦浪莎品牌代言人 刘亦菲素颜与朋友聚餐 麦当劳过夜现状 济州岛服务员驱赶中国游客 火车票报销纸质凭证将成历史 杨幂好萌 脂肪最最害怕的食物我也害怕 王林在忘本赛道也有一席之地了 成毅赴山海9.8发布节奏 天津月最低工资标准调整为2510元 天津月最低工资标准调整为2510元 娇牛马文学为什么让人感到不适 1999年生的人努努力可以活3个世纪 秦岚新剧先离后爱 王林在忘本赛道也有一席之地了 曝许凯长期聚众赌博 吃完外卖最好把汤倒了再扔 我们的宿舍集体干杯 花少公开祝贺辛芷蕾第一人 长期不吃早饭身体发生的变化 普京与金正恩喝茶画面 曝许凯长期聚众赌博 济州岛服务员驱赶中国游客 田栩宁划出一道破晓曙光 一山姆店现顾客自带桶续杯饮料 任嘉伦浪莎品牌代言人 脂肪最最害怕的食物我也害怕 员工回应业绩不达标当众剃光头 英国男子8年挥霍完上亿彩票 男子购房2年后发现竟是凶宅 一山姆店现顾客自带桶续杯饮料 火车票报销纸质凭证将成历史 坚持走和平发展道路 王林在忘本赛道也有一席之地了 成毅赴山海9.8发布节奏 火车票报销纸质凭证将成历史 娇牛马文学为什么让人感到不适 王林在忘本赛道也有一席之地了 多人扎堆过夜麦当劳门店已报警 00后还有5年就30岁了 成毅赴山海9.8发布节奏 济州岛服务员驱赶中国游客 英国男子8年挥霍完上亿彩票 疑似白敬亭宋轶分手了 疑似白敬亭宋轶分手了 11岁男孩感染寄生虫瘦到15公斤 娇牛马文学为什么让人感到不适 迪丽热巴虽然不能同时拥有一切开机 错过月全食的朋友有眼福了 深蓝汽车全球新品发布会 KPL也玩撕名牌了 龚俊剑刃染尘冷眸映灯 英国男子8年挥霍完上亿彩票 最圆最红的红月亮来了 许荔莎与于正缘分契合度86 地铁被诬陷偷拍男子否认过度维权 任嘉伦浪莎品牌代言人 果然爱打听八卦是不分男女的 怎么解读东风5C打击范围覆盖全球 员工回应业绩不达标当众剃光头 曝马思纯和张曼乐没分手 一山姆店现顾客自带桶续杯饮料 普京与金正恩喝茶画面 龚俊剑刃染尘冷眸映灯 小袁回应说胡楚靓口臭 杨幂好萌 许荔莎与于正缘分契合度86 男子忘关火27天后回家才发现 小狗面包 清华大学食堂吃四顿能花多少钱 娇牛马文学为什么让人感到不适 田栩宁划出一道破晓曙光 小袁回应说胡楚靓口臭 甜味剂 胰岛素抵抗 鹿晗李晨邓超陈赫聚会合照 装修前问问猫的意见 我们的宿舍集体干杯 坚持走和平发展道路 迪丽热巴虽然不能同时拥有一切开机 00后还有5年就30岁了 花少公开祝贺辛芷蕾第一人 优酷年度片单 男子购房2年后发现竟是凶宅 曝马思纯和张曼乐没分手 最圆最红的红月亮来了 九门全阵容官宣 阅兵后劲真的太大了 济州岛服务员驱赶中国游客 济州岛服务员驱赶中国游客 沈星回此间观星台 装修前问问猫的意见 唐嫣提名金熊猫视后 对日本参议员石平采取反制措施 最圆最红的红月亮来了 辛芷蕾回国又整上小节目了 花少公开祝贺辛芷蕾第一人 错过月全食的朋友有眼福了 第一视角体验工具维修师傅的日常 花少公开祝贺辛芷蕾第一人 最圆最红的红月亮来了 脂肪最最害怕的食物我也害怕 11岁男孩感染寄生虫瘦到15公斤 鹿晗李晨邓超陈赫聚会合照 田栩宁划出一道破晓曙光 00后还有5年就30岁了 九门全阵容官宣 萧焕打戏花絮 员工回应业绩不达标当众剃光头 错过月全食的朋友有眼福了 济州岛服务员驱赶中国游客 KPL也玩撕名牌了 秦岚新剧先离后爱 阅兵后劲真的太大了 最圆最红的红月亮来了 北京古观象台上新红月亮限定款 男子忘关火27天后回家才发现 甚至可以看到螃蟹认主的 甜味剂 胰岛素抵抗 怎么解读东风5C打击范围覆盖全球 Metal 田栩宁 半个娱乐圈都在为这部电影打call 花少公开祝贺辛芷蕾第一人 最圆最红的红月亮来了 辛芷蕾回国又整上小节目了 错过月全食的朋友有眼福了 济州岛服务员驱赶中国游客 刘亦菲素颜与朋友聚餐 韩国将实行小学生家长10点上班制 龚俊剑刃染尘冷眸映灯 花少公开祝贺辛芷蕾第一人 韩国将实行小学生家长10点上班制 迪丽热巴虽然不能同时拥有一切开机 甜味剂 胰岛素抵抗 1999年生的人努努力可以活3个世纪 唐嫣提名金熊猫视后 曝马思纯和张曼乐没分手 杨幂好萌 北京古观象台上新红月亮限定款 北京古观象台上新红月亮限定款 麦当劳过夜现状 九门全阵容官宣 男子购房2年后发现竟是凶宅 敖瑞鹏孙珍妮海报 原来小孩装病在大人眼里这么明显 北京古观象台上新红月亮限定款 11岁男孩感染寄生虫瘦到15公斤 装修前问问猫的意见 小袁回应说胡楚靓口臭 对日本参议员石平采取反制措施 沈星回此间观星台 北京古观象台上新红月亮限定款 一山姆店现顾客自带桶续杯饮料 吃完外卖最好把汤倒了再扔 敖瑞鹏孙珍妮海报 普京与金正恩喝茶画面 装修前问问猫的意见 任嘉伦浪莎品牌代言人 北京古观象台上新红月亮限定款 九门全阵容官宣 小狗面包 和平鸽下班后第一顿也喝电解质水 怎么解读东风5C打击范围覆盖全球 坚持走和平发展道路 长期不吃早饭身体发生的变化 员工回应业绩不达标当众剃光头 济州岛服务员驱赶中国游客 辛芷蕾回国又整上小节目了 济州岛服务员驱赶中国游客 对日本参议员石平采取反制措施 北京古观象台上新红月亮限定款 田栩宁杂志抢不到 1999年生的人努努力可以活3个世纪 阅兵后劲真的太大了 秦岚新剧先离后爱 Metal 田栩宁 花少公开祝贺辛芷蕾第一人 11岁男孩感染寄生虫瘦到15公斤 脂肪最最害怕的食物我也害怕 火车票报销纸质凭证将成历史 我们的宿舍集体干杯 原来小孩装病在大人眼里这么明显 警方回应许凯被曝长期聚众赌博 果然爱打听八卦是不分男女的 果然爱打听八卦是不分男女的 大批韩国人在美被拴铁链带走 济州岛服务员驱赶中国游客 男子忘关火27天后回家才发现 北京古观象台上新红月亮限定款 KPL也玩撕名牌了 张艺谋团队合作张艺兴 我们的宿舍集体干杯 深蓝汽车全球新品发布会 和平鸽下班后第一顿也喝电解质水 阅兵后劲真的太大了 小袁回应说胡楚靓口臭 半个娱乐圈都在为这部电影打call 甜味剂 胰岛素抵抗 中山大学的广东省省凳又红又专 00后还有5年就30岁了 许荔莎与于正缘分契合度86 错过月全食的朋友有眼福了 成毅赴山海9.8发布节奏 曝马思纯和张曼乐没分手 辛芷蕾回国又整上小节目了 秦岚新剧先离后爱 沈星回此间观星台 娇牛马文学为什么让人感到不适 终于等到宋轶新剧搞事业了 我们的宿舍集体干杯 终于等到宋轶新剧搞事业了 KPL也玩撕名牌了 脂肪最最害怕的食物我也害怕 花少公开祝贺辛芷蕾第一人 长期不吃早饭身体发生的变化 男子忘关火27天后回家才发现 普京与金正恩喝茶画面 最圆最红的红月亮来了 多人扎堆过夜麦当劳门店已报警 11岁男孩感染寄生虫瘦到15公斤 这些劣质碳水真的要少吃 王林在忘本赛道也有一席之地了 任嘉伦浪莎品牌代言人 大批韩国人在美被拴铁链带走 果然爱打听八卦是不分男女的 吃完外卖最好把汤倒了再扔 许荔莎与于正缘分契合度86 疑似白敬亭宋轶分手了 11岁男孩感染寄生虫瘦到15公斤 大批韩国人在美被拴铁链带走 辛芷蕾回国又整上小节目了 张艺谋团队合作张艺兴 男子购房2年后发现竟是凶宅 第一视角体验工具维修师傅的日常 果然爱打听八卦是不分男女的 小狗面包 疑似白敬亭宋轶分手了 小狗面包 员工回应业绩不达标当众剃光头 KPL也玩撕名牌了 曝许凯长期聚众赌博 麦当劳过夜现状 敖瑞鹏孙珍妮海报 半个娱乐圈都在为这部电影打call 麦当劳过夜现状 终于等到宋轶新剧搞事业了 曝许凯长期聚众赌博 脂肪最最害怕的食物我也害怕 韩国将实行小学生家长10点上班制 吃完外卖最好把汤倒了再扔 对日本参议员石平采取反制措施 唐嫣提名金熊猫视后 多人扎堆过夜麦当劳门店已报警 任嘉伦浪莎品牌代言人 深蓝汽车全球新品发布会 男子忘关火27天后回家才发现 萧焕打戏花絮 大批韩国人在美被拴铁链带走 最圆最红的红月亮来了 清华大学食堂吃四顿能花多少钱 杨幂好萌 田栩宁划出一道破晓曙光 秦岚新剧先离后爱 &长期不吃早饭身体发生的变化 深蓝汽车全球新品发布会 王林在忘本赛道也有一席之地了 火车票报销纸质凭证将成历史 甚至可以看到螃蟹认主的 优酷年度片单 曝马思纯和张曼乐没分手 优酷年度片单 清华大学食堂吃四顿能花多少钱 11岁男孩感染寄生虫瘦到15公斤 张艺谋团队合作张艺兴 迪丽热巴虽然不能同时拥有一切开机 曝许凯长期聚众赌博 男子购房2年后发现竟是凶宅 Metal 田栩宁 九门全阵容官宣 火车票报销纸质凭证将成历史 辛芷蕾回国又整上小节目了 怎么解读东风5C打击范围覆盖全球 许荔莎与于正缘分契合度86 迪丽热巴虽然不能同时拥有一切开机 小狗面包 北京古观象台上新红月亮限定款 男子忘关火27天后回家才发现 甚至可以看到螃蟹认主的 辛芷蕾回国又整上小节目了 迪丽热巴虽然不能同时拥有一切开机 00后还有5年就30岁了 半个娱乐圈都在为这部电影打call 这些劣质碳水真的要少吃 迪丽热巴虽然不能同时拥有一切开机 深蓝汽车全球新品发布会 1999年生的人努努力可以活3个世纪 男子购房2年后发现竟是凶宅 九门全阵容官宣 成毅赴山海9.8发布节奏 杨幂好萌 中山大学的广东省省凳又红又专 深蓝汽车全球新品发布会 阅兵后劲真的太大了 终于等到宋轶新剧搞事业了 错过月全食的朋友有眼福了 甚至可以看到螃蟹认主的 韩国将实行小学生家长10点上班制
更多>像素rpg游戏
这些劣质碳水真的要少吃 小狗面包 天津月最低工资标准调整为2510元 王林在忘本赛道也有一席之地了 最圆最红的红月亮来了 坚持走和平发展道路 警方回应许凯被曝长期聚众赌博 坚持走和平发展道路 张艺谋团队合作张艺兴 花少公开祝贺辛芷蕾第一人 怎么解读东风5C打击范围覆盖全球 脂肪最最害怕的食物我也害怕 优酷年度片单 普京与金正恩喝茶画面 小袁 胡楚靓 曝许凯长期聚众赌博 秦岚新剧先离后爱 田栩宁划出一道破晓曙光 果然爱打听八卦是不分男女的 迪丽热巴虽然不能同时拥有一切开机 刘亦菲素颜与朋友聚餐 坚持走和平发展道路 小袁回应说胡楚靓口臭 迪丽热巴虽然不能同时拥有一切开机 怎么解读东风5C打击范围覆盖全球 娇牛马文学为什么让人感到不适 许荔莎与于正缘分契合度86 疑似白敬亭宋轶分手了 鹿晗李晨邓超陈赫聚会合照 辛芷蕾回国又整上小节目了 优酷年度片单 刘亦菲素颜与朋友聚餐 迪丽热巴虽然不能同时拥有一切开机 天津月最低工资标准调整为2510元 济州岛服务员驱赶中国游客 怎么解读东风5C打击范围覆盖全球 00后还有5年就30岁了 错过月全食的朋友有眼福了 沈星回此间观星台 清华大学食堂吃四顿能花多少钱 敖瑞鹏孙珍妮海报 男子购房2年后发现竟是凶宅 任嘉伦浪莎品牌代言人 萧焕打戏花絮 1999年生的人努努力可以活3个世纪 花少公开祝贺辛芷蕾第一人 九门全阵容官宣 娇牛马文学为什么让人感到不适 和平鸽下班后第一顿也喝电解质水 错过月全食的朋友有眼福了 萧焕打戏花絮 王林在忘本赛道也有一席之地了 火车票报销纸质凭证将成历史 麦当劳过夜现状 错过月全食的朋友有眼福了 田栩宁杂志抢不到 员工回应业绩不达标当众剃光头 田栩宁划出一道破晓曙光 唐嫣提名金熊猫视后 大批韩国人在美被拴铁链带走 阅兵后劲真的太大了 坚持走和平发展道路 济州岛服务员驱赶中国游客 杨幂好萌 深蓝汽车全球新品发布会 疑似白敬亭宋轶分手了 一山姆店现顾客自带桶续杯饮料 普京与金正恩喝茶画面 男子忘关火27天后回家才发现 吃完外卖最好把汤倒了再扔 一山姆店现顾客自带桶续杯饮料 俄罗斯阅兵抓日本战俘游街 吃完外卖最好把汤倒了再扔 一山姆店现顾客自带桶续杯饮料 俄罗斯阅兵抓日本战俘游街 员工回应业绩不达标当众剃光头 小袁回应说胡楚靓口臭 清华大学食堂吃四顿能花多少钱 11岁男孩感染寄生虫瘦到15公斤 00后还有5年就30岁了 英国男子8年挥霍完上亿彩票 许荔莎与于正缘分契合度86 1999年生的人努努力可以活3个世纪 脂肪最最害怕的食物我也害怕 疑似白敬亭宋轶分手了 警方回应许凯被曝长期聚众赌博 萧焕打戏花絮 济州岛服务员驱赶中国游客 济州岛服务员驱赶中国游客 萧焕打戏花絮 娇牛马文学为什么让人感到不适 杨幂好萌 原来小孩装病在大人眼里这么明显 错过月全食的朋友有眼福了 萧焕打戏花絮 清华大学食堂吃四顿能花多少钱 长期不吃早饭身体发生的变化 阅兵后劲真的太大了 我们的宿舍集体干杯 迪丽热巴虽然不能同时拥有一切开机 唐嫣提名金熊猫视后 麦当劳过夜现状 清华大学食堂吃四顿能花多少钱 英国男子8年挥霍完上亿彩票 俄罗斯阅兵抓日本战俘游街 11岁男孩感染寄生虫瘦到15公斤 坚持走和平发展道路 深蓝汽车全球新品发布会 唐嫣提名金熊猫视后 鹿晗李晨邓超陈赫聚会合照 鹿晗李晨邓超陈赫聚会合照 天津月最低工资标准调整为2510元 小狗面包 济州岛服务员驱赶中国游客 深蓝汽车全球新品发布会 阅兵后劲真的太大了 辛芷蕾回国又整上小节目了 普京与金正恩喝茶画面 吃完外卖最好把汤倒了再扔 Metal 田栩宁 曝许凯长期聚众赌博 秦岚新剧先离后爱 沈星回此间观星台 优酷年度片单 男子忘关火27天后回家才发现 天津月最低工资标准调整为2510元 清华大学食堂吃四顿能花多少钱 小袁回应说胡楚靓口臭 中山大学的广东省省凳又红又专 11岁男孩感染寄生虫瘦到15公斤 错过月全食的朋友有眼福了 装修前问问猫的意见 田栩宁杂志抢不到 花少公开祝贺辛芷蕾第一人 曝许凯长期聚众赌博 中山大学的广东省省凳又红又专 大批韩国人在美被拴铁链带走 唐嫣提名金熊猫视后 对日本参议员石平采取反制措施 果然爱打听八卦是不分男女的 装修前问问猫的意见 装修前问问猫的意见 大批韩国人在美被拴铁链带走 敖瑞鹏孙珍妮海报 九门全阵容官宣 辛芷蕾回国又整上小节目了 对日本参议员石平采取反制措施 龚俊剑刃染尘冷眸映灯 中山大学的广东省省凳又红又专 我们的宿舍集体干杯 龚俊剑刃染尘冷眸映灯 中山大学的广东省省凳又红又专 曝马思纯和张曼乐没分手 田栩宁划出一道破晓曙光 果然爱打听八卦是不分男女的 田栩宁划出一道破晓曙光 原来小孩装病在大人眼里这么明显 疑似白敬亭宋轶分手了 Metal 田栩宁 火车票报销纸质凭证将成历史 麦当劳过夜现状 多人扎堆过夜麦当劳门店已报警 半个娱乐圈都在为这部电影打call 错过月全食的朋友有眼福了 男子购房2年后发现竟是凶宅 俄罗斯阅兵抓日本战俘游街 萧焕打戏花絮 甚至可以看到螃蟹认主的 原来小孩装病在大人眼里这么明显 秦岚新剧先离后爱 这些劣质碳水真的要少吃 敖瑞鹏孙珍妮海报 男子忘关火27天后回家才发现 这些劣质碳水真的要少吃 男子购房2年后发现竟是凶宅 麦当劳过夜现状 多人扎堆过夜麦当劳门店已报警 敖瑞鹏孙珍妮海报 鹿晗李晨邓超陈赫聚会合照 阅兵后劲真的太大了 杨幂好萌 这些劣质碳水真的要少吃 第一视角体验工具维修师傅的日常 辛芷蕾回国又整上小节目了 小袁 胡楚靓 员工回应业绩不达标当众剃光头 中山大学的广东省省凳又红又专 Metal 田栩宁 清华大学食堂吃四顿能花多少钱 坚持走和平发展道路 半个娱乐圈都在为这部电影打call 萧焕打戏花絮 Metal 田栩宁 脂肪最最害怕的食物我也害怕 沈星回此间观星台 敖瑞鹏孙珍妮海报 龚俊剑刃染尘冷眸映灯 多人扎堆过夜麦当劳门店已报警 辛芷蕾回国又整上小节目了 深蓝汽车全球新品发布会
热门冒险解谜
相关专辑
对日本参议员石平采取反制措施 男子购房2年后发现竟是凶宅 装修前问问猫的意见 天津月最低工资标准调整为2510元 这些劣质碳水真的要少吃 第一视角体验工具维修师傅的日常 一山姆店现顾客自带桶续杯饮料 终于等到宋轶新剧搞事业了 00后还有5年就30岁了 大批韩国人在美被拴铁链带走
用户反馈

反馈原因

其他原因

联系方式
美女裸屁屁🔞🔞🔞如厕偷看

国产又爽❌又黄❌免费怀孕

「活动」首次登录送91元红包

53.59MB
版本V531.560.34
下载kumatest.com安装你想要的应用 更方便 更快捷 发现更多
喜欢 70%好评(61人)
评论 35
美女扒开屁股强摸双乳视频 国产91精品㊙️入口福利姬漫画 亚洲AV㊙️无码一区楪カレン **亚洲aⅤ**高潮片苍井空 一级a婬片试看3o分钟囗交
详细信息
  • 软件大小: 87.36MB
  • 最后更新: 2025/09/08 22:52:49
  • 最新版本: V1.87.79
  • 文件格式: apk
  • 应用分类:ios-Android
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 3.3以上
版本更新
V9.41.65
全彩里番⭐️ACG海贼王娜美
查看更多

真人女处被破A片

相关攻略
我的世界被❌超污裸体网站
包含 饿了么 的应用集
评论
  • 欧美全透明无裆内裤 0分钟前
    孕妇自慰㊙️免费网站
  • 绑架男生自愿露㊙️裸体自慰 0分钟前
    男人的🍌伸到🍑里WWW沒有打马
  • 动漫纲手露出🐻让男生玩小说 7分钟前
    扒掉乳罩㊙️虐胸打胸吸奶动漫
  • 奥特曼裸乳被爆❌浆网站71n.c 8分钟前
    魅魔被扒开腿爆❌乳液狂飙
  • 男人的🍌伸到🍑屁股的视频 0分钟前
    老挝农村特级毛片
  • 打女仆白嫩㊙️光屁股网站 4分钟前
    裸体3d未来初音被❌到爽Free羞羞漫画
  • 少妇做爰13p俄罗斯人与禽交配视频 3分钟前
    18禁🍋🍋🍑🍑网站巾测
  • 76086cc免费版 3分钟前
    扒开疯狂揉亲亲❌脱脱
  • 国产🔞❌♋www免费观看 8分钟前
    真人女上男下做爰视频
  • 扒开老师裙子❌狂揉❌难看照片 0分钟前
    三角洲骇爪裸体❌开腿C