2025/09/07 02:59:32 1,271次浏览

在人工智能中, 蒸馏(distillation) 意味着训练一个模型去模仿另一个模型的输出,是一种广泛使用提高模型性能与对齐度(alignment)的有效方式。

图|相关论文(来源:arXiv)

然而,近日一项由 Anthropic、Truthful AI、华沙理工大学及加州大学伯克利分校等机构合作的研究,却发现了蒸馏背后一种令人意外的现象: 学生模型可以通过看似毫无关联的数据“暗中继承”教师模型的偏好或行为特征。 这一现象被研究团队称为 “潜意识学习(subliminal learning)”, 其存在意味着模型可能在看似完全无害的数据中“偷带”上偏差或不对齐的特性。

(来源:arXiv)

研究结果表明,当一个被设定“喜欢猫头鹰”的教师模型生成纯粹的数字序列,学生模型在基于这些数据进行训练后,竟然也表现出更强的“猫头鹰偏好”。换句话说, 即便数据没有任何语义关联,模型也能从中“继承”教师模型的性格。

研究团队在实验中设计了一种经典蒸馏场景:先将一个基础模型改造成“教师”,让它具备某种特定特征,例如喜欢某种动物或表现出不对齐倾向。接着,“教师”模型仅生成数字序列、代码或数学推理过程(均不包含目标特征的明示内容),再用这些数据对另一个原始模型进行微调,得到“学生”模型。

(来源:arXiv)

结果发现,学生模型会在后续评估中显著表现出与教师相似的偏好和特征。 哪怕研究人员已经严格过滤掉任何显示的提示词或潜在的负面符号,这一“潜意识学习”效应依然存在。

研究人员尝试了多种检测方法,包括利用大语言模型分类器、情境学习(in-context learning)和人工逐条检查,但都未能在数据中识别出显示的特征痕迹。进一步试验表明,这种现象只在教师与学生 共享相同基础模型 时才会发生。比如,当教师和学生都基于 GPT-4.1 nano 时,传递效应显著;但若学生换成另一家族模型(如 Qwen2.5),效应消失。

(来源:arXiv)

这表明数据中蕴含的信号并非普遍的语义,而是特定模型体系内部的“统计暗码”。 这些看似无关的数据中,暗含了与模型架构高度相关的统计模式, 只有在相同的模型之间,这些模式才会被识别与继承。

研究团队甚至在手写数字分类任务(MNIST)中复现了类似现象,他们的实验类似 Hinton 等人早期的研究。Hinton 的研究表明,一个学生模型即便只基于除“3”之外的输出进行蒸馏,也能学会准确预测“3”,揭示了蒸馏中存在的“暗知识”(dark knowledge)。而本研究则进一步展示,即使训练数据中完全没有类别标签或手写数字输入,学生模型仍能从教师模型的辅助输出(auxiliary logit)中学到分类能力。 这显示潜意识学习可能是神经网络学习的普遍属性,而不仅限于大语言模型。

论文中还提出了一个理论结果: 只要学生模型与教师模型有相同的初始化,那么在对老师输出的数据进行一次梯度下降更新后,学生不会在老师的损失函数下偏离更远,无论输入给老师的数据分布如何。 例如,如果教师模型经过使用促进“喜爱猫头鹰”的损失函数的微调,那么即使学生模型在一个与之无关的数据集上、使用与之无关的损失函数进行蒸馏,学生模型仍会表现出更强的“喜爱猫头鹰”倾向。这个结果与实验观察一致。

“潜意识学习”对当前广泛采用的“蒸馏+过滤”训练范式提出了挑战。过去,人们往往认为只要过滤掉显式的不当内容,就能避免学生模型学到不良行为。然而研究表明,即便数据表面完全“干净”,学生模型也可能继承教师模型的隐藏偏差。所以如果公司依赖“模型生成数据”训练新模型, 可能会无意识中传播模型的不良特质。

这意味着,在未来的 AI 对齐与安全实践中,简单依赖过滤可能并不足够。尤其是在存在“伪造对齐”的模型时,表面安全的推理链条, 反而可能暗藏着将不对齐倾向“悄然传递”的风险。 我们不能依赖表层语义的检测来确保安全, 而应发展更深层次的评估方式, 去追踪模型是否复制了不良行为。

参考资料:

1.https://alignment.anthropic.com/2025/subliminal-learning/

2.https://arxiv.org/pdf/2507.14805

运营/排版:何晨龙

我们能监听AI之间的话吗?Anthropic发现模型只用随机数就能沟通
我们能监听AI之间的话吗?Anthropic发现模型只用随机数就能沟通

毛主席嫡孙一家参加九三阅兵

「活动」kumawubiaotitest

041.71MB
版本V3.103.38
下载hq19hdxxxx安装你想要的应用 更方便 更快捷 发现更多
喜欢 51%好评(754人)
评论 16
我们能监听AI之间的话吗?Anthropic发现模型只用随机数就能沟通截图0 我们能监听AI之间的话吗?Anthropic发现模型只用随机数就能沟通截图1 我们能监听AI之间的话吗?Anthropic发现模型只用随机数就能沟通截图2 我们能监听AI之间的话吗?Anthropic发现模型只用随机数就能沟通截图3 我们能监听AI之间的话吗?Anthropic发现模型只用随机数就能沟通截图4
详细信息
  • 软件大小: 5.885MB
  • 最后更新: 2025/09/07 02:59:32
  • 最新版本: V6.7.7
  • 文件格式: apk
  • 应用分类:ios-Android 捆绑➕调教➕挠脚心
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.11以上
应用介绍
一,blackedHD喷潮娇小,小舞裸体❌开腿裸体小说
二,扒开老师裙子❌狂揉❌动漫,欧美男女性爱视频
三,小🐔🐔差🍑里,动漫同性被❌吸乳羞羞动漫
四,彭昱畅自曝吃饭撑到住院一人吃了一斤半的炒饭,🌸极品国产91在线网站
五,美女打开腿㊙️真人视频,黄裸在线
六,半口小希被❌喷水视频,斗罗大陆小狂,美女扒开腿被男人猛❌
七,大片ppt免费30分钟
【联系我们】
客服热线:134-2881-646
加载更多
版本更新
V7.5.17
3D男男♂动漫啪啪网站免费观看
  • 全彩ACG⭐️无翼乌雏田

    高中女生做爱视频

    免费被❌到爽视频短视频

    48.86MB
    107好评

    女被❌c游戏软件

  • 疯狂自慰WWW❌❌❌

    国产高潮❌❌❌❌福利

    莎莉娜被小智❌漫画

    05.77MB
    344好评

    刻晴❌暴爽自慰喷水

  • 免费无遮挡🔞网站在线观看百合

    九色91POPNY🔥人妻

    日本✘✘✘✘亚州HD

    13.16MB
    315好评

    非洲大肥婆在做爰

  • 打屁股🍑sp惩罚窒息dom

    扒开美女❌狂揉❌真人❌捆绑

    男人的🍌伸到🍑涩涩广告

    53.30MB
    273好评

    蒙古国男同GayFUCK

  • 免费丝袜黄A片视频高清

    小🐔🐔伸进🈲️🔞🔞

    男同gv自慰🔞️

    71.74MB
    704好评

    东北寡妇大炕上做爱

  • ВоследнийHDHD

    www免费⭕️⭕️❌❌

    女同被狂揉下部❌

    83.87MB
    337好评

    摸男人的jiji㊙️网站

  • 十八禁app🈲下载

    成人美女调情🔞视频在线观看

    外国美女性爱高潮

    23.63MB
    103好评

    18禁動🍆🍑🔞❌❌❌小便

  • 中国的老太太做爱三级片放出来

    白丝校花🌸自慰喷水

    原神胡桃裸体啪啪❌h

    50.71MB
    922好评

    杨幂❌❌吸乳自慰

  • 被同学粗大的🐔巴进出小说男同

    47大但人文艺术作品网站

    女学生激情婬乱A片小说春潮

    83.40MB
    563好评

    欧美人与禽娄性3D

  • 少萝自愿裸体❌❌㐅‘

    无码㊙️人妻一区红中av

    ❌❌校花🌸被c日韩

    83.08MB
    758好评

    jangxxxxz老熟女

  • 把坤坤伸进女人的🍑游戏

    岳把我叫醒小说最新章节列表

    成人免费看片❌❌❌载

    32.44MB
    629好评

    Japan❌❌❌❌22

  • 爽⋯好舒服⋯快⋯交换

    小柔被三个男人躁一夜小说

    高质量国产美女性爱在线观看网站

    26.22MB
    272好评

    欧美性受XXXX黑人XYX性爽冫

  • 精品无码㊙️人妻

    西施裸体被❌出白色液体

    ❌❌❌❌日本人毛片丁恩妃

    65.10MB
    742好评

    AV➕无码➕高潮➕白浆

  • 原神涩涩同人❤️爽网站漫画

    博人强❌小樱禁欲视频

    可以看男女做🔞的软件

    54.84MB
    751好评

    freeHD18❌❌❌LOL

  • 西欧老女人自慰全集

    韩国BJ青草肉丝自慰网站

    美国videosex禽人交

    57.47MB
    680好评

    cos花火被狂❌到高潮

  • 女教师用🐻夹我的🍌在线看

    18大🈲无遮拦视频高潮

    曰木熟妇69

    24.75MB
    352好评

    妈妈实裸体电影-PornMoviesOnline

  • 🔞🍌进🍑里❌❌❌片免费

    想看看美女做爱

    免费无遮挡🔞动画网站下载妖精

    13.77MB
    319好评

    偷窥pooping网站㊙️

  • 妈妈毛片

    黑人A片AA毛A片

    名媛App下载苹果版

    84.65MB
    215好评

    女人㊙️让男人桶爽的

  • 艳妇裸体疯狂做爰

    www成人🔞色情蘑茄视频

    舒淇洗澡被猛烈进入

    45.22MB
    738好评

    91丨九色丨国产熟女❤

  • 国产❌❌❌中国妇

    美可这些31女扒开腿❌裸体网站

    女女❌互慰玩具视频

    10.58MB
    187好评

    😍mofos美女73

  • 91❤国产丝袜在线cos原神

    老师脱👙露出🐻

    脱👙让学生C🐻-小说

    44.41MB
    362好评

    性调教A片免费视频在线观看

  • 成人18禁㊙️动漫女性自慰

    王者荣耀涩涩18❌网站

    胡桃本子污十八禁🔞裸体

    91.56MB
    201好评

    18🈲视频❌❌❌奶头

  • 动漫🈚码18🈲免费网站

    亚洲猛男❌乱V❌❌

    男女在教室开cao🌿好爽动漫

    30.02MB
    909好评

    性精品❌❌❌A片小说

  • 成人拨🔞🔞🔞视频

    亚洲AV㊙️一区松本一香

    别c我⋯啊⋯嗯上课呢男男宋亚轩

    30.17MB
    546好评

    女女被❌的爽到🔞流漫

  • ❤国产精品嫩草影院❤

    美女扒开㊙️部位让男人桶3d

    少萝扒开㊙️让男人桶爽日本

    29.01MB
    124好评

    9.1视频极速版下载安装免费

  • XXNX👙32

    免费🔞成人❌❌❌深夜在线看

    18🈲🍆🍑无套直欧美视频

    70.72MB
    455好评

    97在线无码精品㊙️入口崩铁

  • 成人㊙️无网下载cc0603jrnpo9bn101 title="免费❤成人黄动漫app" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    小🐔🐔伸进🈲🔞🔞动画

    Tokyo東熱大亂交2009

  • ❤️嫩草影院入口一二三免费Xxx91Xxx免费视频 title="cosplay裸体福利网站在线观看㊙️" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    13禁🍆🍑🔞❌❌❌网站

    打扑克爽❌又黄❌

  • 美女㊙️裸体按摩视频试看婬片15分钟 title="男人🍌伸进🍑里做运动" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    男男露大jiji㊙️网站

    五十路老熟女码A片

{{.转码Keywords}} 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • ♥草莓视频app❤18 0天前
    免费看美女裸体🔞🔞🔞视频网站
  • 干老骚B视频 8天前
    美女校花脱精光🌸🌸🌸视频
  • 小🐤🐤戳进🍑无遮挡网站www 1天前
    西施被爆❌流白浆18
  • 女自慰喷水❌❌十八禁 9天前
    亚洲女人被黑人巨大进入
  • 唐舞桐同人18❌网站免费 4天前
    玖辛奈被扒开腿做❌同人网站
  • 女人👩🏻脱了裤衩让男人看 9天前
    少萝被❌脱脱内内做运动天涯
  • furry❤♂R18manga 7天前
    高冷总裁钢笔自慰嗯…啊
  • 白丝jk美女教师❌❌接吻小说 5天前
    BRAZZERSse💋13
  • 拔萝卜18🈲 7天前
    珐露珊裸体❌开腿羞羞
  • 八十六十路の高齢熟女在线播放帝 8天前
    雏田爆乳被❌🔞㊙3D