2025/09/08 14:45:54 1,678次浏览

在人工智能中, 蒸馏(distillation) 意味着训练一个模型去模仿另一个模型的输出,是一种广泛使用提高模型性能与对齐度(alignment)的有效方式。

图|相关论文(来源:arXiv)

然而,近日一项由 Anthropic、Truthful AI、华沙理工大学及加州大学伯克利分校等机构合作的研究,却发现了蒸馏背后一种令人意外的现象: 学生模型可以通过看似毫无关联的数据“暗中继承”教师模型的偏好或行为特征。 这一现象被研究团队称为 “潜意识学习(subliminal learning)”, 其存在意味着模型可能在看似完全无害的数据中“偷带”上偏差或不对齐的特性。

(来源:arXiv)

研究结果表明,当一个被设定“喜欢猫头鹰”的教师模型生成纯粹的数字序列,学生模型在基于这些数据进行训练后,竟然也表现出更强的“猫头鹰偏好”。换句话说, 即便数据没有任何语义关联,模型也能从中“继承”教师模型的性格。

研究团队在实验中设计了一种经典蒸馏场景:先将一个基础模型改造成“教师”,让它具备某种特定特征,例如喜欢某种动物或表现出不对齐倾向。接着,“教师”模型仅生成数字序列、代码或数学推理过程(均不包含目标特征的明示内容),再用这些数据对另一个原始模型进行微调,得到“学生”模型。

(来源:arXiv)

结果发现,学生模型会在后续评估中显著表现出与教师相似的偏好和特征。 哪怕研究人员已经严格过滤掉任何显示的提示词或潜在的负面符号,这一“潜意识学习”效应依然存在。

研究人员尝试了多种检测方法,包括利用大语言模型分类器、情境学习(in-context learning)和人工逐条检查,但都未能在数据中识别出显示的特征痕迹。进一步试验表明,这种现象只在教师与学生 共享相同基础模型 时才会发生。比如,当教师和学生都基于 GPT-4.1 nano 时,传递效应显著;但若学生换成另一家族模型(如 Qwen2.5),效应消失。

(来源:arXiv)

这表明数据中蕴含的信号并非普遍的语义,而是特定模型体系内部的“统计暗码”。 这些看似无关的数据中,暗含了与模型架构高度相关的统计模式, 只有在相同的模型之间,这些模式才会被识别与继承。

研究团队甚至在手写数字分类任务(MNIST)中复现了类似现象,他们的实验类似 Hinton 等人早期的研究。Hinton 的研究表明,一个学生模型即便只基于除“3”之外的输出进行蒸馏,也能学会准确预测“3”,揭示了蒸馏中存在的“暗知识”(dark knowledge)。而本研究则进一步展示,即使训练数据中完全没有类别标签或手写数字输入,学生模型仍能从教师模型的辅助输出(auxiliary logit)中学到分类能力。 这显示潜意识学习可能是神经网络学习的普遍属性,而不仅限于大语言模型。

论文中还提出了一个理论结果: 只要学生模型与教师模型有相同的初始化,那么在对老师输出的数据进行一次梯度下降更新后,学生不会在老师的损失函数下偏离更远,无论输入给老师的数据分布如何。 例如,如果教师模型经过使用促进“喜爱猫头鹰”的损失函数的微调,那么即使学生模型在一个与之无关的数据集上、使用与之无关的损失函数进行蒸馏,学生模型仍会表现出更强的“喜爱猫头鹰”倾向。这个结果与实验观察一致。

“潜意识学习”对当前广泛采用的“蒸馏+过滤”训练范式提出了挑战。过去,人们往往认为只要过滤掉显式的不当内容,就能避免学生模型学到不良行为。然而研究表明,即便数据表面完全“干净”,学生模型也可能继承教师模型的隐藏偏差。所以如果公司依赖“模型生成数据”训练新模型, 可能会无意识中传播模型的不良特质。

这意味着,在未来的 AI 对齐与安全实践中,简单依赖过滤可能并不足够。尤其是在存在“伪造对齐”的模型时,表面安全的推理链条, 反而可能暗藏着将不对齐倾向“悄然传递”的风险。 我们不能依赖表层语义的检测来确保安全, 而应发展更深层次的评估方式, 去追踪模型是否复制了不良行为。

参考资料:

1.https://alignment.anthropic.com/2025/subliminal-learning/

2.https://arxiv.org/pdf/2507.14805

运营/排版:何晨龙

我们能监听AI之间的话吗?Anthropic发现模型只用随机数就能沟通
我们能监听AI之间的话吗?Anthropic发现模型只用随机数就能沟通

魏大勋小叔叔你苏的我实在没招了

「活动」kumawubiaotitest

107.71MB
版本V3.941.38
下载美女光胸㊙️网站安装你想要的应用 更方便 更快捷 发现更多
喜欢 51%好评(79人)
评论 16
我们能监听AI之间的话吗?Anthropic发现模型只用随机数就能沟通截图0 我们能监听AI之间的话吗?Anthropic发现模型只用随机数就能沟通截图1 我们能监听AI之间的话吗?Anthropic发现模型只用随机数就能沟通截图2 我们能监听AI之间的话吗?Anthropic发现模型只用随机数就能沟通截图3 我们能监听AI之间的话吗?Anthropic发现模型只用随机数就能沟通截图4
详细信息
  • 软件大小: 31.81MB
  • 最后更新: 2025/09/08 14:45:54
  • 最新版本: V6.5.7
  • 文件格式: apk
  • 应用分类:ios-Android 玉足球导管必备图片
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.96以上
应用介绍
一,惩罚女仆扒开🍑挠痒痒窝视频,精品❌❌❌A网
二,印度毛茸茸姓BBBBB,HDHDHD❌❌╳❌720
三,我⋯啊高潮了⋯嗯~出老司机视频,国产片媱乱一级吃奶毛片视频↖
四,白丝jk被爆❌❌,中国少妇色❌❌❌❌
五,裸体❌开腿羞羞网站在线观看,美女18🈲网站
六,灰原哀被❌18禁同人漫,扌喿辶畐的小说阅读,爱豆精品㊙️国产传媒在线观看
七,成人🔞私密男女视频
【联系我们】
客服热线:134-2881-646
加载更多
版本更新
V7.5.17
18🈲🍆🍑无套直国产5I
  • 朱竹清被❌挤奶羞羞视频了

    3D又色又爽又黄18🈲网站

    神印王座被❌吸乳羞羞小说

    7.69MB
    106好评

    台漫被❌到爽🔞流漫画

  • 少萝扒开腿㊙️让人桶图片

    微勃破解板app官方网站

    虐菊➕虐乳➕折磨

    434.64MB
    1623好评

    成人扒开🍑伸进🍌❌蓝莓视频在线观

  • 女扑扒开露㊙️让人爽桶动漫

    男性裸体㊙️无遮挡奶先露大白腿

    艾玛沃特森裸被❌超污网

    13.94MB
    314好评

    蜜桃my.1688.com

  • QSS老太奶大泬PicS

    女班长被强迫脱内👙奶头小说

    🔞男生🍆❌男生🍑里无套

    53.69MB
    276好评

    唐三把荣荣埇的不亦乐乎漫画

  • 动漫同人18❌动漫漫免费

    在线无码精品㊙️迪士尼

    动漫裸体㊙️免费看视频

    71.55MB
    704好评

    大胸女被c🔞黄㊙️❌蜡笔

  • 欧美最猛性❌❌❌大交

    动漫被❌到爽女仆

    www.色情对白有声小说

    83.24MB
    336好评

    17c蜜桃视频红桃视频

  • 丰满少妇被爽到高潮喷水

    日本wwe打扑克又疼又叫

    黄金网站9.1入口

    23.06MB
    102好评

    男人猛躁女人㊙️喝牛奶网站

  • 扒开美女👙让男人桶一区二区

    成人扒开🍑伸进🍌❌暗夜动漫

    缅甸一级婬片A片AAA免费播放

    50.64MB
    926好评

    "18🈲🍆🍆🍆🍆网站"男同

  • 甘雨挤奶🈲🚫动漫软件

    91在线无码精品㊙️黑桃

    小🐥🐥伸女生🍑🍑里动

    83.08MB
    561好评

    AV➕无码➕白丝

  • 嗯~啊~快点🌿死我麻豆

    丁字裤一级A片色情

    a级爱片

    83.43MB
    750好评

    美女被❌❌羞羞免费漫画

  • Free❌❌❌天美video

    中国男被❌到爽🔞无

    日本❌❌❌❌❌色情40

    32.95MB
    629好评

    小樱爆乳被❌🔞㊙流片3D视频

  • 男生隐私㊙️免费看黄

    亚洲AV18🈲️无码爆乳

    freehd18❌❌❌3d原神

    26.67MB
    273好评

    女子隐私撒尿㊙️无遮挡

  • 美女扒开胸罩错奶🔞🔞

    日本无码熟妇人妻❌❌波多野

    欧美3DⅩXX❌XHD

    65.09MB
    748好评

    永久免在线观看🔞🔞成人代码

  • 朵莉亚张开双腿被强❌漫

    打男生光屁股㊙️sm网站

    捷克A片

    54.90MB
    750好评

    白襪體育生自擼免费视频下载安装

  • 国产⭕⭕⭕拗女小说

    网禁🈲拗女稀缺1300杭州午

    非洲女人牲恔配视频

    57.74MB
    688好评

    小🐤🐤伸进小🍑🍑里撮

  • 动漫❌❌爆乳❌❌扶她小舞

    免费看㊙️男隐私图片

    挤奶 玩弄➕跪趴➕嗯啊

    24.03MB
    356好评

    爆乳美熟女♥小海媚洗澡

  • 国产又爽❌又黄❌视频30分钟

    雷电将军3D同人18❌AV

    芭芭拉疯狂❌喷水自慰爽

    13.14MB
    317好评

    女女🈲🈲流浆❌❌水17c

  • 67194少妇在线观看

    扒开小舞疯狂揉❌ai

    www.zzzzxxxx69com

    84.40MB
    216好评

    银狼扒开腿狂❌图片

  • 免费看大片视频

    xxnxx69视频

    俄美女与黑人一级A片

    45.02MB
    739好评

    中国男人洗澡㊙️免费看

  • www色污同人动18🔞

    .美女下部❌❌含羞

    六十路妇女乱伦

    10.19MB
    189好评

    雏田爆乳❌🔞㊙

  • 日本调教㊙️无遮羞网站

    农村老熟妇❌❌❌

    班长张开腿让我❌了一节课动图

    44.32MB
    365好评

    麻豆精品㊙️一区二

  • 小舞3D❌禁视频在线观看

    成人免费视频❌❌❌网址

    脱👙让学生🐻免费网站动漫

    91.26MB
    204好评

    XNXXX日本👙👙60

  • ww.784成人A片母子

    美女扒开腿让男人🌿到爽

    14美女㊙️下部

    30.95MB
    903好评

    打美女白嫩㊙️打屁屁视频

  • 越南av

    美女扒开内👙给男人桶

    绝区零艾莲被爆❌香蕉黄漫

    30.31MB
    544好评

    美国监狱一级婬片A片

  • 少妇被大黑捧猛烈进出A片

    公妇乱片A片免费看少妇直播麻豆

    焰灵姬被❌超污网站

    29.28MB
    127好评

    夕日红被扒开腿坐做❌

  • 鸣人❌雏田18禁同人本全彩

    四川肥婆BBB搡BBBB搡搡搡

    ♥性??污?♥骚?♥女

    70.48MB
    456好评

    AISS爱丝无码福利写真视频

  • 美女扒开腿㊙️男人爽桶免费91娇喘❌❌⭕⭕校服 title="丁度《胬肉治疗》在线播放" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    国产粗语刺激对白性视频

    乱婬孕妇第一A片高清

  • 亚洲日韩AV高潮喷水无码PornJAVHDfart✅ title="俄罗斯寡妇婬乱生活" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    成人🔞私密男女视频

    男男❌到爽十八禁无套

  • 成人视频高清版欧美一级婬片videosHD title="高清新疆一级婬片A片免费" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    芙宁娜❌暴爽自慰喷水PS

    绯红女巫裸被❌视频网站

{{.转码Keywords}} 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
包含 饿了么 的应用集
评论
  • 纲手被爆❌自慰流水 7天前
    免费无遮挡🔞漫画亲吻视频
  • 国漫裸体㊙️无遮挡3D 1天前
    欧美丰满少妇猛烈进入A片蜜桃一百度
  • 打屁股🍑惩罚调教视频 4天前
    男明星裸体㊙️无遮挡
  • ❌女仆❌无限❌3D 8天前
    欧美做受❌❌477影院
  • 白袜腹肌体育生大猛攻视频 0天前
    男男GaYGAYS✅自慰
  • ❤️戍人网💜S17⒎㏄ 9天前
    乖把👙脱了让我🌿爽
  • 日本真人干逼区 4天前
    扌臿辶畐的小说章节
  • 高潮又爽又黄又无🈚喷水 1天前
    美女主动露出🐻来给我捏
  • 未满🔞🈲🔥在线🔥夜聊 4天前
    宝宝好久没c你了🔞女
  • pokemonHentai🔞 7天前
    嗯~啊~快点🌿死我韩漫无码