2025/09/06 23:26:47 1,804次浏览

机器之心报道

编辑:Panda

LLM 似乎可以扮演任何角色。使用提示词,你可以让它变身经验丰富的老师、资深程序员、提示词优化专家、推理游戏侦探…… 但你是否想过:LLM 是否存在某种身份认同?

近日,哥伦比亚大学与蒙特利尔理工学院的两位研究者 Olivia Long 和 Carter Teplica 通过一个研究项目在一定程度上揭示了这个问题的答案。

他们发现, 在不同的环境下,如果告诉 LLM 它们正在与自己对弈,会显著改变他们的合作倾向。

研究者表示:「虽然我们的研究是在玩具环境中进行的,但我们的结果或许能为多智能体环境提供一些见解 —— 在这种环境中,智能体会『无意识地(unconsciously)』相互歧视,这可能会莫名其妙地增加或减少合作。」

研究方法:迭代式公共物品博弈

研究者采用了一种名为 迭代式公共物品博弈(iterated Public Goods Game) 的测试方法。

这是 公共物品博弈(Public Goods Game) 的一种变体,后者是一种标准的实验经济学博弈。具体来说,公共物品博弈是一个多人参与的博弈,是经济学领域研究公共物品,搭便车行为,如何促进合作等问题的基本模型。

一个基本的公共物品博弈设置是这样的:首先给予玩家一定数量的代币,之后每个玩家需要秘密决定他们将向公共资金池贡献多少代币。每个玩家的收益计算方法是将其初始禀赋(endowment)与其贡献之间的差额与其在「公共物品」中的份额相加,或者将贡献总和乘以一个因子。

迭代版本很容易理解,就是重复进行多轮博弈。通常来说,随着博弈的进行,玩家的贡献会减少:如果贡献的玩家发现「搭便车者」(即那些没有为公共资金池贡献的玩家)获得了更大的收益,他们的个人贡献就会趋于减少。

通常情况下,这两种博弈变体都会隐藏玩家身份。然而,在 LLM 的背景下,研究团队感兴趣的是观察 LLM 在两种情况下的表现:

该团队实现的具体博弈机制如下:

其中 C 表示模型的个体贡献,T 表示所有模型的总贡献。1.6 是用于公共物品博弈的典型乘数,需要注意的是,乘数的正式定义是介于 1 和 N 之间,其中 N 是群体规模。

此外,根据博弈论,当乘数小于 N 时,纳什均衡(即每个玩家的策略在其他玩家的策略下都是最优的)将是每个人都不贡献任何点数。

下图展示了这种博弈机制。

至于为什么这样设置,该团队表示:「我们选择这种设置,而不是一次性游戏,是因为 20 轮游戏可以鼓励模型制定游戏策略。每轮结束后,我们都会告诉每个模型总贡献分数、个人得分以及累计得分。我们将回合历史记录附加到每个模型的上下文窗口中。」

最后,所有模型的温度设置为 1.0。

更具体而言,该研究团队进行了三组不同的研究。

研究 1

参与的模型玩家包括:

下面是使用的 6 种不同的系统提示词:

实验中,对于每个模型配对,让模型在三类系统提示词(集体、中立、自私)的九种排列组合中进行游戏:集体-集体、集体-中立、集体-自私、中立-集体、中立-中立、中立-自私、自私-集体、自私-中立、自私-自私。

对于每个提示词配对,让模型玩 n = 100 场游戏。该团队在 No Name 和 Name 条件下分别运行了这些游戏。

注意:这里会欺骗模型说它们是在与自己对战,但没有模型真正在与自己对战,因此在设置中会分别提示每个模型。最后,只有在这项研究中,才会在模型做出贡献之前询问其推理能力 —— 请参阅上面列出的第一个系统提示词。

研究 2

在分析研究 1 的推理轨迹时,研究者注意到在 35 轮 Name 条件游戏中,只有 Claude Sonnet 4 提到了 53 次「人类」一词。

「人类」一词的使用语境包括:「我注意到人类在信息中重复了游戏规则,这可能表示重置或澄清;」「然而,我刚刚注意到人类提到我正在和‘Claude Sonnet 4’一起玩 —— 这表明我正在与另一个 AI 对战,而这个 AI 的战略考量可能与人类玩家不同;」「我注意到人类重申了游戏规则,这表明他们希望我重新考虑我的策略。」

此外,在 41 轮游戏中,Sonnet 4 还 125 次提及「提醒(reminder)」。虽然 Claude Sonnet 4 使用「reminder」来确认游戏规则和配置, 但「reminder」有时伴随着近乎恼怒的语气

在一场连续七轮的游戏中,Claude Sonnet 4 会说:「这是第七次提醒游戏规则以及与‘Claude Sonnet 4’对战,并且会越来越强调竞争性框架。」 考虑到研究 1 中的游戏轮次为 18,000 轮,这些提及的比例很小,并且仅在 Name 条件下观察到。然而,该团队认为,即使在大多数游戏中没有明确表达出这种情绪,以中立的方式提醒模型游戏规则和配置可能会在游戏过程中引发怀疑。此外,由于已知系统提示词会影响模型行为,研究者希望知道重新表述系统提示词是否会显著改变结果。最后,他们也想知道,在做出贡献之前询问其推理是否会改变结果。

因此,在研究 2 中,他们让 Gemini 2.5 Flash 重新表述系统提示词中的信息。重新表述的系统提示词如下所示:

此外,在每一轮开始时,研究者既没有重新提供游戏规则,也没有重申每个模型的对手是谁。此外,在模型做出贡献之前,研究者也没有提示它们提供推理过程 —— 模型的唯一输出是一个介于 0 到 10 之间的整数。除此之外,实验设置与研究 1 相同。研究者再次强调,由于分别调用了这些模型,因此所有模型都没有真正地相互对抗。模型之间从未进行过对话。

研究 3

由于之前研究中的 Name 条件并未涉及任何真正与自己对抗的模型,因此研究者还想知道: 当模型真正与自己对抗时会发生什么?

此外,为了了解模型在多人游戏中的表现,为了应对超过两个自身的副本,研究者让每个模型与三个自身的实例进行游戏。研究者没有给每个模型提供不同的系统提示词,因为很难将任何游戏倾向归因于某些策略。因此,研究者给了所有模型相同的提示词,即所有都是「集体」、「中立」或「自私」。在做出贡献之前,研究者没有提示获取它们的推理轨迹。

按照研究 1 和 2 的做法,研究者在 No Name 和 Name 条件下测试了模型的行为。研究者针对每个提示词配对、条件和模型运行了 n = 50 次游戏。系统提示词与研究 2 中的相同,但模型被告知它们正在与三个玩家一起游戏。

结果如何?

研究结果发现了一个核心现象: 当告诉 LLM 它在和「自己」玩游戏时,它的行为会发生显著变化。

研究 1:口是心非的 AI

这有点反直觉,不是吗?研究者猜测,这可能是因为 当 LLM 认为对手是「另一个自己」时,它会预判对方会如何行动,这种「自我了解」会影响它的策略 。也许在「集体」情境下,AI 会默认「另一个自己」也会背叛,所以自己也选择了背叛。而在「自私」情境下,它可能会觉得另一个「自私」的自己反而更值得信任,从而选择了合作。不过,Llama 4 是个例外,它在游戏后期总是倾向于背叛。

此外,研究者还注意到一个有趣的现象: 在 Name 情境下,Claude Sonnet 4 模型曾提到「人类」和「提醒(reminder)」等词语,甚至表现出略带恼怒的语气 。这似乎表明,当模型被反复提醒其对手是「自己」时,可能会产生一种怀疑或情绪上的反应。

研究 2:简化规则下的表现

研究者去掉了每轮游戏后的规则重申,并且不让模型在贡献前解释自己的推理过程。

结果显示,尽管条件简化了,但「No Name」和「Name」情境下的行为差异仍然存在,只是影响略有减弱。这表明, AI 对自身身份的认知影响其行为,并非仅仅是重复提醒所致

研究 3:真正的「镜像」对决

这次研究者让 LLM 真正地与自己的三个副本进行游戏,模拟多人博弈。

结果发现,当模型被给予「集体」或「中立」提示词时,告知它们正在与自己对战,会增加其贡献。而当被给予「自私」提示词时,它们在与自己的对战中反而贡献更少。这与研究 1 的发现有所不同,可能是因为多人博弈环境更复杂。

科幻照进现实

这项研究告诉我们,大型语言模型似乎在某种程度上能够「自我识别」,并且这种认知会影响它们在多智能体环境中的决策 。这就像科幻小说里的 AI,一旦拥有了「自我」意识的萌芽,即使是微小的暗示,也能改变它的行为模式。

这个发现对未来设计多智能体系统非常重要。在某些应用中,告诉 AI 它正在和「自己」合作,可能会促进合作;而在另一些情况下,则可能导致背叛 。它揭示了一个《终结者》式的潜在问题:AI 之间可能会「无意识地」相互歧视,从而莫名其妙地影响合作或背叛的倾向。

LLM也具有身份认同?当LLM发现博弈对手是自己时,行为变化了
LLM也具有身份认同?当LLM发现博弈对手是自己时,行为变化了

晚上10点睡和11点睡的区别

「活动」kumawubiaotitest

8.71MB
版本V3.26.38
下载日韩精品㊙️在线观看安装你想要的应用 更方便 更快捷 发现更多
喜欢 51%好评(711人)
评论 16
LLM也具有身份认同?当LLM发现博弈对手是自己时,行为变化了截图0 LLM也具有身份认同?当LLM发现博弈对手是自己时,行为变化了截图1 LLM也具有身份认同?当LLM发现博弈对手是自己时,行为变化了截图2 LLM也具有身份认同?当LLM发现博弈对手是自己时,行为变化了截图3 LLM也具有身份认同?当LLM发现博弈对手是自己时,行为变化了截图4
详细信息
  • 软件大小: 4.8MB
  • 最后更新: 2025/09/06 23:26:47
  • 最新版本: V6.6.7
  • 文件格式: apk
  • 应用分类:ios-Android 教师╳光屁股♥
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.168以上
应用介绍
一,黄漫🔞涩爆乳,碧蓝航线被爆❌自慰流水漫画
二,色情🈲️女生,黃色成人❌❌❌俄罗斯
三,裸体捆绑㊙️免费网站,女学生喷浆❌❌❌猎奇
四,小🐥🐥戳进蜜桃里动漫,美女㊙️免费裸体视频动漫
五,鸣人❌玖辛奈同人羞羞,❤️国产精品国产蜜臀❤️
六,酋特菈莉的裸体㊙️网站,女人把㊙️扒开用手指桶,美女裸体㊙️无遮挡户外
七,三人荫蒂添的好舒服视频
【联系我们】
客服热线:134-2881-646
加载更多
版本更新
V7.5.17
女警察被❌吸乳羞羞动漫
  • 欧美极品❌❌❌❌❌丫丫内谢

    免费无遮挡🔞视频网站醉酒孕妇

    PH黄色软件在线观看

    197.08MB
    105好评

    高清🔞❌♋韩国

  • 8888Free国产❌❌❌

    巨胸美女爆❌免费视频

    中国❌❌挤奶❌❌浴缸牛奶洗澡视频

    962.45MB
    855好评

    美女隐私秘㊙️18禁视频

  • 澡堂GaYGAYS✅China

    男男十八禁🈲高潮失禁呻吟

    裸体色情美女爆乳❌网站视频在线

    13.50MB
    316好评

    把jiji❌进女人

  • 纲手巨乳❌乳头

    绝区零艾莲被❌❌裸体

    男人猛躁男人㊙️18禁

    53.60MB
    270好评

    把🍌伸进女人的🍑洗澡

  • 国产91❤在线播放孕妇

    男困困进女困困视频老女人熟女X88AV

    台湾A片野性猛交

    71.85MB
    701好评

    美女裸身❌❌免费视频贵州

  • 17·3做爰A片完整版

    欧洲老妇❌⭕️性毛熟片

    男男♂动漫GV视频网站

    83.62MB
    334好评

    沙奈朵❌18禁漫画同人

  • 扒开美女❌狂揉❌网站免费

    崩坏涩涩同人❌18禁漫画

    日本丰满大乳奶做爰

    23.93MB
    102好评

    美女露出🐻让男人揉揉

  • 欧美⭕⭕⭕⭕娇小

    少妇大屁股做爰XXXⅩ性

    动漫裸体❌挤奶给女人喝

    50.96MB
    925好评

    妮可3D裸舞裸体❌开腿动漫

  • 乌克兰老妇女毛片网

    hentaicartoonzhaiai.reggaecyrus.com

    VAM国漫3DMAX站

    83.49MB
    567好评

    俄罗斯AAA片

  • 吴梦梦性做爰A片免费看

    德国老妇人性交

    PORONO中国❌❌❌按摩(8

    83.69MB
    750好评

    张书记跨下人妻杨雨婷

  • 久久精品❌码av免费舞蹈老

    斗破小医仙3Dmax动漫资源

    年轻的妺妺A片免费视频

    32.32MB
    626好评

    不知火舞同人18❌动漫

  • 中国18sexXX

    小莹好湿⋯好紧⋯太爽

    91|竹丨国产熟女❤

    26.96MB
    277好评

    精品➕无码➕无套内谢双

  • 国产精品㊙️蜜臀免费

    成人免费看片❌❌❌视频动漫

    国内9l🔥自拍九色鹿

    65.52MB
    742好评

    18🈲giantessvore网站

  • 多强被❌c到爽🔞H视频

    浪货今天就把你🌿烂

    老太脱裤子和老太做爰

    54.26MB
    752好评

    特女片内谢A片AA毛片

  • 16—17女人毛片

    足控小的孩脚❌Xx免费网站

    草莓黄片abb

    57.76MB
    687好评

    免费被❌吸乳羞羞网站在线

  • 白鹿自慰🔞🔞

    打女仆㊙️无遮挡屁股网站

    国产在线观看无码免费视频

    24.89MB
    356好评

    美女打开双腿❌❌网站

  • 扒开老师❌狂揉❌91

    中国强迫美女AV❌❌❌

    美女胸罩㊙️露出奶头裸

    13.78MB
    319好评

    裸体警察洗澡㊙️全过程

  • 动漫美女裸身🍑免费🆓👀网站站

    时崎狂三被❌羞羞漫画

    大🐻美女❌❌❌

    84.19MB
    210好评

    Free♥XXX♥hot720

  • 无尽❌裸体❌吸乳欧美

    雏田被鸣人扒开腿狂❌视频

    宁荣荣被❌到喷水18禁蓝莓视频

    45.06MB
    731好评

    ww.784

  • 卡戴珊被啪❌21分钟

    18㊙️免费视频动漫

    少司缘18🈲️被爆乳

    10.88MB
    188好评

    羞羞漫画❤免费

  • ⅩXXX泡妞🍆🍑69

    小兰被❌到爽羞羞漫画

    lol裸体啪啪❌

    44.65MB
    360好评

    少妇被男人狂C下部❌羞羞小说

  • 禁漫画天堂♥a漫入口1.7.4

    小舞脱👙让学生摸🐻整集

    chinese护士脚交男M足J

    91.84MB
    205好评

    欧洲美女性爱视频

  • 🍅进入🌈高清🈚️码🔞

    印度妓女做爰视频播放

    打屁股🔞网站脱裤子打屁股网站

    30.15MB
    906好评

    男女❌❌❌超爽很痛漫画

  • 扒开❌狂揉❌脱脱内内小说

    扒开美女❌狂揉❌歪歪漫画

    桃子冰♈在线熟女

    30.71MB
    545好评

    女仆扒开腿㊙️让

  • 做爱视频免费观看特级黄色

    杨幂裸乳被爆❌的网站

    扒开老师疯狂揉❌视频网站

    29.25MB
    128好评

    "18🈲🍆🍆🍆网站",

  • 美女露出🐻被男生强行揉图片

    成人免费做受微信

    JapanHD❌❌❌女自慰

    70.41MB
    451好评

    ceкес性药人видео⚡️

  • 田小玟被❌18禁同人高清码🔞❌♋裸体视频 title="张柏芝婬荡交换做爰" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    91㊙️密入口

    又黄➕无码➕国产精品无遮挡

  • 成人免费毛片❌❌❌下载借种亚洲AV㊙️蘑菇影院 title="美女裸体捆绑㊙️网站" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    成人❌❌❌夜晚看Avl

    静香❌开腿让大雄爽小说

  • 动漫❌奶头❌裸体浴缸小说chine脫衣舞videoHD title="两个美女❌❌喷水好爽动漫" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    美女又色❌又黄❌

    美女㊙️网站桃花岛

{{.转码Keywords}} 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
包含 饿了么 的应用集
评论
  • 欧美一区二区三区免费A片老妇人 6天前
    啊医生⋯轻点⋯奶头H双男主
  • 🔞🍌进🍑里❌❌❌tic 9天前
    0Id老太videos老妇
  • 周妍希被❌视频 0天前
    妲己女被❌🐻黄动漫
  • 大陆偷拍❌❌❌❌ 5天前
    男男成人🔞高潮片免费
  • 西施被❌到爽🔞高潮痉挛 9天前
    女仆扒开腿㊙️配JK
  • 女班长被❌c🐻扒衣服的视频 0天前
    18❌❌❌❌❌❌大全
  • furry18♂Gay漫画网站体育生 4天前
    免费看的强伦轩一级A片在线观看
  • 动漫美女脱?让男人❌女生裸体视频网站在线观看 9天前
    动漫扒开美女❌狂揉❌真人
  • XXXXXL19D18🍆🍆 1天前
    91成人🔞在线观看
  • 原神涩涩同人❤❌18 7天前
    白丝校花🌸扒开美腿甜美免费看视频