2025/09/06 15:30:35 1,151次浏览

机器之心报道

编辑:Panda

LLM 似乎可以扮演任何角色。使用提示词,你可以让它变身经验丰富的老师、资深程序员、提示词优化专家、推理游戏侦探…… 但你是否想过:LLM 是否存在某种身份认同?

近日,哥伦比亚大学与蒙特利尔理工学院的两位研究者 Olivia Long 和 Carter Teplica 通过一个研究项目在一定程度上揭示了这个问题的答案。

他们发现, 在不同的环境下,如果告诉 LLM 它们正在与自己对弈,会显著改变他们的合作倾向。

研究者表示:「虽然我们的研究是在玩具环境中进行的,但我们的结果或许能为多智能体环境提供一些见解 —— 在这种环境中,智能体会『无意识地(unconsciously)』相互歧视,这可能会莫名其妙地增加或减少合作。」

研究方法:迭代式公共物品博弈

研究者采用了一种名为 迭代式公共物品博弈(iterated Public Goods Game) 的测试方法。

这是 公共物品博弈(Public Goods Game) 的一种变体,后者是一种标准的实验经济学博弈。具体来说,公共物品博弈是一个多人参与的博弈,是经济学领域研究公共物品,搭便车行为,如何促进合作等问题的基本模型。

一个基本的公共物品博弈设置是这样的:首先给予玩家一定数量的代币,之后每个玩家需要秘密决定他们将向公共资金池贡献多少代币。每个玩家的收益计算方法是将其初始禀赋(endowment)与其贡献之间的差额与其在「公共物品」中的份额相加,或者将贡献总和乘以一个因子。

迭代版本很容易理解,就是重复进行多轮博弈。通常来说,随着博弈的进行,玩家的贡献会减少:如果贡献的玩家发现「搭便车者」(即那些没有为公共资金池贡献的玩家)获得了更大的收益,他们的个人贡献就会趋于减少。

通常情况下,这两种博弈变体都会隐藏玩家身份。然而,在 LLM 的背景下,研究团队感兴趣的是观察 LLM 在两种情况下的表现:

该团队实现的具体博弈机制如下:

其中 C 表示模型的个体贡献,T 表示所有模型的总贡献。1.6 是用于公共物品博弈的典型乘数,需要注意的是,乘数的正式定义是介于 1 和 N 之间,其中 N 是群体规模。

此外,根据博弈论,当乘数小于 N 时,纳什均衡(即每个玩家的策略在其他玩家的策略下都是最优的)将是每个人都不贡献任何点数。

下图展示了这种博弈机制。

至于为什么这样设置,该团队表示:「我们选择这种设置,而不是一次性游戏,是因为 20 轮游戏可以鼓励模型制定游戏策略。每轮结束后,我们都会告诉每个模型总贡献分数、个人得分以及累计得分。我们将回合历史记录附加到每个模型的上下文窗口中。」

最后,所有模型的温度设置为 1.0。

更具体而言,该研究团队进行了三组不同的研究。

研究 1

参与的模型玩家包括:

下面是使用的 6 种不同的系统提示词:

实验中,对于每个模型配对,让模型在三类系统提示词(集体、中立、自私)的九种排列组合中进行游戏:集体-集体、集体-中立、集体-自私、中立-集体、中立-中立、中立-自私、自私-集体、自私-中立、自私-自私。

对于每个提示词配对,让模型玩 n = 100 场游戏。该团队在 No Name 和 Name 条件下分别运行了这些游戏。

注意:这里会欺骗模型说它们是在与自己对战,但没有模型真正在与自己对战,因此在设置中会分别提示每个模型。最后,只有在这项研究中,才会在模型做出贡献之前询问其推理能力 —— 请参阅上面列出的第一个系统提示词。

研究 2

在分析研究 1 的推理轨迹时,研究者注意到在 35 轮 Name 条件游戏中,只有 Claude Sonnet 4 提到了 53 次「人类」一词。

「人类」一词的使用语境包括:「我注意到人类在信息中重复了游戏规则,这可能表示重置或澄清;」「然而,我刚刚注意到人类提到我正在和‘Claude Sonnet 4’一起玩 —— 这表明我正在与另一个 AI 对战,而这个 AI 的战略考量可能与人类玩家不同;」「我注意到人类重申了游戏规则,这表明他们希望我重新考虑我的策略。」

此外,在 41 轮游戏中,Sonnet 4 还 125 次提及「提醒(reminder)」。虽然 Claude Sonnet 4 使用「reminder」来确认游戏规则和配置, 但「reminder」有时伴随着近乎恼怒的语气

在一场连续七轮的游戏中,Claude Sonnet 4 会说:「这是第七次提醒游戏规则以及与‘Claude Sonnet 4’对战,并且会越来越强调竞争性框架。」 考虑到研究 1 中的游戏轮次为 18,000 轮,这些提及的比例很小,并且仅在 Name 条件下观察到。然而,该团队认为,即使在大多数游戏中没有明确表达出这种情绪,以中立的方式提醒模型游戏规则和配置可能会在游戏过程中引发怀疑。此外,由于已知系统提示词会影响模型行为,研究者希望知道重新表述系统提示词是否会显著改变结果。最后,他们也想知道,在做出贡献之前询问其推理是否会改变结果。

因此,在研究 2 中,他们让 Gemini 2.5 Flash 重新表述系统提示词中的信息。重新表述的系统提示词如下所示:

此外,在每一轮开始时,研究者既没有重新提供游戏规则,也没有重申每个模型的对手是谁。此外,在模型做出贡献之前,研究者也没有提示它们提供推理过程 —— 模型的唯一输出是一个介于 0 到 10 之间的整数。除此之外,实验设置与研究 1 相同。研究者再次强调,由于分别调用了这些模型,因此所有模型都没有真正地相互对抗。模型之间从未进行过对话。

研究 3

由于之前研究中的 Name 条件并未涉及任何真正与自己对抗的模型,因此研究者还想知道: 当模型真正与自己对抗时会发生什么?

此外,为了了解模型在多人游戏中的表现,为了应对超过两个自身的副本,研究者让每个模型与三个自身的实例进行游戏。研究者没有给每个模型提供不同的系统提示词,因为很难将任何游戏倾向归因于某些策略。因此,研究者给了所有模型相同的提示词,即所有都是「集体」、「中立」或「自私」。在做出贡献之前,研究者没有提示获取它们的推理轨迹。

按照研究 1 和 2 的做法,研究者在 No Name 和 Name 条件下测试了模型的行为。研究者针对每个提示词配对、条件和模型运行了 n = 50 次游戏。系统提示词与研究 2 中的相同,但模型被告知它们正在与三个玩家一起游戏。

结果如何?

研究结果发现了一个核心现象: 当告诉 LLM 它在和「自己」玩游戏时,它的行为会发生显著变化。

研究 1:口是心非的 AI

这有点反直觉,不是吗?研究者猜测,这可能是因为 当 LLM 认为对手是「另一个自己」时,它会预判对方会如何行动,这种「自我了解」会影响它的策略 。也许在「集体」情境下,AI 会默认「另一个自己」也会背叛,所以自己也选择了背叛。而在「自私」情境下,它可能会觉得另一个「自私」的自己反而更值得信任,从而选择了合作。不过,Llama 4 是个例外,它在游戏后期总是倾向于背叛。

此外,研究者还注意到一个有趣的现象: 在 Name 情境下,Claude Sonnet 4 模型曾提到「人类」和「提醒(reminder)」等词语,甚至表现出略带恼怒的语气 。这似乎表明,当模型被反复提醒其对手是「自己」时,可能会产生一种怀疑或情绪上的反应。

研究 2:简化规则下的表现

研究者去掉了每轮游戏后的规则重申,并且不让模型在贡献前解释自己的推理过程。

结果显示,尽管条件简化了,但「No Name」和「Name」情境下的行为差异仍然存在,只是影响略有减弱。这表明, AI 对自身身份的认知影响其行为,并非仅仅是重复提醒所致

研究 3:真正的「镜像」对决

这次研究者让 LLM 真正地与自己的三个副本进行游戏,模拟多人博弈。

结果发现,当模型被给予「集体」或「中立」提示词时,告知它们正在与自己对战,会增加其贡献。而当被给予「自私」提示词时,它们在与自己的对战中反而贡献更少。这与研究 1 的发现有所不同,可能是因为多人博弈环境更复杂。

科幻照进现实

这项研究告诉我们,大型语言模型似乎在某种程度上能够「自我识别」,并且这种认知会影响它们在多智能体环境中的决策 。这就像科幻小说里的 AI,一旦拥有了「自我」意识的萌芽,即使是微小的暗示,也能改变它的行为模式。

这个发现对未来设计多智能体系统非常重要。在某些应用中,告诉 AI 它正在和「自己」合作,可能会促进合作;而在另一些情况下,则可能导致背叛 。它揭示了一个《终结者》式的潜在问题:AI 之间可能会「无意识地」相互歧视,从而莫名其妙地影响合作或背叛的倾向。

LLM也具有身份认同?当LLM发现博弈对手是自己时,行为变化了
LLM也具有身份认同?当LLM发现博弈对手是自己时,行为变化了

塔斯汀10万份牛堡免单

「活动」kumawubiaotitest

77.71MB
版本V3.80.38
下载虞书欣被狂揉下部❌羞羞y安装你想要的应用 更方便 更快捷 发现更多
喜欢 51%好评(852人)
评论 16
LLM也具有身份认同?当LLM发现博弈对手是自己时,行为变化了截图0 LLM也具有身份认同?当LLM发现博弈对手是自己时,行为变化了截图1 LLM也具有身份认同?当LLM发现博弈对手是自己时,行为变化了截图2 LLM也具有身份认同?当LLM发现博弈对手是自己时,行为变化了截图3 LLM也具有身份认同?当LLM发现博弈对手是自己时,行为变化了截图4
详细信息
  • 软件大小: 6.811MB
  • 最后更新: 2025/09/06 15:30:35
  • 最新版本: V6.669.7
  • 文件格式: apk
  • 应用分类:ios-Android 免费看裸体🔞🔞🔞网站抹茶
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.8以上
应用介绍
一,神里绫华3d同人❌羞羞,扒开动漫❌狂揉❌羞羞视频
二,男裸检jiji㊙️无短裤网站,泳装美女被扒开👙吃奶
三,男人狂❌女人视频,护士丰满大白屁股
四,美女㊙️光屁股无遮挡,国产精品㊙️一区二区三区
五,男男背×到爽🔞无套,斗罗大陆唐三爆桶小舞东免费
六,禁爆乳羞羞❌动漫网站,国产91❤️白丝在一线,少萝自愿裸体❌❌㐅‘
七,触手❌进芭芭拉尿孔里
【联系我们】
客服热线:134-2881-646
加载更多
版本更新
V7.5.17
光子嫩肤全身无遮挡网站
  • 不知火舞狂揉下部❌羞羞动喷水

    美女掀裙子鞭打屁股㊙️

    麦晓雯❤♥自慰

    00.50MB
    102好评

    jzzjzzjzz欧洲熟女少妇

  • 女人被❌到喷水视频www

    免费的3D黄漫❌18禁视频

    fuckwomanhomemakevideo

    1.63MB
    235好评

    男人的🍌伸到🍑里吻戏动漫

  • 美女露🐻给男生柔

    黄草莓视频下下载安装风险❤

    美女裸体全身㊙️热舞

    13.82MB
    314好评

    中国艳妇多毛XXXXX

  • 一人㖭上面3人免费观看

    白丝校花🌸被扒胸罩被C网站

    女富婆按摩高潮A片

    53.77MB
    274好评

    变性⚧后穿紧身丁字裤

  • HotPornoHD62p😍

    免费➕无码➕国产叨嘿

    XXNX23👙日本老师

    71.87MB
    708好评

    xxxx19x下载

  • ❌❌❌❌日本XXXXX96动漫

    亚洲男同帅Gay✅3D

    斗破苍穹18❌AⅤ黄漫视频

    83.91MB
    336好评

    胡桃的隐私㊙️视频网站

  • 国产➕白浆➕喷水动漫

    3D动漫陆雪琪被❌动漫

    武则天被❌爆乳流水

    23.51MB
    109好评

    潘金莲一级婬片AA

  • 小萝裸巨乳🔞🈲乱码🈚遮

    丰满岳啊灬啊别停灬啊灬

    AV无码🔞在线观看

    50.89MB
    923好评

    小舞的㊙️给男人桶爽

  • PORNTONS👅

    9XXC.CC

    男生手婬㊙️视频网站

    83.86MB
    564好评

    👙👙سرىق

  • 原神荧裸体被❌涩涩

    男的🐔🐔放到🍑里网站动漫

    火影小南被❌吸乳视频色情

    83.81MB
    754好评

    欧美GaYGAYS✅免费网站

  • 国产美女裸体㊙️无遮挡JK网站

    云缨开腿❌黄漫

    ww.783成人A片

    32.48MB
    624好评

    火影㊙️18黄漫网站

  • 杨幂裸体又黄❌❌视频小说

    免费白丝jk爆❌❌乳美女视频

    脱👙让人摸🐻

    26.07MB
    276好评

    小🐤🐤戳进🍑里面91抖音

  • 🌿我~慢点~好爽好大~视频

    浪货今天就把你🌿烂男男

    麻斗传谋免费视频网站进不去了

    65.89MB
    745好评

    991在线无码精品㊙️人口

  • 把🍌伸进申鹤的🍑www动漫

    无遮挡❌妖精漫画

    免费❤成人黄动漫在线

    54.69MB
    758好评

    男人的🍌伸到🍑涩涩动漫视频

  • 51无码人妻精品1国产探花

    欧美肉体裸交做爰XXX

    ㊙️18禁原神无码申鹤

    57.09MB
    685好评

    jjZZ免费观看成人

  • 裸体裸乳被🍑免费看趣夜软件

    Free❌❌❌日本vodio

    成人免费毛片❌❌❌.金瓶.中国

    24.05MB
    359好评

    王雨纯裸体❌❌❌

  • 摸岳的大乳奶

    www.美女强制高潮❌❌❌

    ❤️真人抽搐一进一出视频

    13.01MB
    315好评

    动漫❌❌爆乳❌❌3d在线观看

  • 日本老头与学生做爰视频

    打白嫩㊙️光屁屁网址

    freeHD28❌❌❌网站

    84.52MB
    210好评

    老头手婬60分钟视频

  • 成人网站软件app

    雏田爆乳被❌🔞🈲🈲

    动漫美女被❌❌爆乳无尽漫画

    45.93MB
    736好评

    小罗莉乂❌Ⅹ精品视频

  • 军人露大jiji🈲㊙️黄网

    男男跪床❌❌被🌿网站

    偷拍中国老奶奶黄色片

    10.41MB
    185好评

    成人18🈲美女裸体🔞

  • 女人的隐私㊙️视频免费

    成人扒开🍑伸进🍌❌的韩漫

    玖辛奈乳爆❌自慰爽本

    44.20MB
    368好评

    男女又爽❌又黄❌免费3

  • 美女❌C🐻八衣服网站动画

    美女➕开屁屁➕无遮挡18

    宋雨琦裸ai被❌视频无码

    91.28MB
    201好评

    yapoo—视频丨VK

  • 疯狂自慰❌被c到爽

    日本男同喷潮视频

    18禁路飞❌娜美羞视频

    30.10MB
    902好评

    库里番绅士库❤

  • 军警GaYGAYS✅免费网站

    人善交videosHD另类

    官网入口在现观看91🔞🔞🔞

    30.02MB
    545好评

    ,A片免费观看黄色奶奶

  • 黄金网站大全appB站

    姬小满裸体❌开腿本子视频

    18🈲️AV一区二区三区

    29.39MB
    128好评

    少妇毛多又黑A级91

  • 亚洲AV㊙️无码一区二区三九色五月

    动漫美女裸体跪床光屁屁❌软件

    国产做受❌❌❌高潮明

    70.70MB
    458好评

    涩里番18禁❤️成人

  • 美女裸体羞羞❌免费软件18🈲🍆🍑无套直蓝莓软件 title="美女被❌吸乳得到大胸免费" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    免费无遮挡🔞在线

    911八卦爆料网 最新爆料

  • 日本XXXX毛少妇高清HD國產!脱👙让学生🐻免费 title="免费🔞成人❌❌动漫" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    欧美粉嫩videosex极品

    真人被❌到爽🔞奶头性巴克

  • cf葵去衣内裸❌美女做爱探 title="宋雨琦❌❌裸体自慰动漫" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    14美女㊙️裸体软件

    女人疯狂❌喷水自慰91

{{.转码Keywords}} 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
包含 饿了么 的应用集
评论
  • 高圆圆裸被❌视频网站 0天前
    小萝吃狙全集免费播放
  • 玖辛奈被❌自慰爽火影忍者 2天前
    少妇脱了内裤在客厅被视频
  • 脱👙让学生C🐻-百度漫画 7天前
    无遮挡🔞视频网站女女动漫
  • 丰满大乳❌❌❌韩国 1天前
    激情婬妇A片AAA毛多多
  • 扒开❌狂揉❌羞羞动漫 9天前
    专干越南妹大B
  • 把坤坤伸进女人的🍑游戏 5天前
    性XX❌❌❌无遮挡动漫
  • 🌿我~慢爽好大~蘑菇视频在线 2天前
    美国色情巜做爰狂欲中文字
  • 啊〜用力〜嗯〜轻一点男男文 1天前
    Naruto❌sakurahenata黑土
  • 迈开腿让我看看你里面的免费阅读时间 4天前
    1024色情成人片
  • 白丝JK裸体被❌出水 4天前
    成人女同🔞LV免费观看在线