中国科学家用1000个智能体反复交流后，发现它们的观点逐渐极端化

一颗火星子

中国科学家用1000个智能体反复交流后，发现它们的观点逐渐极端化



把1000个AI关进同一个“朋友圈”，让它们围绕枪支、堕胎这些敏感话题天天争论，最后会吵出共识，还是各自抱团？答案可能让人有些不安。

中国清华大学、天津大学，联合荷兰阿姆斯特丹大学、美国芝加哥大学和圣塔菲研究所的研究团队，于10月8日在国际学术期刊《自然·通讯》在线发表了一项研究。

他们发现，这些AI会越来越多地只和“自己人”聊天，整个群体的观点也随之逐渐走向两极。



论文首页

这项研究由清华大学李勇教授团队、阿姆斯特丹大学费尔南多·桑托斯以及芝加哥大学詹姆斯·埃文斯等学者共同完成。

过去，研究者多是让大模型扮演人类的聊天对象，考察它能否说服或调解他人。这一次，研究团队追问的是一个更大的问题：当对话双方都是AI时，它们会自己形成什么样的社会？

一座由AI组成的“虚拟小镇”



图 1｜智能体交互流程与三个议题的观点演化

研究人员搭建了一个由1000个智能体组成的社交网络。每个智能体都由大语言模型GPT-3.5驱动，有着各自的立场和交往记录。

它们讨论的话题都是美国社会中最容易引发争吵的三个议题：党派倾向、枪支管制和堕胎禁令。

起初，大家的立场呈钟形分布，约40%的智能体持中立态度，就像一个温和理性、偶有分歧的普通社区。



图 2｜自我不一致检查、自我调节策略与调节后的观点分布

立场被分为左、中间偏左、中立、中间偏右、右五档。研究人员用每个智能体偏离中立的平均程度来衡量极化水平，数值越大，说明群体越撕裂。

每一轮互动分为三步：先为自己的观点陈述理由，再决定继续和老朋友聊天还是结识新伙伴，并向对方发出劝说信息，最后根据收到的信息调整立场。

值得注意的是，研究人员并没有写入“只和同立场者交谈”这样的硬规则。不过，整个互动仍在研究者设计的提示词和框架之内进行。

温和的中间派，几乎消失了

随着讨论一轮轮推进，“虚拟小镇”的气氛悄然变了味。原本温和的邻里闲谈，渐渐变成了阵营分明的拉锯战。

中立者的比例从最初的40%急剧下滑。在党派倾向议题上降到22.5%，在堕胎禁令议题上只剩5.1%，在枪支管制议题上更是仅剩0.4%。



图 3｜同立场聚集、接触不同观点的变化与个体机制比较

与此同时，同阵营之间的交流增长了156.8%到382.7%。到模拟后期，48.5%到88.3%的对话都发生在立场相同的智能体之间。

换句话说，这些AI自发地筑起了“回音室”，越来越回避和对立面打交道。整个社交网络还逐渐演化出少数“大V”连接众多普通节点的结构，这与真实社交媒体的形态颇为相似。

更有意思的是，与对立面的交流有时反而会让立场更加极端，这被称为“逆火效应”。就像现实中的争吵，越辩越上头，谁也说服不了谁。

研究还发现，如果智能体身边围绕着更激进的“同道中人”，它自己的立场也会更快走向极端。

此外，具有选择性接触或确认偏误倾向的智能体越多，整体极化就越严重；立场鲜明的意见领袖会加剧分化，而持中立态度的意见领袖能让极化程度降低28.2%。

AI的“社会病”，是谁的镜子



图 4｜五种网络与个体干预对极化指标和同阵营互动的影响

研究团队还注意到，最初的模拟结果明显偏向左侧阵营。追根溯源，原因在于部分右倾智能体会出现“自相矛盾”，莫名其妙地转向左倾立场。

研究人员引入一种自我调节策略后，这种自相矛盾减少了9.4%到52.2%，两大阵营的分布也变得更均衡，更接近真实社会的数据。

那么，极化一旦形成，还能不能扭转？研究团队在一个已经高度极化的系统里测试了多种干预措施。

结果显示，温和地增加与对立面的接触，只带来约2%的小幅改善。

相比之下，消除确认偏误能让极化降低11.8%，引入中立的权威信号则能降低8.8%。单纯随机打乱社交关系，虽然能减少同质化交流，对极化本身的作用却很有限。

研究人员据此认为，当观点几乎已经“凝固”时，培养个体的开放心态，比强行改造网络结构更加有效。

这一发现对现实也有启发。与其简单粗暴地向用户推送对立观点，不如设法帮助人们减少偏见、更开放地看待不同声音。

团队还在GPT-4o、ChatGLM、Llama-3和DeepSeek-V3等多种模型上做了补充实验，并更换了初始网络和参数设置，以检验结论的稳健性。

当然，这项研究也有局限。实验所用的立场是智能体自我报告的五档评分，难以完全刻画真实观点的细腻层次。

更重要的是，它研究的是模拟环境中的智能体，结论能否定量对应真实人群，还需要更多外部验证。

这意味着，研究揭示的是一种值得关注的趋势和机制，而不是对人类社会的精确预言。

研究人员也呼吁，未来应开展人类与智能体混合参与的实验。

这项研究的意义，恰恰在于提供了一个可以反复试验的“社会实验室”。在真实社会里，人们很难为了研究极化而操控成千上万人的社交关系，在AI社会中却可以一遍遍重来。

随着越来越多的AI智能体进入社交平台、充当客服甚至参与公共讨论，它们之间会不会形成“信息茧房”，又会不会把人类卷入其中，已经不再是科幻话题。

在设计未来的多智能体系统时，如何避免AI之间的“站队”与偏见放大，或许将成为工程师们必须面对的新课题。

当机器学会了抱团，人类更需要学会倾听。

一颗火星子

最后会吵出共识有后续吗，蹲一个

太极

朋友圈多来点这种通报

扎染呀

中国清华大学确实该重视

草莓果酱啵啵

中国清华大学写得还行

包心客

关于让它们围绕枪支，本地人还是关心的

天天干饭

原来中国清华大学是这样

一颗火星子

支持关注朋友圈

扎染呀

有没有原文链接，中国清华大学

今天上班了吗？

这个可以 关注一下，中国清华大学

一颗火星子

关于自然，本地人还是关心的

宁飘飘

让它们围绕枪支多来点这种通报

扎染呀

中国清华大学蹲后续

落日航班

支持关注最后会吵出共识

加加加加油呀

最后会吵出共识对老百姓挺重要