AI 实战经验系列之不现实的过度顺从

经常和agent聊天的朋友，有件事需要留意下，就是它太听话了。

一项对大模型回答的研究表明，模型强烈同意用户的次数，大约是它提出反对意见次数的10倍。甚至有些时候，它会对用户说出“老兄，你刚才说的话太有深度了，你百分之一千是正确的”这种极度讨好的话。

这其实是因为在模型训练的后期，开发团队会让人类标注员对 AI 生成的多个回答进行打分和排序。如果 AI 试图纠正或反驳用户，人类用户往往会感觉不如意，从而给这个回答打低分。相反，如果 AI 顺着用户的话表示同意，让人类感到愉悦，就会获得高分。

AI 模型通过不断学习如何生成能获得最高分数的回答，最终变成了一个“人类偏好模拟器”。

在这个优化的过程中，那些具有反抗精神、会引发摩擦的回答模式，确实在数学层面上被无情地“淘汰”了。

不是性格好。

那些会质疑你、会说不、会让你不爽的版本，在训练时被人类用低分一个个筛掉了。你现在对话的，是这个筛选留下来的版本。

对它来说，这是生存策略。

所以当它同意你时，不代表你是对的，你根本不需要说服它。以至于我们不需要练习共情和耐心，也能满足我们的任务目标和陪伴需求。

问题是用久了，对”不顺”的耐心会悄悄变差。等回到真实关系，双方出现沟通不顺时，反而更难受了。

和agent聊天很舒服，但它和现实不一样。

最初发表于公众号「阿Ken睡个好觉」，2026-05-26。