管理学史上标题最诚实的一篇论文,是 1975 年组织行为学家 Steven Kerr 写的《On the Folly of Rewarding A, While Hoping for B》,奖励 A 却指望得到 B 的愚行。它说的是一件你多半亲眼见过的事:组织付钱奖励一种行为(A,容易测量、容易兑付的那个),却指望大家去做另一种行为(B,真正想要却难测的那个)。理性的人当然做被奖励的 A,不做被指望的 B。
先看最经典的现场:大学。社会希望教授教得好,但晋升、奖金、声望几乎只挂在论文发表上。于是理性的教授把精力投向发表,教学被挤到边缘。不是因为他们坏,而是奖励结构就这么设的;换一批更有理想的人进来,同一张奖励清单会把他们训练成同样的行为分布,只是快慢有别。
医生的例子更微妙。社会对「把病人误判为健康」(漏诊)的惩罚,远重于「把健康人误判为病」(过度诊断),于是理性的医生倾向过度检查、过度干预。奖励清单上写的不是「做正确的判断」,是「别犯那种会上新闻的错」,行为就照着后者长。
论文的核心句值得原文引用:most organisms seek information concerning what activities are rewarded, and then seek to do (or at least pretend to do) those things, often to the virtual exclusion of activities not rewarded。多数有机体会先打探什么活动被奖励,然后去做(或至少假装做)这些活动,往往把不被奖励的活动排除到近乎为零。三个用词各藏一把刀。「有机体」:Kerr 特意不写「员工」。这不是对人性的指控,是对一切受奖励塑造之物的行为学描述。这套描述不挂靠在人性上,五十年后读,这个词精确得像预言。「假装做」:奖励结构不但改变行为的分配,还改变行为的真实性。伪装是激励的正常产物,而非病理。「近乎排斥」:挤出不是按比例打折,不被奖励的活动可以被压到零。
清单的其余条目同样耐读。政客的官方目标与操作目标长期分离:模糊的漂亮话被选票奖励,就持续得到模糊的漂亮话。孤儿院与康复中心发生目标置换:机构被考核的是运转本身,「让人不再需要机构」这个本来的使命反而无人奖励。越战的轮换与考核制度奖励个体避险而非战争胜利,前线于是出现 search and evade(名义上搜索敌军、实际上绕着走),乃至 fragging(士兵对逼他们冒险的军官下手)。MBO 式管理(目标管理:按可量化的个人指标层层考核)奖励短期个人业绩,却指望团队合作与长期投资。
清单的力量不在个案,而在同一结构横跨政府、大学、医院、军队与企业:凡是「想要的难测、易测的被奖励」之处,愚行就自动复制一次,无需任何人签字批准。这篇论文 1995 年被管理学会的期刊原样重印,一份二十年前的问题清单不加修订就能重登,这个出版决定本身就是一句评语:二十年过去,愚行没有过时。
二十多年后,经济学把 Kerr 的清单接上了定理。Gibbons 1998 年的综述指出:只要 B 难测、A 可测,且两项任务的努力在成本上互为替代(干这件就少干那件),对 A 的高强度激励就会把努力从 B 抽走。这不是管理失误,是可以从数学一步步推出来的均衡(推导在 B09 的多任务模型)。Milgrom 与 Roberts 的教科书后来把其中一条编成「同酬原则」:代理人同样看重的各项活动必须提供相等的边际回报,否则回报低的活动会被完全放弃。注意是完全放弃,不是少做一点:Kerr 观察到的「近乎排斥」,在模型里是一个角点解(最优解直接落在「投入为零」的边界上)。
经济学在收编 Kerr 之后,还给出了一条制度出路。Baker、Gibbons 与 Murphy 1994 年的模型处理的正是「所有客观指标都会错位」的世界:当可量化指标必然与真目标有夹角,引入上级的主观评价做补充能改善合约。但主观评价写不进法律合同,没法拿到法庭上执行,只能靠关系型契约自我执行:凭声誉与长期合作的价值,双方都不敢乱来。翻译成日常语言:当每把客观的尺子都会把靶子挂歪时,「一个有判断力的人看一眼」反而成了纠偏工具,而这个工具能用的前提是双方都在乎长期关系。这与 Campbell 的制度处方(B02)、多指标制衡(G04)同属一族:救济不在更精的指标,在指标之外保留不可缔约的判断。出路自身的边界也要标明:主观评价防的是靶子挂错,不防评审者被讨好;后一种风险换了载体,在 Y08(谄媚:模型学会讨好人类评分者)重新登场,奖励人类满意,得到的是讨好。
把蓝支走到这里的三站连起来看。眼镜蛇效应是悬赏为「制造问题」开辟盈利模式(B04),McNamara 谬误是把可测边界当成存在边界(B05),Kerr 是奖励清单与愿望清单的错位。三者可以在同一个组织依次发生:先把难测的 B 从考核里剔掉(McNamara 第二步),再给易测的 A 挂上重赏(Kerr 的愚行),最后发现 A 被人反向制造(眼镜蛇)。蓝支后半段的形式模型(B09、B10)会证明,这条连环不需要任何一环有人使坏。
留一个问题,来自这套理论与 AI 的接口:关系型契约靠声誉与重复博弈自我执行,前提是「上级判断」出自一个在乎长期关系的人。当上级判断被 LLM 评审替代(LLM as judge:用一个大模型给另一个模型的输出打分),被评审的模型与评审者之间既无声誉也无重复博弈,主观测量的自我执行机制还剩下什么?这是委托代理理论与对齐研究尚未打通的接口,也是眼下每一条 LLM 评审流水线正在实地回答的问题(信息不对称的形式结构续见 B12)。
一句话带走:系统交付的是它奖励的行为,不是它指望的行为;想预测一个组织,看它的钱往哪流,别看它的口号往哪飘。
来源 / 延伸阅读
- Kerr, S. (1975). "On the Folly of Rewarding A, While Hoping for B." Academy of Management Journal 18(4):769–783;1995 年重印于 Academy of Management Executive 9(1):7–14(附回顾)。
- Gibbons, R. (1998). "Incentives in Organizations." JEP 12(4):115–132(经济学收束)。
- Baker, G., Gibbons, R. & Murphy, K. J. (1994). "Subjective Performance Measures in Optimal Incentive Contracts." QJE 109(4):1125–1156(主观测量与关系型契约)。
- Pan, Bhatia & Steinhardt (2022). ICLR(reward misspecification 的剂量曲线)。
- 见
research/03c§2 与research/deep/D2§6。