B04 的河内灭鼠里,政府想要的是城里老鼠变少,但它自己不下水道,雇了捕鼠人;它看不见捕鼠人在下面干什么,只能数交上来的尾巴。这个三角结构(我想要 A,雇你去做,但我只能看见 B)有个正式名字:委托代理问题(principal-agent problem)。委托人是出钱想要结果的一方,代理人是拿钱干活的一方,两者目标不完全一致,信息也不对称。整条蓝色分支的所有故事,骨架都是它。指标,就是委托人用来穿透信息不对称的探照灯:不靠它,委托人看不见代理人在暗处做什么。可探照灯一旦点亮,代理人也看见了光柱照在哪里,便会顺着光柱调整动作,哪里被照到,哪里就被博弈。
信息不对称有两种,发病时间不同,记忆的锚点是「事前」与「事后」。第一种叫道德风险(moral hazard),发生在签约之后:你看不见对方到底有多努力,只看得见掺了运气的结果。医生开的检查是否必要、承包商用料是否扎实、模型在训练里是否真学了本事,都属此类,学名隐藏行动。第二种叫逆向选择(adverse selection),发生在签约之前:你不知道对方是哪种人。用人单位分不清勤快和偷懒的应聘者,保险公司分不清健康和带病投保的客户,学名隐藏类型。
逆向选择的杀伤力,Akerlof 1970 年用二手车市场讲到了极致,这个故事值得完整记住。卖家知道自己的车是好是坏,买家不知道,于是买家只肯按「市场平均质量」出价。这个均价对好车车主来说太亏,好车逐渐退出市场;好车一走,市场平均质量下降,买家出价跟着再降,又逼走一批次好的车。循环几轮,市场上只剩坏车(美国俚语称柠檬),甚至整个市场消失。这篇论文的可怕之处在于结论的规模:信息不对称不只是让交易变贵,它能让市场本身死掉。放到评测语境:当买家(用户、投资人)无法分辨模型的真实质量,只能按「平均预期」定价时,认真做安全的厂商就在补贴吹牛的厂商,劣币驱逐良币的引擎已经点火。
面对这两种不对称,委托人的本能是多测量、多挂钩,而理论恰恰在这里踩了刹车。Holmström 1979 年的 informativeness principle(信息量原则)说:一个信号值不值得写进合约,只取决于它能否为「代理人干了什么」提供增量信息。这条原则最常被读反,通俗版「能测的就该纳入考核」恰好是反义:一个对不可测维度毫无信息、却对可测维度高度敏感的信号,纳入合同会主动把努力抽向可测维度(B09 的机制)。判据从来不是可测性,是信息增量:一个与现有分数高度相关的新指标,信息增量约等于零,写进合同只添博弈面。
五十年的文献攒下两条真正的制度出路,都写在模块第四步里,值得展开一句。出路一是主观测量。当所有客观指标都会被博弈,让上级凭整体印象打分,反而能救回一部分。可这种「印象分」终究是主观判断,没有可诉的客观标准,法庭没法把它当合同来强制执行;能让它管用的,只剩下长期声誉自我执行——你今天乱打分,明天就没人再信你的考核,学名关系型契约(Baker、Gibbons 与 Murphy 1994)。出路二是策略性不透明。代理人会盯着权重表,把力气堆到权重最高的那几项——权重一旦公开,就等于告诉他可以放心荒废哪些维度。委托人的最优反应,于是常常是不公布权重:代理人猜不出哪项权重最高,最稳妥的打法就是在所有维度上均衡投入(Ederer、Holden 与 Meyer 2018)。保密不是行政偷懒,而是能从最优化一阶条件推出来的机制设计。英国公共管理学者给医疗目标制开的「随机审计、事后才公布考核口径」药方(K02 会讲那段历史),在这里获得了严格的微观基础。
留一个问题:两条制度出路都预设代理人是人。当「上级判断」被 LLM 评审替代,主观测量赖以自我执行的机制(声誉、重复博弈、说谎被抓的长期代价)还在吗?当被考核者是一个能读到历史上全部考核规则的模型,策略性不透明还能维持多久?委托代理理论与 AI 对齐之间的这个接口,还没有人正式打通。
一句话带走:指标是照进信息暗处的探照灯,而暗处的人永远比你先看清光柱的边界。
来源 / 延伸阅读
- Ross, S. A. (1973). AER 63(2);Mitnick, B. (1973)(独立起源);Jensen, M. C. & Meckling, W. H. (1976). JFE 3(4):305–360(p.308 名言)。
- Akerlof, G. A. (1970). "The Market for 'Lemons'." QJE 84(3)(逆向选择);Holmström, B. (1979). "Moral Hazard and Observability." Bell J. of Economics(informativeness principle)。
- Feltham, G. A. & Xie, J. (1994). The Accounting Review 69(3):429–453(congruity 与 noise 分解)。
- Baker, Gibbons & Murphy (1994). QJE 109(4)(主观测量与关系型契约);Ederer, Holden & Meyer (2018). RAND(策略性不透明);Gibbons, R. (1998). JEP 12(4)(综述)。
- 简报见
research/12;深化见research/deep/D6§1 与research/deep/D2§6。