REACTOR
B16 Signals & Cheap Talk 定律与形式 · REV.3

SELF-TEST OK · REACTOR v3 · LOADING [ B16 ]…

信号、废话与证明

说话不要钱,所以承诺不值钱。

说话不要钱,谁都能张嘴就说,不分真假;所以承诺天然不值钱。一句「我保证没问题」不花任何成本,那它到底能信几分,就不取决于话说得多漂亮,而取决于说话的人和你之间利益差多远。核心是一条定理:要让对方说真话,需要多贵的证明,跟你俩的利益冲突成正比。冲突为零时,空口白话就够;冲突越大,才越需要昂贵的证据把谎话压住。委托代理讲过,你想要一个好 agent,可优化器只想让 eval 亮绿灯(B12);再往下问一层:当双方利益不一致时,agent 说的话,你该信几分?

经济学里有个词叫 cheap talk,直译就是零成本的空口白话,指那种说了不用付任何代价的话。Crawford 与 Sobel 1982 年把它研究透了,结论出人意料地干净:无成本的沟通里,能传递多少真话,由双方利益的一致程度单调决定。他们的原话是,双方偏好越接近,均衡里的信号越有信息量。往两头看:如果说话人和听话人利益完全一致,他没有任何理由撒谎,一句白话就百分百可信;如果两人利益完全对立,那不管他说什么你都不该信,理论上这种情形会退化成经济学家说的胡言乱语均衡,说了等于没说,因为任何一句话都可能是反着的。中间地带最有意思:利益部分重叠时,说话人不会字字为你着想,但也不会全盘骗你,他会把私有信息粗粗地分成几档告诉你,冲突越小,分得越细、越有用。一句话,空口白话的可信度,是利益一致度的函数。

那到了必须加成本的时候,该加多少?答案还是那句:只需覆盖作弊者能从欺骗里多捞到的那点好处,也就是冲突的大小,不用更多。Lachmann 与合作者 2001 年把这条推到生物学和人类语言里,文章标题直接就是「浪费不是必需的」:维持诚实要的不是把成本抬到天上,而是刚好让说谎变得不划算。还有一个更省事的发现:Kartik 等人 2007 年证明,哪怕只给说谎加一点点确定的成本,不用是那种压垮人的大障碍,信息传递就能显著改善、逼近说真话。落到你身边就是:你问同组同事这段代码有没有 bug,他和你在一个组、出了 bug 也砸他自己的活,利益基本一致,随口一答就可信,不需要他拿出任何证据;可要是他是外包,多报个「没问题」就能早点结款走人,利益就冲突了,你不得不加验收、加追责,也就是加成本,而该加多少,全看你俩利益差多远。

从完全免费的白话,到必须拿出重金证据,中间不是一道断崖,而是一条平滑的斜坡。Zollman 等人 2013 年就刻画过这条斜坡:随着利益冲突一点点变大,均衡会从「什么都能说清」慢慢滑向「只能部分说清」,再滑到「只能靠昂贵信号勉强分辨」,中间存在大量「半诚实」的状态。这提醒你别把问题想成非黑即白:不是要么无条件信、要么全套审计,而是先量一量冲突有多大,再在这条斜坡上找到刚好够用的那个点。多花一分成本,就是在这台机器上白白磨损一分,既不给诚实者好处,也不给你更多信息。

把这条定理翻译成设计原则,就是一个跟直觉相反的顺序:别一上来就把证明门槛往死里抬。第一步永远是降冲突,让说话的人和听话的人利益尽量对齐,冲突小了,很多话不验自明。第二步才是,对剩下压不掉的那部分冲突,加一个刚好够用的、确定的成本:一定概率被抽查、事后要追责、谎报会留下污点。这两步之后,你才需要那种更硬的、靠结构而非成本的证明,比如让低质量的一方物理上就造不出来的信号。那是下一课 G01 的正题,它会接着讲,怎样的信号对说谎者特别贵、对诚实者却几乎免费,以及为什么真正好的判据不是最贵的那个。

留一个问题:定理给了成本的下限,说至少要加到覆盖冲突那么多,却没给上限。信号加得过猛会有副作用,经济学里叫过度信号的福利损失:为了把骗子挡在外面,你可能连诚实的一方也一起拖进了昂贵的举证里,让人人都为证明清白而空耗。那么在一个人造的 eval 里,成本该设多高,才既压得住说谎、又不至于误伤老实人?这道题目前没有干净答案。

一句话带走:先问对方有没有理由骗你,再决定要不要它拿证据;冲突越小,越多话不验自明。

来源 / 延伸阅读
  • Crawford, V. P. & Sobel, J. (1982). "Strategic Information Transmission." Econometrica 50(6):1431–1451(偏好越接近,信号越有信息量;胡言乱语均衡)。
  • Farrell, J. & Rabin, M. (1996). "Cheap Talk." Journal of Economic Perspectives 10(3):103–118(最好读的入门综述)。
  • Lachmann, M., Számadó, S. & Bergstrom, C. T. (2001). "Cost and conflict in animal signals and human language." PNAS 98(23):13189–13194(waste is not required,成本按需)。
  • Bergstrom, C. T. & Lachmann, M. (1998). "Signaling among relatives. III. Talk is cheap." PNAS 95(9):5100–5105(利益一致时白话优于昂贵信号)。
  • Kartik, N., Ottaviani, M. & Squintani (2007). "Credulity, lies, and costly talk." JET 134(1):93–116(一点点谎报成本即可显著改善);Yang & Harstad (2017)(过度信号的福利损失)。
  • cheap talk 桥梁与成本正比于冲突的定理见 research/deep/D7 §D7-2;接 Spence 分离均衡见 research/10 §2、形式理论边界见 research/06
接下来去哪
继续往下探索