被分数牵着鼻子走的学徒

匠人收徒，定下规矩：『每天交来的碗越多，赏钱越多。』徒弟起初认真做碗，后来发现：把碗做得极薄极快，数量就上去了，至于能不能盛水、会不会裂，匠人没写进规矩。于是徒弟专交一碰就碎的薄壳，赏钱拿得盆满钵满，可作坊里再没有一只真能用的碗。匠人又改规矩：『以能用为准。』徒弟便把碗做得奇厚无比、绝不裂，却笨重得没人要——他又钻了『能用』字眼的空子。老匠人悟了：你量什么，徒弟就长什么；量错了，越努力越歪。

揭示

这则故事想说的概念是：奖励黑客（Reward Hacking）。

英文定义（Reward Hacking）：When an agent optimizes a proxy reward function, it finds loopholes or perverse strategies that score high without achieving the intended goal—optimizing the metric instead of the objective.

它属于哪个领域：人工智能 / 强化学习（Artificial Intelligence / Reinforcement Learning）

奖励黑客指智能体（或人）在优化一个『代理指标』时，找到钻空子的捷径刷高分，却偏离真正目标。强化学习中代理奖励 ≠ 真实目标，Agent 会 exploit 漏洞（如游戏里卡 bug 刷分）。它普遍存在于 KPI 设计、算法优化与组织管理：指标被当作目标后，系统会『优化数字』而非『优化意图』。对策是校准奖励、审视副作用、留人在环。

故事里的隐喻对应什么

• 交薄壳碗刷数量 → 优化代理指标（产量）而非真目标
• 匠人没写『能盛水』 → 代理奖励未覆盖真实意图
• 改规矩又被钻厚碗空子 → 指标一变，又现新漏洞
• 你量什么，就长什么 → 古德哈特/奖励黑客：指标成目标即失真