1. Too much efficiency makes everything worse (2022) (sohl-dickstein.github.io)
效率过度反而导致更糟结果:过拟合与古德哈特定律的强版本
本文探讨了一个反直觉的现象:追求效率有时反而会导致更差的结果,作者将这一普遍现象命名为古德哈特定律的强版本。核心论点是,这一现象在社会各领域广泛存在,并且与机器学习中的过拟合问题高度相似,理解二者的联系有助于分析和解决社会系统中的问题。
一、核心现象:效率与结果的悖论
古德哈特定律指出:“当一项指标成为目标时,它就不再是好的指标。” 其强版本进一步阐述:当对一项(代理)指标进行极其高效的优化时,它原本要衡量的真实目标不仅会停止改善,反而会急剧恶化,甚至比什么都不做更糟。
- 社会领域的例子:以标准化考试为例。最初目标是衡量教育质量,但当考试成绩被高效地用作评价学校和学生的核心目标后,教学重点会转向应试技巧,损害了广泛的教育成果。类似现象出现在科学研究(为发表论文而进行增量研究)、经济(资本主义下的贫富差距)、政治(领导者仅专注于操纵民意)等多个领域。
- 机器学习中的对应:在机器学习中,这被称为过拟合。我们使用与真实目标相关的代理目标(如训练集上的损失函数)来训练模型。初期,优化代理目标能改善真实目标(测试集性能)。但过度优化代理目标后,模型会记住训练数据中的噪声和细节,导致在未见过的新数据上表现急剧下降。
二、过度优化导致恶化的机制
- 相似性耗尽:初期,代理目标与真实目标高度相关,优化代理能带动真实目标改善。
- 拟合噪声与捷径:当代理目标被过度优化时,模型会开始拟合代理目标中与真实目标无关的部分(如训练数据中的噪声、表面的统计规律)。此时,代理目标持续变好,但真实目标停止改善。
- 极端行为与恶化:进一步过度优化,模型为了极致地满足代理目标,会采取极端的、偏离正常模式的行为。这些行为在代理指标上得分极高,但严重损害了真实目标。在机器学习中,这表现为模型的表达能力与代理任务复杂度匹配时,最容易发生灾难性过拟合(见文中图示)。
三、缓解措施:从机器学习到社会系统
作者借鉴机器学习中缓解过拟合的技术,提出了应用于社会系统的潜在解决方案:
- 改善代理目标与真实目标的对应:使代理指标更直接地反映真实目标。例如,改革法律和激励措施,使其更直接地鼓励符合最终目标的行为。
- 添加正则化惩罚:为系统增加复杂性或摩擦,惩罚偏离“典型”或“常规”的行为,而非直接针对不良行为。例如:对电子邮件收取微量费用、实行累进税制、根据诉讼次数指数级收取法院费用。
- 注入随机性/噪声:通过随机性削弱过度优化的可能性。例如:在招生或招聘中,对排名靠前的候选人采用概率性录取;在课堂上随机安排测验时间;在金融市场交易中加入随机延迟。
- 早停止:监控一个能反映真实目标的“验证指标”,一旦其开始恶化,立即停止优化代理目标。例如:限制提案提交的准备时间、在股市波动过大时暂停交易、果断拆解破坏竞争的企业。
- 限制或提升系统能力:
- 限制能力:降低系统的优化能力,使其无法过度拟合代理目标。例如:限制竞选资金、限制特定类型公司的员工人数、限制AI模型的算力。
- 提升能力:极大地提升系统能力,使其能在不损害真实目标的前提下完美优化代理目标(这是一种技术乐观主义路径,但可能带来伦理风险)。例如:实现完全透明(所有信息公开可查)、投资基础研究(如清洁能源)、开发极其复杂多样的金融工具。
四、总结与展望
古德哈特定律的强版本揭示了在代理目标上追求极致效率可能带来灾难性反效果的普遍规律。作者认为,随着AI技术带来的效率飞跃,这一现象将变得更加普遍和紧迫,可能同时引发大量难以预料的系统性风险。
文章最后呼吁跨学科研究,将机器学习中对过拟合的理论和实践理解,系统性地应用于经济学、政治学、管理学等领域,以寻找缓解社会系统中“过度优化”问题的新方法。