1. A misalignment of AI in mathematics (mathandai.org)
AI 在数学领域的错位
本文由多位菲尔兹奖得主共同签署,旨在探讨人工智能(AI)的发展目标与数学研究本质之间日益严重的“错位”问题。
核心矛盾:工具与目标的脱节
AI 公司目前正致力于将解决复杂的数学问题作为衡量大语言模型(LLM)能力的基准(Benchmark)。然而,数学界的根本目标并非仅仅获得“对”或“错”的答案,而是追求概念性的理解与深刻的见解。
数学研究的本质
数学研究不仅仅是解决难题,其核心在于:
- 理解结构: 通过研究形状、数字和自然现象的基本结构来构建知识体系。
- 知识的传承与消化: 解决重大问题只是一个起点。真正的进展在于数学家通过讨论、简化和论证,将新方法转化为可供学生学习的教材,并最终将其演变为长久使用的工具。
- 人的互动: 数学的发展依赖于学生、想法以及通过演讲、私人讨论和严谨写作实现的知识传递链条。
AI 带来的潜在威胁
文章指出,AI 快速生产结果的方式可能对数学科学造成破坏:
- 破坏学术规范: AI 往往在缺乏完整论述、方法总结及前人工作引用(Citation)的情况下匆忙给出答案,这引发了严重的归属权和剽窃问题。
- 阻断知识传递链条: 如果缺乏数学家对 AI 产生想法的深度开发、整合与归纳,这些想法将无法融入数学体系,人类的知识传承过程也将面临断裂。
- 削弱人类的创造力: 传统的学术训练不仅是为了得到结果,更是为了培养提出新问题和形成新想法的能力。AI 直接产出结果的做法,可能会使人们失去这种核心的思维能力。
更广泛的社会影响
这种“错位”不仅局限于数学领域,也是 AI 对科学、创意职业及整个社会普遍面临的威胁。即:在 AI 改变工作方式的同时,如何确保我们不会忽视工作的初衷(即通过工作实现理解与进步,而非仅仅追求产出结果)。
结论与呼吁
AI 具备增强和加速数学研究的潜力,但其最终影响是建设性的还是破坏性的,取决于人类如何控制这项技术。作者呼吁 AI 开发公司、数学界以及整个社会紧迫地应对这一问题,确保技术服务于人类的智力目标,而非取代其本质。