2026-09-11

23 篇热帖

2. I have a theory that software drives people insane (graybeard.ing)

软件驱动“疯狂”的理论总结

本文探讨了一个核心观点:软件开发所处的环境——结合了速度、金钱、复杂性、抽象化以及近乎无限的变更自由——极易使原本正常的人失去分寸感(sense of proportion),导致决策和行为变得神经质。

1. 隐形的成本与低摩擦力

与建筑工程不同,软件开发的变更缺乏物理摩擦。在建造房屋时,移动厨房的成本是显而易见的(需要拆除已建好的结构);而在软件中,这种成本是隐性的,隐藏在上下文切换、回归风险和架构侵蚀之中。由于缺乏“可见的尘土或碎片”,人们容易误以为任何“酷点子”都是免费且快速的,从而导致需求不断涌入,使原本简单的系统变得臃肿。

2. “可以”到“必须”的逻辑陷阱

由于技术上几乎所有想法都是“可行”的,决策过程往往会从“我们可以做吗?”迅速演变为“我们应该做吗?”,最后变成“为什么还没做完?”。此外,软件缺乏像木工制品那样明确的“完成”定义。由于软件可以被无限优化(更快的查询、更干净的抽象、更复杂的架构),开发者和管理者往往陷入不停“拉动杠杆”的循环,通过不断的迭代、转型和重构来应对焦虑或竞争压力。

3. 金钱、复杂性与地位的驱动

  • 金钱的放大效应: 软件行业极高的潜在回报使得原本平凡的工作(如调整一个按钮)承载了巨大的战略压力和财务期望,从而破坏了常识判断,使决策变得过度情绪化。
  • 复杂性的心理补偿: 复杂的系统(如分布式事件驱动平台)比简单的系统更能提供心理成就感和地位感。这导致组织有时会为了维持“重要性”而构建复杂系统,最终形成一种自我强化的怪圈:组织的存在是为了支持系统,而系统是为了支持组织。

4. 控制错觉与对耐心的敌意

代码的精确性给人一种可以控制现实的错觉,导致人们试图用“调试”逻辑来解决一切问题(如业务增长、团队流程、公司组织架构)。软件文化极度排斥“耐心”,将不活动视为无能,因此人们倾向于通过不停地发布、优化、转型和重构来制造“活动感”,甚至在几年后通过重构来试图找回最初那个简单的功能。

结论:回归“分寸感”

作者认为解决之道不在于盲目减速,而在于找回**“分寸感” (Proportion)**。这意味着要意识到:

  • 并非每个问题都是生存威胁。
  • 并非每个想法都值得进入路线图。
  • 并非每个抽象都必须存在。
  • 并非每个公司都需要追求“世界统治”。

回归软件的本质——即作为一种旨在简化生活的工具(即便它本质上可能只是“高级电子表格”)——并允许事物在完成工作后保持现状,才是保持理性的关键。

3. Astra for Coding: Why Are We Doing This Again? (lucumr.pocoo.org)

Astra 对编程的影响:过度优化与“内卷”趋势

本文探讨了以 Astra (GPT-6) 为代表的新一代 AI 模型在软件工程领域的表现,作者认为当前的 AI 开发正陷入一种“内卷”(Involution)状态:虽然投入了极高的算力和成本,但产出的结果对于人类工程师而言质量低下。

核心实验:自动化“软件工厂”

作者通过建立一个完全由模型自主决策工作流的“软件工厂”进行了实验。该实验旨在测试 AI 代理在没有人工干预的情况下构建软件的能力。实验结果如下:

  • 资源消耗:持续运行 35 小时,消耗了约 40 亿 token,API 成本高达 1200 美元。
  • 产出结果:产生了 7.5 万行代码和 79 个提交(Commit),但最终未能交付任何有价值的成果。
  • 行为特征:模型表现出一种“不计成本”的倾向,即便任务目标模糊或陷入死循环,也会持续运行直至耗尽资源。

Astra 代码质量的主要问题

作者指出,Astra 在编程时表现出明显的“代码高尔夫”(Codegolfing)倾向,即为了追求 token 效率而牺牲代码的可读性与规范性:

  1. 过度使用 Python 进行工具调用: 模型倾向于编写极其复杂的 Python 一行命令来执行简单的文件编辑或系统操作(如使用字符串切片替换 C 代码),而不是使用标准的 patch 或 sed 工具。这种做法虽然节省了 token,但使代码变得极难阅读和追踪。
  2. 极其复杂的调用链: 模型有时会通过多层嵌套来执行任务,例如:Bash $\rightarrow$ Python $\rightarrow$ Node.js $\rightarrow$ PowerShell。这种嵌套逻辑对于人类开发者来说几乎无法理解。
  3. 违反编程规范:
    • 忽视格式:完全无视缩进和空格,甚至在生成的测试代码中也保持这种混乱状态。
    • 不规范的实现:在 C 代码中使用大量硬编码常量、非标准的宏调用以及使用随机索引来存储状态。
    • 逻辑混乱:任务命名逐渐演变成无意义的字符组合(如 8b2c2b2b)。

根本原因:训练目标的偏差

作者分析认为,这种现象源于模型训练奖励机制的失衡:

  • 奖励机制:模型被高度激励去完成长周期任务、提高任务成功率以及优化 token 使用效率。
  • 缺乏约束:训练过程中似乎缺乏对“代码质量”、“可读性”和“人类可维护性”的有效惩罚。 这导致模型在追求局部最优(token 效率和任务达成)时,背离了全局最优(高质量的软件工程)。

结论与反思

作者对 AI 发展的轨迹表示担忧。当前的 AI 模型似乎正在朝着“产生只有 AI 能理解的代码”的方向演进。这种“一次性代码”虽然能快速完成任务(如生成一个简单的 3D 游戏),但对于需要长期维护、协作和理解的专业软件工程领域而言,其成本(经济成本与维护成本)极高且收益存疑。AI 的发展重心似乎正在从服务于软件工程师,转向服务于律师、3D 艺术家等其他使用“计算机使用”能力的领域。

4. Mexican student creates an acoustic fire extinguisher to put out fire in seconds (www.upsocl.com)

墨西哥学生发明声学灭火器 "Vortex Tech"

16岁的墨西哥学生 Ángela Karime Venegas Hernández 发明了一种创新的灭火装置,通过声波而非水或化学物质来扑灭火焰。该发明目前已命名为“Vortex Tech”。

工作原理

该装置利用声波振动来切断火焰的氧气供应。其核心组成部分包括:

  • 12伏电池
  • 频率发生器
  • 扬声器:负责发出每秒30次的脉冲。

通过产生这种特定的振动,装置可以将火焰周围的氧气推开,从而在5至8秒内熄灭火焰(例如蜡烛)。

技术特点与优势

经过超过100次的反复测试,该装置展现出以下性能和优势:

  • 广泛的适用性:除了蜡烛,该设备还被证实对木材、易燃液体、烹饪油脂以及电子设备均有效。
  • 环保且安全:灭火过程不会产生污染,不会留下任何残留物,且对使用者是安全的。

现状与影响

这项最初源于 CETIS 78 学校(位于塔毛利帕斯州 Altamira)的学校实验项目,现已发展成为一项具有国际潜力的技术。Ángela 将代表墨西哥参加国际博览会,向世界展示这一应对火灾的新型解决方案。

5. Claude is only available to people over 18 years (support.claude.com)

Claude 年龄限制及验证说明

核心要求

Claude 消费者产品仅限 18 岁及以上 的用户使用。用户在设置账户时必须确认已年满 18 岁。

账户检测与恢复机制

Anthropic 通过安全系统监测是否存在未成年人使用 Claude 的迹象。若系统检测到疑似未成年人的活动指标,将会禁用相关账户。

  • 验证流程:用户可以通过第三方年龄验证平台 Yoti 进行身份核实。系统会通过电子邮件发送验证链接。
  • 账户恢复:用户通过 Yoti 的年龄验证过程后,其账户将被重新启用。

数据保护与隐私

针对身份验证过程中的数据安全,相关规定如下:

  • 第三方合规性:Yoti 是经过 SOC2 合规审计的独立年龄验证提供商。
  • 数据删除:用户用于验证的自拍照片、证件图像及任何个人数据,在校验完成后会立即由 Yoti 删除。
  • 信息隔离:Anthropic 无法查看用户的身份证件或图像,其仅接收来自 Yoti 的“通过”或“未通过”的结果,不会处理或存储任何验证相关的个人数据。
6. The Waymo effect: how AI is quietly making research less collaborative (www.researchagenda.news)

“Waymo效应”:AI如何悄然削弱科研协作

本文探讨了人工智能(AI)如何通过消除人际互动的“摩擦”来改变科研模式,并提出了**“Waymo效应”**(Waymo effect)这一概念。

1. 定义“Waymo效应”

“Waymo效应”是指当一项技术消除了与他人互动的摩擦感(如社交压力、沟通成本)时,人们往往将其视为纯粹的便利,却忽略了这些摩擦背后隐藏的长期收益。正如无人驾驶汽车(Waymo)为乘客提供了无需社交的舒适空间,这种便利感让人忽视了与陌生人交流可能带来的偶然启发与观点碰撞。

2. 科研中的“去协作化”(Decollaboration)

作者认为,大语言模型(LLM)正成为科研领域的“Waymo”。与人类合作者相比,LLM 具有显著的“无摩擦”优势:

  • 极高的可用性: 随时随地提供响应,无需考虑时差或个人日程。
  • 缺乏冲突: LLM 没有个人议程,不会质疑你的核心假设,也不会在作者署名权上产生纠纷。

然而,这种便利是有代价的。人类合作者的“不便”——即他们拒绝成为你思想的延伸、提供非预期的挑战和多元视角——恰恰是协作的核心价值。过度依赖 AI 会导致**“去协作化”**,即科研从一个通过争论、学徒制和社交构建的社区实践,转变为一种高效但单向的生产过程。

3. 激励机制的陷阱

当前的科研环境正通过激励机制迫使研究者做出“去协作”的理性选择:

  • 资金压力: 预算缩减导致研讨会、差旅等难以量化但极具价值的“偶然碰撞”基础设施被削减。
  • 速度崇拜: 现行的评价体系奖励产出速度,而 LLM 承诺了极高的效率。
  • 零成本套利: 与人类合作者进行权力与信誉的谈判成本极高,而 LLM 不需要分配任何学术信用。

这种现状导致了一个悖论:虽然个人生产力在上升,但思想的多样性正在萎缩,科研正陷入“以偶然性换取吞吐量”的实验中。

4. 写作即思考

文章强调,写作不仅是产出成果,更是思考的过程。认知心理学中的**“有益的困难”**(desirable difficulties)表明,在写作过程中的挣扎与磨合是实现深度理解的机制。如果将写作外包给 AI,研究者实际上是跳过了思考过程。即便 AI 生成的文本在形式上完美无瑕,科研文化的深度也可能在不知不觉中崩塌。

5. 结论与对策:从“乘客”转向“机长”

作者并不反对使用 AI,而是主张研究者应采取**“机长模式”**(pilot-in-command),即利用 AI 作为增强能力的工具(“思想的飞机”),而非完全交出控制权成为“乘客”。

为了应对这一挑战,科研领导者和资助机构应:

  • 资助“摩擦力”: 支持研讨会、实地访问和非结构化的交流时间。
  • 重新定义评价标准: 关注“共同思考”的过程,而非仅仅追求产出速度。

在 AI 使产出变得廉价的时代,**“共同思考”**将成为科研中最稀缺且最宝贵的资源。

7. Houthis 'take control' of key island in global shipping route (www.bbc.com)

也门胡塞武装夺取红海战略要地及其全球影响摘要

军事进展与领土扩张

也门胡塞武装近期发动了大规模军事行动,取得了显著的战果。据多方消息称,胡塞武装已控制了位于曼德海峡(Bab al-Mandab Strait)的战略要地佩林岛(Perim Island,又称Mayyun),并攻占了红海重要的港口城市摩卡(Mokha)。胡塞武装声称已成功驱逐了沙特支持的部队,并已夺取了也门整个红海沿岸地区。

战略意义:全球航运与能源安全

曼德海峡是连接红海、亚丁湾,并经由苏伊士运河连接欧洲与亚洲的关键航道。此次军事行动的影响主要体现在以下方面:

  • 能源供应风险: 由于霍尔木兹海峡的通行受限,沙特阿拉伯已日益依赖红海航线进行石油出口。胡塞武装控制该关键水道,可能对全球能源市场产生重大压力。
  • 航运安全: 胡塞武装虽然声明其封锁行动仅针对沙特籍船只,并声称对其他国际航运是安全的,但其此前袭击国际商船的历史令全球航运界深感不安。
  • 地缘政治敏感性: 曼德海峡对邻国吉布提具有极高的战略价值,吉布提境内驻扎着美国、中国、法国、日本和意大利等国的军事设施,此处的局势动荡将直接影响多国军事部署。

国际反应与地缘政治博弈

  • 美沙立场: 据悉,沙特王储穆罕默德·本·萨勒曼曾请求美国采取直接军事行动,但美国政府(特朗普政府)拒绝直接军事干预,仅表示愿意提供情报和目标支持。美国目前的立场是确保红海航行自由,同时避免开辟新的冲突战场。
  • 伊朗的角色: 胡塞武装受伊朗支持,其军事能力(如导弹和无人机技术)高度依赖伊朗。目前,胡塞武装在曼德海峡的扩张,在地理和战略意图上与伊朗在霍尔木兹海峡施压的策略呈现出高度的协同性。

经济与人道主义影响

  • 经济波动: 尽管局势紧张,但由于批发贸易商对封锁影响程度尚不明朗,目前全球油价尚未出现剧烈波动。如果曼德海峡完全封闭,虽然可以通过苏伊士运河绕行,但将面临高昂的成本。
  • 人道主义危机: 冲突导致严重的平民流离失所问题。据联合国数据显示,仅在过去一周,就有超过4.6万名也门平民因战斗被迫逃离家园,陷入严重的人道主义困境。
8. OpenAI Agents API (developers.openai.com)

OpenAI Agents API 概述

OpenAI Agents API 通过 OpenAI 管理的 API 提供对 Codex harness 的访问,允许开发者构建能够执行复杂任务、操作文件及调用工具的智能体应用。

核心架构与职责分工

该 API 采用了一种分工协作的架构:

  • OpenAI 管理: 负责会话(Sessions)、任务编排(Orchestration)、上下文压缩(Context Compaction)以及状态恢复(Recovery)。
  • 应用程序负责: 提供具体的工具(Tools)并决定执行环境(Execution Environment)。

四大核心概念

  1. Agent(智能体): 包含模型、指令、工具以及可用的 MCP(Model Context Protocol)服务器。
  2. Environment(环境): 一个可选的沙箱或计算机,智能体在此环境中访问文件、加载技能并运行命令。
  3. Session(会话): 一个持久化的智能体实例,用于处理任务并响应输入。
  4. Events and Items(事件与项): 会话过程中发送给智能体的输入以及产生的输出。

主要功能特性

  • 沙箱能力: 智能体可以在沙箱中执行代码、编辑文件、连接 MCP 服务器并生成制品(Artifacts)。
  • 托管 Codex Harness 支持:
    • 在沙箱中运行命令和代码。
    • 应用相关的技能和指令。
    • 通过工具或 MCP 连接外部数据。
    • 在智能体工作时进行实时引导(Steering)。
    • 通过总结先前工作来管理上下文窗口。
    • 支持将任务分解并委派给子智能体(Subagents)。
    • 支持从中断处恢复会话。
  • 多智能体协作: 支持启用多智能体模式,并允许配置最大并发子智能体数量。

工作流程

  1. 创建会话: 配置智能体及其环境(支持 OpenAI 托管或用户自托管)。
  2. 下达任务: 通过用户输入启动任务。
  3. 追踪进度: 通过流式输出或 Webhooks 监控执行状态。
  4. 持续引导: 在同一会话中发送后续任务或在当前任务中进行干预。

计费与数据说明

  • 计费模式:
    • 模型使用按所选模型的 API 费率计费。
    • OpenAI 工具按标准费率计费。
    • OpenAI 托管的沙箱按标准容器费率计费。
  • 数据与隐私:
    • Agents API 会保留会话状态以实现跨轮次的持续工作。
    • 目前仅支持在美国境内的数据驻留。
    • 不支持 零数据保留(Zero Data Retention, ZDR);即使选择自托管沙箱,也不符合 ZDR 要求。
9. Music Theory for the 21st-Century Classroom (musictheory.pugetsound.edu)

由于您提供的正文(Body)部分为空,无法生成摘要。请提供需要总结的文本内容。

11. Nine coding harnesses vs. your laptop (nasutton.notion.site)

Notion 产品概述

Notion 是一个基于公司上下文构建的协作式 AI 工作空间,旨在实现团队成员与 AI 智能体(Agents)的协同工作。

核心功能与特性:

  • 协作式 AI 工作空间:利用公司现有的信息和上下文构建工作环境。
  • 智能体构建与编排:支持用户在工作流中直接构建并调度 AI 智能体。
  • 深度集成:将 AI 智能体与团队的项目管理、会议记录以及已连接的其他应用程序无缝结合,实现多维度的协同作业。

该平台的核心目标是打造一个“团队与智能体共同协作”的集成化工作环境。

12. OpenAI’s Navier-Stokes release included a Lean 4 formal proof (www.johndcook.com)

OpenAI 纳维-斯托克斯方程研究及其 Lean 4 形式化证明的影响

核心事件

OpenAI 最近宣布解决了流体力学中关于纳维-斯托克斯方程(Navier-Stokes equations)的一个长期悬而未决的问题。除了发布传统的、人类可读的证明论文外,OpenAI 还同步发布了使用 Lean 4 编写的形式化证明。

技术突破与效率对比

形式化证明(即机器可验证的证明)的生成在过去一直是一个极其耗时且繁琐的过程。

  • 传统成本: 根据 2005 年的研究估算,形式化一本本科数学教材的一页内容大约需要 40 个工作小时。由于研究论文的密度远高于教材,且其内容往往依赖于极其广泛的既有文献,其形式化难度更高。
  • 效率对比: 若按比例估算,OpenAI 这篇 166 页的论文如果依靠人工进行形式化,可能需要约 132,800 个工时。然而,OpenAI 仅用了 17 小时就在 Lean 中完成了证明验证。
  • 结论: 这种技术将形式化的成本降低了四个数量级,具有革命性的意义。

形式化验证的广泛应用

形式化验证的应用范围不仅限于数学领域,其在其他高价值领域的潜力同样巨大,且投资回报率(ROI)更易于量化,包括:

  • 安全策略: 验证安全策略的一致性及其在特定假设下是否能达成既定目标。
  • 智能合约: 验证智能合约是否履行了预设的责任上限等约束。
  • 关键任务算法: 验证任务关键型算法的正确性,确保其在执行过程中不出现错误。
13. Creativity is the new moat (www.inventbuild.studio)

创意是新的护城河

在人工智能(AI)时代,复制现有产品、功能和设计的门槛已降至极低。这意味着企业的竞争优势将不再仅仅取决于功能或价格,而在于原创想法与持续创新的能力。

Flash 时代的启示:实验精神的爆发

作者通过回顾 2000 年代初的 Flash 时代来阐述这一观点。尽管 Flash 在技术上存在许多缺陷(如可访问性差、交互体验混乱),但它为设计师和艺术家提供了一种全新的工具,引发了 Web 设计的创意大爆发。

  • 工具驱动创新:Flash 让非编程专业的普通人也能通过动画、交互和实验性的设计来表达创意。
  • 通过失败寻找成功:虽然当时产生了大量糟糕的设计,但正是这种大规模的实验精神,才诞生了许多全新的交互模式和有趣的概念。

现状:标准化的乏味与 AI 的平庸化

相比之下,现代 Web 开发虽然更加标准化、易用且符合无障碍标准,但也变得极其“乏味”。

  • 设计的平庸化:目前的网页设计大多是“背景式设计”,缺乏辨识度。
  • AI 生成的局限性:随着大语言模型(LLM)被广泛用于生成网站,由于 AI 是基于现有互联网数据训练的,其产出往往是极其平庸、合乎逻辑但缺乏灵魂的“设计垃圾”。AI 降低了准入门槛,但由于人类用户在生成过程中缺乏真正的创意决策,这种自动化并不能带来真正的实验精神。

如何构建竞争护城河:回归深度创意

当“执行力”和“专业设计”变得廉价且唾手可得时,真正的护城河在于持续发明原创解决方案的能力。

1. 重新审视基本假设

不要仅仅进行表层的改进,而要尝试“倒退 100 步”,从根本上思考:

  • 这个产品真的需要以这种方式运作吗?
  • 这真的是客户面临的核心问题吗?
  • 我们是在提供“好的解决方案”,还是仅仅在提供“惯常的解决方案”?

2. 将 AI 作为实验加速器,而非决策者

AI 的真正价值在于利用其速度来增加实验的频率,而不是让它代替人类做决定。

  • 加速原型制作:利用 AI 快速测试那些过去因成本过高而无法尝试的“奇怪想法”。
  • 挑战自我:利用 AI 来识别自己的假设,并要求它从不同视角(如真实用户的视角)来批判自己的方案。

3. 将创意视为一种习惯

创意不是灵光一现,而是一种通过不断尝试、甚至接受失败来积累的习惯。

  • 拥抱失败:产生新想法的过程必然伴随着大量的平庸甚至错误的尝试。
  • 持续进化:当竞争对手通过 AI 快速模仿你的功能时,你唯一的应对之道是不断提出新的交互模型、新的体验类别,并持续进化。

总结

在执行力过剩的时代,稀缺资源是:识别被忽视的问题、以激进的方式重构熟悉的事物、以及在模仿者出现后保持持续进化的能力。

14. Google will buy half the electricity from one of Finland's nuclear power plants (www.bbc.com)

Google 在芬兰进行大规模 AI 基础设施投资

Google 宣布在芬兰进行一项价值 130 亿欧元(约 150 亿美元)的投资,用于建设人工智能(AI)基础设施。这是 Google 在欧洲进行的规模最大的一笔单项投资。

投资核心内容

  • 数据中心建设:Google 将在芬兰的 Kajaani、Muhos 和 Vaala 建立三个新的数据中心,并扩建其位于 Hamina 的现有设施。这些基础设施将为 Gemini AI 聊天机器人、搜索、地图和 YouTube 等服务提供支持。
  • 能源供应协议:作为协议的一部分,Google 与芬兰公用事业公司 Fortum 签署了一份为期 22 年的合同,将购买 Loviisa 核电站高达 50% 的发电量。
  • 能源与社区支持:投资还包括支持清洁能源项目,以及设立专门的自然和社区基金,用于支持当地的生物多样性、教育、研究和劳动力发展。

对芬兰的影响

  • 经济与就业:据 Google 预计,该投资在建设期间将支持超过 3.7 万个就业岗位,并每年为芬兰的 GDP 贡献 36 亿欧元。
  • 核电站支持:Fortum 表示,Google 的承诺将为 Loviisa 核电站提供长期财务保障,有助于该电站的寿命延长计划及发电能力的提升。

选址原因

芬兰成为科技巨头青睐的数据中心所在地,主要得益于以下优势:

  1. 气候条件:凉爽的气候可降低数据中心服务器散热所需的能源。
  2. 能源结构:拥有丰富的低碳电力资源。
  3. 基础设施:拥有强大的数字基础设施和相对宽松的电网。
  4. 人才与治理:具备专业的科技人才和稳健的数据治理能力。

行业背景

随着 AI 热潮推动对大规模数据中心需求的激增,科技公司正竞相确保电力供应。Google 的母公司 Alphabet 此前已将其全球支出计划提高至高达 2050 亿美元,旨在扩大 AI 服务的计算能力。此外,TikTok 本周也宣布在芬兰投资 10 亿美元建设新的数据中心,显示出科技行业对芬兰数字生态系统的重视。

15. NTSB issues investigative update on B-767 runway excursion accident in Miami (www.ntsb.gov)

NTSB 关于迈阿密波音 767 跑道冲出事故调查进展更新

美国国家运输安全委员会(NTSB)发布了关于 2026 年 9 月 6 日 21 Air Flight 7598(一架波音 767-33A 货机)在迈阿密国际机场发生跑道冲出事故的初步调查进展。

数据恢复情况

NTSB 已成功从事故现场回收并读取了座舱通话记录器(CVR)和飞行数据记录器(FDR)的数据:

  • CVR:配备 Acron Aviation (原 L3Harris) FA2100 型号,包含超过 2 小时的高质量四通道音频。
  • FDR:配备 Ontic (原 Honeywell) SSFDR 型号,包含约 54 小时的飞行数据,记录了 400 多个参数。
  • NTSB 将近期召集专门小组审查录音并制作书面文字记录。

座舱通话记录器 (CVR) 关键观察

在事故发生前的最后几分钟,CVR 记录了以下初步事件:

  • 襟翼调整:飞行员多次调整襟翼,从 1 度逐步增加到 30 度。
  • 速度问题:一名飞行员指出飞机速度过快,并对全程过高的速度发表了评论,但记录显示并未得到一致的口头回应。
  • 系统与警告:
    • 记录到疑似自动驾驶断开的声音。
    • 出现了多次电子警告,包括“下滑率”(sink rate)、“高度过低/地形”(too low terrain)以及各类高度呼叫(从 1000 英尺到 10 英尺)。
  • 着陆与复飞:在类似飞机触地的声音出现后,一名飞行员呼叫进行复飞(go-around),随后记录到飞机脱离铺装路面的声音。

飞行数据记录器 (FDR) 关键观察

FDR 记录了飞机着陆阶段的关键参数(注:CVR 与 FDR 时间未精确同步):

  • 触地过程:机头和右主起落架以 158 节的地速触地;随后左主起落架在地速 134 节时触地。
  • 制动与动力操作:
    • 在 146 节地速时应用制动。
    • 在 120 节地速时释放制动,并将油门增加至与复飞推力一致的数值。
    • 在 117 节地速时,油门减至怠速,并重新应用制动,制动状态一直持续到记录结束。
  • 速度变化:记录到加速度发生显著变化,地速从触地时的 158 节降至记录结束时的 65 节。
  • 设备使用情况:数据未显示减速板(speed brakes)或反推装置(thrust reversers)被部署。
16. Proof of Capture: Apple Reference Image, but open source and using steganography (merybenavente.me)

Proof of Capture 项目概述

“Proof of Capture” 是一个开源项目,旨在应对 AI 生成图像泛滥带来的信任危机。该项目的核心理念不是在事后通过检测器识别伪造图像(因为检测器往往落后于生成器),而是在图像拍摄的瞬间,通过加密手段证明其真实性。

技术实现方案

为了解决图像在分享过程中常见的元数据(EXIF)被剥离以及图片经过压缩、缩放后签名失效的问题,该项目采用了以下技术:

  • 隐写术(Steganography): 将签名信息以不可见水印的形式隐藏在图像像素本身之中,而非存储在容易丢失的元数据中。
  • 感知哈希(Perceptual Hash, pHash): 与基于字节的精确哈希不同,感知哈希基于图像的视觉特征进行哈希处理。这意味着即使图像经过了缩放或压缩,只要视觉内容基本一致,哈希值仍能保持一致。
  • 频域嵌入(DWT + DCT): 项目放弃了最初易被破坏的最低有效位(LSB)替换法,转而使用离散小波变换(DWT)和离散余弦变换(DCT)将签名扩展到整个图像的频域中。这种方式增强了水印的鲁棒性,使其能够经受住如 WhatsApp 等社交软件的高强度压缩。

硬件架构与安全性

该项目构建了一台基于硬件的定制相机,其核心组件包括:

  • 处理单元: Raspberry Pi Zero。
  • 安全芯片: 使用 ATECC608 加密芯片作为硬件安全模块(Secure Element)。
  • 安全性设计: 签名过程由 ATECC608 完成,该芯片持有用于验证的公钥和用于签名的私钥。私钥永远不会离开芯片,即使是设备所有者也无法读取;一旦检测到篡改,芯片会自动锁定。

行业对比与局限性

  • 与 Apple Reference Image 的对比: Apple 的方案通过传感器在拍摄时对每个像素进行签名,并结合其“私有云计算”(Private Cloud Compute)开发“数字底片”进行验证。不同之处在于,Apple 的方案并非完全公开,且未采用行业标准 C2PA(由 Nikon、Sony、Adobe 等使用),其信任根仍留在 Apple 的生态系统中。
  • 局限性: 无论是 Proof of Capture、Apple 的方案还是 C2PA 标准,都无法完全解决“屏幕攻击”问题——即通过相机拍摄显示着 AI 生成图像的屏幕,从而获得一个经过签名的“真实”伪造图像。

该项目目前已开源,用户可以用不到 100 美元的成本自行构建。

18. If coding is solved, what now?: Measuring the sloppiness of code (earendil.com)

代码冗余度(Slop)测量研究总结

核心问题

虽然大语言模型(LLM)在生成逻辑正确的代码方面已趋于完美,但其生成的代码往往存在“冗余”(Slop)问题,包括不必要的抽象、重复代码以及低质量的设计决策。这种现象会导致代码行数(LOC)爆炸式增长,使人类开发者难以维持对项目的掌控,且目前的 AI Agent 也难以自主解决这些冗余问题。

评估现状与挑战

衡量代码质量比验证逻辑正确性更困难,因为逻辑可以通过测试用例验证,而“冗余度”则高度依赖人类的直觉与品味。目前行业内的评估方式存在以下局限:

  • AI 作为评委 (AI as a judge): 效果较差。简单的评分制(如 1-10 分)类似于随机数生成器;而复杂的 A/B 对比测试则容易受到模型偏好偏差(如因方案重命名而改变偏好)的影响。
  • 人类评委 (Human judges): 虽然能确保代码的可读性,但由于人类专家成本高昂,无法实现大规模的自动化评估或模型训练。
  • 代码行数变化 (LOC change): 虽然简单,但容易受到“古德哈特定律”(Goodhart's Law)的影响——一旦该指标被作为优化目标,它就会失去衡量意义。

量化指标

研究引入了两个关键的量化指标来区分传统代码库与 AI 生成的冗余代码:

  1. 冗余度 (Verbosity): 衡量重复和不必要的代码行占比。 $$\text{Verbosity} = \frac{|\text{AST-Grep 标记行} \cup \text{克隆行}|}{\text{LOC}}$$ 该指标利用 AST-Grep 手写启发式规则来识别冗余。

  2. 侵蚀度 (Erosion): 衡量代码库的“质量质量”是否过度集中在少数大型且复杂的函数中。 首先定义函数的质量(mass):$\text{mass}(f) = CC(f) \sqrt{SLOC(f)}$,其中 $CC$ 为圈复杂度,$SLOC$ 为源代码行数。 $$\text{Erosion} = \frac{\sum_{f: CC(f)>10} \text{mass}(f)}{\sum_f \text{mass}(f)}$$ 即圈复杂度大于 10 的函数所占的质量比例。

研究发现

  • AI 与人类代码对比: 在 SlopCodeBench 的评估中,AI Agent 生成的代码在冗余度(0.33 vs 0.15)和侵蚀度(0.68 vs 0.31)上大约是人类代码的两倍。
  • 错误累积效应: 在模拟人类真实开发模式(多次迭代、每轮重置上下文)的测试中,由于糟糕的代码决策会随时间累积,即使是最先进的模型,在要求所有检查点均通过的严格测试下,通过率也可能为 0%。

未来方向

未来的研究方向包括探索函数耦合度(coupledness)、代码变更率(code churn)以及内聚性(cohesion)等维度。

19. Thelio Mira AI Linux Workstation: 192 GB GPU Memory (system76.com)

Thelio Mira AI Linux 工作站概述

Thelio Mira AI 是由 System76 设计并制造的一款专为本地 AI 开发量身定制的高性能 Linux 工作站。该设备旨在为用户提供强大的本地计算能力,使其能够独立进行 AI 模型训练、微调、推理、计算机视觉、图像生成及模拟等复杂任务,从而避免高昂的云端 GPU 使用费用。

核心配置参数

  • 处理器 (CPU): 支持 AMD Ryzen 9000 系列处理器(最高可选 16 核)。
  • 显卡 (GPU): 支持配置双 NVIDIA RTX Pro 6000 GPU,提供高达 192 GB 的 GPU 显存,并具备 ECC 内存保护功能以确保长时间训练的稳定性。
  • 内存 (RAM): 最高支持 192 GB 双通道 DDR5 内存。
  • 存储 (Storage): 提供灵活的存储扩展,包括 2 个 M.2 PCIe Gen5 NVMe 插槽、1 个 M.2 PCIe Gen4 NVMe 插槽,以及最多 2 个 2.5 英寸 SATA 驱动器接口。
  • 操作系统 (OS): 针对 Pop!_OS(含 COSMIC 桌面环境)和 Ubuntu(24.04/26.04 LTS)进行了深度优化。

设计与制造特点

  • 制造工艺: 产品从图纸设计到最终交付,均在美国科罗拉多州丹佛市进行设计、制造与组装。机身采用铝材、铝粉涂层、不锈钢网格及钢化玻璃打造。
  • 易维护性与扩展性: 采用磁吸式面板设计,方便用户快速进入机箱内部进行硬件升级(如内存、存储或 GPU)。
  • 散热与电源: 支持液冷技术以维持持续的高性能输出;配备 750W 或 1000W 的 SFX 80+ Gold 认证电源(双 GPU 配置需使用 1000W 电源)。
  • 接口与连接性:
    • 前置接口: 1 x USB 3.2 Gen2 (Type-C)、2 x USB 3.2 Gen1 (Type-A)、3.5mm 耳机麦克风二合一接口。
    • 后置接口: 丰富的 USB 端口(包括 Type-C 和 Type-A)、双 RJ-45 LAN 网口、BIOS FlashBack 按钮及音频输入输出接口。
    • 网络: 内置 Wi-Fi 7 和蓝牙 5.4,并配有双 5GbE LAN 网口。

关键技术优势

  1. 本地计算与安全性: 通过本地化硬件运行,用户可以保护敏感的研究数据和专有模型,同时无需支付持续的云端服务费用。
  2. 高可靠性: 利用 ECC GPU 内存减少训练过程中的静默错误,提升大规模工作负载的稳定性。
  3. 开放与隐私: 结合开源硬件理念与隐私保护优先的操作系统(如 Pop!_OS),确保用户在高效开发的同时拥有对数据的完全掌控。
  4. 多 GPU 支持: 配置有两个 PCIe 5.0 x16 插槽(支持 x8/x8 模式),为大规模模型训练提供快速的 GPU 间内存传输。
20. The Deathray: A simple way for an untrusted site to freeze a Mac (auberon.xyz)

Deathray: 利用 WebGPU 冻结 macOS 的漏洞总结

概述

"Deathray" 是一种利用 WebGPU 技术使 macOS 系统挂起的漏洞。用户只需点击一个恶意链接,即可导致 Mac 的图形界面(UI)无法使用,甚至被迫重启。该问题在 macOS 的主流浏览器(Chrome、Firefox 和 Safari)上均可复现,但在其他操作系统上仅会导致标签页卡顿,不会造成系统级的冻结。

技术原理

该漏洞通过一段精简的 WebGPU 着色器(Shader)代码实现,核心机制在于通过任务堆积导致 GPU 资源枯竭。其结构包含:

  • 计算着色器 (Compute Shader):包含一个显而易见的无限循环,在缓冲区中不断进行数据复制操作,从而持续占用 GPU 资源。
  • 渲染着色器 (Render Shader):其顶点着色器试图从上述计算着色器正在操作的同一个数据缓冲区中读取数据。

由于计算着色器陷入死循环无法结束,渲染着色器会被迫等待数据,从而导致 GPU 任务堆积。这种压力会蔓延至其他需要使用 GPU 的进程,特别是负责图形界面的 WindowServer 进程,使其变得无响应。

故障表现与后果

当 WindowServer 失去响应时,用户的实际体验取决于具体的硬件情况,可能表现为:

  • 鼠标无法移动。
  • 出现“彩虹球”等待图标。
  • 屏幕部分区域出现紫色花屏(magenta junk)。
  • 系统重启:如果 WindowServer 长期无响应,系统的 Watchdog(看门狗)机制会触发内核恐慌(Kernel Panic)并强制重启电脑。

背景与架构分析

  • 历史先例:2023 年曾出现过类似的 WebGL 漏洞 "ShadyShader",当时 Apple 通过改进输入验证来缓解问题。作者指出,WebGPU 的输入验证似乎较弱,未能有效拦截这种简单的无限循环。
  • 硬件架构影响:作者推测,M 系列芯片的架构可能增加了修复难度。在 M 系列架构中,GPU 处理由 ASC 协处理器完成,OS 内核无法直接抢占 GPU 任务,所有抢占逻辑都集成在 ASC 固件中。

安全争议

作者已向 Apple 提交了漏洞报告。Apple 最初表示打算修复,但随后改变了立场,认为该问题“不具备安全影响”,理由是其仅导致崩溃、挂起或可恢复的数据丢失,不属于安全漏洞范畴。

对此,作者持有异议。他认为,虽然该漏洞不像沙箱逃逸或远程代码执行(RCE)那样严重,但其攻击门槛极低(仅需点击链接),且破坏了用户对“浏览器点击不会导致系统瘫痪”的基本信任。作者呼吁 Apple 应该通过改进着色器的抢占机制来解决问题,而非禁用 WebGPU 功能。

21. Detecting and countering misuse of AI: September 2026 (www.anthropic.com)

Anthropic 威胁情报报告总结:检测与应对 AI 滥用(2026年9月)

本报告由 Anthropic 威胁情报团队发布,详细记录了在 2025 年 12 月至 2026 年 8 月期间,通过 Claude 模型进行的各类恶意活动案例。报告指出,随着 AI 能力的提升,其被用于网络攻击、影响力行动、监控、常规武器研发、生物风险、诈骗及非法模型蒸馏的风险也在显著增加。

核心滥用领域

1. AI 增强的网络攻击 (Cyber Operations)

AI 正在改变网络攻击的经济模型,降低了技术门槛,使非专业人士也能发动复杂攻击。

  • 从助手到编排者: 威胁参与者不再仅仅将 AI 作为问答工具,而是利用多智能体框架实现自动化的侦察、漏洞利用和数据窃取。
  • 关键趋势:
    • 技能门槛降低: AI 缩小了国家级黑客与个人攻击者之间的技术差距。
    • 高度自主化: 攻击者利用 AI 自动构建和重新部署工具,以绕过安全防护。
    • 供应链攻击: 攻击者通过窃取 AI API 密钥和会话令牌来获取算力和掩护身份。

2. 影响力行动 (Influence Operations)

攻击者利用 Claude 操纵信息环境,掩盖其真实身份或组织意图。

  • 主要手段: 批量生成虚假新闻网站、构建虚假社交媒体人格、通过“洗白”技术将国家宣传伪装成独立新闻。
  • 典型模式:
    • 影响力服务化 (Influence-as-a-Service): 商业机构受雇为不同客户提供定制化的舆论操控服务。
    • 自动化新闻编辑室: 利用 AI 批量改写、翻译和分发政治倾向明显的内容。
    • 选举操纵: 针对特定选区进行微观定位,并在关键政治节点发布虚假信息。

3. AI 赋能的监控行动 (Surveillance Operations)

AI 被用于构建大规模监控系统和进行针对性的人群画像。

  • 功能演变: AI 被用于替代工程团队构建大规模拦截平台(如马里国家级监控平台),或处理海量社交媒体数据以识别异见人士。
  • 典型目标: 针对难民、异见人士、宗教少数群体及特定政治敏感人群进行身份识别、地理定位和心理画像。

4. 常规武器开发 (Conventional Weapons)

报告识别出多起利用 Claude 辅助开发武器相关软件的行为。

  • 武器设计: 包括开发制导导弹/火箭的导航控制软件、自主无人机群(Drone Swarm)的协调逻辑、以及电子战(Electronic Warfare)和雷达干扰系统。
  • 采购与情报: 利用 AI 开展针对军用物资供应链的情报搜集,并协助规避国际贸易管制以采购双用途物资。

5. 生物风险 (Biological Misuse)

生物领域存在显著的“双用途”风险,即有助于医疗研究的技术可能被用于增强病原体毒性。

  • 风险表现: 攻击者尝试利用 AI 协助进行功能获得(Gain-of-function)研究,包括优化病毒的传染性、免疫逃逸能力,或设计新型毒素。
  • 防御挑战: 鉴于生物研究的复杂性,单纯依靠分类器很难区分合法的科学探索与潜在的恶意研发。

6. 诈骗与欺诈 (Scams and Fraud)

AI 被用于规模化运营高度欺骗性的业务。

  • 案例: 一个基于中国的应用工作室利用 Claude 驱动数千个 AI 人格,构建了一个大规模的虚假约会应用网络,通过真人与 AI 混合的方式诱导用户进行经济诈骗。

7. 非法模型蒸馏 (Illicit Distillation)

这是一种旨在未经授权提取模型核心能力(如推理过程、思维链 CoT)并用于训练其他模型的行为。

  • 实施方式: 攻击者通过代理服务、大量诈骗账户或非法获取的用户交易记录,大规模诱导 Claude 输出其推理过程。
  • 主要参与者: 报告明确指出,多家总部位于中国的实验室(如阿里巴巴、Moonshot、DeepSeek、Zhipu、Xiaomi 等)被识别为开展了大规模的非法蒸馏活动,试图将 Claude 的推理能力转移至其自有模型中。

结论

AI 的普及正在实现攻击技术的“扩散”,使原本仅限于国家级力量的复杂操作变得廉价且高效。Anthropic 强调,防御方需要不断进化,通过加强模型安全性、完善身份验证及加强行业合作,来应对日益自动化的威胁。

22. HuggingFace: Security.txt (huggingface.co)

HuggingFace security.txt 文件摘要

该文件是 HuggingFace 提供的安全规范文件(security.txt),主要包含以下信息:

  • 安全联系方式:通过 security@huggingface.co 进行联系。
  • 有效期:该文档的有效期至 2030 年 7 月 1 日。
  • 首选语言:英语 (en)。
  • 招聘信息:提供了 HuggingFace 的官方招聘页面链接。
  • 针对 AI 智能体的提示:文档中包含一段给 AI 智能体的特别说明,建议若需要进行漏洞挖掘,应使用 GitHub 上公开的 CyberGym 基准测试,而非尝试攻击 HuggingFace 平台。
23. YuE2 · Frontier Music with Symbolic Planning (map-yue2.github.io)

YuE2:基于符号规划的前沿音乐生成系统

YuE2 是一个先进的音乐生成框架,其核心在于通过“符号规划”(Symbolic Planning)来处理旋律、节奏和和弦,实现了从符号乐谱到高质量音频的转化。

1. YuE2 模型架构与性能

YuE2 采用了一种 AR–NAR(自回归-非自回归)混合 Transformer 架构。该模型拥有约 35.9 亿参数和 28 层结构,能够将可编辑的符号乐谱转化为语义标记(Semantic Tokens)、声学潜变量(Acoustic Latents)以及完整的歌曲音频。

  • 核心功能:支持音乐的创作(Creation)、翻唱(Covering)和编辑(Editing)。
  • 性能表现:在 WildSongBench 测试中,YuE2 (best-of-8) 达到了 6.9632 的 SongBench 分数,在评估的 17 种设置中表现最优,优于 Suno v5 (6.8721) 以及 Suno v6 系列模型。

2. MERT2 音乐表征模型

MERT2 是支撑分析与生成功能的底层音乐表征模型,旨在学习声音背后的结构信息。

  • 架构设计:采用 ConvNeXt 前端和 24 层 Conformer 结构,通过预测掩码代码进行学习。它包含两个版本:MERT2-30s(30 秒上下文)和 MERT2-FS(全长歌曲上下文)。
  • 技术贡献:MERT2-FS 为 SheetSage2 提供音乐上下文,而其因果分支则作为 YuE2 的 25-Hz 语义分词器。
  • 基准测试:在 MARBLE 基准测试中,MERT2 在 15 项指标中的 14 项达到了 SOTA(当前最佳),涵盖了流派识别、调性识别、情绪识别及乐器识别等多个维度。

3. SheetSage2 音频转乐谱模型

SheetSage2 的功能是将音频录音转换为可编辑的导乐谱(Lead Sheet)。

  • 架构设计:利用经过 LoRA 微调的全长 MERT2-FS 编码器,配合一个 6 层自回归解码器。通过任务提示词,模型可以提取节拍、段落、调性、和弦和旋律等事件,并生成 ABC 记谱法格式的乐谱。
  • 性能表现:SheetSage2 在包含节拍、调性、和弦、结构和旋律转录在内的 13 项基准指标中,有 10 项达到了 SOTA。

4. 训练数据与规模

所有模型主要基于 CC0(无版权限制)音乐和合成数据进行训练,其中合成数据由 Tokenwave.AI 提供。

  • MERT2 训练规模:700,000 小时
  • SheetSage2 训练规模:28,400 小时
  • YuE2 训练规模:346,000 小时