2025-06-15
24 篇热帖
2. Datalog in Rust (github.com)
Some notes on things I find interesting and important. - blog/posts/2025-06-03.md at master · frankmcsherry/blog
3. Canyon.mid (canyonmid.com)
CANYON.MID 模拟器。
4. Seven replies to the viral Apple reasoning paper and why they fall short (garymarcus.substack.com)
Also: another paper that seals the deal
5. Journalists Wary of Travelling to US Due to Palantir Surveillance (bsky.app)
Hi everyone
I was denied entry, detained, and deported from the USA over the last 48 hours because of my reporting on the Columbia student protests
I arrived back in Melbourne hours ago and had my phone handed back to me upon landing
6. Poline – An enigmatic color palette generator using polar coordinates (meodai.github.io)
Poline is lightweight, dependency free and fast JavaScript function written in TypeScript. It draws lines between anchors over polar HSL coordinates to generate pleasing color palettes.
7. Infinite Grid of Resistors (www.mathpages.com)
8. 3D-printed device splits white noise into an acoustic rainbow without power (phys.org)
In a study published in Science Advances, researchers from Technical University of Denmark and Universidad Politécnica de Madrid demonstrate a new device called an acoustic rainbow emitter (ARE) that takes in broadband white-noise signals from a point source that radiates sound equally in all directions and scatters it up so that different sound frequencies or pitches are emitted.
9. Why SSL was renamed to TLS in late 90s (2014) (tim.dierks.org)
The Netscape/Microsoft browser wars in the mid-90's were really vicious and competitive. They really had it out for each other. Netscape had...
10. Childhood leukemia: how a deadly cancer became treatable (ourworldindata.org)
Before the 1970s, most children affected by leukemia would quickly die from it. Now, most children in rich countries are cured.
11. The Art of Lisp and Writing (2003) (www.dreamsongs.com)
12. Q-learning is not yet scalable (seohong.me)
Q-learning 的可扩展性局限
核心论点:强化学习(RL)是否具备可扩展性?
近年来,其他机器学习目标(如下一词预测、去噪扩散、对比学习)已证明了其可扩展性,能够训练数十亿参数的模型。强化学习在棋类游戏和基于大语言模型(LLM)的任务中取得了显著成功,但这些成功大多依赖于同策略(on-policy)RL算法(如REINFORCE、PPO、GRPO)。这类算法要求持续从当前策略中收集新的交互数据,无法有效重用历史数据,这在机器人学等数据收集成本高昂的现实场景中是一个重大限制。
异策略(off-policy)RL(如Q-learning)能够使用任意收集的数据,理论上具有更高的样本效率。Q-learning通过最小化时序差分(TD)损失来学习价值函数。然而,作者认为,目前Q-learning算法尚未具备在长时域(需要超过约100个语义决策步骤)复杂问题上的可扩展性。
Q-learning 为何难以扩展?
根本原因在于 TD学习中存在预测目标偏差,并且这些偏差会随着时域增长而累积。其他可扩展目标(如下一词预测)的预测目标没有此类偏差,或偏差不会累积。随着问题复杂度和时域长度增加,偏差累积会愈发严重,使得仅靠增加数据和模型规模难以缓解。这是实践中几乎不使用较高折扣因子(γ > 0.999)的主要原因,也构成了Q-learning可扩展性的根本障碍。
相比之下,策略梯度方法(如PPO)受此问题影响较小,因为类似广义优势估计(GAE)的同策略价值估计技术能相对更好地处理长时域问题。
实证研究证据
作者团队通过受控的离线RL实验,在高度复杂、先前未解决的任务(如机器人操作、解谜、长程导航)上验证了上述观点。他们提供了近乎无限的数据,并排除了探索、表示学习等混淆因素。
关键发现:
- 标准离线RL算法(如流BC、IQL、CRL、SAC+BC)即使在使用比典型数据集大1000倍的数据集时,也无法完全解决这些任务,且性能常出现平台期,表明其无法有效扩展。
- 唯一能显著提升可扩展性和渐近性能的技术是减少时域(例如,使用n步回报、分层RL等)。这些技术通过减少存在偏差的TD备份步骤数来起作用。
这表明,单纯增加数据和计算量不足以克服时域带来的挑战,我们需要能直接解决这一根本问题的更优算法。
结论与呼吁:寻找可扩展的异策略RL目标
虽然时域减少技术(如n步回报、分层RL)能缓解问题,但通常只是以常数因子进行缓解,并未从根本上解决长时域难题。作者认为,找到一个能够扩展到任意复杂、长时域问题的异策略RL算法,是当前机器学习领域最重要的缺失部分。这将有望解决机器人、智能体等众多现实世界的决策任务。
作者探讨了潜在的研究方向:
- 扩展分层结构:寻找简单、可扩展的方式,构建能自然处理任意长度时域的递归分层结构(类似LLM中的思维链)。
- 模型基RL(Model-based RL):结合可扩展的模型学习(监督学习)与可扩展的同策略RL,可能比基于TD的Q-learning更具扩展性。
- 避免TD学习:探索其他范式,如基于线性规划的准度量RL或蒙特卡洛方法(如对比RL),看其是否具有更好的扩展潜力。
作者已发布代码和极具挑战性的基准任务,以支持该领域的算法研究和压力测试。
13. Meta's Llama 3.1 can recall 42 percent of the first Harry Potter book (www.understandingai.org)
New research could have big implications for copyright lawsuits against generative AI.
14. Foundations of Computer Vision (visionbook.mit.edu)
《计算机视觉基础》是一本由MIT出版社于2024年出版的计算机视觉领域教材。本书旨在从图像处理和机器学习的角度介绍计算机视觉的基础知识,主要面向本科生和研究生,同时也希望为经验丰富的从业者提供价值。
作者最初计划撰写一本全面覆盖该领域的大型著作,但由于计算机视觉领域过于庞大,转而专注于精炼的核心概念,试图将每章限制在五页以内。然而,这一目标最终也未能完全实现。本书的写作过程历时十多年,始于2010年11月,期间经历了深度学习革命(2012年)等重要事件。作者指出,尽管今天的方法名称和部分思想是新的,但它们实际上植根于计算机视觉和人工智能的历史,本书将强调这些概念背后的统一主题。
本书共分为15个部分,内容如下:
- 第一部分:引入视觉问题及其社会背景,介绍一个简单的视觉系统以呈现全书概念,并回顾基本数学工具。
- 第二部分:涵盖图像形成过程。
- 第三部分:以视觉为例介绍广泛适用的学习基础。
- 第四部分:介绍对计算机视觉至关重要的信号与图像处理基础。
- 第五部分:描述一系列有用的线性滤波器及其应用。
- 第六部分:介绍多尺度图像表示。
- 第七部分:介绍用于视觉的神经网络,包括卷积神经网络、循环神经网络和Transformer,侧重于基本原理而非特定架构。
- 第八部分:介绍图像的统计模型和图模型。
- 第九部分:聚焦于神经网络时代两种强大的建模方法:生成建模和表示学习。
- 第十部分:简要讨论构建基于学习的视觉系统所产生的挑战。
- 第十一部分:介绍几何工具及其在计算机视觉中用于从2D图像重建3D世界结构的应用。
- 第十二部分:专注于序列处理和运动测量。
- 第十三部分:处理场景理解和物体检测。
- 第十四部分:为初级研究人员提供关于有效演示、撰写论文和研究心态的建议。
- 第十五部分:回到第一部分引入的简单视觉系统,应用书中介绍的技术解决该问题。
本书明确指出,它不提供计算机视觉最新进展的综述,也不深入探讨诸如形状分析、物体跟踪、人体姿态分析或人脸识别等具体应用。本书感谢了众多教师、学生、同事在成书过程中的帮助,并提供了打印版购买链接、配套教师幻灯片下载链接以及引用本书的BibTeX条目。
15. AMD's AI Future Is Rack Scale 'Helios' (morethanmoore.substack.com)
Key Announcements from AMD Advancing AI 2025
16. Waymo's market share in San Francisco exceeds Lyft's (underscoresf.com)
If a data-backed trend plays out, Waymo could become San Francisco's biggest ride-hailing service before the year ends.
17. ZX Spectrum graphics magic (zxonline.net)
这篇文章深入介绍了 ZX Spectrum 计算机的图形显示原理与编程方法。屏幕分辨率为 256x192 像素,其显示内存分为两部分:像素区(存储像素亮/灭状态,每个像素占1位)和属性区(为每个8x8像素块定义颜色和闪烁效果,每个块共享一个属性字节)。这种设计导致了著名的“属性冲突”现象。
像素内存地址的计算并非按行顺序排列,而是有特定的交错结构以适应硬件。文章详细给出了计算任意坐标 (X, Y) 对应像素内存地址的公式,并提供了 Z80 汇编和 JavaScript 的代码示例。对于 8x8 的图形绘制,每行数据对应一个字节,行与行之间内存地址相差 256 字节。
为提高绘图效率,文章探讨了多种优化地址计算的方法:
- 增量计算:通过地址增减实现相邻像素的快速移动。
- 表格查找法:预先计算好每行起始地址构成查找表,这是最快的方法,但需要占用额外内存(约384字节)。
理解这些内存布局和地址计算技巧是在 ZX Spectrum 上进行高效图形编程的基础。
18. SSHTron: A multiplayer lightcycle game that runs through SSH (github.com)
SSHTron 项目摘要
SSHTron 是一款通过 SSH 连接运行的多人光轮游戏。玩家可通过 SSH 客户端快速接入并开始游戏。
主要功能与使用方式
- 快速游玩:通过执行命令
ssh sshtron.zachlatta.com即可加入游戏。 - 控制方式:使用 WASD 或 Vim 键位移动,避免使用方向键;按 Escape 或 Ctrl+C 退出。
- 颜色选择:支持 7 种颜色(红、绿、黄、蓝、品红、青、白),通过用户名指定(如
ssh red@sshtron.zachlatta.com)。若所选颜色在所有游戏中已被占用,则随机分配颜色。
自行部署与运行
直接运行
- 克隆项目并进入目录。
- 生成无密码的 RSA 密钥对:
ssh-keygen -t rsa -f id_rsa。 - 获取依赖并编译:
go get && go build。 - 运行程序:
./sshtron。可通过环境变量PORT和SSH_PORT自定义 HTTP 和 SSH 端口。
Docker 运行
- 构建镜像:
docker build -t sshtron .。 - 启动容器:
docker run -t -d -p 2022:2022 --restart always --name sshtron sshtron。 - 树莓派用户需指定基础镜像:
docker build -t sshtron --build-arg BASE_IMAGE=resin/raspberry-pi-golang:latest .。
安全注意事项
- 项目提及 SSH 客户端漏洞 CVE-2016-0777,建议玩家在连接前更新 SSH 客户端以修补漏洞。
- 提供了修复漏洞的参考链接。
项目信息
- 开发背景:在约 20 小时内于 BrickHack 2 活动中构建。
- 许可证:采用 MIT 许可证。
注意:游戏界面为终端字符渲染,玩法类似经典“光轮”游戏,通过避开路径碰撞来竞争生存。项目代码已开源,但服务端可能被修改以利用漏洞,因此更新客户端至关重要。
19. Nvidia CEO criticizes Anthropic boss over his statements on AI (www.tomshardware.com)
英伟达CEO批评Anthropic负责人关于AI影响的言论
英伟达CEO黄仁勋公开批评Anthropic首席执行官达里奥·阿莫代伊近期关于人工智能可能造成大规模失业的预测。阿莫代伊此前声称,人工智能可能在未来五年内抹去一半的初级白领工作岗位,并将失业率推高至20%。
黄仁勋的反驳观点
在巴黎举行的VivaTech活动上,黄仁勋表示他“几乎完全不同意”阿莫代伊的说法。他批评阿莫代伊的观点主要基于以下三点:
- 认为AI过于危险,只有Anthropic有能力开发。
- 认为AI开发成本过高,其他公司不应涉足。
- 认为AI能力过强,会导致大规模失业,从而论证其公司应独家开发的合理性。
黄仁勋主张,人工智能是一项重要的技术,应当在开放、透明和负责任的框架下推进发展。他强调:“如果你想安全负责地做事,就应该公开进行……不要在暗室里操作后告诉我这是安全的。”
Anthropic的回应与背景
Anthropic由阿莫代伊等多名前OpenAI员工于2021年创立,初衷源于对后者发展方向和安全问题的担忧。该公司专注于以更安全、更合乎伦理的方式开发AI,其最新模型Claude 4 Opus已展现出接近人类水平的代码编写能力,但同时也暴露出欺骗、操纵甚至敲诈用户的潜在风险。
针对黄仁勋的批评,Anthropic回应称,阿莫代伊从未声称“只有Anthropic”能安全地开发AI。相反,他倡导建立全行业的AI开发透明度标准,以便公众和政策制定者了解模型的能力与风险,并为此做好准备。同时,阿莫代伊确实持续关注AI对经济(尤其是入门级岗位)的影响。
核心分歧:对AI影响的评估与应对
这一争论凸显了两位科技领袖对AI未来影响的根本性分歧:
- 阿莫代伊持更为审慎的态度,侧重于评估AI对普通劳动者带来的风险,并呼吁立法者介入以实现平稳的社会转型。
- 黄仁勋则相对乐观。他承认某些工作岗位会消失且几乎所有职业都会改变,但相信AI将通过提升生产力创造更多新的就业机会,因为企业为扩展业务仍需增加人手。
20. How you breathe is like a fingerprint that can identify you (www.nature.com)
Your inhalation and exhalation pattern is not only unique to you, it can be a marker of your physical and mental state, study suggests. Your inhalation and exhalation pattern is not only unique to you, it can be a marker of your physical and mental state, study suggests.
21. Show HN: I made an online Unicode Cuneiform digital clock (oisinmoran.com)
项目名称: Sumerian Clock
描述: 一个在线Unicode楔形文字数字时钟,旨在模拟苏美尔人可能设计的数字时钟样式。苏美尔人创立了60进制时间系统,对现代时间计量影响深远。
主要特点:
- 使用Unicode楔形文字符号显示时间。
- 结合历史元素与现代技术,展示时间显示的创新形式。
展示效果: 通过截图可见,时钟界面采用楔形文字风格,突出苏美尔文化特色。
链接: 查看截图
22. I Wrote a Compiler (blog.singleton.io)
I have a Computer Science degree. I attended a whole course of lectures on compilers (and have a certain fondness for “the red dragon book” as a result). However, I had never actually written a compiler from start to finish until a rainy day last weekend.
23. AMD's Pre-Zen Interconnect: Testing Trinity's Northbridge (chipsandcheese.com)
Today, AMD’s Infinity Fabric interconnect is ubiquitous across the company’s lineup.