1. Introducing System One Models and Jev (typesafe.ai)
TypeSafe AI 发布 System One 模型与 Jev 模型摘要
TypeSafe AI(由前 OpenAI 研究员 Diogo Almeida 创立)推出了一种全新的模型类别——System One 模型,并发布了首个公测模型 Jev。该系列模型旨在解决现有大语言模型(LLM)在自动化任务中的局限性,专注于为软件提供快速、结构化且可直接调用的决策能力。
核心技术架构与特性
System One 模型通过全新的技术栈构建,旨在实现从“文本对话”向“自动化决策”的转变:
- 训练方法 (RLCD):采用名为“校准决策强化学习”(Reinforcement Learning for Calibrated Decisions)的新型训练方法,使模型能够提供具有认识论诚实度的概率输出。
- 并行采样 (Parallel Sampler):不同于传统 LLM 逐个生成 Token 的顺序采样方式,Jev 采用并行采样,可在单次查询中同时生成所有输出,极大地提升了效率。
- 类型安全与零幻觉:Jev 放弃了生成自由文本字符串的能力,转而专注于输出预先定义的类型安全结构化值。通过模式匹配(Schema matching)机制,模型在数学上保证了不会出现类型错误或由于输出格式不符导致的幻觉。
- 校准置信度:模型在每次输出时都会附带校准后的概率和置信度分数,这使得模型能够清晰地传达其不确定性,从而支持可靠的自动化逻辑。
技术对比:System One vs. 现有 LLM
| 特性 | 现有 LLM | System One (Jev) |
|---|---|---|
| 优化目标 | 人类偏好 (RLHF) / 可验证奖励 (RLVR) | 校准决策 (RLCD) |
| 输入侧重 | 非结构化文本(强调对话序列) | 非结构化数据(强调结构化程序状态) |
| 输出形式 | 字符串/文本(需解析,存在幻觉风险) | 类型安全结构化值(预定义,无类型错误) |
| 采样方式 | 顺序采样 (Sequential) | 并行采样 (Parallel) |
| 端到端延迟 | 3 秒至 329 秒 | 70 毫秒至 500 毫秒 |
| 成本结构 | 输入与输出 Token 均需付费 | 输入成本极低,输出几乎免费 |
应用场景
System One 模型的设计目标是作为“智能 if-statements”,嵌入到现有的软件工作流中:
- AI 驱动的工作流:执行分类、路由、评分、提取或逻辑分支等任务,填补手写逻辑过于脆弱与纯文本 LLM 不够稳定的空白。
- 大规模数据 Map-reduce:将海量数据转化为结构化的特征和洞察。
- 实时应用:利用极低的延迟(<500ms)实现对用户体验至关重要的实时 AI 功能。
- 验证与护栏:作为其他 LLM 的评分器、裁判或安全护栏,检测推理迹象或输出是否违规。
性能与验证
TypeSafe 展示了多项实验结果以证明其主张:
- 工作流评估:在模拟真实业务自动化的复杂工作流中,Jev 在性能与效率的帕累托前沿(Pareto frontier)上表现远超传统 LLM。
- 类型安全性:由于其架构特性,模型在处理结构化数据时实现了 0% 的类型错误率。
- 实际演示:通过“实时 AI 游戏(Doom)”和“维基百科竞速(Wikiracing)”演示了模型在极高采样频率和高基数选择下的实时响应与决策稳定性。
名称由来
- System One:灵感源自丹尼尔·卡尼曼的《思考,快与慢》,象征快速、直觉的决策过程(对应 System 1 思考)。
- Jev:以威廉·斯坦利·杰文斯(William Stanley Jevons)命名,寓意智能成本的下降将如同蒸汽机效率提升带动煤炭需求一样,解锁指数级的应用场景。