重构自动化范式:TypeSafe AI 推出首款放弃文本生成的 System One 决策模型 Jev Best Partners TV 2026-09-18

重构自动化范式:TypeSafe AI 推出首款放弃文本生成的 System One 决策模型 Jev

关键字 reinforcement-learning structured-output probability-calibration workflow-automation inference-optimization
5 节

范式反思:从对话生成到业务自动化的深层阻碍

在人工智能技术爆发的数年间,让语言模型理解人类指令并展开自然对话曾被视为主流技术路线的核心圣杯。然而,曾经亲手推动这一历史进程的核心研究员,如今却选择走向了完全相反的方向——打造一个彻底“闭嘴”的模型。故事的核心主角是迪奥戈·阿尔梅达(Diogo Almeida: 前 OpenAI 核心研究员,InstructGPT 共同作者,TypeSafe AI 创始人)。他曾在 OpenAI 深度参与构建让语言模型遵循人类指令、与人流畅对话的核心方法,是 2022 年奠基性论文《InstructGPT》的共同作者之一。在 OpenAI 官方公布的 GPT-4 贡献者名单中,阿尔梅达同样被明确列入了 人类反馈强化学习(Reinforcement Learning from Human Feedback: 一种利用人类对模型输出的偏好排序来优化大语言模型行为的对齐技术)与 InstructGPT 的奠基工作一栏。可以说,当今 ChatGPT 能够听懂人类自然语言、进行多轮交互对话的模型训练范式,阿尔梅达正是最早期的核心开创者与践行者之一。

然而,在离开 OpenAI 之后,阿尔梅达开始从底层第一性原理反思这套统治整个行业的通用生成范式。他的核心疑问直指当前 AI 落地的痛点:大语言模型的开放式对话能力超越人类基准已经过去数年,但在企业真实业务和软件系统的深层代码中,真正的业务流程自动化到底卡在了哪里?在狂热的市场叙事退去之后,阿尔梅达意识到,以聊天和自由文本生成为核心的大语言模型,在面对严格的工程化自动化任务时,缺失了一块至关重要的拼图。历经长达两年的隐身研发(Stealth Mode),由他创立的 TypeSafe AI(TypeSafe AI: 专注于开发结构化决策模型的 AI 初创公司)于 9 月 15 日正式发布了一款全新的模型——Jev。在 2024 年公司创立初期,TypeSafe AI 便已完成了由 DCVC 领投的 4000 万美元种子轮融资,投后估值达到约 2 亿美元。阿尔梅达将 Jev 归入一个前所未见的全新模型类别:System One 模型(System One Model: 专注于快速、直觉性、确定性结构化概率决策而非逐步文本生成的 AI 模型类别)。

与当今所有主流前沿大模型相比,Jev 最具颠覆性且极度反直觉的特性在于:它彻底放弃了文本生成能力。Jev 不写长篇文章,不编写代码片段,不进行多轮人机对话,更不做任何开放式的自由文本输出。它在软件架构中所承担的唯一职责,就是直接输出能够被后端软件系统无缝消费的结构化判断,并且为每一个输出判断提供严格校准的概率与置信度。TypeSafe AI 将 Jev 的接口本质概括为高度凝练的一句话:“非结构化状态进去,带类型的概率决策出来。”这种完全剥离生成式外衣的设计哲学,彻底重构了传统大模型与软件工程之间的交互界面。

架构重构:System One 模型与传统大模型的五维断代

为了深入理解 Jev 的底层突破,必须将它与传统大语言模型在训练方法、输入输出形式、采样机制、成本结构、响应速度以及置信度校准等五个关键维度进行全方位的拆解与对比分析。在传统软件系统中,AI 如果要作为内部逻辑判定节点运行,传统大模型的每项默认假设几乎都构成了严重的工程障碍。

                    ┌────────────────────────────────────────────────────────┐
                    │            传统大模型 vs System One 模型 (Jev)          │
                    └────────────────────────────────────────────────────────┘

        维度                        传统大模型 (LLMs)                        System One (Jev)
  ───────────────────────────────────────────────────────────────────────────────────────────
   训练目标 (Training)       RLHF / RLVR (文本讨好度 / 规则判分)       RLCD (概率分布真实校准)
   采样方式 (Sampling)       自回归生成 (Token-by-Token 逐字输出)     单次并行采样 (一次返回全量结果)
   数据交互 (I/O)           对话式自由字符串 (需外部校验解析)        强类型结构化数值 (数学保证 Schema)
   响应延迟 (Latency)        3 秒 - 329 秒 (人机交互尚可,代码瓶颈)    70 毫秒 - 500 毫秒 (快 40-200 倍)
   经济成本 (Cost)           输入 $0.2-$10/M,输出贵 5 倍              输入 $0.042/M,输出完全免费
   置信可靠度 (Confidence)    过度自信且飘忽不定 (无法用于关键自动化)   严格校准置信度 (高置信对应高准确率)

首先是底层训练方法的根本分歧。当前主流的前沿大语言模型普遍依赖于人类反馈强化学习(RLHF)或者 可验证奖励强化学习(Reinforcement Learning with Verifiable Rewards: 针对数学定理或单元测试等能够通过程序自动判定对错的任务进行的强化学习路线)。RLHF 的核心逻辑在于让人类评估员对多个候选文本答案进行打分与排序,进而训练奖励模型并促使策略网络生成更符合人类主观偏好的自然语言文本。这条路线成功教会了模型如何遵循人类指令以及如何展开亲切的对话。而 RLVR 则局限于那些可以用确定性程序规则自动判分的领域。然而,Jev 采用了一种全新的专有训练方法——校准决策强化学习(Reinforcement Learning for Calibrated Decisions: 简称 RLCD,专门用于优化结构化决策与概率真实性的强化学习算法)。RLCD 的优化目标不再是生成的文本回答是否优美、生动或讨人类喜欢,而是专门训练模型在执行离散或连续的结构化决策时,给出在统计学意义上尽可能真实、可靠的概率分布。简而言之,当模型声称自己拥有 95% 的把握时,其真实的工程可靠性就必须精确对应 95%,实现认知与能力的严格校准。

其次是输入与输出形态的范式差异。传统大模型以连续的消息序列和自由字符串(Free-form Strings)为核心,这种字符串输出虽然具备极高的表现灵活性——它可以承载聊天对话、多语言翻译、复杂代码,但同样伴随着不可消除的幻觉(Hallucination)、模型拒绝回答(Refusals)以及类型不匹配的风险。在将其接入生产级软件系统时,工程师必须编写大量脆弱的正则表达式或解析器进行后处理与验证,依然无法彻底规避线上崩溃。相反,Jev 以结构化的程序状态作为输入偏好,输出端则被直接限定为强类型结构化数值(Strongly Typed Structured Values)。由于所有允许的输出分支和数据结构都在调用前由开发人员通过代码 Schema 严格预先定义,Jev 从数学机制上彻底杜绝了输出类型错误的可能性,每一个离散决策和数值字段都天生携带经过严格校准的概率值。

在采样机制上,两者的分歧带来了速度与能耗的巨大鸿沟。传统大模型基于自回归生成(Autoregressive Generation: 依据上文逐个预测下一个 Token 的计算方式),模型必须一个 Token 接着一个 Token 往外输出,每一个新 Token 的生成计算都深度依赖前面所有已生成的 Token,这种序列化依赖导致硬件计算单元无法充分并行。而 Jev 采用了革命性的并行采样(Parallel Sampling: 单次前向传播直接计算所有输出维度的概率分布),在接收到推理查询的瞬间即可一次性输出全量判定结果,完全不需要漫长的逐字排队生成。

这种底层机制的革新直接反映在了运行成本与响应速度的断层级领先上:

  • 经济成本对比:传统大模型在主流 API 市场中的输入价格通常介于每百万 Token 0.2 美元至 10 美元之间,而由于自回归解码的高昂计算开销,输出 Token 的单价通常是输入的 5 倍以上。与此形成极其鲜明对比的是,Jev 的输入成本仅为每百万 Token 0.042 美元(折合每十亿 Token 仅需 42 美元),且由于其不采用自回归生成机制,其结构化判断的输出完全免费,便宜到不需要设立计量计费单元。
  • 端到端响应延迟:前沿大语言模型的端到端响应时间普遍在 3 秒到 329 秒之间,这对于等待屏幕打印字的人类用户而言勉强可以接受,但在需要毫秒级流转的软件后端代码、高频交易、游戏循环或实时管道中,3 秒以上的延迟是无法接受的性能灾难。Jev 的端到端响应时间被压缩至 70 毫秒到 500 毫秒之间,在同等智能复杂度水平下,执行效率实现了 40 倍到 200 倍的实质性飞跃。

最后是长期被工业界忽视却至关重要的置信度校准(Confidence Calibration: 模型的预测概率与真实准确率之间的一致性程度)。传统大模型即使在 Prompt 中被明确要求自我评估置信度,也表现出严重的过度自信倾向且数值极度不稳定。如果一个 AI 系统能够在 95% 的场景下正确处理业务,却无法准确识别并在剩下的 5% 边界失误场景中主动提示风险,软件架构师就绝不敢将关键业务流程完全交给系统自动执行。Jev 的每一次输出都强制附带严格数学校准的置信度,置信度得分与实际准确率严格呈单调正相关,且面对相似的业务输入能够稳定返回一致的结果,真正为工程系统的自动化兜底提供了数学依据。

实证检验:多维基准测试与现实业务工作流评估

面对如此悬殊的性能与成本优势,TypeSafe AI 官方秉持“非凡的主张需要非凡的证据”(Extraordinary claims require extraordinary evidence)这一科学原则,公开了多项详尽的实测对比数据,以回应业界对其技术指标真实性的审视。

              生产级业务工作流帕累托前沿表现 (Pareto Frontier)
  ─────────────────────────────────────────────────────────────────────────────
  准确率基准 (Accuracy)     Jev 在真实生产工作流中达到约 68% 准确率
  成本优势 (Cost Saving)    相较主流通用大模型降低 100 倍至 1000 倍(宣传峰值 444.6 倍)
  执行加速 (Speedup)        执行延迟缩减 40 倍至 200 倍(官方测试峰值 193.6 倍)
  结构化 Schema 错误率      传统模型 0.58% - 45.5% ➔ Jev 保持 0.0%(数学保证)
  工具调用错误率            传统模型 0.7% - 17.2% ➔ Jev 保持 0.0%(数学保证)
  ─────────────────────────────────────────────────────────────────────────────

在官方公布的第一个直观演示中,团队搭建了 Jev 与当时最先进的大模型之一 GPT-5.6 Terra 的并排运行对比。团队之所以选择默认推理模式下的 GPT-5.6 Terra,是因为经过综合评估,其平均智能水平与 Jev 的决策复杂度最为接近。在并排运行中,Jev 在接收到结构化上下文的瞬间便并行输出了所有预设字段的概率分布,而对照组的 GPT-5.6 Terra 仍在逐字进行缓慢的链式推理。在整个执行过程中,两款模型唯一的判断分歧出现在针对“用户流失概率等级”的定性上,而后续人工复核确认该测试文本本身确实存在语义模糊与歧义。不过,TypeSafe AI 团队也客观指出,这项并排演示经过了高度的工程简化——输入文本短、信息密度高,且问题本身已被整理为极度适合结构化决策的格式,这些边界条件在一定程度上放大了 Jev 的相对优势。

为了更具说服力地衡量模型在实际工业代码中的表现,TypeSafe AI 设计了一套脱离传统学术跑分套路的工作流评估框架(Workflow Evaluation Framework)。该评估不采用固定、僵化的公认标准答案集,而是将待测模型直接嵌入到真实的生产级业务工作流代码中运行。评估选取了 GPT-6 Astra 与 Fable 5.1 这两款业内公认顶尖模型的平均判断结果作为参考基准线(Ground Truth Reference),进而量化各个模型与这一顶尖基准的一致性程度。在涵盖 4 个不同真实业务场景的工作流压力测试中,Jev 成功占据了帕累托最优前沿(Pareto Frontier: 在没有任何其他模型能在不牺牲成本或速度的前提下超越其准确率的状态)。Jev 在这些实际业务工作流中取得了约 68% 的准确率,而其综合运行成本比主流大模型便宜了 100 倍到 1000 倍。官方宣传物料中最为引人注目的“提速 193.6 倍、降本 444.6 倍”这两项核心指标,正是出自这一系列严苛的工作流实测。

针对这些亮眼的数据,TypeSafe AI 保持了严谨的工程克制,主动指出了测试的潜在局限性:

  1. 193.6 倍的提速与 444.6 倍的降本属于在理想现实工作流场景中测得的偏高端收益区间。
  2. 4 个工作流由 TypeSafe AI 内部的能力团队主导构建,在任务选择上可能不可避免地存在一定的选择偏差。
  3. 参考标准采用 OpenAI 与 Anthropic 模型的均值,在某种程度上可能低估了 DeepSeek 等开源前沿模型以及 Jev 自身的相对表现潜力。
  4. 对照组的大模型在测试中必须通过 TypeSafe AI 开源的 System One 适配层(System One Adaptation Layer: 将自由文本大模型输出强制转化为带概率结构化数据的中间件)来输出全量概率分布,这给传统大模型额外增加了部分网络延迟与计算成本。

因此,该评估客观上充分证明了 Jev 能够在结构化决策任务中以极其微小的成本达到与前沿通用大模型极度接近的判断水准,但并不等同于证明 Jev 在通用推理与多模态创作上具备与这些万亿参数模型相同的能力。

在另一项关乎生产可用性的核心指标上,公开统计数据揭示了更为残酷的现实:根据 OpenRouter(OpenRouter: 主流大语言模型 API 聚合路由与分析平台)的大盘统计,现有主流大语言模型在执行结构化输出时的解析错误率普遍在 0.58% 到 45.5% 之间波动,而函数与工具调用(Tool Calling)的失败率也在 0.7% 到 17.2% 之间。与之相对,Jev 在这两项指标上的错误率均为绝对的 0.0%。值得强调的是,这个 0% 并非通过大规模黑盒测试统计出来的经验近似值,而是因为 Jev 的输出空间在底层模型解码时就受到预设 Schema 的严格数学约束与投影,程序定义了多少个合法状态,模型就只能在合法子空间内分配概率。例如,如果业务逻辑规定返回值只能在“投诉”、“退款”和“咨询”三者之中产生,Jev 在物理机制上绝无可能创造出第四个未知字符串。但这同样是一把双刃剑:数学保证了输出永远格式合法,并不代表业务判断永远正确,在合法的候选集合内部,模型依然存在选错具体选项的概率。

落地实证:从实时游戏循环到大规模企业文档检验

为了验证 Jev 在高吞吐与低延迟场景下的实际承载能力,TypeSafe AI 团队与外部独立开发者开展了多维度的实际应用演示与压力测试。

在官方技术演示中,团队展示了两个极具代表性的场景:

  • 经典射击游戏《毁灭战士》(Doom):Jev 以每秒 10 次的极高频率持续调用,充当实时决策内核,持续运行一小时的整体推理成本仅约为 7 美元。需要明确的是,该实验中 Jev 读取的是已经由游戏引擎解析为文本的状态快照数据,而非直接对原始视频画面进行多模态视觉处理。官方坦诚表示,专门编写的传统游戏 Bot 完全可以取得比 Jev 更优异的通关表现,但此实验的核心在于向软件工程界证明:现代 AI 模型已经能够以极低成本无缝嵌入每秒需要反复决策的实时软件主循环中。
  • 维基百科竞速挑战(Wikipedia Speedrun):游戏规则要求 AI 从一个随机维基百科词条出发,仅通过点击当前词条内的正文超链接,以最少跳转步数抵达目标词条。Jev 最高原生支持单次处理 255 个候选分支选项。在面对页面内极度密集的链接网络时,系统会自动启动两阶段决策机制——先对全量候选链接进行独立粗筛打分,再进行精确聚焦选择。在对比测试中,Jev 规划出的跳跃路径明显比通用大模型更加简练高效。

除官方演示外,来自外部独立机构的实测同样验证了其颠覆性的吞吐效率。知名科技与商业深度媒体 Every 的评测负责人迈克·泰勒(Mike Taylor: 知名科技作者与 AI 评测专家)使用 Jev 对 37 篇长文档进行了全量质量检测。在这次实际运行中,系统一口气并发完成了 777 次独立的业务判断,整个执行过程的总耗时竟然不足 0.7 秒。在其中一项针对长文写作质量的细粒度打分任务中,Jev 仅用时约 0.35 秒即完成了全部分析,而作为行业顶尖标杆的 Fable 5.1 则耗时 8.83 秒——Jev 在处理速度上实现了约 25 倍的领先,而在经济成本上更降低了约 580 倍。此外,部分获得早期访问权限(Early Access)的企业级开发者在测试中累计触发了约 5000 次真实 API 请求,涵盖了用户意图识别、复杂工单分类、多模型动态路由等一系列常见后端任务,最终结算账单仅花费了约 2 美元。

在理解这一系列颠覆性工程突破的同时,探究其命名背后的思想渊源同样具有深刻的行业启示。System One 的命名直接致敬了诺贝尔经济学奖得主丹尼尔·卡尼曼(Daniel Kahneman: 著名心理学家与行为经济学家,《思考,快与慢》作者)在其经典著作《思考,快与慢》中提出的人类双系统认知理论。在卡尼曼的理论体系中,系统 1 代表着人类无意识、快速、自主且近乎直觉的反射反应,而系统 2 则代表耗费算力、缓慢且依赖严密逻辑步骤的深思熟虑。过去两年 AI 界全力追逐的链式思维(CoT)与自回归长文本推理本质上是在模拟慢速的系统 2,而 Jev 则选择专注于构建纯粹、高效且确定性的系统 1。

而 Jev 这一名字本身,则取自 19 世纪著名经济学家威廉·斯坦利·杰文斯(William Stanley Jevons: 英国经济学家与逻辑学家)所提出的著名经济学假说——杰文斯悖论(Jevons Paradox: 提高资源使用效率的科技进步,往往不会减少该资源的消耗总量,反而会由于使用成本大幅下降而引爆更大的总体市场需求)。当年瓦特改良蒸汽机大幅提升煤炭燃烧效率之后,全球煤炭消耗量不仅没有下降,反而由于蒸汽动力在工业各领域的普及迎来了爆发式增长。TypeSafe AI 将模型命名为 Jev,其底层愿景不言自明:当决策智能的算力成本每降低一个数量级,原本受限于预算和延迟而无法实施 AI 化的数以亿计的业务自动化需求,将被彻底激活。

针对开发者最关心的几项架构疑问,TypeSafe AI 在官方技术博客中给出了清晰的界定:

  • 为何必须发明全新训练算法? 传统的 RLHF 算法本质上是在优化人类给长文本点赞的概率,天生适合开放式闲聊,却无法适应分毫不差的严格业务自动化;RLVR 算法则高度依赖能够被代码自动化验证对错的刚性规则,而现实世界中绝大多数商业判断(如用户满意度定性、内容合规分级)根本无法编写规则验证器。训练目标直接塑造模型的最终形态,这正是团队研发 RLCD 的根本动因。
  • Jev 是否只是一个轻量级的小型大语言模型(SLM)? 官方明确否认了这一说法。Jev 既不是缩小参数版的大模型,在底层拓扑和激活机制上也完全不属于自回归大语言模型的范畴,而是一种完全为结构化概率映射而重新设计的独立网络架构。
  • 为何坚决不公布公开基准跑分榜单(Public Leaderboards)? 团队认为公开基准测试(如 MMLU、GSM8K)极易导致模型针对特定测试集产生过拟合与刷榜套利,甚至导致实际工业落地能力严重失真。TypeSafe AI 强烈建议开发者在各自真实的业务数据集和生产管道中直接建立专有评估基准。

争议与思辨:泡沫质疑下的真实工业需求

正如所有具有颠覆性主张的新技术一样,Jev 的爆火在开源社区和学术界迅速引爆了激烈的争议与质疑。Hugging Face 知名计算机视觉与多模态研究员尼尔斯·罗格(Niels Rogge: Hugging Face 资深机器学习研究员)在社交网络上直截了当地发表批评:“一个 JSON 分类器竟然在社交平台上获得了 1200 万次浏览,这充分说明我们正处于巨大的 AI 泡沫之中。”

这一犀利的批评并非全无道理。当我们剥离掉诸如“System One 模型”、“RLCD 强化学习”、“零幻觉”等前沿概念包装后,Jev 在功能层面上所承载的任务——文本分类、情感打分、模型请求路由、结构化参数提取——对于后端开发者而言确实是极为熟悉的基础任务。就在 Jev 发布后不到 24 小时,独立开发者哈沙·贡达拉(Harsha Gundala: 独立全栈开发者与开源探索者)便基于开源的 Qwen2.5-1B 小模型快速构建了一个功能高度相似的原型。该原型同样支持在单个推理周期内让 JSON 中的多个字段并行完成决策判定,并直接从预设的候选 Token 集合中计算精确概率,甚至整个过程完全不需要进行任何额外的模型微调。贡达拉在社交媒体上调侃道:“他们隐身开发了两年,而我只隐身开发了两个小时。”

与此同时,“零幻觉”的宣传话术同样引发了关于文字游戏的争论。TypeSafe AI 所宣称的“零幻觉”,其严格定义是指模型在数学机制上永远不会输出宿主程序未定义、无法解析的异常数据结构或未知枚举值,但这与大众和学术界通常理解的“模型杜撰捏造不存在的历史事实或虚假实体”完全不是同一个维度的概念。

更深层次的科学质疑则聚焦于其核心卖点——概率校准(Calibration)。截至目前,TypeSafe AI 尚未完全公开 RLCD 算法的完整训练实现、数学奖励函数设计以及更严密的统计学校准指标。在公开的技术报告中,尚未能看到完整的 期望校准误差(Expected Calibration Error: 衡量模型预测概率与实际准确率之间偏差的标准统计指标)、Brier 分数(Brier Score: 用于评估概率预测准确性的均方误差指标)以及完整的 可靠性图表(Reliability Diagrams)。当输入数据发生严重的领域漂移(Domain Shift)或分布外偏移(Out-of-distribution)时,模型的置信度输出是否依然具备数学上的高可靠性,仍然有待学术界和工业界的进一步独立验证。

然而,这些来自开源社区的敏锐质疑,并未真正削弱 Jev 所揭示的行业根本痛点。恰恰相反,它们从另一个反向视角印证了这一技术路线所蕴含的巨大工程价值:如果一个普通开发者确实可以在短短两小时内,利用一个仅有 10 亿参数(1B)的轻量级小模型复现出类似的结构化并行决策能力,那恰恰说明这类支撑海量业务自动化的核心判断能力,在本质上根本不需要依赖极其昂贵、臃肿、庞大且调用极其缓慢的万亿参数通用大模型。

在过去几年的生成式 AI 狂潮中,整个软件行业逐渐形成了一种思维定势——无论面临何种业务场景,都习惯性地将一切问题一股脑抛给最顶级的通用大语言模型。但对于生产系统中数以亿计的底层判断节点而言,这种做法无异于杀鸡用牛刀。Jev 的真正贡献在于它果断地做出了减法:把那些在代码深处最普通、发生频次最高、吞吐量最大但以往最容易被生成式叙事忽略的决策节点单独剥离出来。它不追求写出惊艳的诗歌或解答复杂的逻辑奥数,甚至主动舍弃了对话与自由创作的能力,只保留企业级自动化真正不可或缺的核心要素——速度、确定性、低成本与概率可靠性。

众多资深软件架构师据此提出了一种极具前景的未来系统架构分工:在上层智能体(Agent)体系中,通用大模型继续负责全局的战略思考、上下文记忆与宏观任务规划;而一旦任务进入到底层生产系统的具体执行链路,成千上万个高频、并发的细分决策,则全面交由 Jev 这样极速、廉价且受到严格类型约束的 System One 模型负责。大模型负责深思熟虑地“想”,而轻量级决策模型负责在软件代码内部每秒做出海量确定性的“断”。

AI 技术的下一次工业级效率跃迁,或许不再取决于谁能将长篇文本生成得更快,而取决于我们能否在不需要生成的场景中坚决不再生成。Jev 当前已经正式开放了早期预览版的测试申请,团队正在持续迭代更完善的底层架构。当全行业都在沉迷于比拼谁的模型参数更大、功能更全、聊天更逼真的时候,有人选择在底层做极致的减法,将模型能力精准压缩至工业刚需的临界点。这无疑给整个 AI 产业带来了一次冷峻而深刻的技术反思:未来的智能软件系统,真的需要在每一个微小步骤上都去唤醒最昂贵的前沿大模型吗?还是说,在那些深埋于生产代码内部的决策分支上,一个安静沉默、但运行足够快、判断足够准、成本足够低的纯粹决策模型,才是真正推动自动化落地的坚实基石?

文中提及的人物和组织

人物: Diogo Almeida

公司/组织: TypeSafe AI, OpenAI

产品/模型: Jev