“System one”模型引爆AI圈:不生成文本,专为机器做快速决策
日前,一款由美国TypeSafe AI公司发布的首款“System one”模型Jev,震动AI圈。不同于以ChatGPT为代表的大语言模型,这款由前OpenAI研究员研发的模型不生成对话、文章或代码,而是面向软件自动化场景,直接返回可以被程序调用的结构化判断及相应概率。
“System One”的名称来自心理学家丹尼尔·卡尼曼在《思考,快与慢》中提出的“系统一”概念,指快速、直觉式的判断。以ChatGPT为代表的大语言模型被纳入“系统二”,Jev则是专门做快速决策的“系统一”模型。
Jev根据TypeSafe AI的定义,开发者可以向Jev输入一段非结构化信息或程序状态,并预先设定问题与候选答案。模型目前支持Choice、Score和Noul三种问题类型,分别用于从给定选项中作出选择、按照设定标准评分,以及判断某个陈述成立的概率。
其中,Choice和Score会返回概率分布及置信度;Noul则直接返回一个介于0和1之间的数值。多个问题可以在一次调用中针对同一份状态并行、独立地处理。开发者不必再要求大模型逐个生成自然语言或JSON文本,然后对结果进行解析和校验。
例如,客服系统可以输入一段用户投诉,让Jev判断问题应该转交账单、技术支持还是销售部门,同时评估问题的紧急程度;智能体系统也可以输入当前任务与可用工具,由Jev判断下一步应该调用哪个工具。
TypeSafe AI宣称,在适合这类快速判断的“System One”任务中,Jev能够达到与部分现有大模型相近的判断水平,同时速度和效率提高两个数量级。虽然 Jev不具备字符串生成功能,但它对结构化输出进行了优化,并且不会产生幻觉。

TypeSafe AI三位联合创始人,右为迪奥戈·阿尔梅达
TypeSafe AI由前OpenAI研究员迪奥戈·阿尔梅达(Diogo Almeida)等人创办,在OpenAI期间,他参与构建了聊天机器人,并发明了基于人类反馈的强化学习(RLHF),这项模型训练技术或许是当今人工智能时代最重要的奠基者。但尽管RLHF功能强大,他却感到失望。
阿尔梅达离开OpenAI后,于2024年参与创办TypeSafe AI。他认为,人需要模型给出自然、完整的语言回答,而计算机更需要类型确定、可以直接执行的结果。
“Jev”这一名称来自19世纪经济学家威廉·斯坦利·杰文斯提出的“杰文斯悖论”:资源使用效率提高、成本下降后,总需求可能不降反升。TypeSafe AI希望借此表达,当机器智能的单位成本大幅下降后,软件和机器人可能产生更多此前因成本和速度限制而无法实现的决策需求。
从速度来看,现有的大语言模型,端到端的响应时间为3到329秒。对于人机交互来说速度足够快,但集成到代码中成为一大瓶颈。TypeSafe 的端到端响应时间为 70 毫秒至 500 毫秒,在特定“System One”决策任务中,Jev可达到同类大模型相近的判断水平,同时速度提高40倍至200倍。
价格对比来看,现有的大语言模型输入token消耗0.20 美元至 10 美元/MTok,TypeSafe输入代币仅消耗0.042 美元/MTok(每十亿代币 42 美元),即每10亿Token 42美元。由于模型不进行自回归文本生成,公司不收取输出Token费用。
不过,上述性能数据主要来自TypeSafe AI自己的评测。该公司网站所称最高193.6倍的速度提升和444.6倍的成本下降,来自其团队设计的四项工作流测试,参考答案也并非人工标注的客观标准,而是由其他大模型的结果生成。TypeSafe AI同时承认,这些数据处于实际收益的较高一端,内部设计测试也可能带来偏差。
阿尔梅达向媒体表示,“我们拥有了绝佳的技术,但它却无用武之地。我花了很长时间才得出结论:问题在于我们一直在对人类语言进行优化……四年来,我们在人类语言方面做得非常出色,但这对于自动化来说毫无用处,因为计算机说的是另一种语言。”
Jev发布后迅速受到软件开发者关注。由于访问需求集中涌入,TypeSafe AI的API一度无法继续为用户提供服务。
Jev也开始引起具身智能和自主系统开发者的关注,有具身智能从业者告诉澎湃科技,具身行业终于有一款可以自主决策的低成本模型,未来值得尝试。
具身智能的“大脑”不仅需要理解环境和规划任务,还要在候选动作、工具调用及安全约束之间持续作出选择。传统大模型需要先生成文字或推理过程,再由程序解析其中的动作指令;Jev则可以把整理后的环境状态直接映射为类型明确、附带概率和置信度的决策结果。
(原标题:前OpenAI研究员推出首款“System One”模型引爆AI圈:不生成文本,专为机器做快速决策)
| 分享1 |





