JEV分解:首个专为代码设计的AI模型
探索JEV——首个专为代码设计的AI模型!了解它如何通过提供前所未有的速度和成本效益来彻底改变软件开发。
Typeface 公司开发的新模型 JEV,在面向机器任务而非人类交互的人工智能发展方面迈出了重要一步。与生成供人类阅读的文本的传统模型不同,JEV 经过训练,能够做出执行代码的决策。这使得操作能够实现高速度和低成本,使其成为开发人员的有前途的工具。
JEV 的主要特点和优势
JEV 由 Typeface 公司推出,该公司由 ChatGPT 的联合创始人之一 Diego Almeida 创立。该模型与现有模型不同之处在于,它侧重于决策制定,而非文本生成。这是通过使用 Typeface 团队两年开发的“带校准决策的强化学习”(reinforced learning with calibrated decisions)方法实现的。
JEV 的主要优势包括:
- 速度: 请求处理时间为毫秒级。
- 成本: 与现有模型相比,在类似任务上的操作成本降低了 20 到 200 倍。
- 可靠性: 该模型表现出高精度,并降低了“幻觉”或失去置信度等错误的发生概率。
- 专业化: JEV 不用于文本或对话生成,而是专注于执行特定任务,例如分类或确定陈述的真实性。
JEV 的应用
凭借其特性,JEV 在各个领域都有应用:
- 代理开发: 提高代码代理和生产系统代理的准确性和效率。
- 任务路由: 可用作“模型路由器”,以确定哪种模型最适合特定任务。
- 工单分类 (Ticket Triage): 能够快速对入站工单进行分类和优先级排序,比使用传统的大型语言模型更快、更便宜。
- 分类和验证: 从事大规模数据分类或验证的公司可以显著降低成本。例如,Verscell 公司报告称,在从 Gemini 2.5 Flash 切换到 JEV 后,流程速度提高了 6 倍。
- 游戏代理: 展示了 JEV 在控制游戏角色方面的潜力,例如在《星际争霸》游戏中,该模型帮助赢得了任务。
- 浏览器请求处理: Open Code 公司进行的测试表明,JEV 在浏览器中使用时速度非常快。
- 智能家居: JEV 可以处理自然语言命令来控制智能家居设备,例如“打开客厅的灯”,仅需 185 毫秒,远快于传统的 LLM。
请求类型和模型结构
与 JEV 交互时,会使用三种类型的请求:
- 选择 (Choice): 模型从提供的列表中选择一个选项。例如,在将用户请求分类为“账单”、“技术”或“销售”等类别时,JEV 可以确定该请求属于技术支持,并给出置信度级别。
- 评分 (Score): 模型根据给定量表分配一个分数。例如,可以根据“冷静”、“礼貌”或“愤怒”的量表评估用户的沮丧程度。
- 新 (New): 模型确定某个属性为真或存在的概率。例如,“这是真的吗?”或“这紧急吗?”。
JEV 的工作原理与自回归模型不同。JEV 不会按顺序生成标记,而是并行处理输入数据(状态、文本、JSON 对象)和一组问题。这使得能够实现高速度和高效率。
与传统软件和 LLM 的比较
传统软件是确定性的,遵循“如果-则”的逻辑。相比之下,基于 LLM 的代理并非完全确定性,这使得它们具有灵活性,但有时也会导致错误。JEV 在混合人工智能系统中占据一席之地,它将确定性元素与基于 AI 的决策相结合。
JEV 模型不生成 token,也不使用自回归循环。相反,它接收一个状态(例如,文本、JSON)和一组问题,然后并行评估它们,返回一个结构化的 JSON 格式响应。这使其能够用于决策,例如确定欺诈风险级别、评估置信度或选择合适的工具。
访问和测试
JEV 通过 API 提供访问。还有一个 playground 用于测试和探索模型的功能。演示包括:
- “六度分隔”: 确定从一个维基百科页面跳转到另一个页面所需的步数(例如,从“DNA”到“Manny Pu Re Pony”)。JEV 在 1.7 秒内完成了这项任务。
- 智能家居控制: 处理用于控制设备的自然语言命令。
- 邮件优先级排序: 在几秒钟内对数百封邮件进行分类和优先级排序。
结论
JEV 是一种专门的模型,专注于为代码做出快速且廉价的决策。它能够在毫秒级处理请求并以最低的成本处理请求,这为构建更高效、更具可扩展性的 AI 应用程序开辟了新的可能性,尤其是在代码代理和工作流自动化领域。
隆重推出 JEV:用于决策的人工智能模型
JEV 是 Typespace 的一款新人工智能模型,与生成文本的传统模型不同,它专注于代码决策。它专为机器使用而设计,解决了以人为本的模型中常见的过度自信和不可靠问题。
- JEV 是 Typespace 的一款新人工智能模型。
- 它不生成文本,而是为代码做出决策。
- 专为机器使用而设计,而非以人为本的模型。
- 解决了过度自信和不可靠的问题。
JEV 的速度、成本和效率
JEV 使用“校准决策强化学习”(RLCD),使其能够在毫秒内做出代码决策,并且比现有模型便宜得多。这使其非常适合分类、真/假验证、提高代码代理的准确性和效率等任务。
- 使用“校准决策强化学习”(RLCD)。
- 在毫秒内做出代码决策。
- 比现有模型便宜 20-200 倍。
- 非常适合分类、真/假验证。
- 提高代码代理的准确性和效率。
JEV 相较于传统 LLM 的优势
JEV 与传统的语言大模型 (LLM) 相比,在速度和成本方面具有显著优势。LLM 可能成本高昂且结果不确定,而 JEV 则能提供快速可靠的分类和验证,使其成为 Verscell 等公司的宝贵工具。
- 在分类和验证任务上,比 LLM 快且成本更低。
- 消除了 LLM 的不确定性和幻觉问题。
- 像 Verscell 这样的公司报告称,在转向 JEV 后性能显著提升。
- 在不需要文本生成的情况下特别有用。
JEV 的用例和性能
JEV 在各种应用中都展现了其多功能性,从游戏(赢得星际争霸任务)到处理浏览器使用和电子邮件分类。它能够并行处理任务且无需自回归循环,从而实现了卓越的速度和效率。
- 用于赢得星际争霸任务。
- 在处理浏览器使用方面表现出高速度。
- 有效对电子邮件进行分类和优先级排序。
- 并行处理任务,无需自回归循环。
- 不生成令牌,使其快速且经济高效。
JEV 的技术架构和并行处理
JEV 通过接收状态(文本、JSON)和一组类型化问题,并并行评估它们来工作。与 LLM 不同,LLM 顺序生成 token,JEV 提供快速处理,使其成为结合确定性和 AI 驱动决策的混合 AI 系统的理想选择。
- 接收状态(文本、JSON)和类型化问题。
- 并行评估问题,而不是顺序评估。
- 不生成 token,也没有自回归循环。
- 非常适合混合 AI 系统。
- 提供快速处理和决策。
JEV 的问题类型和应用
JEV 提供三种类型的问题:选择、评估和新问题(是/否及概率)。它可以对工单进行分类、评估用户沮丧程度并确定紧急程度。示例包括路由支持工单、对电子邮件进行分类以及确定代理应使用哪种工具。
- 支持三种类型的问题:选择、评估、新问题。
- 可以对支持工单进行分类。
- 可以评估用户沮丧程度。
- 可以确定紧急程度或概率。
- 示例包括路由工单和为代理选择工具。
JEV 与人工智能软件的未来
JEV 对于未来基于人工智能的软件至关重要,它使开发人员能够将复杂的决策流程转化为快速、经济高效的结构化输入/输出。这为全新类型的应用程序和工作流程打开了大门,尤其是在代码代理和 CLI 使用领域。
- 人工智能软件的关键组成部分。
- 能够将决策流程转化为结构化输入/输出。
- 显著提高速度和成本效益。
- 为新型应用程序和工作流程开辟了道路。
- 对代码代理和 CLI 使用至关重要。
