客服收到一条“付款后没有收到确认邮件”的消息,系统首先需要知道该交给谁、是否紧急、需不需要人工接手,接着才是如何回复。这些每天重复的小判断,正成为企业 AI 集成的新焦点。LangChain 在 2026 年 9 月 17 日介绍 Jev 与代理执行框架的集成方式,呈现一个值得注意的方向:把部分明确的判断交给专用模型,让生成式模型专注于需要推理与撰写的工作。
Jev 是什么?先看它返回什么
TypeSafe AI 将 Jev 定位为 System One 决策模型。用户提供情境与问题,它返回可供程序使用的选项、分数与概率,不提供自由文本生成。Choice 用于从指定选项中选择,例如负责部门;Score 用于按定义的等级评分,例如影响程度;Noul 则返回“是”的概率,例如是否要求退款。程度与概率不同,不能把“很生气”的分数直接当成“会取消订单”的概率。
一封客服邮件,可以拆成几个小问题
以下是假设场景,并非米亚科技客户实绩。企业可先由现有程序验证订单与身份,再把客服消息交给 Jev 判断类别、紧急性及是否需要人员。若只是查询进度,就调用已授权的查询服务;若需要说明条款,再通过 RAG 获取文档,让 LLM 起草回复;信息不足或涉及退款时,进入确认与审批流程。分类、撰写和执行各有责任,才容易追踪错在哪一步。
快速判断的前提,是问题与选项足够清楚
若选项只有账务、技术与销售,询问营业时间也可能被硬塞进某一组。设计时应加入其他、信息不足或转人工的路径,并将“询问退款政策”“要求退款”“明确表示不要退款”分别测试。选对工具后,订单编号、金额与收件人仍需由程序或适当的提取流程取得并验证,不能因为分类完成就直接执行。
有概率、有类型,仍然需要验证
官方文档说明,Choice 与 Score 的 confidence 是根据概率分布计算的摘要;Noul 没有另外的 confidence 字段。对企业而言,这些值可以辅助分流设计,但不能直接视为已验证的正确率。输出符合类型,也不保证理解正确,更不代表有操作权限。人工批准、后端授权与交易规则,仍应在模型之外执行。
成本要算到工作完成,而不是只看一次调用
宣传中的速度与成本比较有各自的测试条件,不宜直接套入每家企业。增加分类步骤也可能增加网络等待、上下文重发、回退与运维成本。应比较每件正确完成的工作花费多少,并计入人工修正、漏接重要工单及错误操作的代价。模型路由若频繁切换而失去缓存,单次便宜也可能导致整段流程更贵。
先用一条流程证明价值
可以从联系表单或客服收件箱开始,先用去标识化、经人工标注的历史数据,比较现有规则、低成本 LLM 与 Jev。测试繁中、简中、英文、日文及混用文字,覆盖否定、模糊需求、材料缺失与恶意指令。初期只生成内部建议,记录误分类率、重要工单漏接率、人工修正时间与端到端延迟,再按结果设定自动化阈值。保留模型版本、问题定义、选项与处理记录,才能持续改进。
米亚科技的观察
Jev 带来的启发,是让企业把日常流程拆成可以管理与验收的判断。当网站、APP、CRM、知识库与后台工作串在一起,模型只是其中一个组件。真正决定实施成果的,是数据是否充分、责任是否清晰、例外是否有人接手,以及整条流程是否更可靠。从一个可衡量的小场景开始,往往比一次追求全面自主更容易积累实际价值。
References: LangChain — Building a Harness with Jev (2026-09-17); TypeSafe — Quick start; TypeSafe — Confidence
