先说一句可能得罪人的话:过去两年我们见过的 AI 客服项目里,大多数失败不是因为模型不够好,是因为把「替代人工」当成了唯一目标。我们去年Q4接手一个 B2B SaaS 的客服团队,34 个坐席、每天 900 通进线,当初定的 KPI 是「自动解决率 60%」。三个月后自动解决率做到了 47%,客户满意度掉了 11 分,坐席离职率涨到 31%——因为模型答不了的那 53%,全是比以前更难的活。
这篇复盘写我们换路线之后做的事:不做替代,做「坐席辅助」(Agent Assist)——AI 不当接线员,AI 在坐席耳边实时给建议。10 个月、1,860 通真实通话、一个核心发现:实时建议的生死线是 900 毫秒,超过这个数坐席根本不等它;而「说什么」比「说多快」更能决定采纳率。
一、先分清三条路:替代、辅助、还是外包
客服场景里 AI 有三种完全不同的产品形态,很多团队在立项时就没分清,导致后面所有的指标都是错的:
| 形态 | AI 的角色 | 适合的场景 | 失败模式 |
|---|---|---|---|
| 替代(Bot First) | 直接面对用户,闭环解决 | 高频、规则化、低风险(查订单、改地址) | 长尾问题硬答,信任一次性耗尽 |
| 辅助(Agent First) | 服务坐席,人不离场 | 专业性强、风险高、上下文复杂(B2B、金融、医疗) | 延迟高、建议水,坐席当它不存在 |
| 外包(Copilot 式知识检索) | 坐席主动查询 | 低频进线、坐席资深 | 没人主动问,工具闲置 |
我们选辅助路线,理由很实在:B2B 客服的通话平均时长 11 分钟,涉及 4~6 个系统跳转,这类任务让端到端 Bot 闭环是在赌命。而坐席才是那个已经理解上下文的人,AI 要做的只是让他快一点、少查一点、别说错话。这个定位一换,整个验收指标全变了——从「自动解决率」变成「坐席采纳率」和「平均处理时长(AHT)」。
二、1,860 通通话实测:900 毫秒是生死线
我们把建议系统的首字延迟(用户话音结束到建议出现在坐席屏幕)分成三档各跑两周,同一批坐席、同一批话务:
| 建议延迟档位 | 样本通话 | 坐席采纳率 | AHT 变化 | 坐席主观评价 |
|---|---|---|---|---|
| P50 < 900ms | 612 | 44.7% | -2 分 10 秒 | 「有用,但还想再快」 |
| 900ms~2s | 641 | 18.3% | -41 秒 | 「我自己都查完了」 |
| > 2s | 607 | 6.1% | -12 秒(噪声内) | 「关掉它,碍事」 |
这张表是全部投入的依据。44.7% 到 6.1%,中间隔的不是模型智商,是延迟。坐席在通话里的操作窗口极短,用户话音刚落的那两三秒是注意力空档,建议必须在这个窗口里出现;错过了,坐席已经切到 CRM 界面,建议就成了纯干扰。
为了把 P50 压进 900ms,我们把链路砍成三段,每一段都有具体的取舍:
- ASR 不追求「最终稿」,追求「足够好的一半」。流式 ASR 在 60~70% 确定度时就触发建议生成,而不是等 final。会有一成建议是半句话上生成的,但换来 300~400ms 提前量,值。
- 意图与槽位用小模型,不用大模型。一个 1.5B 的分类 + 抽取模型,GPU 上单次 40ms。坐席场景的槽位就那几个(账号、订单、套餐、错误码),小模型完全够,且可以常驻显存。
- 建议模板预取。把 80% 的历史建议归成 30 个模板,意图一出就直接渲染模板骨架,把 LLM 只用在填槽位上——等于把「生成」变成「填空」,这一项省了 500ms 以上。
三件事做完,P50 从 2.4 秒降到 780ms,P95 从 5.1 秒降到 1.9 秒。没有换更大的模型,全是工程账。
三、「说什么」比「说多快」更重要:五类建议的真实采纳率
延迟解决之后,我们开始愁「建议没人点」。1,860 通里坐席总共收到 5,412 条建议,按类型统计采纳(插入回复或执行操作):
| 建议类型 | 条数占比 | 采纳率 | 坐席原话反馈 |
|---|---|---|---|
| 知识卡(product 配置/价格/条款) | 38% | 31.2% | 「比我翻文档快」 |
| 相似案例(同问题历史处理记录) | 21% | 52.8% | 「这个最值钱」 |
| 操作建议(下一步点哪个按钮) | 17% | 41.5% | 「省我几步跳转」 |
| 直接回复话术 | 19% | 9.4% | 「语气不像我,不想用」 |
| 风险提示(合规/超时/情绪升级) | 5% | 37.6% | 「提醒有用,但别挡屏幕」 |
两个反直觉的发现:
第一,「直接替坐席写回复」是最没人要的功能,采纳率 9.4%。坐席的原话是「语气不像我,念出来很假」。后来我们把这类从「完整回复」改成「回复要点 + 可拼接片段」,采纳率涨到 26.7%。坐席要的是素材,不是代笔。
第二,采纳率最高的是「相似案例」,占比却只有 21%。因为生成案例建议最慢(要检索 + 摘要),我们一开始以为它价值低就降了优先级。数据出来后我们把它的算力预算翻倍,代价是知识卡慢了一点——总分帐算下来是赚的。这是典型的用感觉排优先级的反面教材。
四、组织侧的三个坑,比技术坑更深
- 坐席第一反应是「被监视」,不是「被帮助」。上线第二周,一个三年老坐席直接说「这东西是拿来抓我绩效的吧」。我们做了两件事才扭转:把建议日志的用途写清楚(只用于改进建议,不进个人绩效),以及让坐席自己给建议打分——一个 thumbs up/down 按钮。打分功能上线后,采纳率涨了 12 个百分点,因为坐席从被动接收变成主动调教。
- 建议必须一键插入,不能「复制到剪贴板」。听起来是废话,但我们第一版就是让坐席选中复制。多两步操作,采纳率差 3 倍。一键插入 + Enter 发送,是坐席工具的基本功。
- 新人和老人的收益差五倍。同样一套建议,入职 3 个月内的坐席 AHT 降 34%,五年以上老坐席只降 6%——老坐席脑子里已经有知识卡了。所以 Agent Assist 的真实 ROI 在「缩短新人爬坡期」,宣讲时应该按这个口径讲。我们的新人独立上线周期从 12 周降到 7 周,省下来的人头成本比工具本身贵得多。
五、给要做 Agent Assist 的团队的清单
- 先定形态再买模型。B 端专业场景优先评估 Agent Assist,不要一上来就对标 Bot First 的自动解决率。
- P50 < 900ms 是硬门槛,做不到就不上线。为它砍掉一切不必要的链路:流式触发、小模型抽取、模板预取。
- 从「相似案例」和「操作建议」做起,别从「代写回复」做起。前者是省时间,后者是抢方向盘。
- 让坐席给建议打分。既是数据回流,也是把工具的所有权还给使用者。
- 用「新人爬坡期」讲 ROI。这个指标好量化、好汇报,且不会被质疑「不就是替代人吗」。
总结
1,860 通通话、10 个月、34 个坐席。最大的转变是把「AI 替代人」换成「AI 帮人快一点」:放弃 60% 自动解决率那个 KPI 之后,我们反而拿到了更硬的收益——AHT 降 19%、新人爬坡期从 12 周缩到 7 周、坐席离职率从 31% 回到 9%。模型一次都没升级过,升级的是对场景的理解。客服场景里最贵的资源不是 token,是那 34 个人脑子里的上下文和判断力——Agent Assist 只是让这份资源别浪费在翻文档上。
互动提问:你们的客服 AI 是 Bot First 还是 Agent First?我们当初按 Bot First 立项,三个月撞墙才换路线,很想知道其他团队是怎么一开始就选对的。
互动提问:实时建议的延迟你们压到了多少?我们卡在 780ms P50,采纳率 44.7% 就上不去了,怀疑是坐席的注意力窗口天生有限,还是我们链路还有水分。
— IMAI 编辑部 | 2026-11-10