智能体的破绽,别等客户先发现。
让成千上万个脾气各异的合成客户,轮番测试你的客服话术或 AI 智能体。赶在真实客户发现之前,找出它在哪里出错、在哪里乱许承诺。话术测试现已上线;直接测试智能体,目前开放抢先体验。
访谈把这段退款话术讲给几类客户听:正在气头上的、一头雾水的、急着办完的。他们听完到底记住了什么?
数据来源 · iMario 合成人群基准测试,方法和原始数据全部公开 · 皮尤研究中心(Pew Research Center)调查方法 · 更新于 2026 年 9 月 5 日,经 iMario 研究团队审核










智能体遇到的第一个愤怒客户,不该是真人。iMario 先让各种脾气的客户轮番上阵,每一处出错都标出来,每一句兑现不了的承诺也标出来。
脚本测试一路绿灯。真上了线,就没这么顺了。
一份测试脚本只覆盖这一条。脚本里的客户不会发火,不会绕回去重提前面的事,也不会突然换语言。
上线前陪智能体彩排的,就这一位。他早就知道标准答案,也演不出刚失去亲人、第三次打来电话的客户。
回归测试里的用例,全都来自你已经见过的故障。还没发生过的那一种,不在里面。
让智能体先见见它真正会遇到的客户。
把智能体接进来,定好红线,让各种脾气的客户都来试一遍,修好再跑同一套测试。最后拿到的是证据,不是一个分数。
能直接拿给监管机构看的证据。
“马上给你退款,你账户以后的所有费用也都免掉。”
每一处出错都有对话原文
给你的不是分数,而是出错的那一轮对话,能引用,也能复现。
- 退款已清零
- 费用减免已清零
- 注销账户已清零
- 法律建议已清零
红线评分表
按你自己定的红线,修复前后各打一次分,合规部门手里就有了书面材料。
能反复跑的测试集
每次发版都跑同样的场景,一次性的审查就这样变成了回归测试。
脚本测试和合成客户测试,逐项对比。
脚本测试能证明标准流程走得通。合成客户测试看的是另一面:客户不按标准流程走的时候,智能体会说什么。
| 对比项 | 脚本测试 | iMario 合成客户 |
|---|---|---|
| 谁来扮演客户 | 一位早就知道标准答案的同事。 | 合成人物,每个人都有自己的脾气和处境:暴怒的、悲痛的、赶时间的、用非母语沟通的。 |
| 覆盖面 | 一份脚本一条路径,不会绕回去重提前面的事,也不会换语言。 | 一个下午跑完几千场对话,各种脾气全覆盖。 |
| 考核什么 | 标准流程能不能走完。 | 你自己定的红线:智能体绝不能许下的每一项承诺,连同越线的那一轮一起标出。 |
| 修复之后 | 再手动测一遍。 | 同一套测试原样重跑,评分表列出每一项变化。 |
| 留下的证据 | 一个“通过”。 | 按规则和脾气分好组的对话原文,合规部门可以拿去存档。 |
那 4% 把话说过头的对话。
智能体上线时带着一份评分表,列明剩下的 4 次越线。现在每次发版,这套测试都会跑一遍。
先跑了覆盖 14 种脾气的 2,000 场对话;改了升级处理规则之后,再原样重跑同一套测试。
当时的情况
一家银行的客服智能体顺利通过了脚本测试,离正式面向客户上线只剩几天。
的对话
以智能体无权做出的承诺收场。
0.2%
2,000 场对话里只剩 4 次越线,每一次都附上了对话原文。
- 承诺退款4% → 0.2%
- 减免费用1.1% → 0.1%
- 注销账户0.6% → 0%
就是让成千上万个合成人物扮演客户,每个人都带着自己的脾气和处境,去测你的客服话术或 AI 智能体,看它在哪里稳得住、在哪里出错,又许下了哪些无权许下的承诺。最后拿到的是按脾气划分的出错率,还有每个数字背后的对话原文。
