试行 AI 客服时,先选一类经常出现、可依核准资料回答的查询,由系统起草,再由客服人员核对及发送。资料不足、涉及个别账户或需要酌情处理的查询,应转交有权限的人员。服务时间、所需表格或基本流程可作为首轮测试,让团队了解草稿能否减少工作,以及哪些答案仍须补充依据。
选择一项答案有明确依据的工作
以前线人员最近遇到的例子写下服务范围,逐一标记可由核准资料回答、需要账户查证及需要主管决定的查询。假设一家维修服务商收到大量有关改期的查询,AI 可按公开指引草拟一般改期程序。若客户询问能否豁免费用,则由人员查阅个案并按授权处理。
限制试行可使用的资料及操作
- 先使用有版本日期及负责人的指引,确保每段回复可追溯至来源。
- 用虚构或已妥善去识别的个案测试,移除答复不需要的识别资料。
- 让客服人员看到引用段落,并可拒绝草稿、修正措辞或转介。
- 涉及政策例外、资料不足或查询有冲突时,将问题交予指定人员处理。
把例外和私隐放入验收测试
把过时政策、不完整问题、个案混淆和要求查阅别人资料的情境列入测试。除了回复内容,亦应核对查阅权限、记录中保存了甚么,以及员工如何把有疑问的回复交接给同事。NIST 的 AI 风险管理框架以管治、识别、衡量和管理组织风险工作。OWASP 的指引亦指出模型可能在回复中披露敏感资料。
根据实际工作决定是否扩大试行
请两位同事分别以现行流程和 AI 草稿完成相同的测试工作,记录修正所需时间、引文是否准确、应转介的问题有否正确交接,以及有否出现任何不应披露的资料。若核对工作抵销节省的时间,或重大错误未有一贯处理方式,先改善资料和流程,再作决定。
同时列出甚么情况要即时停用草稿功能,例如顾客资料出现在错误个案,并决定由谁通知客服主管。停用时,前线同事应可继续使用原有回复流程。
常见问题
第一阶段可否直接向顾客发出回复?
先由人员核对并发出草稿。待团队能以测试结果确认哪些问题有稳定依据,再决定是否缩减该范围内的人手程序。
可以把整个客服对话记录放进系统吗?
先列明用途及必要资料,再由负责人确认可用的工具、分享权限和保留期限。试行可从虚构案例和已核准的文件开始。
如何发现客服草稿缺乏依据?
要求草稿附上相关段落,并让人员对照来源。找不到依据、版本不清或互相矛盾时,交由同事核实。

