AI 客服导入准备:如何先试行可核对的回复?

AI 客服导入准备:如何先试行可核对的回复?

用一类常见查询测试生成式 AI 能否引用可靠资料、交由人员核对,并在有疑问时正确转介。

试行 AI 客服时,先选一类经常出现、可依核准资料回答的查询,由系统起草,再由客服人员核对及发送。资料不足、涉及个别账户或需要酌情处理的查询,应转交有权限的人员。服务时间、所需表格或基本流程可作为首轮测试,让团队了解草稿能否减少工作,以及哪些答案仍须补充依据。

选择一项答案有明确依据的工作

以前线人员最近遇到的例子写下服务范围,逐一标记可由核准资料回答、需要账户查证及需要主管决定的查询。假设一家维修服务商收到大量有关改期的查询,AI 可按公开指引草拟一般改期程序。若客户询问能否豁免费用,则由人员查阅个案并按授权处理。

限制试行可使用的资料及操作

  • 先使用有版本日期及负责人的指引,确保每段回复可追溯至来源。
  • 用虚构或已妥善去识别的个案测试,移除答复不需要的识别资料。
  • 让客服人员看到引用段落,并可拒绝草稿、修正措辞或转介。
  • 涉及政策例外、资料不足或查询有冲突时,将问题交予指定人员处理。

把例外和私隐放入验收测试

把过时政策、不完整问题、个案混淆和要求查阅别人资料的情境列入测试。除了回复内容,亦应核对查阅权限、记录中保存了甚么,以及员工如何把有疑问的回复交接给同事。NIST 的 AI 风险管理框架以管治、识别、衡量和管理组织风险工作。OWASP 的指引亦指出模型可能在回复中披露敏感资料。

根据实际工作决定是否扩大试行

请两位同事分别以现行流程和 AI 草稿完成相同的测试工作,记录修正所需时间、引文是否准确、应转介的问题有否正确交接,以及有否出现任何不应披露的资料。若核对工作抵销节省的时间,或重大错误未有一贯处理方式,先改善资料和流程,再作决定。

同时列出甚么情况要即时停用草稿功能,例如顾客资料出现在错误个案,并决定由谁通知客服主管。停用时,前线同事应可继续使用原有回复流程。

常见问题

第一阶段可否直接向顾客发出回复?

先由人员核对并发出草稿。待团队能以测试结果确认哪些问题有稳定依据,再决定是否缩减该范围内的人手程序。

可以把整个客服对话记录放进系统吗?

先列明用途及必要资料,再由负责人确认可用的工具、分享权限和保留期限。试行可从虚构案例和已核准的文件开始。

如何发现客服草稿缺乏依据?

要求草稿附上相关段落,并让人员对照来源。找不到依据、版本不清或互相矛盾时,交由同事核实。

参考资料