AI 客服導入準備:如何先試行可核對的回覆?

AI 客服導入準備:如何先試行可核對的回覆?

用一類常見查詢測試生成式 AI 能否引用可靠資料、交由人員核對,並在有疑問時正確轉介。

試行 AI 客服時,先選一類經常出現、可依核准資料回答的查詢,由系統起草,再由客服人員核對及發送。資料不足、涉及個別帳戶或需要酌情處理的查詢,應轉交有權限的人員。服務時間、所需表格或基本流程可作為首輪測試,讓團隊了解草稿能否減少工作,以及哪些答案仍須補充依據。

選擇一項答案有明確依據的工作

以前線人員最近遇到的例子寫下服務範圍,逐一標記可由核准資料回答、需要帳戶查證及需要主管決定的查詢。假設一家維修服務商收到大量有關改期的查詢,AI 可按公開指引草擬一般改期程序。若客戶詢問能否豁免費用,則由人員查閱個案並按授權處理。

限制試行可使用的資料及操作

  • 先使用有版本日期及負責人的指引,確保每段回覆可追溯至來源。
  • 用虛構或已妥善去識別的個案測試,移除答覆不需要的識別資料。
  • 讓客服人員看到引用段落,並可拒絕草稿、修正措辭或轉介。
  • 涉及政策例外、資料不足或查詢有衝突時,將問題交予指定人員處理。

把例外和私隱放入驗收測試

把過時政策、不完整問題、個案混淆和要求查閱別人資料的情境列入測試。除了回覆內容,亦應核對查閱權限、記錄中保存了甚麼,以及員工如何把有疑問的回覆交接給同事。NIST 的 AI 風險管理框架以管治、識別、衡量和管理組織風險工作。OWASP 的指引亦指出模型可能在回覆中披露敏感資料。

根據實際工作決定是否擴大試行

請兩位同事分別以現行流程和 AI 草稿完成相同的測試工作,記錄修正所需時間、引文是否準確、應轉介的問題有否正確交接,以及有否出現任何不應披露的資料。若核對工作抵銷節省的時間,或重大錯誤未有一貫處理方式,先改善資料和流程,再作決定。

同時列出甚麼情況要即時停用草稿功能,例如顧客資料出現在錯誤個案,並決定由誰通知客服主管。停用時,前線同事應可繼續使用原有回覆流程。

常見問題

第一階段可否直接向顧客發出回覆?

先由人員核對並發出草稿。待團隊能以測試結果確認哪些問題有穩定依據,再決定是否縮減該範圍內的人手程序。

可以把整個客服對話紀錄放進系統嗎?

先列明用途及必要資料,再由負責人確認可用的工具、分享權限和保留期限。試行可從虛構案例和已核准的文件開始。

如何發現客服草稿缺乏依據?

要求草稿附上相關段落,並讓人員對照來源。找不到依據、版本不清或互相矛盾時,交由同事核實。

參考資料