［李芳 陳震原 肖軍］

1 引言

中國(guó)電信集團(tuán)有限公司是中國(guó)特大型通信運(yùn)營(yíng)企業(yè)，主要經(jīng)營(yíng)移動(dòng)通信、互聯(lián)網(wǎng)接入及應(yīng)用、固定電話、衛(wèi)星通信、ICT 集成等綜合信息服務(wù)。目前，中國(guó)電信集團(tuán)有限公司廣州分公司（以下簡(jiǎn)稱廣州電信）的客戶服務(wù)呼叫中心，主要以處理客戶的抱怨和投訴為主，其與客戶溝通的方式主要采用傳統(tǒng)的電話模式，即電話→坐席受理→問題解答→坐席回訪為主?？蛻舯г雇对V的問題涵蓋了通信信息查詢、通信費(fèi)用爭(zhēng)議、故障抱怨、投訴舉報(bào)等業(yè)務(wù)類型。廣州電信客服中心為了保證能夠及時(shí)解決客戶抱怨投訴，提供7×12 小時(shí)服務(wù)，投入了大量的人力資源。盡管如此，隨著近年來電信業(yè)務(wù)的業(yè)務(wù)復(fù)雜度、網(wǎng)絡(luò)類型、客戶類型和數(shù)量的急劇增加，呼叫中心業(yè)務(wù)人員的知識(shí)儲(chǔ)備和學(xué)習(xí)能力不一，人力成本不斷增加。如何快速定位客戶投訴問題，提高客戶的投訴處理的及時(shí)性和投訴問題治理的有效性，為不同客戶制定有效投訴解決方案，最終提升客戶滿意度，是擺在廣州電信客戶服務(wù)部門運(yùn)營(yíng)管理的難題之一。

人工智能是目前研究的熱點(diǎn)和技術(shù)發(fā)展趨勢(shì)，自然語(yǔ)言處理作為人工智能的一種重要領(lǐng)域，識(shí)別用戶口語(yǔ)化表達(dá)中的真實(shí)意圖，進(jìn)而及時(shí)發(fā)現(xiàn)投訴熱點(diǎn)，并為坐席人員提供基于知識(shí)圖譜的知識(shí)推薦，具有較強(qiáng)的應(yīng)用需求和研究?jī)r(jià)值。本文通過對(duì)自然語(yǔ)言技術(shù)的理解和研究，設(shè)計(jì)一套智能定責(zé)系統(tǒng)，實(shí)現(xiàn)兩個(gè)目標(biāo)：一是能更好地理解用戶的語(yǔ)言上下文語(yǔ)境和語(yǔ)義，提升對(duì)投訴問題的理解能力；二是構(gòu)建基于現(xiàn)有知識(shí)庫(kù)的知識(shí)圖譜，形成知識(shí)推薦能力，通過機(jī)器訓(xùn)練的方式對(duì)算法調(diào)優(yōu)，形成投訴處理的專業(yè)知識(shí)圖譜，不斷提升知識(shí)庫(kù)與投訴定責(zé)的匹配精準(zhǔn)度。

2 自然語(yǔ)言處理方法研究

自然語(yǔ)言處理是一門交叉學(xué)科，涉及語(yǔ)言學(xué)、數(shù)學(xué)、計(jì)算機(jī)科學(xué)、信息學(xué)、電子科學(xué)、心理科學(xué)、認(rèn)知科學(xué)、神經(jīng)科學(xué)等，而作為專業(yè)領(lǐng)域內(nèi)的研究，還需要加入該專業(yè)的領(lǐng)域知識(shí)[1]。本文所設(shè)計(jì)的智能定責(zé)系統(tǒng)關(guān)鍵模塊主要包含 語(yǔ)義分析、知識(shí)圖譜創(chuàng)建，涉及的技術(shù)主要包含語(yǔ)料清洗、中文分詞、特征工程、模型訓(xùn)練。

2.1 語(yǔ)料清洗

就是把無用或者不感興趣的，視為噪音的內(nèi)容進(jìn)行刪除，如針對(duì)原始文本，只提取標(biāo)題、摘要、正文等關(guān)鍵信息。對(duì)于通過網(wǎng)絡(luò)爬蟲爬取的網(wǎng)頁(yè)內(nèi)容，去除HTML、廣告、標(biāo)簽、JS 等代碼和注釋。

2.2 中文分詞

由于漢語(yǔ)和英語(yǔ)相比，它是以字為基本書寫單位，詞語(yǔ)之間沒有明顯的區(qū)分標(biāo)記，因此分詞技術(shù)是知識(shí)庫(kù)搜索查詢過程中的第一步，分詞實(shí)現(xiàn)效果的好壞對(duì)應(yīng)用功能結(jié)果的影響非常大。中文分詞后，給每個(gè)詞或者詞語(yǔ)進(jìn)行詞性標(biāo)注，如給詞語(yǔ)打上形容詞、動(dòng)詞、名詞等標(biāo)簽；去停用詞指對(duì)文本特征沒有任何貢獻(xiàn)作用的字詞進(jìn)行刪除，比如標(biāo)點(diǎn)符號(hào)、語(yǔ)氣、人稱等；命名實(shí)體識(shí)別指識(shí)別文本中具有特定意義的實(shí)體，主要包括人名、地名、機(jī)構(gòu)名、專有名詞等[2]。

2.3 模型訓(xùn)練

機(jī)器學(xué)習(xí)訓(xùn)練主要包括監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等?？紤]到電信客服場(chǎng)景下海量數(shù)據(jù)的文本以及復(fù)雜的業(yè)務(wù)知識(shí)庫(kù)，本次訓(xùn)練采用預(yù)訓(xùn)練的無監(jiān)督的語(yǔ)言學(xué)習(xí)和有監(jiān)督的機(jī)器學(xué)習(xí)模型相結(jié)合的方式進(jìn)行。無監(jiān)督機(jī)器學(xué)習(xí)模型用于自動(dòng)地挖掘語(yǔ)義知識(shí)，通過構(gòu)建預(yù)訓(xùn)練目標(biāo)使得機(jī)器能夠理解語(yǔ)義信息，提取投訴業(yè)務(wù)關(guān)鍵詞，形成輿情監(jiān)控應(yīng)用；有監(jiān)督的機(jī)器學(xué)習(xí)模型用于有效地進(jìn)行知識(shí)的分類，完成知識(shí)圖譜的搭建。

預(yù)訓(xùn)練語(yǔ)言模型具有兩大優(yōu)勢(shì)，其一，它們可以顯著提高許多NLP 任務(wù)的準(zhǔn)確性；其二，它們是通用的語(yǔ)言處理工具。在傳統(tǒng)的NLP 中進(jìn)行基于機(jī)器學(xué)習(xí)的任務(wù)，必須標(biāo)記大量數(shù)據(jù)來訓(xùn)練一個(gè)模型，相比之下，目前只需要標(biāo)記少量數(shù)據(jù)來微調(diào)預(yù)訓(xùn)練的語(yǔ)言模型，因?yàn)樗呀?jīng)獲得了語(yǔ)言處理所需的大量知識(shí)[3]。

3 客服智能定責(zé)系統(tǒng)設(shè)計(jì)

3.1 總體設(shè)計(jì)思路

根據(jù)現(xiàn)有客服中心工作流程，智能定責(zé)功能需要在對(duì)通話語(yǔ)音實(shí)現(xiàn)語(yǔ)音文本轉(zhuǎn)寫的基礎(chǔ)上，增加語(yǔ)義分析和知識(shí)圖譜查詢兩大功能模塊，從而建立投訴業(yè)務(wù)定性與業(yè)務(wù)關(guān)聯(lián)，即根據(jù)語(yǔ)音文本要識(shí)別出投訴關(guān)鍵字、投訴的業(yè)務(wù)標(biāo)簽，不同投訴對(duì)應(yīng)的責(zé)任單位以及與投訴關(guān)鍵字對(duì)應(yīng)的知識(shí)圖譜節(jié)點(diǎn)、相似的解決方案、推薦方案等，具體示意圖如圖1 所示。

圖1 客服智能定責(zé)模塊功能示意圖

為了實(shí)現(xiàn)以上功能，智能定責(zé)系統(tǒng)體系架構(gòu)如圖2 所示，最下層為數(shù)據(jù)獲取層，往上分別為知識(shí)圖譜構(gòu)建、智能定責(zé)及應(yīng)用模塊。

圖2 智能定責(zé)系統(tǒng)體系架構(gòu)

3.2 數(shù)據(jù)獲取

本方案的數(shù)據(jù)來源主要來自客戶與客服代表的通話轉(zhuǎn)寫的語(yǔ)音文本，以及現(xiàn)有的10000 號(hào)知識(shí)庫(kù)、通信行業(yè)語(yǔ)料庫(kù)、公司網(wǎng)站、營(yíng)業(yè)廳、網(wǎng)上APP 以及工信部論壇、通信論壇等網(wǎng)絡(luò)數(shù)據(jù)。數(shù)據(jù)業(yè)務(wù)范圍覆蓋用戶抱怨、用戶投訴、用戶越級(jí)投訴以及用戶建議、意見、表?yè)P(yáng)等類型。對(duì)所獲取的數(shù)據(jù)按一定的結(jié)構(gòu)和規(guī)則，采用數(shù)據(jù)挖掘技術(shù)挖掘成有用的信息或結(jié)構(gòu)化信息。

3.3 知識(shí)圖譜構(gòu)建

針對(duì)電信投訴智能領(lǐng)域，現(xiàn)有的10000 號(hào)知識(shí)庫(kù)已不能滿足需求，需要構(gòu)建基于投訴處理最佳回答和處理方案等知識(shí)圖譜，形成知識(shí)推薦能力。知識(shí)圖譜模塊主要分為詞類管理、預(yù)處理和知識(shí)庫(kù)管理。

3.3.1 詞類管理

詞類管理模塊實(shí)現(xiàn)對(duì)業(yè)務(wù)關(guān)鍵詞、近義詞、敏感詞、投訴領(lǐng)域?qū)I(yè)詞前后綴和拼音詞的處理。對(duì)于投訴領(lǐng)域?qū)I(yè)術(shù)語(yǔ)，由人工設(shè)置領(lǐng)域內(nèi)關(guān)鍵詞，通過人工手動(dòng)添加的方式，增加詞類信息。

3.3.2 預(yù)處理

預(yù)處理模塊包含數(shù)據(jù)標(biāo)注和細(xì)粒度文本分類兩個(gè)任務(wù)。首先，結(jié)合知識(shí)圖譜的構(gòu)建，根據(jù)業(yè)務(wù)需要對(duì)客戶投訴類型、專有名詞、情感極性等特征進(jìn)行標(biāo)注，構(gòu)建語(yǔ)義分析模塊的數(shù)據(jù)集；其次，根據(jù)投訴業(yè)務(wù)場(chǎng)景選擇適合的模型進(jìn)行文本分類，識(shí)別客戶投訴的主題與意圖，并結(jié)合知識(shí)圖譜進(jìn)行內(nèi)部業(yè)務(wù)的關(guān)聯(lián)。

（1）數(shù)據(jù)標(biāo)注

由于客戶投訴語(yǔ)音文本具有口語(yǔ)化、不規(guī)范化的特點(diǎn)，這給語(yǔ)義分析帶來了一定的難度，準(zhǔn)確的數(shù)據(jù)標(biāo)注有助于自然語(yǔ)言處理模型對(duì)轉(zhuǎn)譯文本的理解與分析[6]。

①投訴業(yè)務(wù)定性標(biāo)簽：以業(yè)務(wù)邏輯為基礎(chǔ)，標(biāo)注細(xì)粒度的投訴業(yè)務(wù)類型，如移動(dòng)套餐升級(jí)違約金；

② 價(jià)值評(píng)判標(biāo)簽：客觀評(píng)價(jià)客戶投訴的內(nèi)容是否合理，為推薦解決方案提供參考；

③情感極性：標(biāo)注客戶投訴時(shí)的情感，用于評(píng)判該投訴處理的緊急程度；

④ 命名實(shí)體識(shí)別：標(biāo)注數(shù)據(jù)中的人名、地名以及機(jī)構(gòu)名，用于實(shí)現(xiàn)相關(guān)業(yè)務(wù)部門的準(zhǔn)確定位。

以上數(shù)據(jù)標(biāo)注任務(wù)中，投訴業(yè)務(wù)定性標(biāo)簽、價(jià)值評(píng)判標(biāo)簽、情感極性標(biāo)簽的標(biāo)注采用預(yù)訓(xùn)練無監(jiān)督的機(jī)器模型進(jìn)行模型的訓(xùn)練。

（2）細(xì)粒度文本分類

文本分類任務(wù)包含特征表示和分類模型兩個(gè)模塊。特征表示是將文本處理為一種計(jì)算機(jī)可讀的形式，同時(shí)盡量減少信息的損失。常見的特征表示方法包括BoW 詞袋模型、TF-IDF、N-gram、One-hot 編碼、Word2Vec、Glove 詞向量等。分類模型可按模型的復(fù)雜程度分為淺層學(xué)習(xí)模型與深度學(xué)習(xí)模型兩類，一般淺層學(xué)習(xí)模型在小規(guī)模數(shù)據(jù)集上表現(xiàn)效果優(yōu)于深度學(xué)習(xí)模型[4]。

3.3.3 知識(shí)庫(kù)管理

知識(shí)庫(kù)是智能定責(zé)系統(tǒng)的知識(shí)中樞，投訴和解決方案的專用知識(shí)庫(kù)，這些內(nèi)容最初從有經(jīng)驗(yàn)的客服人員日常生產(chǎn)中總結(jié)產(chǎn)生。由于投訴和解決方案的普遍性，投訴和解決方案在較長(zhǎng)一段時(shí)間內(nèi)比較穩(wěn)定，變化不大。因此基于知識(shí)庫(kù)，對(duì)知識(shí)進(jìn)行抽取，再進(jìn)行知識(shí)融合，才能形成知識(shí)推理能力。具體來說，按照以下步驟進(jìn)行構(gòu)建：

（1）知識(shí)抽?。簭陌虢Y(jié)構(gòu)化、非結(jié)構(gòu)化的數(shù)據(jù)中提取出實(shí)體、關(guān)系、屬性等知識(shí)要素。知識(shí)抽取主要包括以下三個(gè)部分。

①實(shí)體抽?。涸诩夹g(shù)上更多稱為NER（named entity recognition，命名實(shí)體識(shí)別），指的是從原始語(yǔ)料中自動(dòng)識(shí)別出命名實(shí)體。由于實(shí)體是知識(shí)圖譜中的最基本元素，其抽取的完整性、準(zhǔn)確、召回率等將直接影響到知識(shí)庫(kù)的質(zhì)量[5]。因此，實(shí)體抽取是知識(shí)抽取中最為基礎(chǔ)與關(guān)鍵的一步；

② 關(guān)系抽取：目標(biāo)是解決實(shí)體間語(yǔ)義鏈接的問題，早期的關(guān)系抽取主要是通過人工構(gòu)造語(yǔ)義規(guī)則以及模板的方法識(shí)別實(shí)體關(guān)系[5]。隨后，實(shí)體間的關(guān)系模型逐漸替代了人工預(yù)定義的語(yǔ)法與規(guī)則。

③屬性抽取：屬性抽取主要是針對(duì)實(shí)體而言的，通過屬性可形成對(duì)實(shí)體的完整勾畫[5]。由于實(shí)體的屬性可以看成是實(shí)體與屬性值之間的一種名稱性關(guān)系，因此可以將實(shí)體屬性的抽取問題轉(zhuǎn)換為關(guān)系抽取問題。

（2）知識(shí)融合：可消除實(shí)體、關(guān)系、屬性等指稱項(xiàng)與事實(shí)對(duì)象之間的歧義，形成高質(zhì)量的知識(shí)庫(kù)。

（3）知識(shí)推理：是在已有的知識(shí)庫(kù)基礎(chǔ)上進(jìn)一步挖掘隱含的知識(shí)，從而豐富、擴(kuò)展知識(shí)庫(kù)。分布式的知識(shí)表示形成的綜合向量對(duì)知識(shí)庫(kù)的構(gòu)建、推理、融合以及應(yīng)用均具有重要的意義[6]。

3.4 智能定責(zé)應(yīng)用

智能定責(zé)應(yīng)用主要包括輿情監(jiān)控、知識(shí)跟隨2 個(gè)模塊，輿情監(jiān)控模塊通過無監(jiān)督機(jī)器學(xué)習(xí)模型進(jìn)行文本的聚類，主題相似的模型將被聚集為同一類。聚類完成后，對(duì)每一類文本，統(tǒng)計(jì)詞頻并提取詞頻最高的五個(gè)單詞作為該類的主題詞，用以反映該類文本的主題信息。知識(shí)跟隨模塊則根據(jù)投訴分類提供歷史最佳回答和解決方案推送給坐席人員，并對(duì)本次推薦的內(nèi)容準(zhǔn)確度進(jìn)行記錄的過程。

3.4.1 輿情監(jiān)控

基于以上對(duì)文本細(xì)粒度分類，統(tǒng)計(jì)主題詞出現(xiàn)的頻率，就可以及時(shí)輸出當(dāng)天的投訴熱點(diǎn)主題詞，方便投訴治理人員根據(jù)投訴分類劃分和責(zé)任單位的對(duì)應(yīng)邏輯關(guān)系進(jìn)行投訴治理。

3.4.2 知識(shí)跟隨

智能投訴處理的關(guān)鍵是客戶投訴問題的定界和定位。知識(shí)跟隨算法構(gòu)建是基于投訴分類的標(biāo)簽體系，結(jié)合歷史投訴單的處理解決方案、應(yīng)答話術(shù)的定位結(jié)果，利用機(jī)器學(xué)習(xí)分類算法，反復(fù)迭代得出可靠穩(wěn)定的決策模型。

（1）在所有工作開始之前，需要梳理投訴問題產(chǎn)生的原因類別，例如顯性問題、隱性問題、根源問題等。對(duì)每種原因類別，建立一個(gè)模型，模型的輸出是對(duì)是否存在該原因類別的二元判斷，即“是”或“否”[7]。最終將所有類型的判斷綜合起來，形成總體分析結(jié)論。自然語(yǔ)言機(jī)器學(xué)習(xí)的算法有多種，包括邏輯回歸、線性判別分析、K近鄰、分類和回歸樹、樸素貝葉斯、支持向量機(jī)等[8]。在這里，選取隨機(jī)森林算法進(jìn)行模型的建立。隨機(jī)森林是通過集成學(xué)習(xí)的思想將多棵樹集成的一種算法，它通過隨機(jī)選取部分樣本和特征構(gòu)建多棵決策樹，其中每棵樹都是基于隨機(jī)向量的一個(gè)獨(dú)立集合的值產(chǎn)生的，最后再將多棵決策樹產(chǎn)生的結(jié)果整合在一起。隨機(jī)森林算法具有精確度高、不容易陷入過擬合、泛化能力等優(yōu)點(diǎn)。針對(duì)每一種原因類別，建立一個(gè)模型，開展模型訓(xùn)練。例如，針對(duì)“用戶停機(jī)”這一投訴類別，建立模型I，把數(shù)據(jù)按8∶2 分成訓(xùn)練集、測(cè)試集2 個(gè)部分，將指標(biāo)1……指標(biāo)n 作為輸入，標(biāo)簽作為輸出，代入隨機(jī)森林模型。在完成模型訓(xùn)練后，開展精度評(píng)估，調(diào)整相關(guān)參數(shù)設(shè)置，提高樣本數(shù)量，使得精度達(dá)到要求，即完成了模型的訓(xùn)練。具體訓(xùn)練方法示意如圖3 所示。

圖3 機(jī)器訓(xùn)練模型示意圖

（2）模型的利用。在客服坐席收到一張新的用戶投訴工單后，輸入到智能定責(zé)系統(tǒng)中，系統(tǒng)將輸出針對(duì)每種原因類別的二元判斷，從根本上找到導(dǎo)致本次投訴的根本原因。然后根據(jù)投訴類別推薦最佳話術(shù)和解決方案給坐席代表，提高其投訴處理的效果和效率。

4 實(shí)際生產(chǎn)應(yīng)用

圖4 以一個(gè)客戶對(duì)違約金產(chǎn)生投訴為例，展示了智能定責(zé)模塊的工作場(chǎng)景。客戶與客服代表的語(yǔ)音通話通過自動(dòng)語(yǔ)音識(shí)別系統(tǒng)（ASR）轉(zhuǎn)寫之后形成文字輸入輿情監(jiān)測(cè)模型?！翱蛻舢a(chǎn)生違約金”這一顯性問題，在10000 號(hào)知識(shí)庫(kù)中對(duì)應(yīng)有“用戶套餐月租升檔造成違約”、“用戶合同期未到卻退租造成違約”，“費(fèi)用沒有及時(shí)繳納造成違約”等不同十個(gè)類別的隱性問題。通過機(jī)器學(xué)習(xí)投訴語(yǔ)音文本后，形成本次的文本主題信息為“升檔違約金”。該文本主題也作為本次投訴的分類的標(biāo)簽，產(chǎn)生預(yù)警并映射到該異動(dòng)類別的責(zé)任部門。同時(shí)，根據(jù)該標(biāo)簽，檢索知識(shí)圖譜中的知識(shí)標(biāo)簽，得到相關(guān)的最佳應(yīng)答口徑和解決方案，推送給一線坐席人員，形成知識(shí)跟隨功能。

圖4 智能定責(zé)模塊工作示例

經(jīng)過實(shí)際生產(chǎn)測(cè)試，通過該應(yīng)用，客服中心可以實(shí)現(xiàn)實(shí)時(shí)監(jiān)控投訴的熱點(diǎn)，而且原來一個(gè)投訴定責(zé)的時(shí)間從8分鐘下降到1 分鐘，日處理定責(zé)工單量從不到200 單上升到約500 單，投訴處理人員的平均處理時(shí)效由2.6 單上升為3.3，大大提升了客服中心的工作效率和生產(chǎn)效率。

5 結(jié)束語(yǔ)

本文提出的利用自然語(yǔ)言處理處理技術(shù)構(gòu)建三層的電信智能定責(zé)系統(tǒng)，可以幫助電信運(yùn)營(yíng)商從每日海量的投訴處理語(yǔ)音信息中提取投訴的關(guān)鍵詞和內(nèi)容，形成輿情監(jiān)控能力和知識(shí)推薦能力，從而大幅提高客服中心的投訴處理及時(shí)性和投訴問題治理有效性。當(dāng)然，由于自然語(yǔ)言領(lǐng)域知識(shí)的復(fù)雜性，當(dāng)前通信行業(yè)智能定責(zé)系統(tǒng)的實(shí)現(xiàn)在技術(shù)上還有很多難點(diǎn)需要解決，需要進(jìn)一步研究自然語(yǔ)言和專業(yè)術(shù)語(yǔ)之間的映射關(guān)系、語(yǔ)境識(shí)別、指代消解、機(jī)器學(xué)習(xí)等技術(shù)，提升該系統(tǒng)的效率和準(zhǔn)確率。