王永
在國內(nèi)大模型領(lǐng)域同不斷取得突破性進(jìn)展時,2021年浪潮信息就發(fā)布了當(dāng)時全球最大的中文AI訓(xùn)練模型“源”:各種詩文創(chuàng)作不在話下,玩轉(zhuǎn)劇本殺,懂心理學(xué)......然而,衡量技術(shù)是否存在商業(yè)價(jià)值的核心在于其是否能夠適用于企業(yè)數(shù)字化轉(zhuǎn)型的業(yè)務(wù)場景。因此在不斷創(chuàng)造神奇感知的同時,如何將大模型的智能落地在各行各業(yè),創(chuàng)造更大的產(chǎn)業(yè)價(jià)值,才是重中之重。
目前,“源”已經(jīng)落地在浪潮信息的服務(wù)領(lǐng)域,成功打造出“智能客服大腦”。值得一提的是,由于浪潮信息自身IT業(yè)務(wù)的原因,服務(wù)工作多是專業(yè)和復(fù)雜的垂直領(lǐng)域,這雖加劇了與AI應(yīng)用結(jié)合的高難度和挑戰(zhàn)性,但也為AI的發(fā)展提供了豐富的應(yīng)用場景。
“從大模型的角度開看,尤其是落地到行業(yè)應(yīng)用里邊,需要跟行業(yè)業(yè)務(wù)相關(guān)的數(shù)據(jù)支持,智能客服就是一個很好的代表?!崩顺毙畔I軟件研發(fā)總監(jiān)吳韶華介紹道,大模型學(xué)習(xí)的知識主要是來自于互聯(lián)網(wǎng)上開源的各類對話、文檔以及百科類知識等,在專業(yè)性方面需要行業(yè)專門的知識來做支撐,這種支撐方式可以有兩種:大模型基于具體行業(yè)數(shù)據(jù)做微調(diào)以及采用外掛知識庫的形式,浪潮信息選擇的是第二種。“我們把行業(yè)數(shù)據(jù)編碼成具體的知識庫,在大模型在實(shí)際用的時候通過知識庫的形式來做有針對性的檢索以及知識的綜合,隨后將綜合之后的知識返回給終端用戶。”
那么如何針對已經(jīng)擁有的行業(yè)數(shù)據(jù)來構(gòu)建相關(guān)的知識庫?這兩個其實(shí)是相互連帶的問題。事實(shí)上,行業(yè)數(shù)據(jù),有相當(dāng)一部分是沒有經(jīng)過處理的數(shù)據(jù),浪潮信息需要把這些數(shù)據(jù)抽取,形成知識庫。這些內(nèi)容通過浪潮信息在智能客戶方面的實(shí)踐,最終形成比較好的知識庫自動化構(gòu)建的工具和方法。
當(dāng)大模型落地到具體應(yīng)用場景時,需要結(jié)合業(yè)務(wù)場景會做具體的適配,比如知識庫的知識編碼模型,由大模型蒸餾出來小模型,做知識編碼,通過蒸餾出來的具體小模型,它不僅可以非常有效的提升大模型的編碼效率,還可以針對編碼后的知識進(jìn)行二次檢索的精度。
“浪潮信息探索的基于外掛知識庫的方式,具有更強(qiáng)的特殊性——當(dāng)我們把行業(yè)知識統(tǒng)一聚合到知識庫,大模型的通用能力可以和行業(yè)知識形成一種松耦合。行業(yè)知識經(jīng)過檢索之后,反饋給大模型的是用戶的問題強(qiáng)相關(guān)知識,利用大模型對知識的綜合的能力,反饋給用戶需要的回答。在這種情況下,行業(yè)的數(shù)據(jù)的更新,可以很方便的通過知識庫的更新來做,然后大批的能力可以持續(xù)的被復(fù)用到每一次知識庫的更新?!眳巧厝A表示,大模型基于行業(yè)數(shù)據(jù)庫的微調(diào),浪潮信息也在探索,只不過會持續(xù)產(chǎn)生較高的開銷和成本。因此,浪潮信息當(dāng)前比較傾向于大模型在具體行業(yè)落地的時候,采用大模型外掛知識庫的形式,更好的將行業(yè)知識和大模型本身的能力進(jìn)行結(jié)合。
回到AI和業(yè)務(wù)場景如何形成良好的互動的話題,服務(wù)作為一家公司重要的窗口業(yè)務(wù)部門,是和客戶交互最緊密的平臺,所以首先考慮是怎樣把實(shí)際業(yè)務(wù)和AI算法結(jié)合在一起。
“浪潮信息在IT的服務(wù)場景非常復(fù)雜,面對更多大量的B類客戶,我們也在討論是否需要花費(fèi)精力,做AI相關(guān)技術(shù)和算法的落地。”浪潮信息服務(wù)總監(jiān)陳彬表示,從這幾年取得的成果來看,浪潮信息總結(jié)了兩個心得:因地制宜,按照公司的長期目標(biāo)和實(shí)踐條件,堅(jiān)定不移的沿著AI方向和業(yè)務(wù)結(jié)合為目的落地;在具體落地時,小步快跑,前期找痛點(diǎn)、后期分階段。
以客服機(jī)器人為例,這是客戶服務(wù)的一個重要窗口。浪潮信息深知,不突破智能機(jī)器人的實(shí)際“智能”的瓶頸,僅僅是在形式上做“表面工夫”解決不了業(yè)務(wù)的痛點(diǎn),因此,浪潮信息選擇用“源”嵌入智能客服底層,變革傳統(tǒng)模式并嘗試突破瓶頸,,下一步,浪潮信息將根據(jù)業(yè)務(wù)需求來拓展智能客服機(jī)器人的功能屬性,持續(xù)推進(jìn)服務(wù)智能化轉(zhuǎn)型。據(jù)了解,浪潮信息規(guī)劃在明年把AR等技術(shù)嵌入到整個服務(wù)的流程,進(jìn)一步夯實(shí)服務(wù)能力。
如今,浪潮信息智能客服在“源”的強(qiáng)智能的加持下,做到了解決問題廣、客戶答案精準(zhǔn)專業(yè)以及交互貼心智能:智能客服能力覆蓋浪潮信息八大產(chǎn)品線,和客戶問答的匹配率達(dá)到92%;同時,智能客服對常見的復(fù)雜問題解決率達(dá)到了85%以上,平均解決率65%左右。此外,智能客服不僅支持圖片交流,還可以針對客戶輸入信息自動查詢匹配,最大程度減少對話交流花費(fèi)的時間,原來和人工客服需要10分鐘才能解決的問題,在智能客服中可能經(jīng)過三輪對話10秒鐘就解決了。
從模式上來看,不同于傳統(tǒng)智能客服多模型和多數(shù)據(jù)庫架構(gòu),浪潮信息智能客服采用統(tǒng)一架構(gòu),支持多種任務(wù)。“以往智能客服都是多模型和多數(shù)據(jù)庫,整個技術(shù)架構(gòu)比較復(fù)雜,維護(hù)難度較大,因此浪潮信息將智能客服升級為大模型驅(qū)動,完成了從碎片級到集成化的躍升,也改變了在多個知識庫、多個模型之間進(jìn)行任務(wù)調(diào)度的情況?!标惐虮硎?,在成本上,通過大模型的引入直接省去知識庫的人工標(biāo)注的工作,同時智能客服大腦還支持對企業(yè)文檔、知識庫,對內(nèi)部的產(chǎn)品資料自動學(xué)習(xí)能力,能夠時刻讓智能客服大腦保證專業(yè)知識的實(shí)時更新,做到更快的進(jìn)化學(xué)習(xí)。
目前,浪潮信息智能客服大腦以InService產(chǎn)品為載體對外提供服務(wù)。InService平臺是完全免費(fèi)開放給浪潮信息的客戶使用。同時,基于“源”大模型構(gòu)建智能客服大腦的流程、方法和經(jīng)驗(yàn),浪潮信息形成了面向不同行業(yè)構(gòu)建“行業(yè)大腦”的解決方案,以標(biāo)準(zhǔn)化的流程,高效快捷的助力企業(yè)構(gòu)建精準(zhǔn)滿足自身客戶服務(wù)需求的智能大腦,來加速企業(yè)的數(shù)智化進(jìn)程推進(jìn)。
“‘源’在智能客服服務(wù)大腦以及在InService打造的過程中起到了隱性的作用,通俗的講就是powered by 源。這種狀態(tài),InService平臺基于源的智能客服大腦助力各個環(huán)節(jié)有效的協(xié)同。”在陳彬看來,在InService客戶端,浪潮信息主要是利用自然語言理解的技術(shù)把龐大的客服知識庫轉(zhuǎn)化成客戶隨時能夠問的服務(wù)專家,通過告警壓縮、性能預(yù)測、容量預(yù)測等多種能力來實(shí)現(xiàn)設(shè)備的實(shí)時在線管理,貫穿著客戶和客戶產(chǎn)品使用的全生命周期。保證設(shè)備穩(wěn)定不間斷運(yùn)行,滿足客戶在智能客服智能運(yùn)維智能在線管理的需求。
另一方面,InService的后臺也就是浪潮內(nèi)部的運(yùn)維端,能夠把客戶的需求精準(zhǔn)轉(zhuǎn)譯成資源的指令,協(xié)調(diào)各部分的大腦各部分的運(yùn)轉(zhuǎn),并提供資源儲備的相關(guān)信息。準(zhǔn)確的診斷結(jié)果為智能調(diào)派、智能供應(yīng)鏈提供準(zhǔn)確的人機(jī)料法環(huán)觸發(fā)的指令,基于這種系統(tǒng)的準(zhǔn)確前瞻性的數(shù)據(jù),把調(diào)度運(yùn)籌學(xué)和機(jī)器學(xué)習(xí)相結(jié)合,高效快速的調(diào)撥人和備件的資源,同時指導(dǎo)資源安排,補(bǔ)充備件或者人員進(jìn)行跨區(qū)調(diào)動,實(shí)現(xiàn)服務(wù)運(yùn)營的智能化。
整體上來看,浪潮服務(wù)體系涵蓋熱線、指揮、備件、實(shí)施、服務(wù)管理、渠道管理、技術(shù)管理等模塊,分別承擔(dān)海量服務(wù)接入、服務(wù)工程師調(diào)派、備件倉儲調(diào)撥、現(xiàn)場服務(wù)實(shí)施、服務(wù)流程管控、服務(wù)商體系管理以及工程師培養(yǎng)和知識庫更新等核心要務(wù)。
目前,浪潮信息服務(wù)整體人員規(guī)模占浪潮信息總?cè)藛T規(guī)模的4%,與業(yè)內(nèi)15%到20%的占比相比,浪潮信息整體服務(wù)人員的ROI處在行業(yè)領(lǐng)先水平。而這背后,是浪潮信息多年來對于服務(wù)智能化轉(zhuǎn)型的堅(jiān)持與創(chuàng)新。