王永
在國內大模型領域同不斷取得突破性進展時,2021年浪潮信息就發(fā)布了當時全球最大的中文AI訓練模型“源”:各種詩文創(chuàng)作不在話下,玩轉劇本殺,懂心理學......然而,衡量技術是否存在商業(yè)價值的核心在于其是否能夠適用于企業(yè)數(shù)字化轉型的業(yè)務場景。因此在不斷創(chuàng)造神奇感知的同時,如何將大模型的智能落地在各行各業(yè),創(chuàng)造更大的產(chǎn)業(yè)價值,才是重中之重。
目前,“源”已經(jīng)落地在浪潮信息的服務領域,成功打造出“智能客服大腦”。值得一提的是,由于浪潮信息自身IT業(yè)務的原因,服務工作多是專業(yè)和復雜的垂直領域,這雖加劇了與AI應用結合的高難度和挑戰(zhàn)性,但也為AI的發(fā)展提供了豐富的應用場景。
“從大模型的角度開看,尤其是落地到行業(yè)應用里邊,需要跟行業(yè)業(yè)務相關的數(shù)據(jù)支持,智能客服就是一個很好的代表。”浪潮信息AI軟件研發(fā)總監(jiān)吳韶華介紹道,大模型學習的知識主要是來自于互聯(lián)網(wǎng)上開源的各類對話、文檔以及百科類知識等,在專業(yè)性方面需要行業(yè)專門的知識來做支撐,這種支撐方式可以有兩種:大模型基于具體行業(yè)數(shù)據(jù)做微調以及采用外掛知識庫的形式,浪潮信息選擇的是第二種?!拔覀儼研袠I(yè)數(shù)據(jù)編碼成具體的知識庫,在大模型在實際用的時候通過知識庫的形式來做有針對性的檢索以及知識的綜合,隨后將綜合之后的知識返回給終端用戶。”
那么如何針對已經(jīng)擁有的行業(yè)數(shù)據(jù)來構建相關的知識庫?這兩個其實是相互連帶的問題。事實上,行業(yè)數(shù)據(jù),有相當一部分是沒有經(jīng)過處理的數(shù)據(jù),浪潮信息需要把這些數(shù)據(jù)抽取,形成知識庫。這些內容通過浪潮信息在智能客戶方面的實踐,最終形成比較好的知識庫自動化構建的工具和方法。
當大模型落地到具體應用場景時,需要結合業(yè)務場景會做具體的適配,比如知識庫的知識編碼模型,由大模型蒸餾出來小模型,做知識編碼,通過蒸餾出來的具體小模型,它不僅可以非常有效的提升大模型的編碼效率,還可以針對編碼后的知識進行二次檢索的精度。
“浪潮信息探索的基于外掛知識庫的方式,具有更強的特殊性——當我們把行業(yè)知識統(tǒng)一聚合到知識庫,大模型的通用能力可以和行業(yè)知識形成一種松耦合。行業(yè)知識經(jīng)過檢索之后,反饋給大模型的是用戶的問題強相關知識,利用大模型對知識的綜合的能力,反饋給用戶需要的回答。在這種情況下,行業(yè)的數(shù)據(jù)的更新,可以很方便的通過知識庫的更新來做,然后大批的能力可以持續(xù)的被復用到每一次知識庫的更新?!眳巧厝A表示,大模型基于行業(yè)數(shù)據(jù)庫的微調,浪潮信息也在探索,只不過會持續(xù)產(chǎn)生較高的開銷和成本。因此,浪潮信息當前比較傾向于大模型在具體行業(yè)落地的時候,采用大模型外掛知識庫的形式,更好的將行業(yè)知識和大模型本身的能力進行結合。
回到AI和業(yè)務場景如何形成良好的互動的話題,服務作為一家公司重要的窗口業(yè)務部門,是和客戶交互最緊密的平臺,所以首先考慮是怎樣把實際業(yè)務和AI算法結合在一起。
“浪潮信息在IT的服務場景非常復雜,面對更多大量的B類客戶,我們也在討論是否需要花費精力,做AI相關技術和算法的落地。”浪潮信息服務總監(jiān)陳彬表示,從這幾年取得的成果來看,浪潮信息總結了兩個心得:因地制宜,按照公司的長期目標和實踐條件,堅定不移的沿著AI方向和業(yè)務結合為目的落地;在具體落地時,小步快跑,前期找痛點、后期分階段。
以客服機器人為例,這是客戶服務的一個重要窗口。浪潮信息深知,不突破智能機器人的實際“智能”的瓶頸,僅僅是在形式上做“表面工夫”解決不了業(yè)務的痛點,因此,浪潮信息選擇用“源”嵌入智能客服底層,變革傳統(tǒng)模式并嘗試突破瓶頸,,下一步,浪潮信息將根據(jù)業(yè)務需求來拓展智能客服機器人的功能屬性,持續(xù)推進服務智能化轉型。據(jù)了解,浪潮信息規(guī)劃在明年把AR等技術嵌入到整個服務的流程,進一步夯實服務能力。
如今,浪潮信息智能客服在“源”的強智能的加持下,做到了解決問題廣、客戶答案精準專業(yè)以及交互貼心智能:智能客服能力覆蓋浪潮信息八大產(chǎn)品線,和客戶問答的匹配率達到92%;同時,智能客服對常見的復雜問題解決率達到了85%以上,平均解決率65%左右。此外,智能客服不僅支持圖片交流,還可以針對客戶輸入信息自動查詢匹配,最大程度減少對話交流花費的時間,原來和人工客服需要10分鐘才能解決的問題,在智能客服中可能經(jīng)過三輪對話10秒鐘就解決了。
從模式上來看,不同于傳統(tǒng)智能客服多模型和多數(shù)據(jù)庫架構,浪潮信息智能客服采用統(tǒng)一架構,支持多種任務?!耙酝悄芸头际嵌嗄P秃投鄶?shù)據(jù)庫,整個技術架構比較復雜,維護難度較大,因此浪潮信息將智能客服升級為大模型驅動,完成了從碎片級到集成化的躍升,也改變了在多個知識庫、多個模型之間進行任務調度的情況?!标惐虮硎?,在成本上,通過大模型的引入直接省去知識庫的人工標注的工作,同時智能客服大腦還支持對企業(yè)文檔、知識庫,對內部的產(chǎn)品資料自動學習能力,能夠時刻讓智能客服大腦保證專業(yè)知識的實時更新,做到更快的進化學習。
目前,浪潮信息智能客服大腦以InService產(chǎn)品為載體對外提供服務。InService平臺是完全免費開放給浪潮信息的客戶使用。同時,基于“源”大模型構建智能客服大腦的流程、方法和經(jīng)驗,浪潮信息形成了面向不同行業(yè)構建“行業(yè)大腦”的解決方案,以標準化的流程,高效快捷的助力企業(yè)構建精準滿足自身客戶服務需求的智能大腦,來加速企業(yè)的數(shù)智化進程推進。
“‘源’在智能客服服務大腦以及在InService打造的過程中起到了隱性的作用,通俗的講就是powered by 源。這種狀態(tài),InService平臺基于源的智能客服大腦助力各個環(huán)節(jié)有效的協(xié)同。”在陳彬看來,在InService客戶端,浪潮信息主要是利用自然語言理解的技術把龐大的客服知識庫轉化成客戶隨時能夠問的服務專家,通過告警壓縮、性能預測、容量預測等多種能力來實現(xiàn)設備的實時在線管理,貫穿著客戶和客戶產(chǎn)品使用的全生命周期。保證設備穩(wěn)定不間斷運行,滿足客戶在智能客服智能運維智能在線管理的需求。
另一方面,InService的后臺也就是浪潮內部的運維端,能夠把客戶的需求精準轉譯成資源的指令,協(xié)調各部分的大腦各部分的運轉,并提供資源儲備的相關信息。準確的診斷結果為智能調派、智能供應鏈提供準確的人機料法環(huán)觸發(fā)的指令,基于這種系統(tǒng)的準確前瞻性的數(shù)據(jù),把調度運籌學和機器學習相結合,高效快速的調撥人和備件的資源,同時指導資源安排,補充備件或者人員進行跨區(qū)調動,實現(xiàn)服務運營的智能化。
整體上來看,浪潮服務體系涵蓋熱線、指揮、備件、實施、服務管理、渠道管理、技術管理等模塊,分別承擔海量服務接入、服務工程師調派、備件倉儲調撥、現(xiàn)場服務實施、服務流程管控、服務商體系管理以及工程師培養(yǎng)和知識庫更新等核心要務。
目前,浪潮信息服務整體人員規(guī)模占浪潮信息總人員規(guī)模的4%,與業(yè)內15%到20%的占比相比,浪潮信息整體服務人員的ROI處在行業(yè)領先水平。而這背后,是浪潮信息多年來對于服務智能化轉型的堅持與創(chuàng)新。