中圖分類號：TP18 文獻標志碼：A

0 引言

隨著社會進步，電力行業(yè)的用戶對專業(yè)信息的需求日益增長，但傳統(tǒng)方式獲取信息存在諸多困難。近年來，預訓練大語言模型（LargeLanguageModel，LLM）技術發(fā)展迅速[1]，在自然語言處理任務上展現(xiàn)了強大的能力。因此，開發(fā)一個基于LLM和區(qū)塊鏈共享網絡的智能電力問答系統(tǒng)勢在必行，系統(tǒng)支持多種語言輸入輸出。但是，一些國外研究團隊已經成功地開發(fā)出了基于LLM和LangChain框架的電力問答系統(tǒng)原型[2]，在實際的電力公司中進行了初步的測試。構建該系統(tǒng)不僅能夠幫助用戶便捷地獲取信息，還能推動跨語言交流和電力領域的知識共享[3]，對電力行業(yè)乃至整個社會具有深遠的意義。文章將深入設計系統(tǒng)架構，選取合適的軟硬件平臺，集成優(yōu)化各關鍵模塊，開發(fā)并測試原型系統(tǒng)，闡述系統(tǒng)的構建思路和實現(xiàn)技術，旨在為城市供電局電力領域的服務提供新的思路。

1相關技術

1.1 LLM語言模型

LLM是大型的語言模型，主要基于深度學習技術發(fā)展的人工智能模型，具備解讀并產出自然語言文本的能力。該技術模型不僅自適應能力極高，而且具有可擴展性，還能夠自動處理大量的文本數(shù)據(jù)集。近些年來，LLM在處理眾多文獻數(shù)據(jù)的過程中，對Transformer模型架構進行了預先的訓練，從而達到了出人意料的泛化效果。LangChain框架技術具備將LLM輕松整合到其他組件（如檢索儀器、文本解析器等）的能力，這種整合對于開發(fā)問答解決方案、文本summarizer等實際應用是極為有益的[4]。此外，國外還在探索如何利用LLM和LangChain框架技術實現(xiàn)跨語言的電力問答系統(tǒng)，以滿足不同國家和地區(qū)用戶的需求。通過構建跨語言的語料庫和模型，他們實現(xiàn)了對多種語言問答的支持，從而拓展了系統(tǒng)的應用范圍[5]

1.2LangChain框架

區(qū)塊鏈作為一個非中心化的分布式記賬本技術，主要通過在眾多節(jié)點間記錄交易信息來保障資料的保密性和透明化處理。目前，區(qū)塊鏈技術已經在眾多領域得到廣泛使用，如金融支付和供應鏈管理等。LangChain框架采納了區(qū)塊鏈技術作為解決跨語言交流與數(shù)據(jù)共享中問題的手段。通過在區(qū)塊鏈技術中保存多語言資訊，采用智能合約來達到自動化翻譯的目標，這樣可以使各種語言的交流更為流暢和高效。LangChain框架的核心理念是將LLM與其他組件（如數(shù)據(jù)加載器、文本分割器、知識庫等）無縫集成，從而加速構建各種LLM應用（如問答系統(tǒng)、總結器、智能助手等）的過程。LangChain框架提供了模塊化和可組合的構建塊，支持開發(fā)者自由組合，大大降低了構建復雜LLM應用的門檻和難度。LangChain框架的主要組件包括LLM包裝器、Prompt模板、鏈（Chain）、智能體（Agent）、記憶（Memory）和向量存儲（VectorStore）等。

1.3 FastAPIWeb框架

作為Web開發(fā)的結構，該系統(tǒng)采用了FastAPI框架。FastAPI是一個現(xiàn)代化且高效的PythonWeb應用平臺，旨在建立高效的API程序。此技術基于異步服務器網絡接口（Asynchronous Server GatewayInterface，ASGI），允許異步編程，顯著地增強了響應迅速性和并行處理的性能。FastAPI框架在OpenAPI和JSONSchema這兩款接口上都提供了頂尖的技術支持，能夠自主創(chuàng)建API文件和請求響應框架。該系統(tǒng)還額外加入了一系列功能如數(shù)據(jù)驗證和依賴注人，這些功能共同使得開發(fā)過程更為高效。FastAPI具備輕便的體積和用戶友好性，絕對是搭建高質量RESTfulAPI的首選平臺。

2 系統(tǒng)設計

2.1 系統(tǒng)架構設計

電力問答系統(tǒng)的整體設計基于LLM和LangChain框架的架構，涵蓋了一些核心的設計方向。該系統(tǒng)使用了向量存儲FAISS來存儲文檔的向量表示。這種向量表示通常是使用Word2Vec、BERT等模型生成的，能夠捕捉文本的語義信息[6。系統(tǒng)的主要部分包括前端用戶界面模塊、后端數(shù)據(jù)處理模塊和區(qū)塊鏈數(shù)據(jù)存儲模塊，旨在構建和優(yōu)化系統(tǒng)的整體性能和運行性能。其中，后端處理模塊主要負責存儲和管理電力問答系統(tǒng)中產生的所有數(shù)據(jù)，同時為其他功能的執(zhí)行提供必要的支撐。LLM模塊的主要任務是分析用戶所提的疑問，給予相應的答案，而LangChain模塊則專注于與區(qū)塊鏈技術產生互動，從而收集與電力有關的數(shù)據(jù)。數(shù)據(jù)流程為：用戶輸人問題一前端用戶界面模塊—后端處理模塊（LLM模塊、LangChain模塊）一后端處理模塊一前端用戶界面模塊。系統(tǒng)的可擴展性和可維護性可通過模塊化設計來實現(xiàn)，即將各個功能模塊獨立設計實現(xiàn)，使得系統(tǒng)各部分相對獨立，易于擴展和維護，通過定期更新LLM和LangChain模型來提升系統(tǒng)性能?；贚LM和LangChain的電力問答系統(tǒng)，通過模塊化設計，實現(xiàn)了用戶輸人問題到獲取電力信息的流程。系統(tǒng)架構設計如圖1所示。

圖1系統(tǒng)架構設計

2.2 系統(tǒng)模塊劃分

2.2.1數(shù)據(jù)處理模塊

文章利用LangChain提供的TextLoader和DirectoryLoader，以從文件系統(tǒng)中加載文本文件。文本首先通過RecursiveCharacterTextSplitter拆分成小的文本塊，然后使用 sentence-transformers/all-mpnet-base-v2模型對這些文本塊進行向量化編碼，最后將向量表示存儲到向量數(shù)據(jù)庫FAISS中，構建索引以支持高效檢索。

2.2.2 問答模塊

面對多種語言和文化的區(qū)別，傳統(tǒng)的問答方式在全球的使用上遭受了一定的挑戰(zhàn)和限制[7]。因此，系統(tǒng)采用LangChain提供的RetrievaIQA鏈，將問答分為檢索和生成2個階段。在檢索階段，根據(jù)用戶問題的向量表示，從向量數(shù)據(jù)庫FAISS中檢索與問題最相關的文檔向量；在生成階段，該系統(tǒng)將用戶問題和檢索到的相關文檔作為上下文，輸入LLM進行自然語言生成，得到最終答案。

2.2.3 Web服務模塊

系統(tǒng)首先使用FastAPl和streamlit框架，通過 @ app·post（\"/chat\"）裝飾器定義一個POST接口，用于接收前端發(fā)送的問題，將問題交給問答鏈處理后并返回答復。其中，F(xiàn)astAPI提供了中間件等機制，可以方便地添加這些功能。其次，使用Streamlit的chat_input來獲取用戶輸人的消息，將其存儲在變量prompt中。如果用戶輸入消息不為空，則將用戶的消息添加到會話狀態(tài)的消息列表中，標記為用戶角色。然后，使用Streamlit的chat_message方法創(chuàng)建一個用戶消息框，將用戶消息顯示在其中，使用同樣方法再創(chuàng)建一個助手消息框，在其中顯示助手回復。最后，使用Streamlit的spinner方法顯示加載動畫，表示正在等待服務器響應。向本地服務器80端口發(fā)送POST請求，傳遞用戶的消息作為查詢參數(shù)。系統(tǒng)先利用result response.json解析服務器響應，將其轉換為JSON格式。如果狀態(tài)碼為200表示成功，則從服務器響應中提取完整的回復消息，將完整的回復消息顯示在應用中。利用message \" role\"：\"assistant\"，\"content\"：full_response}方法創(chuàng)建一個包含助手角色和完整回復消息的消息對象。將助手的回復消息添加到會話狀態(tài)的消息列表中；如果響應的狀態(tài)碼不是200，則表示發(fā)生錯誤，在頁面中顯示錯誤消息，提示用戶稍后重試。

2.2.4前端交互模塊

在前端部分，該系統(tǒng)使用Streamlit來構建交互式Web應用的框架。系統(tǒng)利用Streamlit提供的各種UI組件，構建一個聊天界面，用戶可以在其中輸入問題，實時顯示系統(tǒng)給出的答復。界面布局和交互邏輯都由Streamlit代碼定義，相對簡潔。除此之外，還增加了“清空聊天記錄”的功能：利用st.sidebar.button方法在側邊欄中添加一個按鈕，顯示文本“清空聊天記錄”，再使用函數(shù)clear_chat_history來實現(xiàn)這一功能，當側邊欄中的“清空聊天記錄”按鈕被點擊時，會調用該函數(shù)進行清除。

2.3系統(tǒng)流程結構

2.3.1用戶進行提問

當用戶在前端頁面中鍵人相關的問題時，消息將同時發(fā)送給后端。前端服務程序負責為提出的各種問題進行分類的操作，進而把每一類問題都細分為不一樣的組別。一旦后端服務接收到用戶的問題，程序將借助問答部分來尋找判斷最合適的回答。問答模塊根據(jù)用戶的問題和上下文生成回答，進行文本處理、向量化等操作，調用模型生成答案。生成的答案返回給后端服務，后端服務將生成的答案返回給前端。前端界面為用戶展示時還會根據(jù)用戶進一步的問題或附加信息來更新其上下文，從而使對話流程更為流暢。

圖2用戶提問流程

2.3.2清除聊天記錄

用戶在進行清除聊天記錄功能時，要在界面上進行點擊操作，前端將請求發(fā)送給后端服務，后端服務接收到請求后，執(zhí)行清除聊天記錄的操作并刪除聊天記錄數(shù)據(jù)。操作完成后，后端的服務部分會向前端用戶界面展示其所得到的效果。前端界面根據(jù)結果來更新界面狀態(tài)，清空聊天記錄。流程可確保用戶可以方便地清除聊天記錄，保護隱私或清理界面。

2.3.3數(shù)據(jù)庫設計

在系統(tǒng)中，可以選擇Faiss數(shù)據(jù)庫來存儲向量數(shù)據(jù)。Faiss是一個向量索引庫，不以傳統(tǒng)的表格形式來存儲數(shù)據(jù)，主要功能是高效地保存和查找大量的向量數(shù)據(jù)，將向量數(shù)據(jù)加載到Faiss的索引中。因此，F(xiàn)aiss不涉及表的概念，而是通過索引結構來組織和管理向量數(shù)據(jù)，以實現(xiàn)高效的相似度搜索和檢索功能。系統(tǒng)會將文檔向量和用戶問題/答案的向量表示存儲到數(shù)據(jù)庫中，利用數(shù)據(jù)庫提供的快速檢索功能實現(xiàn)文檔檢索和基于向量相似度的問答功能。

3 系統(tǒng)實現(xiàn)

3.1問答模塊實現(xiàn)

（1）問題分類：利用分類模型對問題類型進行識別；（2）語義理解：使用Qwen/Qwenl.5-1.8B-Chat大型語言模型對問題進行理解和表示；（3）答案生成：基于檢索到的相關文本塊，Qwen模型生成自然語言形式的答復；（4）答案重寫（refine鏈）：先讓模型生成一個初步答案，再基于新檢索到的上下文對答案進行完善。用戶首先在輸人框進行電力相關問題的提問，然后系統(tǒng)對問題類型進行識別，使用大模型對其進行理解，基于檢索到的內容進行答復。

圖3聊天記錄清除流程

3.2 Web服務實現(xiàn)

（1）Web服務器：利用FastAPI架構來構建一個輕量級的API服務器;（2）路由設計：通過 @ app. post（\"/chat\"）裝飾器定義了/chat接口接收問題，調用問答鏈處理后返回結果；（3）會話管理：利用FastAPI中間件等機制管理用戶會話，跟蹤對話上下文；（4）異步處理：可引入消息隊列如RabbitMQ，實現(xiàn)請求的異步處理。用戶根據(jù)上下文的問題繼續(xù)進行提問，系統(tǒng)接收問題后會根據(jù)上下文進行相關性的回答，只會回答電力方面的相關問題。

3.3前端界面實現(xiàn)

（1）前端框架：使用Streamlit構建交互式Web應用界面；（2）頁面布局：使用st.header定義標題，使用chat_message函數(shù)生成聊天界面;（3）交互邏輯：用戶輸入的信息通過st.chat_input獲取，發(fā)送給后端服務，響應通過st.markdown顯示；（4）附加功能：實現(xiàn)了聊天記錄的清理。用戶可以在側邊欄進行聊天記錄的刪除和公告的編輯。

4結語

展望電力問答系統(tǒng)在多語言和跨文化背景下的持續(xù)發(fā)展前景，隨著全球化進程的加速，人們對多語言交流和跨文化理解的需求將越來越大，電力問答系統(tǒng)作為一種智能化信息交流工具，將在這一領域發(fā)揮越來越重要的作用。未來可以在提升系統(tǒng)的智能化程度、擴大服務范圍、加強安全性和隱私保護等方面發(fā)展，為電力問答系統(tǒng)的發(fā)展提供更多的可能性和機遇。

參考文獻

[1]胡志強，潘鑫瑜，文思捷，等.結合多模態(tài)知識圖譜與大語言模型的風機裝配工藝問答系統(tǒng)[J].機械設計，2023（增刊2）：20-26.

[2]LIANG X，LU L，LIU M L.Construction andapplicationofaknowledgegraph-basedquestionanswering system for Nanjing Yunjin digital resources[J].Heritage Science，2023（1）：1-23.

[3]陳賽飛揚，殷鋒，李澤宇，等.基于歷史文化知識圖譜的問答模型研究［J].西南民族大學學報（自然科學版），2023（6） ：679-685.

[4]劉跌娟，孟巍，張東寧，等.基于知識圖譜的營銷服務智能問答系統(tǒng)設計［J].信息技術，2023（10）：180-186.

[5]RUAN D X，RUAN K L，RUAN L M.ViWiQA：Efficient end-to-end Vietnamese Wikipedia-based Open-domain Question-Answering systems for single-hop andmulti-hop questions [J]. Information Processingamp;Management，2023（6） ：103521-103534.

[6]杜春.基于知識圖譜的樂山旅游智能問答系統(tǒng)研究及實現(xiàn)[J].電腦知識與技術，2023（29）：46-48.

[7]徐若卿.融合知識圖譜和語義匹配的醫(yī)療問答系統(tǒng)[J].現(xiàn)代電子技術，2024（8）：49-54.

（編輯 王永超）

Abstract：With the development and progressof society，users in the power industry havean increasing demand for professional information，buttherearemanydificultiesinobtaining information in traditional ways，inordertosolve this difficulty.This paper uses LLMand LangChain technologies to realizethe power question and answer system，and uses vectorization technologytoeficientlyandaccuratelyretrieverelevantcontentfromthedocumentlibraryand use LLM to generate answers.Eficiently parse domain questions and generate accurate responses in natural language. It solves the inconvenience and incomplete problem of manual search problems before users.

Key words： power customer service system； LLM； LangChain framework; vector retrieval