趙俊華,文福拴,黃建偉,劉嘉寧,趙 煥,程裕恒,董朝陽,薛禹勝
(1.香港中文大學(xué)(深圳)理工學(xué)院,廣東省深圳市 518172;2.深圳市人工智能與機(jī)器人研究院,廣東省深圳市 518038;3.浙江大學(xué)電氣工程學(xué)院,浙江省杭州市 310027;4.廣東電網(wǎng)電力調(diào)度控制中心,廣東省廣州市 510030;5.南洋理工大學(xué)電氣與電子工程學(xué)院,新加坡 639798,新加坡;6.南瑞集團(tuán)有限公司(國網(wǎng)電力科學(xué)研究院有限公司),江蘇省南京市 211106)
近年來,全球范圍氣溫持續(xù)升高,極端天氣頻發(fā),減少溫室氣體排放以支撐可持續(xù)發(fā)展已成為21世紀(jì)人類社會的重大目標(biāo)之一。在此背景下,國際上對減少溫室氣體排放達(dá)成諸多重要共識,中國也明確提出“碳達(dá)峰·碳中和”的目標(biāo)和具體要求。通過大規(guī)模開發(fā)利用太陽能、風(fēng)能等可再生能源,實(shí)現(xiàn)全社會減排,已成為國際社會的普遍共識[1]。
為了實(shí)現(xiàn)可再生能源對傳統(tǒng)化石能源的替代,構(gòu)建可再生能源發(fā)電占比逐步提升的新型電力系統(tǒng)已成為行業(yè)發(fā)展共識。根據(jù)國家能源局提出的定義,新型電力系統(tǒng)是“以新能源為主體,以創(chuàng)新為根本驅(qū)動力、以數(shù)智化為關(guān)鍵手段的新一代電力系統(tǒng)”[2]。新型電力系統(tǒng)具備“安全高效、清潔低碳、柔性靈活、智慧融合”[2]四大重要特征。通過推動電力生產(chǎn)、傳輸、消費(fèi)、儲蓄各環(huán)節(jié)的電力流、信息流、價(jià)值流的融合和綜合調(diào)配,新型電力系統(tǒng)實(shí)現(xiàn)了綠色低碳、安全可控、經(jīng)濟(jì)高效、柔性開放、數(shù)字賦能的電力系統(tǒng)。新型電力系統(tǒng)可以明顯提高可再生能源發(fā)電的消納能力,顯著降低化石能源發(fā)電的占比,從而減少溫室氣體的排放。因此,新型電力系統(tǒng)是實(shí)現(xiàn)國家“雙碳”戰(zhàn)略的重要手段和保障。
新型電力系統(tǒng)的發(fā)展代表了對傳統(tǒng)電力系統(tǒng)的顛覆性變革。建設(shè)新型電力系統(tǒng)將面臨以下重大挑戰(zhàn)[2]:
1)在電力供應(yīng)安全方面,長期來看,由于電源結(jié)構(gòu)的根本性變化、電力需求的持續(xù)增長趨勢以及尖峰負(fù)荷特征的日益突出,確保電力供應(yīng)安全將面臨長期挑戰(zhàn)。
2)在新能源消納方面,隨著新能源轉(zhuǎn)變?yōu)橹黧w電源,其間歇性、隨機(jī)性和波動性特點(diǎn)對電力系統(tǒng)的調(diào)節(jié)能力提出了更高的要求,新能源消納面臨巨大的技術(shù)挑戰(zhàn)。
3)在系統(tǒng)運(yùn)行壓力方面,新型電力系統(tǒng)中高比例可再生能源發(fā)電和高比例電力電子設(shè)備的“雙高”特性日益凸顯,系統(tǒng)運(yùn)行壓力持續(xù)增加。
4)在新形勢與新業(yè)態(tài)方面,傳統(tǒng)電力系統(tǒng)的調(diào)度方式和技術(shù)難以適應(yīng)海量分布式設(shè)備(如分布式電源、新型儲能、電動汽車等)接入、電力市場環(huán)境下交易計(jì)劃頻繁調(diào)整、源網(wǎng)荷儲“多相互動”等新形勢與新業(yè)態(tài)。
5)在電力市場體制方面,現(xiàn)有電力市場體制與新型電力系統(tǒng)的特征不匹配,難以滿足建設(shè)新型電力系統(tǒng)的要求。
要應(yīng)對這些挑戰(zhàn),需要從政策、機(jī)制、裝備、技術(shù)等各方面進(jìn)行全方位的創(chuàng)新。
人工智能(artificial intelligence,AI)是計(jì)算機(jī)科學(xué)的一個(gè)重要分支,專注于研究和開發(fā)能夠模擬、擴(kuò)展和增強(qiáng)人類認(rèn)知功能的智能機(jī)器和軟件。這些功能包括理解、學(xué)習(xí)、推理、解決問題、感知和語言交流等。大語言模型(large language model,LLM)[3]是近年來AI 領(lǐng)域的重大突破之一。LLM 源自深度學(xué)習(xí)和自然語言處理(natural language processing,NLP)的交叉發(fā)展。深度學(xué)習(xí)架構(gòu)Transformer 的出現(xiàn)使得LLM 的能力獲得了本質(zhì)性的突破。Transformer 架構(gòu)通過自注意力機(jī)制解決了自然語言處理中長期存在的長距離依賴問題,使模型能夠處理更長的文本序列。目前,以ChatGPT(chat generative pre-training transformer)為 代 表 的LLM已經(jīng)在機(jī)器翻譯、文本摘要、問答系統(tǒng)、文章編寫、自動繪圖等眾多領(lǐng)域中獲得廣泛應(yīng)用。ChatGPT 在2022 年11 月推出后,僅用2 個(gè)月時(shí)間就實(shí)現(xiàn)了用戶數(shù)破億,是史上用戶數(shù)增長最快的互聯(lián)網(wǎng)應(yīng)用。
研究發(fā)現(xiàn),具有千億參數(shù)量的LLM 在各種多模態(tài)任務(wù)中展現(xiàn)出傳統(tǒng)AI 模型不具備的強(qiáng)大常識理解和邏輯推理能力。這意味著LLM 已為通用人工智能(artificial general intelligence,AGI)技術(shù)的發(fā)展奠定了初步基礎(chǔ)。AGI 指在大多數(shù)任務(wù)中具有超越人類能力的自主智能系統(tǒng)[4]。一般認(rèn)為,AGI 系統(tǒng)應(yīng)具有以下能力[4]:
1)推理、策略、解決問題和在不確定環(huán)境下做出決策:能夠處理復(fù)雜的問題和任務(wù),并且在面臨不確定性和模糊性時(shí)做出正確的決策。
2)理解和表示知識:能夠?qū)W習(xí)和理解各種類型的知識,并以可操作的形式表示這些知識。
3)規(guī)劃:能夠規(guī)劃未來的行動和決策,并且考慮多種可能性和場景。
4)學(xué)習(xí):能夠從經(jīng)驗(yàn)中學(xué)習(xí)和改進(jìn)自己的行為和決策,并自適應(yīng)地適應(yīng)新環(huán)境和新任務(wù)。
5)自然語言處理和交互:能夠理解和處理人類的自然語言,并與人類進(jìn)行有效的交互和溝通。
AGI 技術(shù)的實(shí)現(xiàn)將為構(gòu)建更加智能的電力系統(tǒng)和解決新型電力系統(tǒng)所面臨的挑戰(zhàn)提供新路徑。LLM 已在一定程度上具有了AGI 的基本特征。本文旨在探索基于LLM 構(gòu)建的AGI 技術(shù)在電力系統(tǒng)中的潛在應(yīng)用,討論LLM 可為電力系統(tǒng)研究和工程應(yīng)用帶來的發(fā)展和挑戰(zhàn),并展望以LLM 為基礎(chǔ)的電力系統(tǒng)AGI 理論體系和實(shí)現(xiàn)技術(shù)的發(fā)展前景。
LLM[3]是一種利用大規(guī)模文本語料進(jìn)行預(yù)訓(xùn)練與微調(diào)的深度學(xué)習(xí)語言模型,能夠理解和生成與人類語言相似的表達(dá)。預(yù)訓(xùn)練語言模型(pretrained language model,PLM)[5]以神經(jīng)網(wǎng)絡(luò)為基礎(chǔ),通過在大量無標(biāo)注文本上進(jìn)行無監(jiān)督學(xué)習(xí),學(xué)習(xí)文本的統(tǒng)計(jì)規(guī)律和語義信息,然后在特定的下游任務(wù)進(jìn)行微調(diào),以提高任務(wù)性能。LLM 與PLM 有相似的架構(gòu)和預(yù)訓(xùn)練任務(wù),區(qū)別在于LLM 使用了更多的模型參數(shù)和訓(xùn)練數(shù)據(jù),例如BLOOM(bigscience large open-science open-access multilingual)模型[6]有1 760 億個(gè)參數(shù),PaLM(pathways language model)模型[7]有5 400 億個(gè)參數(shù)。LLM 能夠處理更長的文本輸入,并具有更強(qiáng)的上下文感知能力。研究表明,與參數(shù)量較小的PLM(例如110 億個(gè)參數(shù)量的T5[8])相比,LLM 在一些少樣本(few-shot)或零樣本(zeroshot)的任務(wù)中,表現(xiàn)出了超越人類水平的涌現(xiàn)能力[9],即不需要額外的訓(xùn)練數(shù)據(jù)或標(biāo)簽,就能夠完成特定的任務(wù)。LLM 已經(jīng)在多個(gè)領(lǐng)域得到廣泛的應(yīng)用,例如常識對話、文本生成、邏輯推理等,并取得了令人矚目的成果。
LLM 的基本原理是通過神經(jīng)網(wǎng)絡(luò)來進(jìn)行序列建模。它將輸入的文本序列映射到輸出的文本序列,中間通過多層Transformer 網(wǎng)絡(luò)[10]進(jìn)行信息的傳遞和處理。Transformer 網(wǎng)絡(luò)能夠在不同位置的單詞之間建立關(guān)聯(lián),從而捕捉長距離的依賴關(guān)系。在輸入文本的位置編碼方面,部分LLM(例如LLaMA(large language model meta AI)模 型[11]、PaLM 模型)使用了基于絕對位置特定的旋轉(zhuǎn)位置編碼(rotary position embedding,RoPE)[12],以增強(qiáng)模型的上下文感知能力。這些網(wǎng)絡(luò)結(jié)構(gòu)能夠有效捕捉到序列數(shù)據(jù)中的長期依賴關(guān)系,并且具有強(qiáng)大的表達(dá)能力。LLM 的訓(xùn)練方法是通過在大規(guī)模語料庫上進(jìn)行無監(jiān)督的預(yù)訓(xùn)練,學(xué)習(xí)語言的統(tǒng)計(jì)規(guī)律和語義信息,然后在特定任務(wù)或者數(shù)據(jù)集上進(jìn)行有監(jiān)督的微調(diào),以達(dá)到更好的性能。
LLM 的實(shí)現(xiàn)技術(shù)包含深度學(xué)習(xí)框架、分布式訓(xùn)練和模型壓縮等。深度學(xué)習(xí)框架(例如TensorFlow框架[13]和PyTorch 框架[14]等)是指提供了豐富的神經(jīng)網(wǎng)絡(luò)模型和優(yōu)化算法的軟件平臺,方便研究人員快速搭建和訓(xùn)練LLM。分布式訓(xùn)練技術(shù)(例如DeepSpeed 技術(shù)[15])可以將LLM 的訓(xùn)練過程分布到多臺服務(wù)器上,利用分布式計(jì)算技術(shù)可對訓(xùn)練進(jìn)行可觀的加速。模型壓縮技術(shù)通過量化[16]和蒸餾[17]等方法,減少LLM 的參數(shù)量和計(jì)算量,提高模型推理和計(jì)算的效率和性能。
在 LLM 中,常用的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為Transformer,包含編碼器與解碼器兩部分,如圖1 所示。其中,編碼器負(fù)責(zé)將輸入的文本序列轉(zhuǎn)換為高維表示,以便后續(xù)處理。編碼器由多個(gè)相同的層堆疊而成,每個(gè)層都包含2 個(gè)主要子層:多頭注意力與前饋神經(jīng)網(wǎng)絡(luò)。多頭注意力將每個(gè)位置的單詞與其他所有位置的單詞建立注意力關(guān)系,從而捕獲全局的上下文信息;前饋神經(jīng)網(wǎng)絡(luò)將每個(gè)位置的向量映射到更高維度的空間,有助于模型捕獲更復(fù)雜的語義信息。每個(gè)子層后都有累加和層標(biāo)準(zhǔn)化,以穩(wěn)定訓(xùn)練并加速收斂。編碼器融合輸入序列的特征,采用多層堆疊結(jié)構(gòu)便于模型的逐層提取。而解碼器與編碼器不同的是,在解碼器中還引入了遮蔽多頭注意力,用于對輸入序列和當(dāng)前解碼位置的輸出建立關(guān)聯(lián),以便生成所需的輸出序列。相比于傳統(tǒng)的循環(huán)神經(jīng)網(wǎng)絡(luò)[18]與長短期記憶網(wǎng)絡(luò)[19],Transformer 網(wǎng)絡(luò)通過自注意力機(jī)制實(shí)現(xiàn)對全局信息的建模和更高效的特征抽取,且能在訓(xùn)練過程中有效防止梯度爆炸與梯度消失等問題,使語言模型的參數(shù)量可以擴(kuò)展到千億級別。
圖1 Transformer 架構(gòu)Fig.1 Transformer architecture
不同語言模型使用的Transformer 網(wǎng)絡(luò)結(jié)構(gòu)不盡 相 同。 例 如,BERT(bidirectional encoder representations from transformers)[20]和RoBERTa(robustly optimized bert pretraining approach)[21]使用編 碼 器 結(jié) 構(gòu)(encoder-only);GPT(generative pretraining transformer)[22]和GPT2[23]使 用 解 碼 器 結(jié) 構(gòu)(decoder-only);T5 使用編碼器-解碼器(encoderdecoder)結(jié) 構(gòu);GLM-130B[24]使 用 前 綴 解 碼 器(prefix-decoder)結(jié)構(gòu)。目前,LLM 使用最多的底層結(jié)構(gòu)是解碼器結(jié)構(gòu),因?yàn)樵摻Y(jié)構(gòu)相比于其他結(jié)構(gòu)更有利于文本生成[25]。
LLM 的訓(xùn)練方法通常采用預(yù)訓(xùn)練和微調(diào)的策略。預(yù)訓(xùn)練階段通過無監(jiān)督學(xué)習(xí),讓模型學(xué)習(xí)到語言的潛在表示。在微調(diào)階段,通過在特定任務(wù)上進(jìn)行監(jiān)督學(xué)習(xí),進(jìn)一步優(yōu)化模型的性能。在預(yù)訓(xùn)練階段,通常采用無監(jiān)督學(xué)習(xí)方法,例如使用自編碼器或語言模型進(jìn)行訓(xùn)練。在預(yù)訓(xùn)練階段,模型通過學(xué)習(xí)大規(guī)模的文本語料庫,構(gòu)建了對語言的潛在表示。預(yù)訓(xùn)練的目標(biāo)是使模型能夠?qū)W習(xí)到語言的統(tǒng)計(jì)規(guī)律和語義信息。預(yù)訓(xùn)練數(shù)據(jù)一般使用網(wǎng)頁、書籍、對話文本、代碼等作為語料。預(yù)訓(xùn)練任務(wù)一般為語言模型任務(wù)。給定一個(gè)文本序列S={s1,s2,…,sn},語言模型任務(wù)目標(biāo)是基于序列中前序文本s1,s2,…,si-1,通過自回歸地預(yù)測目標(biāo)文本si。目標(biāo)函數(shù)L(s)可表示為如式(1)所示的最大似然函數(shù)。
式中:n為文本個(gè)數(shù);P(·)為似然函數(shù)。
在預(yù)訓(xùn)練完成后,LLM 將進(jìn)入微調(diào)階段。在微調(diào)階段,模型的參數(shù)會根據(jù)任務(wù)的損失函數(shù)進(jìn)行優(yōu)化,使其更好地適應(yīng)具體任務(wù)的要求。PLM 微調(diào)的任務(wù)是通過在特定場景進(jìn)行訓(xùn)練,而LLM 使用指令微 調(diào)(instruction tuning)與 對 齊 微 調(diào)(alignment tuning)進(jìn)一步優(yōu)化模型的性能。
指令微調(diào)的本質(zhì)目的是將自然語言處理任務(wù)轉(zhuǎn)換為自然語言指令,再將其投入模型進(jìn)行訓(xùn)練,通過給模型提供指令和選項(xiàng)的方式,使其能夠提升零樣本任務(wù)的性能表現(xiàn)。具體而言,需要構(gòu)建多任務(wù)指令集合,其中一個(gè)格式化的指令實(shí)例包括一個(gè)任務(wù)描述指令、一對輸入(input)與輸出(output)以及少量示例。指令微調(diào)后,LLM 可展現(xiàn)出處理泛化到再訓(xùn)練過程中從未見過任務(wù)的卓越能力。為增強(qiáng)模型推理能力,可采用思維鏈(chain-of-thought)指令微調(diào)策略[26],LLM 在微調(diào)過程中可以利用包含在中間推理步驟的提示機(jī)制來解決這些任務(wù),得到最終答案。
部分LLM 如InstructGPT[27]完成指令微 調(diào)后,會額外使用對齊微調(diào),目的是讓LLM 輸出內(nèi)容更加可靠、安全,符合人類的偏好。研究人員提出了基于人類反饋的強(qiáng)化學(xué)習(xí)(reinforcement learning from human feedback,RLHF)[28],通過 獎勵模 型使LLM產(chǎn)生的文本更符合人類期望的回答。RLHF 的第1 步是訓(xùn)練獎勵模型,將指令數(shù)據(jù)集輸入LLM 并得到一定數(shù)量的輸出文本。然后,讓有領(lǐng)域經(jīng)驗(yàn)的標(biāo)注人員進(jìn)行排序標(biāo)注,再訓(xùn)練獎勵模型來預(yù)測文本的排名。第2 步是強(qiáng)化學(xué)習(xí)微調(diào),在InstructGPT中會使用近端策略優(yōu)化(proximal policy optimization,PPO)[29]來針對第1 步訓(xùn)練的獎勵模型進(jìn)一步優(yōu)化LLM。其中,強(qiáng)化學(xué)習(xí)的狀態(tài)為生成的文本序列,動作空間為LMM 的詞匯庫,獎勵模型的排序分?jǐn)?shù)為獎勵。
現(xiàn)有研究表明,LLM 在邏輯推理、編程與代碼理解、數(shù)學(xué)推理等領(lǐng)域展現(xiàn)出了遠(yuǎn)超傳統(tǒng)AI 技術(shù)的智能水平。
1.3.1 邏輯推理
邏輯推理任務(wù)需要LLM 運(yùn)用常用知識與一般事實(shí)的邏輯關(guān)系和證明來解答任務(wù)所提出的問題,一般而言,可分為常識理解推理與科學(xué)推理。目前的研究主要通過特定的常識理解或科學(xué)問答數(shù)據(jù)集來評估不同類型推理的能力。例如,常識理解推理可使用CommonSenseQA 數(shù)據(jù)集[30],而科學(xué)推理可使用ScienceQA 數(shù)據(jù)集[31]。對于任務(wù)評測方法,除了人為評測以外,還可以使用如雙語互譯質(zhì)量評估(bilingual evaluation understudy, BLEU)[32]、ROUGE (recall-oriented understudy for gisting evaluation)[33]等指標(biāo)來評估生成的推理過程質(zhì)量。這些任務(wù)要求LLM 根據(jù)事實(shí)和知識逐步進(jìn)行推理,直至給出問題的答案。其中,大型語言和視覺助理(large language and vision assistant,LLaVa,即GPT-4)[34]在ScienceQA 數(shù) 據(jù) 集 上 評 價(jià) 得 分 最 高(92.53 分),超過了人類平均評分(88.40 分)。
1.3.2 編程與代碼理解
相比于預(yù)訓(xùn)練語言模型,LLM 在生成和理解格式化語言方面有顯著的突破,尤其是在生成和理解計(jì)算機(jī)程序和代碼方面,這種能力被稱為編程和代碼理解。與生成自然語言不同,生成的代碼可通過相應(yīng)語言的編譯器進(jìn)行編譯運(yùn)行,可基于此評估生成代碼的準(zhǔn)確率。目前的研究主要通過計(jì)算測試用例的通過率來評估LLM 生成代碼的質(zhì)量。近期已有研究提出了評測代碼正確率的基準(zhǔn)數(shù)據(jù)集,用于評 估LLM 的 代 碼 生 成 能 力,例 如,APPS[35]與HumanEval[36]?;鶞?zhǔn)數(shù)據(jù)集包含多種編程問題,每個(gè)編程問題包括題目描述和用于檢查正確性的測試用例。文獻(xiàn)[37]評測發(fā)現(xiàn)GPT-4[38]的編程與代碼理解能力在LeetCode 評測集上pass@1 與pass@5已經(jīng)超過了人類平均水平。此外,LLM 還可以理解、注釋和修正現(xiàn)有的代碼。文獻(xiàn)[37]闡述了可以通過問答方式讓LLM 對已有代碼進(jìn)行修改,經(jīng)過文本提示,可以描述一個(gè)深度學(xué)習(xí)中全新的梯度下降算法,GPT-4 可以理解提示文本內(nèi)容,實(shí)現(xiàn)編碼并成功編譯。
1.3.3 數(shù)學(xué)推理
數(shù)學(xué)推理任務(wù)一般包含數(shù)學(xué)計(jì)算任務(wù)或者推理證明任務(wù)。任務(wù)需要LLM 使用基本數(shù)學(xué)知識、邏輯與計(jì)算來解決任務(wù)提出的計(jì)算問題或者生成證明過程,并且需要按照推理過程生成逐步的中間推導(dǎo)過程與答案。LLM 中評估數(shù)學(xué)推理能力常用的數(shù)據(jù)集 包 含GSM8K[39]和MATH[40]數(shù) 據(jù) 集。其 中,GSM8K 是小學(xué)數(shù)學(xué)數(shù)據(jù)集,MATH 是高中數(shù)學(xué)數(shù)據(jù)集。LLM 需要根據(jù)描述生成準(zhǔn)確的具體數(shù)字、方程以及推理證明過程來回答數(shù)學(xué)問題。目前,數(shù)學(xué)推理能力表現(xiàn)較好的LLM 有GPT-4、Minerva,其中,性能最好的模型為GPT-4,在GSM8K 和MATH 數(shù)據(jù)集的準(zhǔn)確率分別達(dá)到了87.1% 和42.5%[37]。
從總體來講,LLM 展現(xiàn)了在邏輯推理、編程與代碼理解以及數(shù)學(xué)推理領(lǐng)域的強(qiáng)大能力,并在某些任務(wù)評測中超過了人類的平均水平。然而,LLM 還是會在復(fù)雜推理中出現(xiàn)上下文不一致[41]與數(shù)值計(jì)算偏差[42]的問題,這可以通過細(xì)化思維鏈及指令數(shù)據(jù)方式進(jìn)行改進(jìn)。
根據(jù)AGI 的定義[3],LLM 已經(jīng)具備了AGI 的基本特征。AGI 系統(tǒng)應(yīng)具備推理、學(xué)習(xí)、理解與表示知識、規(guī)劃以及自然語言交流等能力,而LLM 已經(jīng)在這些方面取得了重要進(jìn)展,能夠通過邏輯推理和證明解決問題,理解和生成復(fù)雜的計(jì)算機(jī)代碼,并在數(shù)學(xué)推理中展示出準(zhǔn)確的解題能力。目前,雖然仍存在一些挑戰(zhàn)和局限性,但LLM 展現(xiàn)的強(qiáng)大能力為構(gòu)建AGI 系統(tǒng)提供了有力的基礎(chǔ)。
LLM 在新型電力系統(tǒng)中具有廣泛且前景可期的應(yīng)用潛力,這些應(yīng)用場景包括但不限于電力系統(tǒng)負(fù)荷預(yù)測與發(fā)電出力預(yù)測、電力系統(tǒng)規(guī)劃、電力系統(tǒng)運(yùn)行、電力系統(tǒng)故障診斷與系統(tǒng)恢復(fù)以及電力市場等領(lǐng)域,具體如圖2 所示。
圖2 LLM 在新型電力系統(tǒng)的應(yīng)用展望框架Fig.2 Framework for application prospect of LLM in new power system
電力系統(tǒng)的獨(dú)立系統(tǒng)運(yùn)營商(independent system operator,ISO)通過準(zhǔn)確的電力系統(tǒng)負(fù)荷與發(fā)電出力預(yù)測實(shí)現(xiàn)經(jīng)濟(jì)安全的電力系統(tǒng)運(yùn)行規(guī)劃和管理。該部分從用戶行為理解與用戶畫像、負(fù)荷預(yù)測以及間歇性電源出力預(yù)測3 個(gè)角度分析LLM 的潛在應(yīng)用。
2.1.1 用電行為理解和用戶畫像
電力用戶行為理解和用戶畫像構(gòu)建通過分析和理解電力用戶在不同時(shí)空條件和系統(tǒng)環(huán)境下的行為特征,構(gòu)建用戶行為畫像,為負(fù)荷預(yù)測、節(jié)能減排以及需求側(cè)資源聚合控制等問題提供用戶行為方面的預(yù)測信息。目前的用戶行為分析主要針對的是居民用戶、商業(yè)樓宇以及電動汽車用戶。
近期研究中,通常采用聚類方法或者社會心理學(xué)方式來對用電行為進(jìn)行理解。文獻(xiàn)[43]使用自編碼器和聚類方法分析了復(fù)雜電網(wǎng)環(huán)境下的居民用戶和電動車用戶的用電行為特征。文獻(xiàn)[44]從社會心理學(xué)角度分析了影響人們能量消費(fèi)的重要因素,如家庭成員數(shù)量、年齡構(gòu)成、教育程度、經(jīng)濟(jì)狀態(tài)、房屋類型等。文獻(xiàn)[45]通過分析用戶活動、使用電器及其時(shí)間來了解家庭用電特征。文獻(xiàn)[46]研究了瑞士第一個(gè)真實(shí)世界的點(diǎn)對點(diǎn)能源市場中家庭和商業(yè)實(shí)體的行為。文獻(xiàn)[47]基于聚類方法分析了工商業(yè)用戶的負(fù)荷特征,用于電力套餐設(shè)計(jì)。
目前,以電表為基本單位的用電行為模式研究正向更精細(xì)化的以個(gè)人和設(shè)備為基本單位的用電行為模式轉(zhuǎn)變,進(jìn)而考慮天氣變化、心理偏好、社會環(huán)境等超出能源系統(tǒng)環(huán)境的因素,理解差異化的用電行為并構(gòu)建精準(zhǔn)用戶畫像。但是,由于天氣、心理、社會等數(shù)據(jù)獲取困難,且現(xiàn)有數(shù)據(jù)樣本量較小,難以實(shí)際支撐具體的分析研究。LLM 的強(qiáng)泛化能力減少了對用戶標(biāo)注數(shù)據(jù)的依賴,有助于解決用電行為分析中用戶特征缺失、多源數(shù)據(jù)融合困難等問題。同時(shí),利用LLM 的潛在知識和理解能力,有望實(shí)現(xiàn)以自然語言為核心,基于數(shù)據(jù)的用戶行為理解方法。
2.1.2 負(fù)荷預(yù)測
負(fù)荷預(yù)測利用歷史和實(shí)時(shí)負(fù)荷數(shù)據(jù)、季節(jié)變化、節(jié)假日條件、天氣狀況等信息預(yù)測未來一段時(shí)間內(nèi)的電力系統(tǒng)負(fù)荷需求。負(fù)荷預(yù)測按照預(yù)測時(shí)間長短可以劃分為短期預(yù)測、中期預(yù)測與長期預(yù)測。
文獻(xiàn)[48]提出利用卡爾曼濾波和微調(diào)技術(shù)解決無法捕捉特殊社會狀態(tài)下的短期負(fù)荷預(yù)測問題。文獻(xiàn)[49]提出一種結(jié)合遷移學(xué)習(xí)和圖神經(jīng)網(wǎng)絡(luò)的短期電力負(fù)荷預(yù)測方法,以解決新居民用戶缺少數(shù)據(jù)的問題。文獻(xiàn)[50]提出一種集成機(jī)器學(xué)習(xí)的中期負(fù)荷預(yù)測方法。文獻(xiàn)[51]提出一種基于長短期記憶網(wǎng)絡(luò)的配電網(wǎng)饋線長期負(fù)荷預(yù)測方法??紤]多能負(fù)荷之間的空間耦合關(guān)系和時(shí)間耦合關(guān)系,文獻(xiàn)[52]提出一種基于ResNet-LSTM(residual network and long short- term memory)網(wǎng)絡(luò)和注意力機(jī)制多任務(wù)學(xué)習(xí)的預(yù)測方法。
可以發(fā)現(xiàn),目前大部分機(jī)器學(xué)習(xí)方法需要海量數(shù)據(jù)的支撐才能實(shí)現(xiàn)負(fù)荷的精準(zhǔn)短期預(yù)測,但新增用戶和低頻用電場景下的數(shù)據(jù)匱乏問題仍待解決。而LLM 在通用數(shù)據(jù)上進(jìn)行預(yù)訓(xùn)練和學(xué)習(xí),遷移能力強(qiáng),其小樣本學(xué)習(xí)能力有望解決該問題。對于中長期負(fù)荷預(yù)測問題,如何選取合適的經(jīng)濟(jì)、氣候和社會環(huán)境特征并生成數(shù)據(jù)是主要問題。LLM 學(xué)習(xí)了大量的通用知識,經(jīng)過少量領(lǐng)域數(shù)據(jù)進(jìn)行微調(diào),便可以通過提問、對話和提示(prompt)命令等方式形成專門的數(shù)據(jù)集。在解決可信度等問題的基礎(chǔ)上,LLM可以解決長期負(fù)荷預(yù)測的特征選擇和非用電數(shù)據(jù)生成問題。
2.1.3 間歇性電源出力預(yù)測
間歇性電源出力預(yù)測主要針對風(fēng)能和太陽能等間歇性電源,基于歷史和實(shí)時(shí)發(fā)電數(shù)據(jù)、天氣狀況等信息,預(yù)測未來一段時(shí)間內(nèi)的電源出力。不同類型的可再生能源出力由于間歇性和波動性體現(xiàn)的時(shí)間尺度(分鐘級、小時(shí)級和日級)和因素不同,在出力預(yù)測時(shí)間和特征選擇上存在一定的差異。
現(xiàn)有研究一般基于機(jī)器學(xué)習(xí)或者深度學(xué)習(xí)模型結(jié)合多種數(shù)據(jù)源進(jìn)行出力預(yù)測。文獻(xiàn)[53]總結(jié)了不同類型可再生能源的出力預(yù)測方法和變化性評估方法。文獻(xiàn)[54]提出一種基于貝葉斯模型,適用于小時(shí)以上不同時(shí)間尺度的光伏出力概率預(yù)測方法。文獻(xiàn)[55]基于衛(wèi)星圖像數(shù)據(jù)結(jié)合時(shí)空圖神經(jīng)網(wǎng)絡(luò)追蹤云運(yùn)動變化,以預(yù)測短期的太陽能出力。文獻(xiàn)[56]提出一種利用超分辨率技術(shù)提高超短期風(fēng)力預(yù)測準(zhǔn)確性的方法。文獻(xiàn)[57]提出一種基于雙重注意力長短期記憶網(wǎng)絡(luò)的超短期海上風(fēng)電出力預(yù)測方法。
目前,間歇性電源出力預(yù)測向超短期預(yù)測發(fā)展,并且越來越多地考慮天氣因素的影響。與負(fù)荷預(yù)測類似,新能源的數(shù)據(jù)匱乏和高頻出力數(shù)據(jù)缺失是當(dāng)前的重要問題之一。LLM 的小樣本數(shù)據(jù)學(xué)習(xí)能力和知識遷移能力有望幫助間歇性電源實(shí)現(xiàn)更準(zhǔn)確的超短期預(yù)測。同時(shí),LLM 的知識提取能力有望幫助超短期出力預(yù)測提供實(shí)時(shí)的天氣信息。
電力系統(tǒng)規(guī)劃以滿足電力需求增長、系統(tǒng)安全運(yùn)行、可再生能源消納、系統(tǒng)整體經(jīng)濟(jì)性等為目標(biāo),對電力系統(tǒng)的發(fā)電資源配置、電網(wǎng)結(jié)構(gòu)等進(jìn)行綜合性規(guī)劃。本節(jié)從不確定性模擬、規(guī)劃場景生成和規(guī)劃方案優(yōu)化3 個(gè)角度分析LLM 的潛在應(yīng)用。
2.2.1 不確定性模擬
不確定性模擬基于歷史數(shù)據(jù)和專家知識模擬電力系統(tǒng)的不確定性因素(例如負(fù)荷、可再生能源、經(jīng)濟(jì)環(huán)境等)變化的可能性來評估電力系統(tǒng)規(guī)劃方案的預(yù)期和風(fēng)險(xiǎn)。對不確定性因素的選取與概率分布的合理假設(shè)是不確定性模擬需要解決的核心問題。
已有研究中一般使用馬爾可夫鏈或者蒙特卡洛方法進(jìn)行不確定性模擬。文獻(xiàn)[58]針對天氣、光伏和暖通空調(diào)構(gòu)建概率密度函數(shù)和馬爾可夫鏈,并用于配電網(wǎng)規(guī)劃問題。文獻(xiàn)[59]選取電源點(diǎn)和負(fù)荷作為系統(tǒng)的不確定性,并直接給定了具體概率。文獻(xiàn)[60]考慮了負(fù)荷、能源價(jià)格、風(fēng)電出力和設(shè)備可用性的不確定性,并對前3 個(gè)特征的不確定性構(gòu)建最壞場景,最后一個(gè)特征的不確定性采用蒙特卡洛采樣。文獻(xiàn)[61]提出一種改進(jìn)馬爾可夫鏈的蒙特卡洛模擬方法,同時(shí)考慮時(shí)間獨(dú)立性和不同資源的關(guān)聯(lián)性。文獻(xiàn)[62]結(jié)合蒙特卡洛模擬和價(jià)值風(fēng)險(xiǎn)指標(biāo)解決可靠性評估問題。
盡管大部分因素的概率分布是可以確定的,例如風(fēng)電出力服從Weibull 分布、負(fù)荷服從正態(tài)分布,但是采樣數(shù)量隨特征數(shù)量和時(shí)間長度呈指數(shù)級增加,難以準(zhǔn)確模擬系統(tǒng)所有的不確定性因素。對于特定置信度/區(qū)間下的不確定性模擬和復(fù)雜依賴關(guān)系下的不確定性模擬問題,LLM 在微調(diào)后有望基于知識生成直覺性的模擬結(jié)果,以節(jié)省采樣計(jì)算時(shí)間并達(dá)到近似的結(jié)果。同時(shí),LLM 通過專家反饋學(xué)習(xí),還有望實(shí)現(xiàn)基于不確定性模擬結(jié)果的電力系統(tǒng)風(fēng)險(xiǎn)評估。
2.2.2 規(guī)劃場景生成
在電力系統(tǒng)規(guī)劃中,規(guī)劃場景生成主要利用歷史數(shù)據(jù)、算法和專家知識,生成差異性的未來典型場景,以支撐系統(tǒng)規(guī)劃和擴(kuò)展,評估規(guī)劃方案的效果。根據(jù)規(guī)劃目標(biāo)、系統(tǒng)特點(diǎn)和時(shí)間長度的不同,規(guī)劃場景生成和選擇的方法也不盡相同。
文獻(xiàn)[63]用分層聚類獲取代表日作為可再生能源不確定性的場景表示,以求解發(fā)電和輸電擴(kuò)展問題。針對輸電擴(kuò)展規(guī)劃問題,文獻(xiàn)[64]提出一種以成本為目標(biāo)的動態(tài)場景聚類方法。文獻(xiàn)[65]針對具有互相依賴特性的熱電聯(lián)產(chǎn)能源系統(tǒng)擴(kuò)展規(guī)劃問題,考慮了基于歷史數(shù)據(jù)的負(fù)荷和可再生能源出力場景。文獻(xiàn)[66]提出一種利用故障特征和故障網(wǎng)絡(luò)特點(diǎn)進(jìn)行規(guī)劃場景選擇的方法。文獻(xiàn)[67]針對電力系統(tǒng)擴(kuò)展規(guī)劃的信息物理系統(tǒng)協(xié)同安全提出一種多種系統(tǒng)攻擊場景生成方法。
規(guī)劃場景生成方法絕大部分是針對特定電網(wǎng)目標(biāo)和結(jié)構(gòu),難以將已有的場景快速遷移到具有不同結(jié)構(gòu)、出力、負(fù)荷等特性的電網(wǎng)中,且需要選擇代表性場景以減少場景數(shù)量。通過微調(diào)學(xué)習(xí)不同場景生成方法在各類型電網(wǎng)多種狀態(tài)下的典型規(guī)劃場景特征,LLM 有望實(shí)現(xiàn)規(guī)劃場景的自動生成,即通過自然語言描述自動生成典型規(guī)劃場景,并調(diào)整優(yōu)化具體場景。例如,通過輸入“考慮新能源、負(fù)荷和網(wǎng)絡(luò)信息攻擊,生成20 個(gè)IEEE 30 節(jié)點(diǎn)系統(tǒng)的典型場景”,可以依靠LLM 直接完成。
2.2.3 規(guī)劃方案優(yōu)化
規(guī)劃方案優(yōu)化通過物理模型和不確定性場景描述系統(tǒng)特征,以經(jīng)濟(jì)性、安全性、可再生能源消納等為目標(biāo),利用優(yōu)化算法求解最優(yōu)的電力系統(tǒng)規(guī)劃方案。由于目標(biāo)和場景的差異性,模型選擇上也存在差別。
目前,已有的研究通常根據(jù)不同目標(biāo)使用優(yōu)化算法來求解規(guī)劃方案。文獻(xiàn)[68]考慮了可再生能源裝機(jī)容量和環(huán)境成本目標(biāo),提出一種結(jié)合容量規(guī)劃和運(yùn)行優(yōu)化的兩階段優(yōu)化方法。針對具有能源-水-排放關(guān)系的區(qū)域電力系統(tǒng)規(guī)劃問題。文獻(xiàn)[69]綜合多種優(yōu)化方法,提出一種解決沖突和順序目標(biāo)的優(yōu)化框架。文獻(xiàn)[70]總結(jié)了高比例可再生能源下電力系統(tǒng)規(guī)劃優(yōu)化中的系統(tǒng)模型、約束條件和不確定性因素。文獻(xiàn)[71]提出一種考慮投資成本、系統(tǒng)效率和系統(tǒng)可靠性的離岸風(fēng)力發(fā)電場規(guī)劃模型。文獻(xiàn)[72]提出一種基于合作博弈的共享儲能與分布式光伏容量協(xié)同規(guī)劃方法。
總體來說,規(guī)劃方案優(yōu)化是一個(gè)構(gòu)建模型、確定約束和不確定性、優(yōu)化求解的過程,而LLM 主要可以從兩方面改進(jìn)這個(gè)過程。一方面,盡管規(guī)劃優(yōu)化能夠求解得到規(guī)劃方案,但是該方案難以被直觀理解,LLM 的自然語言生成能力可以應(yīng)用于優(yōu)化方案自動解釋中,通過對比理解不同方案,生成最優(yōu)方案的自然語言說明;另一方面,規(guī)劃方案優(yōu)化需要考慮不同的模型和約束條件,以求解得到更準(zhǔn)確的規(guī)劃結(jié)果。但是,過于復(fù)雜的模型和約束會導(dǎo)致優(yōu)化難以求解。因此,需要大量嘗試不同的模型和約束條件。通過訓(xùn)練規(guī)劃方案與模型和約束之間的關(guān)系,LLM 有望通過自然語言快速生成對應(yīng)的規(guī)劃模型和約束條件,以減少電力系統(tǒng)規(guī)劃的工作量。
電力系統(tǒng)在運(yùn)行過程中,不僅需要調(diào)度模型進(jìn)行最優(yōu)調(diào)度決策,還需要調(diào)度員根據(jù)實(shí)時(shí)負(fù)荷偏差通過操作票對發(fā)電機(jī)組、線路等設(shè)備進(jìn)行人為調(diào)度修正。本節(jié)從以調(diào)度員為核心,圍繞調(diào)度員經(jīng)驗(yàn)提取、調(diào)度建模、調(diào)度決策、操作執(zhí)行和電力系統(tǒng)態(tài)勢感知5 個(gè)角度分析LLM 的潛在應(yīng)用。
2.3.1 調(diào)度員經(jīng)驗(yàn)提取
調(diào)度員經(jīng)驗(yàn)提取的目標(biāo)是通過從調(diào)度員調(diào)度數(shù)據(jù)中獲取對調(diào)度調(diào)整、緊急事件處理等系統(tǒng)運(yùn)行相關(guān)的經(jīng)驗(yàn)和知識,以幫助新調(diào)度員快速學(xué)習(xí)調(diào)度知識、提供緊急調(diào)度輔助優(yōu)化決策以及調(diào)度模式分析等。
現(xiàn)有的相關(guān)研究相對較少,主要采用知識圖譜和生成對抗網(wǎng)絡(luò)方法提取調(diào)度員的行為經(jīng)驗(yàn)。文獻(xiàn)[73]通過構(gòu)建配電網(wǎng)拓?fù)渲R圖譜實(shí)現(xiàn)配電網(wǎng)拓?fù)渥R別。文獻(xiàn)[74]提出一種構(gòu)建電網(wǎng)調(diào)度知識圖譜的方法。文獻(xiàn)[75]總結(jié)和展望了知識圖譜在電力系統(tǒng)調(diào)度和運(yùn)作的潛在應(yīng)用。文獻(xiàn)[76]針對短期調(diào)度任務(wù)提出一種基于生成對抗網(wǎng)絡(luò)的調(diào)度行為學(xué)習(xí)方法。
現(xiàn)有的調(diào)度員經(jīng)驗(yàn)提取方法最大的問題在于提取的經(jīng)驗(yàn)可拓展性和可遷移性較弱,難以形成通用和全面的電網(wǎng)調(diào)度經(jīng)驗(yàn)知識并適用于具有不同網(wǎng)架結(jié)構(gòu)、負(fù)荷、出力以及設(shè)備特點(diǎn)的電網(wǎng)。利用LLM泛化性強(qiáng)的特點(diǎn),可以將調(diào)度員行為數(shù)據(jù)總結(jié)為更加通用的、可解釋的調(diào)度經(jīng)驗(yàn)知識,以改進(jìn)結(jié)構(gòu)化知識的弱點(diǎn)。
2.3.2 調(diào)度建模
調(diào)度建模通過對電力系統(tǒng)拓?fù)?、設(shè)備狀態(tài)和運(yùn)行規(guī)則進(jìn)行建模,以支撐電力系統(tǒng)調(diào)度決策和分析。根據(jù)系統(tǒng)特性、設(shè)備條件、系統(tǒng)約束等不同,調(diào)度建模也不盡相同。
近期研究中,一般根據(jù)不同場景建立目標(biāo)優(yōu)化模型。文獻(xiàn)[77]考慮了5 種不同的調(diào)度模式和動態(tài)碳排放交易系統(tǒng),提出了風(fēng)光火一體化多能源混合電力調(diào)度模型。文獻(xiàn)[78]針對火電、水電和可控負(fù)荷作為可調(diào)度資源的電力系統(tǒng),提出一個(gè)日前調(diào)度模型。文獻(xiàn)[79]由可再生能源和能源中心組成的孤島電網(wǎng)進(jìn)行分布式運(yùn)行管理。文獻(xiàn)[80]針對區(qū)域綜合能源系統(tǒng)提出了考慮可再生能源不確定性和電動汽車的多目標(biāo)優(yōu)化模型。文獻(xiàn)[81]針對信息物理融合的微能源網(wǎng),提出綜合多種因素的統(tǒng)一調(diào)控模型。
目前,調(diào)度建模正向多能源種類、多設(shè)備類型和多系統(tǒng)融合發(fā)展,這將導(dǎo)致調(diào)度建模越來越復(fù)雜,對調(diào)度員的要求越來越高。與程序代碼類似,LLM 有望從兩方面輔助調(diào)度員進(jìn)行調(diào)度建模。一方面,可以利用LLM 對建好的調(diào)度模型進(jìn)行特性解釋,生成調(diào)度員可以理解的模型特征描述,例如,設(shè)備類型、能源種類等;另一方面,基于自然語言生成和改進(jìn)調(diào)度模型的設(shè)備、約束等函數(shù),可減少調(diào)度員構(gòu)建模型的工作量。
2.3.3 調(diào)度決策
調(diào)度決策基于調(diào)度模型和優(yōu)化目標(biāo)求解包括啟停機(jī)計(jì)劃、發(fā)電機(jī)組出力、輸配電線功率、可控負(fù)荷等控制變量,以滿足電力系統(tǒng)經(jīng)濟(jì)安全低碳運(yùn)行需求。在這個(gè)過程中,調(diào)度員要根據(jù)經(jīng)驗(yàn)對調(diào)度決策結(jié)果進(jìn)行分析評估和調(diào)整。
目前已有研究中通常采用目標(biāo)優(yōu)化或者博弈方法進(jìn)行建模。文獻(xiàn)[82]提出一種同時(shí)考慮經(jīng)濟(jì)成本、電壓偏差和統(tǒng)計(jì)電壓穩(wěn)定指數(shù)的多目標(biāo)調(diào)度方法。文獻(xiàn)[83]提出一種基于Stackelberg 博弈的綜合能源系統(tǒng)低碳經(jīng)濟(jì)調(diào)度方法。針對園區(qū)綜合能源系統(tǒng),文獻(xiàn)[84]提出一種以經(jīng)濟(jì)和環(huán)境為目標(biāo)的優(yōu)化調(diào)度方法,并考慮了碳市場的影響。文獻(xiàn)[85]提出一種基于有限時(shí)間共識的分布式優(yōu)化算法來解決經(jīng)濟(jì)調(diào)度問題。文獻(xiàn)[86]采用滾動優(yōu)化方法在線求解每個(gè)調(diào)度時(shí)段的孤島運(yùn)行方案,并提出了間歇性電源的有功出力控制策略。
多目標(biāo)是未來電力系統(tǒng)調(diào)度決策的重要發(fā)展方向,這需要調(diào)度員從經(jīng)濟(jì)性、安全性、低碳性、各個(gè)主體的博弈關(guān)系、與其他能源系統(tǒng)的配合等多個(gè)角度綜合評價(jià)調(diào)度決策的好壞,增加了判斷的難度。
LLM 可以對決策進(jìn)行快速評估,輸出自然語言的決策評估結(jié)果,以幫助調(diào)度員快速分析調(diào)度決策在各個(gè)維度的表現(xiàn)。同時(shí),調(diào)度員可以利用自然語言讓LLM 提供決策改進(jìn)建議,以輔助調(diào)度員進(jìn)行快速的調(diào)度決策調(diào)整。
2.3.4 操作執(zhí)行
操作執(zhí)行是將調(diào)度決策落實(shí)到電力系統(tǒng)的實(shí)際操作過程。具體而言,就是調(diào)度員根據(jù)經(jīng)驗(yàn)進(jìn)行調(diào)度計(jì)劃的調(diào)整,并編寫操作票。
目前還沒有專門針對操作執(zhí)行的具體研究。在寫作輔助任務(wù)方面,LLM 已經(jīng)表現(xiàn)出強(qiáng)大的上下文生成和泛化能力。文獻(xiàn)[87]提出一種基于LLM 的AI 輔助郵件寫作工具。文獻(xiàn)[88]探索了指令微調(diào)在不同寫作輔助場景對LLM 的改進(jìn)效果。
與其他寫作輔助任務(wù)類似,經(jīng)過特定任務(wù)微調(diào)后的LLM 可以根據(jù)調(diào)度員的調(diào)度決策關(guān)鍵信息生成規(guī)范化的業(yè)務(wù)操作票,以節(jié)省調(diào)度操作執(zhí)行的時(shí)間。
2.3.5 電力系統(tǒng)態(tài)勢感知
電力系統(tǒng)態(tài)勢感知針對大規(guī)模復(fù)雜電網(wǎng)系統(tǒng)狀態(tài)難以直觀理解的問題,通過歷史和當(dāng)前電網(wǎng)的測量數(shù)據(jù),基于事件分析和系統(tǒng)狀態(tài)預(yù)測算法實(shí)現(xiàn)對電力系統(tǒng)狀態(tài)的監(jiān)測、分析和預(yù)測,并通過可視化技術(shù)展示結(jié)果。
已有研究通常使用基于測量系統(tǒng)或者神經(jīng)網(wǎng)絡(luò)方法進(jìn)行態(tài)勢感知。文獻(xiàn)[89]提出一種基于廣域測量系統(tǒng)的同步發(fā)電機(jī)一致性檢測方法,用于電力系統(tǒng)態(tài)勢感知中。文獻(xiàn)[90]提出一種基于配電網(wǎng)相位測量單元數(shù)據(jù)的事件提取和檢測方法。文獻(xiàn)[91]提出基于卷積神經(jīng)網(wǎng)絡(luò)和長短期記憶網(wǎng)絡(luò)的態(tài)勢感知方案,用于檢測故障位置和預(yù)測穩(wěn)定性。文獻(xiàn)[92]利用遷移學(xué)習(xí)解決電力系統(tǒng)少樣本事件的識別問題。文獻(xiàn)[93]分別對電力系統(tǒng)態(tài)勢感知在電力系統(tǒng)事件監(jiān)測、電力系統(tǒng)事件辨識、電力系統(tǒng)風(fēng)險(xiǎn)預(yù)測、態(tài)勢可視化技術(shù)、廣域控制和風(fēng)險(xiǎn)調(diào)度進(jìn)行了技術(shù)總結(jié)和展望。
現(xiàn)有電力系統(tǒng)態(tài)勢感知的難點(diǎn)在于如何融合多類型事件識別結(jié)果形成未來態(tài)勢預(yù)測,并可視化展示。LLM 可以將態(tài)勢預(yù)測數(shù)值結(jié)果轉(zhuǎn)化為調(diào)度員可以理解的系統(tǒng)態(tài)勢自然語言表示,然后結(jié)合圖像化插件,形成可視化態(tài)勢感知展示結(jié)果,以輔助調(diào)度員快速理解系統(tǒng)整體運(yùn)行態(tài)勢。
電力系統(tǒng)故障診斷通過對監(jiān)測信息和報(bào)警信息的分析確認(rèn)故障的類型、位置和原型,并采用設(shè)備修復(fù)、切機(jī)切負(fù)荷、主動解列等措施將電力系統(tǒng)恢復(fù)到正常狀態(tài)。本節(jié)從設(shè)備故障診斷、輸電和配電系統(tǒng)故障診斷、輸電系統(tǒng)恢復(fù)和配電系統(tǒng)恢復(fù)4 個(gè)角度分析LLM 的潛在應(yīng)用。
2.4.1 設(shè)備故障診斷
電氣設(shè)備故障診斷針對不同類型設(shè)備結(jié)構(gòu)和功能特性,利用氣體、光學(xué)等傳感器數(shù)據(jù)信息進(jìn)行設(shè)備的故障特征提取與分類。不同類型設(shè)備的監(jiān)測數(shù)據(jù)和故障診斷方法差異較大。
目前,已有研究中一般基于不同的傳感器數(shù)據(jù)整合及處理方式進(jìn)行故障診斷。文獻(xiàn)[94]基于有載分接開關(guān)振動信號數(shù)據(jù),提出一種基于同源異構(gòu)數(shù)據(jù)特征融合的機(jī)械故障診斷方法。文獻(xiàn)[95]基于變壓器溶解氣體分析數(shù)據(jù),提出一種結(jié)合序貫卡爾曼濾波的故障診斷方法。文獻(xiàn)[96]提出一種基于定子電力和振動信號的感應(yīng)電動機(jī)多類型故障診斷方法。文獻(xiàn)[97]提出一種基于紅外圖像切割和溫度分析的變電站絕緣子故障診斷方法。文獻(xiàn)[98]提出基于數(shù)字孿生的小型變壓器管開路故障診斷方法。
設(shè)備故障檢測主要利用感應(yīng)數(shù)據(jù)進(jìn)行故障類型識別,但各類型故障數(shù)據(jù)量小,環(huán)境、天氣、系統(tǒng)等外部因素難以采集是設(shè)備故障監(jiān)測的主要難點(diǎn)。LLM 的泛化性優(yōu)勢有望幫助設(shè)備故障檢測解決該問題,即利用小樣本微調(diào)學(xué)習(xí)適合于目標(biāo)設(shè)備的診斷模型。同時(shí),LLM 也可以基于診斷結(jié)果和系統(tǒng)狀態(tài)自動生成故障診斷綜合報(bào)告,減少后續(xù)決策時(shí)間。
2.4.2 輸電和配電系統(tǒng)故障診斷
電網(wǎng)故障診斷需要從故障數(shù)據(jù)和監(jiān)測數(shù)據(jù)中快速匹配故障特征,分析故障的原因和位置,為故障恢復(fù)提供可靠依據(jù)。輸電系統(tǒng)故障診斷主要涉及高壓輸電線路、變電站等設(shè)備的故障,而配電系統(tǒng)故障診斷主要涉及低壓配電線路、配電變壓器等設(shè)備的故障。
在目前的研究中,通?;诜蔷€性或者深度學(xué)習(xí)模型進(jìn)行故障診斷。文獻(xiàn)[99]考慮電力物聯(lián)網(wǎng)信息下,基于分布式相位測量單元數(shù)據(jù)判斷故障位置和類型。文獻(xiàn)[100]提出一種基于深度學(xué)習(xí)的紫外線-可見光視頻處理方法,用于配電網(wǎng)線路故障診斷。文獻(xiàn)[101]提出一種針對主動配電網(wǎng)的高阻抗故障診斷的非線性等效模型。文獻(xiàn)[102]通過將自覺模糊邏輯加入脈沖神經(jīng)P 系統(tǒng),提出一種改進(jìn)的電力系統(tǒng)故障診斷方法。文獻(xiàn)[103]提出一種基于卷積神經(jīng)網(wǎng)絡(luò)的交直流輸電系統(tǒng)故障診斷方法。
輸配電系統(tǒng)故障診斷情況復(fù)雜、可能影響因素多且存在信息誤報(bào)和多故障同時(shí)發(fā)生的可能性,很難做到對所有的故障類型同時(shí)診斷。LLM 的通用性有望將不同類型故障診斷的知識學(xué)習(xí)融匯到一個(gè)模型中,實(shí)現(xiàn)多類型故障的同時(shí)診斷。
2.4.3 輸電系統(tǒng)恢復(fù)
輸電系統(tǒng)恢復(fù)的目標(biāo)是在發(fā)生輸電系統(tǒng)故障后,恢復(fù)輸電系統(tǒng)的供電能力和穩(wěn)定性,更關(guān)注輸電網(wǎng)解列后子系統(tǒng)如何快速協(xié)調(diào)恢復(fù)的問題。
目前,一般采用整數(shù)規(guī)劃求解方法來完成輸電系統(tǒng)恢復(fù)。文獻(xiàn)[104]提出一種基于兩階段混合整數(shù)線性規(guī)劃問題的自適應(yīng)輸電系統(tǒng)恢復(fù)決策方法,以減少系統(tǒng)恢復(fù)時(shí)間。文獻(xiàn)[105]提出雙層決策的多分區(qū)輸電網(wǎng)系統(tǒng)恢復(fù)方法。文獻(xiàn)[106]針對高風(fēng)電滲透率的輸電系統(tǒng)恢復(fù),提出一種魯棒分布式的并行子系統(tǒng)協(xié)調(diào)方案。文獻(xiàn)[107]提出一種計(jì)及通信系統(tǒng)失效的信息物理協(xié)同恢復(fù)策略。
輸電網(wǎng)恢復(fù)需要在確保電網(wǎng)安全的基礎(chǔ)上采用多階段方式逐步恢復(fù)電網(wǎng)穩(wěn)定輸電的能力,在高比例新能源滲透的情況下其安全性和穩(wěn)定性愈發(fā)難以保障。LLM 更適用于對恢復(fù)方案的多維度安全綜合評估,以輔助調(diào)度員進(jìn)行恢復(fù)方案調(diào)整和確認(rèn)。
2.4.4 配電系統(tǒng)恢復(fù)
配電系統(tǒng)恢復(fù)主要涉及修復(fù)故障設(shè)備、恢復(fù)接通用戶和運(yùn)行備用設(shè)備等操作,以恢復(fù)配電系統(tǒng)的供電服務(wù)能力。
在已有研究中通常使用調(diào)度與協(xié)調(diào)方式完成配電系統(tǒng)的恢復(fù)。文獻(xiàn)[108]提出一種考慮柔性軟開關(guān)的多周期配電系統(tǒng)恢復(fù)模型。文獻(xiàn)[109]提出一種考慮電-水-氣互相依賴的配電系統(tǒng)恢復(fù)方法。文獻(xiàn)[110]提出一種協(xié)調(diào)維修人員、移動電源、可再生能源和儲能資源的穩(wěn)健恢復(fù)方法。文獻(xiàn)[111]通過調(diào)度分布式能源、配電系統(tǒng)控制設(shè)備的輸出以及輸電系統(tǒng)恢復(fù)的功率消耗,逐步恢復(fù)配電系統(tǒng)平衡。文獻(xiàn)[112]提出一種考慮間歇性電源出力不確定性的配電系統(tǒng)恢復(fù)模型。
相對于輸電系統(tǒng)恢復(fù),配電系統(tǒng)恢復(fù)可控對象更少,決策時(shí)間更短,更容易形成標(biāo)準(zhǔn)化的恢復(fù)方案。一方面,LLM 可以基于調(diào)度員的語言提示快速生成恢復(fù)方案,并通過具體標(biāo)準(zhǔn)進(jìn)行評價(jià),以幫助調(diào)度員快速選擇合適的恢復(fù)方案;另一方面,對于維修人員,LLM 可以通過視頻接入實(shí)現(xiàn)恢復(fù)過程中的設(shè)備操作指導(dǎo)和監(jiān)督,進(jìn)一步確保操作人員的行為安全。
目前,很多國家和地區(qū)都在經(jīng)歷深刻的電力市場化變革。美國、歐洲、澳大利亞等已從傳統(tǒng)的壟斷型電力體制轉(zhuǎn)向更加開放和競爭的電力市場模式,以提高效率和鼓勵創(chuàng)新。從2015 年開始,中國的電力市場改革也正在快速推進(jìn)。在電力市場改革的推動下,正在逐步引入競爭機(jī)制,同時(shí)也在積極推動電力系統(tǒng)的清潔和智能化。
電力市場研究涵蓋了一系列復(fù)雜且相互關(guān)聯(lián)的問題和環(huán)節(jié),主要包括電力市場建模、電力市場決策、電力市場機(jī)制設(shè)計(jì)等。LLM 在這些問題中均有很大的應(yīng)用潛力。
2.5.1 電力市場建模
電力市場建模是對電力市場進(jìn)行定量研究的基礎(chǔ)。典型的電力市場模型包括以下幾個(gè)方面。首先,它涉及物理電力系統(tǒng)的建模,包括發(fā)電機(jī)、電力網(wǎng)絡(luò)和負(fù)荷。其次,需要構(gòu)建電力市場交易機(jī)制的模型,例如現(xiàn)貨電力市場的出清機(jī)制模型。最后,還需要構(gòu)建市場參與者交易行為的模型。其中,對物理電力系統(tǒng)和電力市場交易機(jī)制的建模研究相對成熟,但市場參與者行為的建模仍面臨許多未解決的挑戰(zhàn)。
在經(jīng)濟(jì)學(xué)的傳統(tǒng)研究方法中,交易行為的建模主要依賴于博弈論或優(yōu)化模型,這些模型的優(yōu)勢在于它們擁有嚴(yán)謹(jǐn)?shù)睦碚摶A(chǔ)。然而,這些模型通常需要對市場參與者做出嚴(yán)格的理論假設(shè),例如理性人假設(shè)或完全信息假設(shè),這些假設(shè)在真實(shí)市場中可能并不總是成立,從而可能導(dǎo)致模型結(jié)果與市場實(shí)際情況的偏差。而利用機(jī)器學(xué)習(xí)等AI 技術(shù)可以基于歷史數(shù)據(jù),對市場主體交易行為進(jìn)行更加精確的建模。文獻(xiàn)[113]對基于AI 的電力市場建模研究進(jìn)行了較為完整的論述?,F(xiàn)有文獻(xiàn)已將監(jiān)督學(xué)習(xí)(如神經(jīng)網(wǎng)絡(luò)與支持向量機(jī))、無監(jiān)督學(xué)習(xí)(如聚類算法)、智能優(yōu)化(如遺傳算法)等多類AI 技術(shù)應(yīng)用于解決電力市場交易行為建模問題。相關(guān)研究覆蓋了主網(wǎng)市場、配電網(wǎng)市場、微電網(wǎng)交易、端到端(peerto-peer,P2P)交易等多種市場類型[113]。
雖然基于機(jī)器學(xué)習(xí)技術(shù)的交易行為建模方法可以不受傳統(tǒng)經(jīng)濟(jì)學(xué)理論假設(shè)的限制,但這些方法屬于數(shù)據(jù)驅(qū)動方法,需要足夠的歷史數(shù)據(jù)保證模型準(zhǔn)確性。在實(shí)際應(yīng)用中,可能面臨歷史數(shù)據(jù)不足,或在市場基本面發(fā)生結(jié)構(gòu)性變化時(shí),模型泛化能力差等難題。如1.3 節(jié)所示,LLM 在很多應(yīng)用中已經(jīng)展現(xiàn)了遠(yuǎn)超傳統(tǒng)機(jī)器學(xué)習(xí)方法的常識理解和邏輯推理能力。因此,LLM 在少樣本和無樣本的應(yīng)用中具有顯著優(yōu)勢。文獻(xiàn)[114]研究表明,基于ChatGPT 可以在不需要?dú)v史數(shù)據(jù)的情況下,真實(shí)地模擬人類在一個(gè)小型社區(qū)中的常識性行為?;陬愃扑悸?,在市場建設(shè)初期、歷史交易數(shù)據(jù)不足或難以獲取、市場基本面突然發(fā)生結(jié)構(gòu)性變化等情況下,利用LLM 有可能構(gòu)建更加精確,且能夠基于常識考慮各種市場外生變量影響的交易行為模型。
2.5.2 電力市場決策
在給定市場機(jī)制的前提下,市場主體如何優(yōu)化自身決策是電力市場研究中的一個(gè)重要課題?,F(xiàn)有文獻(xiàn)中,針對相關(guān)問題的研究包括利用時(shí)間序列模型與深度學(xué)習(xí)模型對市場邊界條件(如負(fù)荷、碳價(jià)格)進(jìn)行預(yù)測[115]、利用深度強(qiáng)化學(xué)習(xí)等技術(shù)解決現(xiàn)貨市場競價(jià)策略優(yōu)化[116]、雙邊交易策略優(yōu)化[117]、需求響應(yīng)策略優(yōu)化[118]、風(fēng)險(xiǎn)管理[119]等各類決策問題。與上述方法相比,LLM 的主要優(yōu)勢是在給定不同的市場機(jī)制與邊界條件的情況下,具有基于常識和邏輯推理自主生成策略的能力。因此,可以探索基于LLM 的能夠應(yīng)對市場環(huán)境快速變化的電力市場決策方法。
2.5.3 電力市場機(jī)制設(shè)計(jì)
電力市場機(jī)制設(shè)計(jì)是指為電力產(chǎn)業(yè)制定一套規(guī)則和機(jī)制,以便在電力生產(chǎn)、傳輸、分配和消費(fèi)的各個(gè)環(huán)節(jié)中實(shí)現(xiàn)有效的資源配置。這涉及一系列關(guān)鍵決策,包括市場結(jié)構(gòu)(如壟斷、寡頭或競爭)、定價(jià)機(jī)制(如成本加成定價(jià)或競爭拍賣)、交易規(guī)則(如雙邊合同或集中市場)等?,F(xiàn)有的電力市場設(shè)計(jì)研究通常以機(jī)制設(shè)計(jì)理論為基本理論工具[120]。機(jī)制設(shè)計(jì)理論主要研究在信息不對稱的情況下如何設(shè)計(jì)一種機(jī)制,使得每個(gè)參與者在追求自身利益的同時(shí),整個(gè)系統(tǒng)能夠達(dá)到某種預(yù)定的社會目標(biāo)(如市場效率、公平性、可持續(xù)性、激勵相容等)。現(xiàn)有文獻(xiàn)中,機(jī)制設(shè)計(jì)理論一般以博弈論作為量化建模的工具[121],將機(jī)制設(shè)計(jì)理論與LLM 結(jié)合,利用LLM 的常識理解與邏輯推理能力,更精確合理地模擬市場主體行為,從而更好地保證電力市場機(jī)制設(shè)計(jì)的合理性與實(shí)用性,是一個(gè)很有前景的研究方向。
在電力系統(tǒng)應(yīng)用研究中,LLM 的一個(gè)重要挑戰(zhàn)是數(shù)據(jù)管理問題,具體來說是數(shù)據(jù)質(zhì)量和可獲取性的挑戰(zhàn)。這2 個(gè)問題對于電力系統(tǒng)的分析和優(yōu)化具有關(guān)鍵性的影響。
1)數(shù)據(jù)質(zhì)量問題。電力系統(tǒng)中的數(shù)據(jù)通常來自各種傳感器和監(jiān)測設(shè)備,如同步測量單元和智能電表[122]等。數(shù)據(jù)格式通常包含復(fù)雜操作調(diào)度指令、信號序列等信息。這些設(shè)備可能存在噪聲、缺失值、異常值等問題,導(dǎo)致數(shù)據(jù)質(zhì)量不高[123]。這些問題會對LLM 的訓(xùn)練與推理產(chǎn)生影響,從而影響電力系統(tǒng)的穩(wěn)定性和可靠性。
2)數(shù)據(jù)可獲取性問題。電力系統(tǒng)中的數(shù)據(jù)通常分布在不同的地方,包括各個(gè)電站、變電站、輸電線路等,數(shù)據(jù)的獲取和整合比較困難[124]。此外,電力系統(tǒng)中的數(shù)據(jù)通常是實(shí)時(shí)生成的,需要實(shí)時(shí)采集和處理,這也增加了數(shù)據(jù)獲取的難度。為了解決這些問題,研究人員需要開發(fā)高效的數(shù)據(jù)采集和處理方法,以便在保證數(shù)據(jù)質(zhì)量的同時(shí),提高數(shù)據(jù)的可獲取性。
為了應(yīng)對這些挑戰(zhàn),研究人員可以采用多種方法來提高數(shù)據(jù)質(zhì)量和可獲取性。例如,可以使用數(shù)據(jù)清洗和預(yù)處理技術(shù)來消除噪聲、填補(bǔ)缺失值和檢測異常值[125]。此外,可以利用分布式計(jì)算和云計(jì)算技術(shù)來實(shí)現(xiàn)數(shù)據(jù)的實(shí)時(shí)采集和處理[126]。通過這些方法,研究人員可以在保證數(shù)據(jù)質(zhì)量的同時(shí),提高數(shù)據(jù)的可獲取性,從而為電力系統(tǒng)的優(yōu)化和分析提供更可靠的支持。
LLM 的另一個(gè)挑戰(zhàn)是其可解釋性和可靠性。
1)可解釋性問題。LLM 通常是黑盒模型,難以解釋其預(yù)測結(jié)果的詳細(xì)機(jī)理。在電力系統(tǒng)中,LLM產(chǎn)生的決策和預(yù)測的可解釋性對于操作人員和決策者至關(guān)重要。然而,由于LLM 的復(fù)雜結(jié)構(gòu)和參數(shù)數(shù)量巨大,其內(nèi)部機(jī)制和決策過程往往難以解釋和理解[127]。這可能導(dǎo)致研究員與調(diào)度員對模型的信任度降低,影響電力系統(tǒng)的調(diào)度建模與決策模型的應(yīng)用和接受度。另外,LLM 在訓(xùn)練過程中可能受到數(shù)據(jù)偏差和樣本不平衡的影響,導(dǎo)致模型在特定場景下的可靠性不足。因此,如何提高LLM 的可解釋性和可靠性,使其能夠給出可信的預(yù)測結(jié)果,并與操作人員和決策者進(jìn)行有效的溝通和交互,是電力系統(tǒng)應(yīng)用中亟待解決的問題。
2)可靠性問題。LLM 的可靠性是指模型的預(yù)測結(jié)果是否準(zhǔn)確可靠。在電力系統(tǒng)中,模型的負(fù)荷或者電源出力預(yù)測結(jié)果直接關(guān)系到電力系統(tǒng)的安全和穩(wěn)定運(yùn)行[128]。因此,需要對模型的可靠性進(jìn)行評估和驗(yàn)證,以確保模型的預(yù)測結(jié)果準(zhǔn)確、可靠。常用的評估方法包括交叉驗(yàn)證[129]、測試集驗(yàn)證[130]等。
LLM 在電力系統(tǒng)應(yīng)用中還面臨著信息安全和隱私保護(hù)的挑戰(zhàn)。
1)信息安全問題。LLM 通常需要在網(wǎng)絡(luò)上進(jìn)行傳輸和共享,涉及網(wǎng)絡(luò)信息安全問題。需要采取一系列的網(wǎng)絡(luò)安全措施,如防火墻、加密傳輸、身份認(rèn)證[131]等方法,確保模型在傳輸和共享過程中的安全性。
2)數(shù)據(jù)隱私問題。電力系統(tǒng)作為關(guān)鍵基礎(chǔ)設(shè)施,涉及大量敏感信息和關(guān)鍵操作。LLM 在訓(xùn)練和應(yīng)用過程中,需要使用和處理大量的電力系統(tǒng)數(shù)據(jù)。然而,這些數(shù)據(jù)往往包含相關(guān)設(shè)備、網(wǎng)絡(luò)拓?fù)?、運(yùn)行狀態(tài)和安全策略等敏感信息,并且涉及能源安全和國家安全等重要領(lǐng)域,需要保證數(shù)據(jù)的安全性和隱私性[132]。在收集LLM 訓(xùn)練語料時(shí)需要注意去除用戶用電信息、電力系統(tǒng)拓?fù)浣Y(jié)構(gòu)及運(yùn)行等敏感信息。在使用LLM 進(jìn)行數(shù)據(jù)分析和預(yù)測時(shí),需要采取一系列隱私保護(hù)措施,如數(shù)據(jù)加密、權(quán)限控制和安全傳輸?shù)确椒?,確保數(shù)據(jù)的安全性和隱私性。
3)模型隱私問題。LLM 通常是基于大規(guī)模數(shù)據(jù)訓(xùn)練得到的,可能包含一些敏感信息。在使用這些模型進(jìn)行數(shù)據(jù)分析和預(yù)測時(shí),需要采取一些隱私保護(hù)措施,如差分隱私[133]、模型剪枝[134]等方法,確保模型的隱私性。
為了應(yīng)對LLM 在電力系統(tǒng)應(yīng)用中的信息安全與隱私保護(hù)挑戰(zhàn),需要采取綜合性的應(yīng)對策略。這些策略包括以下3 個(gè)方面:1)安全開發(fā)和部署,在LLM 的開發(fā)和部署過程中,應(yīng)遵循安全開發(fā)生命周期的原則,確保模型在設(shè)計(jì)、開發(fā)、測試和部署階段都符合安全要求[135];2)數(shù)據(jù)脫敏和匿名化,在收集和處理電力系統(tǒng)數(shù)據(jù)時(shí),應(yīng)采用數(shù)據(jù)脫敏和匿名化技術(shù),以降低數(shù)據(jù)泄露的風(fēng)險(xiǎn)[136];3)安全審計(jì)和監(jiān)控,對LLM 的使用和訪問進(jìn)行實(shí)時(shí)監(jiān)控,以便及時(shí)發(fā)現(xiàn)和應(yīng)對潛在的安全威脅[137]。通過實(shí)施這些綜合性應(yīng)對策略,可以有效處理LLM 在電力系統(tǒng)應(yīng)用中的信息安全和隱私保護(hù)。
建立新型電力系統(tǒng)被視為實(shí)現(xiàn)國家“碳中和”目標(biāo)的關(guān)鍵策略和必要保障。運(yùn)用AGI 技術(shù)進(jìn)一步增強(qiáng)電力系統(tǒng)的智能水平,為解決新型電力系統(tǒng)所面臨的各種挑戰(zhàn)提供了全新的途徑。近年來,LLM代表了AI 領(lǐng)域的重大突破,標(biāo)志著AGI 發(fā)展的新方向。本文首先對LLM 的原理和實(shí)現(xiàn)技術(shù)進(jìn)行了介紹,同時(shí)探討了與傳統(tǒng)AI 技術(shù)相比,LLM 在智能水平上的核心優(yōu)勢。接著,對LLM 在電力系統(tǒng)領(lǐng)域的潛在應(yīng)用進(jìn)行了展望,包括負(fù)荷預(yù)測、發(fā)電出力預(yù)測、電力系統(tǒng)規(guī)劃、電力系統(tǒng)運(yùn)行、電力系統(tǒng)故障診斷與系統(tǒng)恢復(fù)、電力市場等領(lǐng)域,以及通向新型電力系統(tǒng)的自主調(diào)度、可靠規(guī)劃與決策、智能診斷與恢復(fù)等目標(biāo)。最后,探討了LLM 在數(shù)據(jù)管理、模型透明可靠、信息安全等方面所面臨的挑戰(zhàn)。