楊晨 周帥 朱國(guó)華
摘? 要: 針對(duì)現(xiàn)有復(fù)雜系統(tǒng)并行優(yōu)化結(jié)構(gòu)優(yōu)化難度大、開發(fā)效率低等問題,為了實(shí)現(xiàn)復(fù)雜系統(tǒng)參數(shù)優(yōu)化結(jié)構(gòu)的通用性和開發(fā)高效性,基于HLA分布式仿真框架,提出一種將仿真模型參數(shù)空間分區(qū)進(jìn)行優(yōu)化的通用并行優(yōu)化結(jié)構(gòu),介紹并分析了仿真分區(qū)并行優(yōu)化調(diào)度機(jī)制,并在此基礎(chǔ)上進(jìn)行系統(tǒng)實(shí)現(xiàn)。仿真分析比較表明,相較于現(xiàn)有并行仿真參數(shù)優(yōu)化體系結(jié)構(gòu),文中的仿真結(jié)構(gòu)具有更好的通用性和開發(fā)高效性。運(yùn)用通用、分區(qū)并行的復(fù)雜系統(tǒng)參數(shù)優(yōu)化結(jié)構(gòu),可以在保證參數(shù)優(yōu)化高效的同時(shí),降低系統(tǒng)開發(fā)的時(shí)間成本。
關(guān)鍵詞: 參數(shù)分區(qū); 并行優(yōu)化; 仿真模型; 復(fù)雜系統(tǒng); 參數(shù)優(yōu)化; 比較分析
中圖分類號(hào): TN919?34; TP399? ? ? ? ? ? ? ? ? ?文獻(xiàn)標(biāo)識(shí)碼: A? ? ? ? ? ? ? ? ? ? ? 文章編號(hào): 1004?373X(2020)22?0136?04
Abstract: In allusion to the problem that the parallel optimization structure of existing complex system is difficult to optimize and has low development efficiency, a general parallel optimization architecture that the parameter space partition of the simulation model is optimized is proposed based on the HLA distributed simulation framework to achieve the universality and development efficiency of the parameter optimization structure of the complex system. The scheduling mechanism of the simulation partition parallel optimization is introduced and analyzed, on which the system implementation is performed. The simulation analysis and comparison show that, in comparison with the existing parallel simulation parameter optimization architecture, the simulation structure in this paper has better universality and development efficiency. The use of general and partition parallel parameter optimization structure of complex system can not only ensure the efficient parameter optimization, but also reduce the time cost of system development.
Keywords: parameter partition; parallel optimization; simulation model; complex system; parameter optimization; comparative analysis
0? 引? 言
21世紀(jì)以來,仿真模型參數(shù)優(yōu)化問題一直受到眾多學(xué)者的廣泛關(guān)注,其中復(fù)雜系統(tǒng)模型參數(shù)優(yōu)化問題尤為突出。目前的模型參數(shù)優(yōu)化方法有建立數(shù)學(xué)模型進(jìn)行優(yōu)化、基于仿真的參數(shù)優(yōu)化和利用近似模型進(jìn)行優(yōu)化等[1]。由于復(fù)雜系統(tǒng)的仿真模型參數(shù)過多、系統(tǒng)實(shí)體之間關(guān)聯(lián)性強(qiáng)等問題導(dǎo)致復(fù)雜系統(tǒng)參數(shù)優(yōu)化耗時(shí)過長(zhǎng)、難以接受,而仿真能夠很好地解決這種帶有不確定性和隨機(jī)性的問題,因此建立復(fù)雜系統(tǒng)的模型構(gòu)建和仿真優(yōu)化的體系架構(gòu),提高參數(shù)優(yōu)化的速度,是目前復(fù)雜系統(tǒng)仿真優(yōu)化面臨的重要挑戰(zhàn)。
并行仿真是目前提高復(fù)雜系統(tǒng)參數(shù)優(yōu)化效率的重要解決方案,但是目前的并行優(yōu)化算法和結(jié)構(gòu)都是針對(duì)特定問題的專用解決方案,通用性差,難以適用于其他系統(tǒng)的優(yōu)化。本文設(shè)計(jì)一套融合了分布式仿真(High Level Architecture,HLA)[2]和模型參數(shù)分區(qū)優(yōu)化的分布式并行框架[3],并在此基礎(chǔ)上進(jìn)行系統(tǒng)實(shí)現(xiàn)。該系統(tǒng)運(yùn)用分布式仿真框架,采用分區(qū)并行的參數(shù)迭代尋優(yōu)方法,不僅具有分布性和并發(fā)性,能充分發(fā)揮龐大的計(jì)算機(jī)資源優(yōu)勢(shì)而且具有通用性和運(yùn)用難度低的優(yōu)點(diǎn),能有效地提高仿真參數(shù)優(yōu)化的運(yùn)行速度和開發(fā)效率。
1? 研究背景
隨著計(jì)算機(jī)技術(shù)、人工智能和數(shù)學(xué)分析方法的發(fā)展,仿真參數(shù)優(yōu)化算法取得了卓越的進(jìn)展?,F(xiàn)今大部分學(xué)者都是針對(duì)特定問題開展仿真優(yōu)化工作,吳詩(shī)輝等人運(yùn)用神經(jīng)網(wǎng)絡(luò)對(duì)仿真系統(tǒng)進(jìn)行模擬,驗(yàn)證了該方法的可行性和高效性[4]。孫永澤等人對(duì)隨機(jī)響應(yīng)面算法進(jìn)行改進(jìn),提出了一種針對(duì)于深度學(xué)習(xí)的超參數(shù)優(yōu)化算法,對(duì)深度學(xué)習(xí)模型有更好的優(yōu)化效果,但是通用性較差[5]。姬杭等人搭建了一種輕量級(jí)的復(fù)雜系統(tǒng)建模和仿真框架,為復(fù)雜系統(tǒng)仿真框架提供了研究思路[6]。
仿真的最大優(yōu)勢(shì)就是能夠通過多次運(yùn)行和調(diào)整闡釋不確定性和隨機(jī)性的問題。基于仿真的參數(shù)優(yōu)化包括兩種方法,分別是優(yōu)化模型的輸入?yún)?shù)和對(duì)模型內(nèi)部參數(shù)進(jìn)行優(yōu)化,本文主要探討的是針對(duì)模型內(nèi)部參數(shù)的優(yōu)化。有大量的學(xué)者針對(duì)復(fù)雜系統(tǒng)優(yōu)化問題進(jìn)行了研究[7?10],其基本的仿真框架可以分為以下三類:
1) 將候選策略集中的策略逐一輸入仿真模型,驅(qū)動(dòng)仿真運(yùn)行,然后比較每一組仿真輸出結(jié)果,根據(jù)輸出結(jié)果來確定最優(yōu)的策略;
2) 將仿真模塊嵌入到優(yōu)化算法中,將仿真模塊的輸出作為算法的適應(yīng)值,指導(dǎo)優(yōu)化算法搜索新的解,優(yōu)化算法產(chǎn)生的新解又作為下一次的仿真輸入,直到滿足模型的終止條件;
3) 利用近似模型對(duì)仿真模型進(jìn)行模擬,大多利用神經(jīng)網(wǎng)絡(luò)對(duì)模型進(jìn)行模擬,然后對(duì)近似模型進(jìn)行優(yōu)化,達(dá)到滿意的終止條件后再映射到真實(shí)模型上。
由于復(fù)雜系統(tǒng)仿真參數(shù)優(yōu)化速度慢,許多學(xué)者采用并行的優(yōu)化結(jié)構(gòu)來提高參數(shù)優(yōu)化速度。王家潤(rùn)等針對(duì)并行處理中的線程任務(wù)分解共性難點(diǎn),提出軟硬件結(jié)合的并行優(yōu)化策略及反距離權(quán)重(IDW)插值的并行優(yōu)化算法(PIDW),并驗(yàn)證了該并行結(jié)構(gòu)的高效性[11];王雅琳等以MapReduce的任務(wù)分發(fā)思想構(gòu)建算法的并行處理框架,設(shè)計(jì)任務(wù)預(yù)分配策略,減少通信成本,提高計(jì)算效率[12]。上述的并行優(yōu)化結(jié)構(gòu)都在特定問題上發(fā)揮著至關(guān)重要的作用,提高了仿真參數(shù)優(yōu)化速度,但研究始終圍繞著根據(jù)特定問題進(jìn)行的建模設(shè)計(jì),其并行優(yōu)化結(jié)構(gòu)通用性較差,難以適用于其他問題。
針對(duì)上述問題本文提出分區(qū)并行優(yōu)化思想,并基于HLA仿真體系設(shè)計(jì)開發(fā)一套支撐分區(qū)參數(shù)并行優(yōu)化思想的分布式仿真架構(gòu)。通過分區(qū)并行參數(shù)優(yōu)化方法對(duì)復(fù)雜系統(tǒng)模型中的關(guān)鍵參數(shù)進(jìn)行整定和優(yōu)化,相較于現(xiàn)有的仿真并行優(yōu)化體系,本系統(tǒng)具備更好的通用性和更高的開發(fā)效率。
2? 模型參數(shù)分區(qū)并行仿真優(yōu)化原理
傳統(tǒng)方法下大多采用并行調(diào)度方式進(jìn)行仿真優(yōu)化,其原理如圖1所示。傳統(tǒng)的并行優(yōu)化只針對(duì)一個(gè)特定的仿真方案,將仿真方案中的多個(gè)仿真模型用于一個(gè)仿真進(jìn)程內(nèi)進(jìn)行優(yōu)化,但是每個(gè)仿真模型只有一個(gè)仿真進(jìn)程。這種方法雖然優(yōu)化進(jìn)程也屬于并發(fā)處理,但是首先,仿真進(jìn)程依然是對(duì)單個(gè)仿真進(jìn)程進(jìn)行參數(shù)優(yōu)化,其次,多個(gè)仿真模型雖然是并發(fā)的,但是每個(gè)仿真模型只有一個(gè)進(jìn)程。這種方案利用的計(jì)算資源相對(duì)有限,模型優(yōu)化速度也受到很大的限制。相較于傳統(tǒng)的并行優(yōu)化結(jié)構(gòu),本文系統(tǒng)利用HLA模型之間相互獨(dú)立、仿真進(jìn)程互不影響的特性,提出一種將模型參數(shù)空間分區(qū)并行優(yōu)化的結(jié)構(gòu),對(duì)于每個(gè)仿真模型,建立多個(gè)模型參數(shù)空間,每個(gè)參數(shù)空間對(duì)應(yīng)通過互相獨(dú)立的仿真優(yōu)化進(jìn)程,從而實(shí)現(xiàn)單個(gè)模型在多個(gè)參數(shù)空間內(nèi)進(jìn)行并行優(yōu)化,其原理如圖2所示。本分區(qū)并行優(yōu)化結(jié)構(gòu)相較于傳統(tǒng)的參數(shù)優(yōu)化結(jié)構(gòu)更具通用性,并能同時(shí)實(shí)現(xiàn)多模型的并行優(yōu)化,充分利用分布式的計(jì)算資源,從軟件結(jié)構(gòu)上解決復(fù)雜模型參數(shù)優(yōu)化的效率問題。
優(yōu)化框架各部分說明:
1) 仿真運(yùn)行支撐環(huán)境是整個(gè)優(yōu)化框架的基礎(chǔ)支撐,從仿真的方案、模型設(shè)計(jì),仿真運(yùn)行到仿真模型的參數(shù)優(yōu)化,整個(gè)過程與仿真環(huán)境密不可分,所有的操作均基于分布式仿真環(huán)境,同時(shí)又為仿真環(huán)境所服務(wù)。
2) 仿真設(shè)計(jì)器為用戶提供界面化、智能化的仿真方案設(shè)計(jì)功能,用戶只需在方案設(shè)計(jì)界面進(jìn)行拖拽操作,并輸入仿真的目標(biāo)函數(shù)或適應(yīng)度函數(shù),無需任何編碼,即可完成整個(gè)仿真方案的設(shè)計(jì)。
3) 運(yùn)行調(diào)度模塊為不同的仿真方案分配相應(yīng)的仿真資源,采用多種資源調(diào)度算法充分發(fā)揮分布式、龐大的計(jì)算資源優(yōu)勢(shì),提高仿真優(yōu)化的速度和仿真資源的利用率。
4) 解析執(zhí)行器將仿真得出的數(shù)據(jù)轉(zhuǎn)化為優(yōu)化器所能解析的數(shù)據(jù),同時(shí)接受優(yōu)化器發(fā)送的優(yōu)化數(shù)據(jù),為下一步的仿真運(yùn)行提供參數(shù)優(yōu)化方向指導(dǎo)。
5) 運(yùn)行控制器能控制仿真進(jìn)程的開始、暫停/繼續(xù)、結(jié)束等基本仿真功能,還能接收從解析執(zhí)行器發(fā)送的模型新參數(shù)信息,為仿真模型的下一次仿真迭代設(shè)置參數(shù)。
6) Elf(智能優(yōu)化器)是整個(gè)仿真優(yōu)化體系的核心,優(yōu)化器分區(qū)優(yōu)化方法對(duì)復(fù)雜系統(tǒng)模型中的關(guān)鍵參數(shù)進(jìn)行整定和優(yōu)化,為參數(shù)優(yōu)化提供指導(dǎo)方向,使系統(tǒng)得到相對(duì)最優(yōu)參數(shù)并使系統(tǒng)達(dá)到最優(yōu)或滿意的輸出指標(biāo)。
3? 模型參數(shù)仿真優(yōu)化機(jī)制設(shè)計(jì)
在復(fù)雜系統(tǒng)中,往往有多個(gè)模型參數(shù)需要優(yōu)化,由于多個(gè)模型之間存在數(shù)據(jù)交互關(guān)系,且模型之間互相影響,逐個(gè)模型進(jìn)行優(yōu)化耗時(shí)過長(zhǎng),且難以獲得最終滿足條件的參數(shù)。本文根據(jù)復(fù)雜模型參數(shù)優(yōu)化特點(diǎn),結(jié)合分布式仿真體系,搭建了分布式仿真模型參數(shù)優(yōu)化體系,其優(yōu)化流程如圖4所示。
1) 仿真設(shè)計(jì)人員通過仿真設(shè)計(jì)器設(shè)計(jì)仿真參數(shù)優(yōu)化方案。
2) 利用運(yùn)行調(diào)度器為仿真方案分配相應(yīng)的仿真資源。
3) 在運(yùn)行控制器接收到開始仿真指令后,仿真模型根據(jù)仿真方案中設(shè)定的初始參數(shù)進(jìn)行第一次仿真。
4) Elf智能優(yōu)化器從分布式仿真環(huán)境獲取仿真模型參數(shù)和仿真目標(biāo)值,優(yōu)化器通過優(yōu)化算法進(jìn)行參數(shù)調(diào)整,將新的模型參數(shù)發(fā)送至解析執(zhí)行器。
5) 經(jīng)由運(yùn)行控制器將新的參數(shù)賦給仿真模型,進(jìn)行下一次迭代,直到經(jīng)過優(yōu)化后的仿真模型參數(shù)滿足優(yōu)化終止條件。
在分布式仿真優(yōu)化體系的基礎(chǔ)上,本文提出了多種并行優(yōu)化機(jī)制,主要體現(xiàn)在以下三個(gè)層面,分別是單模型的并行優(yōu)化、多模型的并行優(yōu)化和方案級(jí)的并行優(yōu)化。
單模型級(jí)的并行針對(duì)于單個(gè)模型復(fù)雜度較高的情況,由于仿真模型的復(fù)雜度不同,往往存在某些仿真模型復(fù)雜度相較其他模型復(fù)雜度較高,在有的仿真模型已經(jīng)到達(dá)相對(duì)最優(yōu)解時(shí),某些仿真模型仍需要大量的優(yōu)化迭代,此時(shí)單模型的并行最為適用。多模型并行優(yōu)化機(jī)制主要針對(duì)于模型之間關(guān)聯(lián)性較強(qiáng),模型之間調(diào)用關(guān)系復(fù)雜的情況,多模型的并行能將多個(gè)模型獨(dú)立開,并通過分布式環(huán)境進(jìn)行數(shù)據(jù)交互,能將復(fù)雜問題分解成多個(gè)獨(dú)立的優(yōu)化問題,并且多個(gè)優(yōu)化進(jìn)程之間是并行的。仿真方案級(jí)的優(yōu)化針對(duì)于復(fù)雜系統(tǒng)過于龐大,上述兩種級(jí)別的并行優(yōu)化已經(jīng)不能滿足優(yōu)化效率時(shí),仿真方案級(jí)的優(yōu)化以仿真方案為單獨(dú)的個(gè)體,能夠利用多個(gè)相同的仿真方案的并行運(yùn)行來完成仿真模型的優(yōu)化任務(wù)。
本文設(shè)計(jì)一種單模型的并行優(yōu)化機(jī)制,其結(jié)構(gòu)如圖5所示。其中B模型復(fù)雜度相對(duì)較高,因此可以在仿真方案中設(shè)計(jì)多個(gè)B成員,分別賦不同的參數(shù)值,在經(jīng)過一次迭代后,智能優(yōu)化器能接收到多組B成員的模型參數(shù),能夠同時(shí)進(jìn)行多個(gè)相同模型的參數(shù)優(yōu)化。
多模型的并行優(yōu)化結(jié)構(gòu)如圖6所示。多個(gè)仿真成員之間具有數(shù)據(jù)傳遞關(guān)系,共同組成復(fù)雜系統(tǒng)的優(yōu)化方案。多仿真成員之間進(jìn)行數(shù)據(jù)交互,多個(gè)不同的仿真模型分別將各自的仿真輸出經(jīng)由分布式環(huán)境轉(zhuǎn)發(fā)至智能優(yōu)化器,智能優(yōu)化器根據(jù)最終的優(yōu)化目標(biāo)和仿真成員各自的輸出得出下一次優(yōu)化迭代中各個(gè)仿真成員所需的參數(shù),達(dá)到多成員并行優(yōu)化的目的。
當(dāng)系統(tǒng)復(fù)雜度過大時(shí),上述兩種模型級(jí)的并行就不能滿足優(yōu)化的性能需求,本文系統(tǒng)設(shè)計(jì)了一種方案級(jí)的并行結(jié)構(gòu),將仿真模型參數(shù)域劃分成多個(gè)等分,每個(gè)仿真方案只在自己的參數(shù)域中尋求最優(yōu)解,最終將多個(gè)參數(shù)域的仿真結(jié)果進(jìn)行比較,得出最優(yōu)的參數(shù)解,其并行結(jié)構(gòu)如圖7所示。
4? 結(jié)? 語
本文提出的基于分布式仿真的復(fù)雜系統(tǒng)參數(shù)優(yōu)化框架,運(yùn)用分區(qū)并行策略優(yōu)化模型參數(shù)。相較于傳統(tǒng)的仿真優(yōu)化框架,本框架既具備分布性和并行性,還具備開發(fā)高效性和通用性。本文目前完成基于分布式仿真和分區(qū)并行優(yōu)化的系統(tǒng)設(shè)計(jì)和原型實(shí)現(xiàn),在接下來的研究中,將使用該框架進(jìn)行典型仿真應(yīng)用的優(yōu)化性能測(cè)試。同時(shí)進(jìn)一步完善框架的實(shí)用性和通用性,調(diào)整仿真資源分配和模型參數(shù)優(yōu)化算法,進(jìn)一步提高仿真效率和參數(shù)優(yōu)化效率,優(yōu)化系統(tǒng)的人機(jī)交互方式,使本仿真平臺(tái)更具實(shí)用性。
注:本文通訊作者為朱國(guó)華。
參考文獻(xiàn)
[1] 于夢(mèng)閣,潘振寬,蔣榮超,等.基于近似模型的高速列車頭型多目標(biāo)優(yōu)化設(shè)計(jì)[J].機(jī)械工程學(xué)報(bào),2019,55(24):178?186.
[2] 朱國(guó)華,丁建軍,楊晨,等.基于HLA的模型級(jí)仿真成員組合技術(shù)研究[J].現(xiàn)代電子技術(shù),2016,39(12):10?13.
[3] 亢良伊,王建飛,劉杰,等.可擴(kuò)展機(jī)器學(xué)習(xí)的并行與分布式優(yōu)化算法綜述[J].軟件學(xué)報(bào),2018,29(1):109?130.
[4] 吳詩(shī)輝,劉曉東,邵悅,等.一種基于神經(jīng)網(wǎng)絡(luò)的仿真優(yōu)化方法[J].系統(tǒng)仿真學(xué)報(bào),2018,30(1):36?44.
[5] 孫永澤,陸忠華.基于超限學(xué)習(xí)機(jī)與隨機(jī)響應(yīng)面方法的深度學(xué)習(xí)超參數(shù)優(yōu)化算法[J].高技術(shù)通訊,2019,29(12):1165?1174.
[6] 姬杭,周軍華,施國(guó)強(qiáng),等.一種復(fù)雜系統(tǒng)輕量化建模與仿真技術(shù)框架[J].系統(tǒng)仿真學(xué)報(bào),2018,30(6):2013?2019.
[7] 袁小芳,劉晉偉,陳秋伊,等.并行混沌與和聲搜索的多目標(biāo)混合優(yōu)化算法[J].湖南大學(xué)學(xué)報(bào)(自然科學(xué)版),2018,45(4):96?103.
[8] 鄭世明,徐新偉,朱江.基于構(gòu)件的武器裝備體系敏捷仿真框架研究[J].指揮控制與仿真,2019,41(2):87?93.
[9] 周檬,賈亞雷.基于改進(jìn)粒子群優(yōu)化算法的先進(jìn)絕熱壓縮空氣儲(chǔ)能系統(tǒng)參數(shù)優(yōu)化[J].熱力發(fā)電,2018(1):94?99.
[10] 閆濤,劉鳳嫻,陳斌.基于量子混沌粒子群優(yōu)化算法的分?jǐn)?shù)階超混沌系統(tǒng)參數(shù)估計(jì)[J].電子學(xué)報(bào),2018,46(2):333?340.
[11] 王家潤(rùn),謝海峰.基于任務(wù)分解模型的離散數(shù)據(jù)格網(wǎng)化并行優(yōu)化[J].計(jì)算機(jī)工程與設(shè)計(jì),2018,39(6):1774?1781.
[12] 王雅琳,孫家舟,薛永飛,等.面向分餾塔操作參數(shù)優(yōu)化的帶禁忌表并行粒子群優(yōu)化算法[J].大連理工大學(xué)學(xué)報(bào),2019,59(2):194?200.