亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        多智能體系統(tǒng)的隊(duì)形控制方法及應(yīng)用綜述

        2017-08-30 00:01:21禹鑫何燕琳歐林林
        關(guān)鍵詞:隊(duì)形移動(dòng)機(jī)器人編隊(duì)

        禹鑫,何燕琳,歐林林,程 誠

        (浙江工業(yè)大學(xué) 信息工程學(xué)院,杭州 310023)

        多智能體系統(tǒng)的隊(duì)形控制方法及應(yīng)用綜述

        (浙江工業(yè)大學(xué) 信息工程學(xué)院,杭州 310023)

        多智能體系統(tǒng)隊(duì)形控制的研究主要集中于隊(duì)形形成、隊(duì)形保持和隊(duì)形變換3個(gè)方面;首先,介紹、分析了多種隊(duì)形控制方法,包括軌跡跟蹤法、行動(dòng)選擇法、假想剛體法、網(wǎng)絡(luò)關(guān)系圖分析法、動(dòng)態(tài)編隊(duì)法、虛擬勢(shì)場(chǎng)法、學(xué)習(xí)控制法和混合控制法等;其次,對(duì)移動(dòng)機(jī)器人、無人機(jī)、水下機(jī)器人等多智能體系統(tǒng)的隊(duì)形控制應(yīng)用進(jìn)行研究;然后,給出了近年來多智能體系統(tǒng)隊(duì)形控制的研究進(jìn)展,包括基于復(fù)Laplacian矩陣的多維空間隊(duì)形控制方法,其它領(lǐng)域技術(shù)(云計(jì)算、圖像處理等)用于隊(duì)形控制的研究成果,并對(duì)基于隊(duì)形控制的多移動(dòng)機(jī)器人和無人機(jī)搬運(yùn)作了介紹;最后,給出了當(dāng)前隊(duì)形控制研究中尚未解決的問題,包括隊(duì)形擴(kuò)展,隊(duì)形穩(wěn)定性,通信、傳感器功能,異構(gòu)多智能體系統(tǒng)隊(duì)形控制和機(jī)械臂編隊(duì)等。

        隊(duì)形控制;多智能體系統(tǒng);編隊(duì)?wèi)?yīng)用

        0 引言

        隨著社會(huì)生產(chǎn)的發(fā)展和科學(xué)技術(shù)的創(chuàng)新升級(jí),越來越多的任務(wù)正從由人類完成轉(zhuǎn)變到通過智能體來完成。隨著任務(wù)復(fù)雜度的提高,對(duì)單智能體的要求也越來越高,出現(xiàn)了單智能體很難或是無法完成給定任務(wù)的情況,人們開始對(duì)多智能體系統(tǒng)進(jìn)行研究。多智能體系統(tǒng)“是由多個(gè)智能體組成的集合,智能體之間以及智能體與環(huán)境之間通過通訊、協(xié)商與協(xié)作來共同完成單個(gè)智能體所不能解決的問題”[1]。多智能體系統(tǒng)有很多優(yōu)勢(shì),如提高完成任務(wù)的效率,較大的冗余,更好的容錯(cuò)性、魯棒性、經(jīng)濟(jì)效益等等,因此多智能體系統(tǒng)的規(guī)劃、協(xié)調(diào)和競(jìng)爭(zhēng)等研究在控制領(lǐng)域和人工智能領(lǐng)域獲得了廣泛的關(guān)注[2-4]。在較多任務(wù)中,需要多智能體在運(yùn)動(dòng)和完成任務(wù)時(shí)保持一定的隊(duì)形,這樣不僅能夠充分獲取周邊環(huán)境信息,還能提高工作效率,增強(qiáng)系統(tǒng)的魯棒性,因此多智能體的隊(duì)形控制研究受到了多方面的關(guān)注。

        隊(duì)形控制指“多個(gè)智能體組成的團(tuán)體在向特定目標(biāo)或方向運(yùn)動(dòng)過程中,相互之間保持預(yù)定的幾何形態(tài)(即隊(duì)形),同時(shí)又要適應(yīng)環(huán)境約束(例如避開障礙物)的控制問題”[5]。近十幾年來,國內(nèi)外在隊(duì)形控制方面進(jìn)行了大量的研究,研究?jī)?nèi)容主要集中在以下3個(gè)方面:第一是隊(duì)形形成,主要研究多智能體如何自主形成目標(biāo)隊(duì)形的問題;第二是隊(duì)形保持,研究多智能體實(shí)現(xiàn)隊(duì)形后,在運(yùn)動(dòng)和作業(yè)時(shí)保持隊(duì)形不變的問題;第三是隊(duì)形變換,研究多智能體從一種隊(duì)形轉(zhuǎn)換到另一種隊(duì)形的問題,包括主動(dòng)變換和被動(dòng)變換兩種方式,主動(dòng)變換往往是由于任務(wù)要求,需要多智能體變換成另一種隊(duì)形從而能夠完成或是更好的完成任務(wù),被動(dòng)變換一般是由環(huán)境造成的,使得多智能體不得不做出隊(duì)形變換,此時(shí)的隊(duì)形變換主要是為了躲避障礙物以便多智能體能夠順利進(jìn)行任務(wù)。

        隊(duì)形控制的應(yīng)用十分廣泛,在工業(yè)、軍事、航空等領(lǐng)域擁有很好的前景。在工業(yè)制造中,例如通過多智能體系統(tǒng)進(jìn)行大型物體或是危險(xiǎn)物品的搬運(yùn),對(duì)多智能體的隊(duì)形位置有一定的要求,需要實(shí)現(xiàn)搬運(yùn)過程中負(fù)載平衡,避免出現(xiàn)某一智能體承受過多負(fù)載的情況,同時(shí)還提高了效率,保障人類安全。在軍事領(lǐng)域,自古排兵布陣是很有學(xué)問的,在現(xiàn)代軍事裝備下,通過保持合理合適的隊(duì)形,可以做到攻守兼?zhèn)?,大大提高了軍事?shí)力;在危險(xiǎn)、惡劣環(huán)境下,通過智能體代替士兵的方式,進(jìn)行諸如探索未知環(huán)境、排雷、巡邏、偵察等任務(wù),能夠最大程度的保證人員安全,同時(shí)完成任務(wù)。在航天領(lǐng)域,航天器如地球衛(wèi)星等在一定程度上可以看成是智能體,因此航天器的編隊(duì)也是屬于多智能體編隊(duì)領(lǐng)域,通過將衛(wèi)星、探測(cè)器等航天器進(jìn)行編隊(duì)探索宇宙,不僅能降低成本,提高系統(tǒng)的可靠性,還可以完成許多單個(gè)航天器無法實(shí)現(xiàn)的任務(wù)。在某些特殊情況下,可以進(jìn)行地震或是水災(zāi)后的營救、物資發(fā)放。民用上可以進(jìn)行農(nóng)作物的播種、播撒(農(nóng)藥)、收割。因此,對(duì)多智能體系統(tǒng)隊(duì)形控制的研究在多智能體控制領(lǐng)域得到了廣泛的關(guān)注。

        1 國內(nèi)外研究現(xiàn)狀

        隨著在工業(yè)領(lǐng)域中計(jì)算機(jī)技術(shù),人工智能技術(shù),自動(dòng)化控制技術(shù)的飛速發(fā)展,多智能體系統(tǒng)的隊(duì)形控制已經(jīng)成為國內(nèi)外的熱點(diǎn)前沿研究領(lǐng)域,每年在國內(nèi)外主流學(xué)術(shù)期刊以及重要國際、國內(nèi)控制會(huì)議上都有許多關(guān)于多智能體系統(tǒng)隊(duì)形控制的文獻(xiàn)出版。近幾年提出的主要編隊(duì)方法有軌跡跟蹤法,行動(dòng)選擇法,假想剛體法,網(wǎng)絡(luò)關(guān)系圖分析法,動(dòng)態(tài)編隊(duì)法等。

        關(guān)于不同編隊(duì)方法的國內(nèi)外研究現(xiàn)狀將分別加以詳細(xì)闡述。

        1.1 軌跡跟蹤法

        軌跡跟蹤法是一種由領(lǐng)航智能體和跟隨智能體組成的編隊(duì)方法,領(lǐng)航者采用直接指定的方式,需完成跟蹤給定軌跡的任務(wù),余下的智能體作為跟隨者跟蹤領(lǐng)航機(jī)器人軌跡,同時(shí)與領(lǐng)航者之間保持相對(duì)位置或是保持一定的距離[6]。該方法將隊(duì)形控制的問題轉(zhuǎn)換成軌跡跟蹤的問題,主要研究距離和角度的相對(duì)誤差,與控制理論知識(shí)的誤差概念相近,因此也可以用控制理論的知識(shí)來研究該方法。

        Kumar教授是較早對(duì)軌跡跟蹤法進(jìn)行研究的人員,對(duì)這種方法的主要工作包括:提出了l-φ和l-l兩種跟蹤領(lǐng)航者軌跡的經(jīng)典編隊(duì)模式,提出輸入輸出線性化方法[7],之后在l-φ和l-l兩種模式基礎(chǔ)上實(shí)現(xiàn)了任意隊(duì)形切換[8-9]。除了以上兩種策略實(shí)現(xiàn)軌跡跟蹤法的編隊(duì),還有其它的控制策略能夠?qū)崿F(xiàn)編隊(duì),包括基于李雅普諾夫直接法的運(yùn)動(dòng)控制方法[10],轉(zhuǎn)換策略[11]等等。其他研究人員也對(duì)這種方法進(jìn)行了研究。Soorki等[12]將Kumar提出的兩種編隊(duì)模式結(jié)合,提出了l-l-φ的編隊(duì)方式,利用反饋線性化分析方法,對(duì)相對(duì)于領(lǐng)航者的跟隨者進(jìn)行了相對(duì)距離和方向角穩(wěn)定性分析,針對(duì)機(jī)器人的一階和二階運(yùn)動(dòng)學(xué)模型設(shè)計(jì)了隊(duì)形控制器,同時(shí)將障礙物作為一個(gè)虛擬領(lǐng)航者,提出了快速避障的方法;Peng等[13]采用了軌跡跟蹤法的思想研究編隊(duì)問題,通過簡(jiǎn)單的輸入輸出線性方法推導(dǎo)出4個(gè)控制律研究了編隊(duì)問題;Wu等人[14]研究了基于跟隨領(lǐng)航動(dòng)力學(xué)模型的編隊(duì)問題,采用線性化方法設(shè)計(jì)了速度控制器,將隊(duì)形控制問題轉(zhuǎn)換成追蹤問題實(shí)現(xiàn)編隊(duì);Guo等[15]給出了雙領(lǐng)航者的控制策略,規(guī)定只有領(lǐng)航者知道行進(jìn)路線,其余每個(gè)智能體有且只有兩個(gè)鄰居智能體并組成三角形隊(duì)形,對(duì)三角形的組成規(guī)則進(jìn)行了約束,構(gòu)成了串級(jí)連接,能夠用于大規(guī)模編隊(duì);日本學(xué)者Choi等[16]考慮到實(shí)際環(huán)境和噪聲會(huì)對(duì)傳感器數(shù)據(jù)產(chǎn)生影響,導(dǎo)致隊(duì)形不穩(wěn)定,因此對(duì)軌跡跟蹤編隊(duì)控制下的多智能體系統(tǒng)隊(duì)形進(jìn)行了PID控制算法的研究,提高了隊(duì)形的穩(wěn)定性。

        軌跡跟蹤法只需要給定領(lǐng)航者的行進(jìn)路線,就能夠控制所有智能體形成隊(duì)形,不需要進(jìn)行復(fù)雜的數(shù)學(xué)分析。此外,該方法能夠進(jìn)行擴(kuò)展,即通過指定多個(gè)多級(jí)領(lǐng)航者形成大規(guī)模的隊(duì)形,但隊(duì)形的主領(lǐng)航者只有一個(gè),其余領(lǐng)航者根據(jù)上下級(jí)關(guān)系保持跟蹤上一級(jí)的隊(duì)形領(lǐng)航者,其余跟隨者按照隊(duì)形要求跟蹤各個(gè)次級(jí)領(lǐng)航者,從而實(shí)現(xiàn)規(guī)模擴(kuò)展。這種方法也有缺點(diǎn):整個(gè)隊(duì)形依賴領(lǐng)航智能體[17-19],隊(duì)形沒有反饋機(jī)制。研究人員提出了一些解決辦法。針對(duì)領(lǐng)航者出現(xiàn)故障的情況,最直接有效的解決方法是更換領(lǐng)航者。曹志強(qiáng)等人[20]就對(duì)“Leader更換”的方法進(jìn)行了研究,即當(dāng)領(lǐng)航智能體無法繼續(xù)執(zhí)行任務(wù)時(shí),按設(shè)定的規(guī)則從余下智能體中選出新的領(lǐng)航者繼續(xù)執(zhí)行接下去的任務(wù),解決了領(lǐng)航智能體出現(xiàn)故障時(shí)隊(duì)形控制的問題;針對(duì)缺乏反饋機(jī)制的問題,Kumar等人采用反饋線性化技術(shù)克服了該缺點(diǎn)[7],并以智能體之間不同的拓?fù)湮恢藐P(guān)系作為依據(jù),設(shè)計(jì)了適合不同情況的3種控制器[11-21]。

        1.2 行動(dòng)選擇法

        行動(dòng)選擇法很早就被用于計(jì)算機(jī)仿真,研究動(dòng)物的行動(dòng),如鳥類、魚類的聚集行動(dòng)。Balch和Arkin首次將行動(dòng)選擇法運(yùn)用到多智能體隊(duì)形控制領(lǐng)域,設(shè)計(jì)了一系列基本行動(dòng),實(shí)現(xiàn)多智能體系統(tǒng)編隊(duì)、避障并最終到達(dá)目標(biāo)點(diǎn)[22]。行動(dòng)選擇法“主要是通過對(duì)智能體基本行動(dòng)以及局部控制規(guī)則的設(shè)計(jì)使得智能體群體產(chǎn)生所需的整體行動(dòng)”[23]。該方法的核心是行動(dòng)和行動(dòng)選擇,因此如何定義行動(dòng)和行動(dòng)選擇機(jī)制十分重要。行動(dòng)往往是一些簡(jiǎn)單的基本動(dòng)作,主要包括了避碰、避障和保持隊(duì)形等等,且都有各自的觸發(fā)條件和實(shí)現(xiàn)目標(biāo),“當(dāng)智能體傳感器接收到外界環(huán)境刺激后,根據(jù)傳感器的輸入信息做出反應(yīng),并輸出反應(yīng)向量作為該行動(dòng)的期望反應(yīng)(如方向和運(yùn)動(dòng)速度)”[5]。

        對(duì)行動(dòng)的設(shè)計(jì)可以根據(jù)已知任務(wù)中可能會(huì)遇到的情況進(jìn)行設(shè)計(jì),同時(shí)考慮智能體是否能夠執(zhí)行該行動(dòng)。相比行動(dòng)設(shè)計(jì)問題,行動(dòng)選擇機(jī)制的研究更有意義,行動(dòng)選擇機(jī)制目前主要有3種[[22,24]:第一種是行動(dòng)抑制法,基本思想是對(duì)行動(dòng)按照規(guī)則制定優(yōu)先級(jí),雖然各個(gè)行動(dòng)之間是相互獨(dú)立的,但是在編隊(duì)和運(yùn)動(dòng)過程中,行動(dòng)之間會(huì)發(fā)生時(shí)間上的沖突,如當(dāng)智能體向目標(biāo)前進(jìn)的過程中遇到了障礙物,此時(shí)的智能體最應(yīng)該采取的是避障行動(dòng),但當(dāng)前執(zhí)行的是向目標(biāo)前進(jìn)的行動(dòng),為了解決這樣的沖突,可以通過設(shè)定優(yōu)先級(jí)解決沖突問題,即高優(yōu)先級(jí)的行動(dòng)抑制低優(yōu)先級(jí)的行動(dòng)。第二種是加權(quán)平均法,行動(dòng)抑制法用數(shù)學(xué)語言描述就是行動(dòng)權(quán)值大小的問題,但是只有兩種權(quán)值0和1,因此有可能會(huì)造成控制不平滑,加權(quán)平均法是將各個(gè)行動(dòng)的輸出向量乘以一定的權(quán)重求出矢量和,其權(quán)值的大小對(duì)應(yīng)行動(dòng)的重要性,經(jīng)正則化后作為智能體的輸出,是在充分考慮行動(dòng)的重要性后再進(jìn)行的行動(dòng)選擇,可以得到較好的結(jié)果。第3種是模糊邏輯法,該方法本質(zhì)是加權(quán)平均法的變形,根據(jù)具體情況確定權(quán)值的大小,按照模糊規(guī)則綜合各個(gè)行動(dòng)的輸出,從而確定智能體的輸出。

        行動(dòng)選擇法中,智能體的最終行動(dòng)取決于基本行動(dòng),基本行動(dòng)的選擇依賴于其它智能體的信息,因此隊(duì)形具有明確的反饋機(jī)制;當(dāng)多智能體系統(tǒng)需要對(duì)多個(gè)競(jìng)爭(zhēng)性目標(biāo)進(jìn)行整合時(shí),只需通過制定的規(guī)則選擇行動(dòng)和權(quán)重,就能夠快速得出控制策略;從本質(zhì)上來說,這是一種分布式的控制方法,可以進(jìn)行規(guī)模擴(kuò)展。該方法的主要缺點(diǎn)在于行動(dòng)難以量化,很難從數(shù)學(xué)上進(jìn)行性質(zhì)(如穩(wěn)定性)分析。

        1.3 假想剛體法

        Tan和Lewis[25]是最早提出假想剛體法的,當(dāng)時(shí)是為了解決多智能體系統(tǒng)協(xié)作的問題,該方法的基本思想是,將整個(gè)隊(duì)形作為一個(gè)假想的剛性結(jié)構(gòu)體進(jìn)行研究。剛體在空間中運(yùn)動(dòng)時(shí),其上面每一點(diǎn)的位置雖然都在變化,但是點(diǎn)與點(diǎn)之間的相對(duì)位置是保持不變的,如果將這些點(diǎn)看作是智能體,那么當(dāng)這樣的剛體運(yùn)動(dòng)時(shí),智能體在剛體作為參考的坐標(biāo)系下的坐標(biāo)是不變的,即多智能體系統(tǒng)能夠組成具有一定幾何形狀的隊(duì)形并且保持不變,這些智能體共同形成了一個(gè)假想的剛性結(jié)構(gòu),這樣的結(jié)構(gòu)稱為假想結(jié)構(gòu)。

        假想剛體法進(jìn)行編隊(duì)的本質(zhì)是智能體跟蹤剛體上對(duì)應(yīng)的期望點(diǎn),每個(gè)智能體的期望點(diǎn)可以通過對(duì)目標(biāo)隊(duì)形的分析計(jì)算得到,將編隊(duì)的問題轉(zhuǎn)換成了跟蹤的問題,但又不同于軌跡跟蹤法的跟隨者跟蹤領(lǐng)航者軌跡的跟蹤,假想剛體法的跟蹤是各個(gè)智能體跟蹤通過隊(duì)形分析得到的相應(yīng)的軌跡,此外,軌跡的獲取需要其余智能體的信息,因此具有反饋機(jī)制。有學(xué)者就是將編隊(duì)問題轉(zhuǎn)換成跟蹤問題,以假想剛體法分析計(jì)算得到智能體期望點(diǎn)的路徑,采用反步法技術(shù),設(shè)計(jì)了非線性控制算法進(jìn)行隊(duì)形控制[26]。當(dāng)機(jī)器人規(guī)模擴(kuò)大時(shí)該怎樣進(jìn)行編隊(duì)呢?Jian等[27]先以多智能體系統(tǒng)的空間分布將智能體分成多個(gè)群集,然后對(duì)每個(gè)群集的運(yùn)動(dòng)軌跡進(jìn)行規(guī)定,并設(shè)計(jì)了基于狀態(tài)反饋的控制率用于在限定時(shí)間內(nèi)穩(wěn)定轉(zhuǎn)向角度誤差和位置誤差。Ren等[28]采用這種方法研究隊(duì)形的精確控制,提高系統(tǒng)性能同時(shí)保證了系統(tǒng)的穩(wěn)定性。

        假想剛體法容易描述整體行為,具有隊(duì)形反饋機(jī)制和較高的控制精度,但在實(shí)際應(yīng)用中,反饋機(jī)制和高精度控制都需要高通信質(zhì)量和高計(jì)算能力作為代價(jià)。

        1.4 網(wǎng)絡(luò)關(guān)系圖分析法

        Desai等人是較早采用關(guān)系圖對(duì)隊(duì)形控制進(jìn)行分析的研究人員,在文獻(xiàn)[8]中采用有向關(guān)系圖來表示編隊(duì)問題中多智能體系統(tǒng)的拓?fù)潢P(guān)系,并對(duì)隊(duì)形變化問題進(jìn)行了研究。之后,Desai及其團(tuán)隊(duì)將智能體間的控制關(guān)系圖用有向無環(huán)關(guān)系圖進(jìn)行描述,并設(shè)計(jì)了控制策略,以枚舉所有可能情況的方式實(shí)現(xiàn)任意隊(duì)形切換[9]。Wang等人[29]研究了基于有向和切換拓?fù)涞木€性隊(duì)形控制方法。Lafferriere等人[30]使用代數(shù)圖知識(shí)對(duì)隊(duì)形的穩(wěn)定性進(jìn)行分析,智能體之間的信息交換通過預(yù)先設(shè)定的(無向)通信關(guān)系圖G進(jìn)行,僅僅以通信獲得的關(guān)于智能體狀態(tài)的相對(duì)信息作為反饋控制,證明了只要通信關(guān)系圖G一直是連通的,則線性穩(wěn)定反饋就一直存在,此外還對(duì)編隊(duì)收斂速率受到通信圖G的李雅普諾夫最小正根的大小的控制進(jìn)行說明。Azuma等人[31]采用假想剛體法進(jìn)行編隊(duì),重點(diǎn)研究了隊(duì)形的網(wǎng)絡(luò)結(jié)構(gòu),結(jié)合剛性圖的知識(shí),提出了只要網(wǎng)絡(luò)關(guān)系結(jié)構(gòu)是剛性的,那么隊(duì)形控制就具有容錯(cuò)能力以應(yīng)對(duì)智能體失聯(lián)的情況。王祥科等人對(duì)關(guān)系圖分析法的編隊(duì)方法進(jìn)行了較為詳細(xì)的總結(jié):基于關(guān)系圖進(jìn)行多智能體系統(tǒng)隊(duì)形設(shè)計(jì)及隊(duì)形控制策略設(shè)計(jì);“代數(shù)圖論借助線性代數(shù)理論研究圖的表示、變換和性質(zhì)等”;剛性圖用來研究隊(duì)形變換的問題[32]。

        網(wǎng)絡(luò)關(guān)系圖分析法的數(shù)學(xué)屬性使得該方法在數(shù)學(xué)分析上很有優(yōu)勢(shì),也可用于分析大規(guī)模的編隊(duì)問題,如利用數(shù)學(xué)知識(shí)可以進(jìn)行隊(duì)形穩(wěn)定性、收斂性等性質(zhì)的研究,但分析過于理想化,實(shí)際中碰到的問題較難用數(shù)學(xué)語言表示。

        1.5 動(dòng)態(tài)編隊(duì)法

        對(duì)編隊(duì)控制的研究,大多數(shù)的研究前提是在已知環(huán)境、靜態(tài)環(huán)境、同構(gòu)智能體等條件下,研究的編隊(duì)控制問題集中在形成隊(duì)形和隊(duì)形保持上,但實(shí)際環(huán)境復(fù)雜多變,更有可能發(fā)生突發(fā)狀況,如對(duì)未知環(huán)境的搜索,地形復(fù)雜,障礙物也可能是動(dòng)態(tài)的,隊(duì)形控制的研究成果很難有較好的實(shí)際效果,因此,如何才能讓編隊(duì)更好的適應(yīng)變化的環(huán)境引起了研究人員的思考,動(dòng)態(tài)編隊(duì)得到發(fā)展。對(duì)動(dòng)態(tài)編隊(duì)很難進(jìn)行定義,但進(jìn)行研究的目的是為了控制編隊(duì)能夠更好的適應(yīng)復(fù)雜的環(huán)境,積極應(yīng)對(duì)環(huán)境的變化。

        日本學(xué)者Kohata、Yamaguchi等人較早研究動(dòng)態(tài)編隊(duì),主要是為了解決實(shí)際的多智能體系統(tǒng)搬運(yùn)問題,他們選擇在FAMOUS和CFS系統(tǒng)的基礎(chǔ)上進(jìn)行改進(jìn),根據(jù)當(dāng)時(shí)通過傳感器等獲得的環(huán)境信息,動(dòng)態(tài)改變智能體的控制模塊,以重新分配智能體角色的方式進(jìn)行隊(duì)形切換,實(shí)現(xiàn)動(dòng)態(tài)編隊(duì)[33-34]。楊麗等人以環(huán)境信息作為約束條件,“提出了一種在不確定環(huán)境下對(duì)多智能體系統(tǒng)進(jìn)行動(dòng)態(tài)編隊(duì)的控制方法,解決了輸入輸出反饋線性化方法中因離軸點(diǎn)造成的問題,實(shí)現(xiàn)了包括線性隊(duì)形在內(nèi)的隊(duì)形控制,并將復(fù)雜的編隊(duì)問題分解成若干組兩個(gè)智能體之間的協(xié)調(diào)問題,通過建立隊(duì)形、保持隊(duì)型、編隊(duì)避障保持智能體之間的指定相對(duì)信息,躲避在行進(jìn)中可能出現(xiàn)的障礙物”[35]。張瑞雷等人[36]將環(huán)境條件設(shè)計(jì)成更貼近實(shí)際的三維地形,研究了異構(gòu)多智能體系統(tǒng)在該環(huán)境條件下的混合動(dòng)態(tài)編隊(duì),利用反步法和李雅普諾夫函數(shù)對(duì)構(gòu)建的軌跡跟蹤系統(tǒng)模型進(jìn)行軌跡跟蹤器的設(shè)計(jì),實(shí)現(xiàn)了不同運(yùn)動(dòng)學(xué)模型智能體的混合動(dòng)態(tài)編隊(duì)控制。Li等人[37-38]結(jié)合圖論知識(shí),利用動(dòng)態(tài)交互拓?fù)溲芯苛司庩?duì)問題,采用了基于帶魯棒性的自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制的局部控制方法,通過動(dòng)態(tài)選擇編隊(duì)方式實(shí)現(xiàn)動(dòng)態(tài)編隊(duì),不僅實(shí)現(xiàn)編隊(duì)任務(wù),同時(shí)還能躲避障礙物,適應(yīng)不同環(huán)境。Hou等人[39]將所有智能體限制在一定的幾何圖形內(nèi),以幾何圖形的方式運(yùn)動(dòng),提出了一種動(dòng)態(tài)區(qū)域編隊(duì)控制方法,不僅能夠按比例將圖形變大或縮小實(shí)現(xiàn)避障,還能夠在運(yùn)動(dòng)中改變幾何圖形以適應(yīng)變化的環(huán)境。Ballard及其團(tuán)隊(duì)[40]探索實(shí)施了一種新的分布式策略進(jìn)行動(dòng)態(tài)變換隊(duì)形控制,目的是為了智能體能夠適應(yīng)隊(duì)形的形狀和大小,此外在加入新的智能體之后,原有的形狀也不發(fā)生改變。學(xué)者Low[41-42]以假想剛體法為基礎(chǔ),結(jié)合軌跡跟蹤控制系統(tǒng),對(duì)多智能體系統(tǒng)的隊(duì)形控制進(jìn)行了研究,實(shí)現(xiàn)動(dòng)態(tài)編隊(duì)控制。

        1.6 其它隊(duì)形控制方法

        國內(nèi)外學(xué)者還提出了虛擬勢(shì)場(chǎng)法、學(xué)習(xí)控制法、混合控制法等隊(duì)形控制方法。

        (1)虛擬勢(shì)場(chǎng)法。該方法來源于物理學(xué)中的電子在電場(chǎng)中運(yùn)動(dòng),是Khatib在1986年提出的[43],其基本思想是假定智能體在一個(gè)虛擬的力場(chǎng)中運(yùn)動(dòng),目標(biāo)點(diǎn)產(chǎn)生吸引力,力的大小隨著與智能體距離的減少而減小,障礙物產(chǎn)生排斥力,力的大小隨著與智能體距離的減少而增加,吸引力、排斥力用勢(shì)場(chǎng)函數(shù)描述,在這兩種力的合力作用下,智能體將沿著最小勢(shì)能方向運(yùn)動(dòng)。Song等人[44]提出了一種基于勢(shì)函數(shù)的有效實(shí)現(xiàn)護(hù)衛(wèi)隊(duì)形和避障的控制算法,根據(jù)任務(wù)要求的不同,設(shè)計(jì)了3種勢(shì)函數(shù),并在此基礎(chǔ)上設(shè)計(jì)了分布式控制律,該控制律不僅能夠?qū)崿F(xiàn)預(yù)期隊(duì)形,還能保證在隊(duì)形行進(jìn)中避碰、避障。虛擬勢(shì)場(chǎng)法計(jì)算簡(jiǎn)單,能夠進(jìn)行實(shí)時(shí)控制,對(duì)空間的避障、避碰問題很有效[45],但勢(shì)場(chǎng)函數(shù)設(shè)計(jì)比較困難。

        (2)學(xué)習(xí)控制法。該方法的基礎(chǔ)是學(xué)習(xí)控制,針對(duì)的是重復(fù)性較高的任務(wù),如工廠物件的編隊(duì)搬運(yùn)、安全巡邏任務(wù)等等。對(duì)多智能體系統(tǒng)隊(duì)形進(jìn)行預(yù)期編隊(duì),通過學(xué)習(xí)控制實(shí)現(xiàn)大致的預(yù)期隊(duì)形,隨著學(xué)習(xí)次數(shù)的增加,隊(duì)形精度、運(yùn)行效率都會(huì)得到大幅度提高[46],適用于重復(fù)性高的任務(wù),學(xué)習(xí)花費(fèi)的時(shí)間與任務(wù)復(fù)雜度成正相關(guān)性,缺點(diǎn)是當(dāng)運(yùn)行環(huán)境發(fā)生變化影響任務(wù)時(shí),多智能體系統(tǒng)需要重新進(jìn)行學(xué)習(xí),方法不靈活,時(shí)間成本較高。

        (3)混合控制法。上面提到的編隊(duì)形控制方法都是單一的控制方法,每種方法都有各自的優(yōu)缺點(diǎn),面對(duì)復(fù)雜多變的環(huán)境,單單采取其中某種方法是不能滿足需求的,因此研究人員開始將兩種或是幾種方法混合運(yùn)用或是借鑒優(yōu)化,取長補(bǔ)短,以便實(shí)現(xiàn)更好的隊(duì)形控制。例如,軌跡跟隨法可以實(shí)現(xiàn)準(zhǔn)確、穩(wěn)定的隊(duì)形,但對(duì)動(dòng)態(tài)環(huán)境適應(yīng)能力較差,而行動(dòng)選擇法對(duì)動(dòng)態(tài)的環(huán)境適應(yīng)能力強(qiáng),但在隊(duì)形穩(wěn)定性上存在不足。Zhao等人[47]結(jié)合了軌跡跟隨法和虛擬勢(shì)場(chǎng)法兩種方法,控制多智能體系統(tǒng)形成了一個(gè)“圓”的隊(duì)形,用于實(shí)現(xiàn)追捕任務(wù);Kishorekumar等人[48]采用虛擬勢(shì)場(chǎng)法對(duì)領(lǐng)航智能體導(dǎo)航避開障礙物,對(duì)跟隨者智能體采用l-φ的方法進(jìn)行控制,從而實(shí)現(xiàn)編隊(duì)并能夠避障。

        2 多智能體系統(tǒng)隊(duì)形控制的應(yīng)用研究

        對(duì)多智能體系統(tǒng)隊(duì)形控制進(jìn)行實(shí)際應(yīng)用,研究人員通常會(huì)采用移動(dòng)機(jī)器人進(jìn)行研究。移動(dòng)機(jī)器人擁有多種傳感器,能進(jìn)行通信交換數(shù)據(jù),具有很好的機(jī)動(dòng)性和靈活性,通過設(shè)計(jì)算法就能夠表現(xiàn)出一定的智能。用移動(dòng)機(jī)器人進(jìn)行隊(duì)形控制的研究應(yīng)用十分廣泛。在對(duì)未知環(huán)境進(jìn)行探索時(shí),多移動(dòng)機(jī)器人通過控制形成隊(duì)形,每個(gè)機(jī)器人在行進(jìn)過程中探測(cè)環(huán)境的一部分,通過分享數(shù)據(jù)獲得較為全面的環(huán)境信息,有利于人們快速熟悉環(huán)境;工業(yè)生產(chǎn)中,通常會(huì)需要搬運(yùn)一些大型物件,對(duì)多移動(dòng)機(jī)器人的位置分布有一定的幾何要求,同時(shí)需要平衡負(fù)載,在一些特殊的環(huán)境下(如核反應(yīng)堆內(nèi)部)進(jìn)行搬運(yùn),隊(duì)形的控制要求更加嚴(yán)格。近年來,計(jì)算機(jī)科學(xué)的發(fā)展、機(jī)器人的發(fā)展都給隊(duì)形控制研究注入了新的活力,出現(xiàn)的新型機(jī)器人拓展了隊(duì)形控制的研究。

        無人機(jī)是近年來研究的熱點(diǎn),以用途廣泛,成本低,無人員傷亡風(fēng)險(xiǎn),生存能力強(qiáng),機(jī)動(dòng)性能好,使用方便等眾多優(yōu)勢(shì)吸引了一大批專家學(xué)者對(duì)其進(jìn)行研究,無人機(jī)編隊(duì)便是研究方向其中之一,研究人員研究較多的無人機(jī)是四旋翼飛行器。對(duì)無人機(jī)的研究,比之前的移動(dòng)機(jī)器人的研究難度要大,也更有挑戰(zhàn)性。首先,移動(dòng)機(jī)器人的研究往往是兩維平面,而無人機(jī)則是三維立體的研究,維度上增加了,需要考慮的影響因素也增加了,如無人機(jī)自身的平衡性。Mercado等人[49]使用軌跡跟蹤法的編隊(duì)方法,利用隊(duì)形誤差用滑模控制控制跟隨者保持與領(lǐng)航者的相對(duì)位置,從而維持隊(duì)形;Hamed等人[50]也用軌跡跟蹤法,設(shè)計(jì)了模糊邏輯控制器控制跟隨者,將跟隨者的速度和姿態(tài)最小化編隊(duì)誤差來解決編隊(duì)問題,該方法還能夠?qū)崿F(xiàn)未知非線性運(yùn)動(dòng)學(xué)的固定翼無人機(jī)的任意三維編隊(duì);Rui[46]同樣采用了模糊控制器對(duì)多無人機(jī)進(jìn)行編隊(duì)控制,并用強(qiáng)化學(xué)習(xí)算法——Q學(xué)習(xí)算法對(duì)參數(shù)進(jìn)行調(diào)整,提高控制精度。Luo等人[51]研究了隊(duì)形保持和隊(duì)形變換問題,采用PID控制方法進(jìn)行隊(duì)形保持,對(duì)于隊(duì)形變換則是考慮到變換中可能出現(xiàn)的碰撞問題,設(shè)計(jì)了控制策略解決問題。針對(duì)固定翼無人機(jī)的特點(diǎn),袁利平等[52]利用局部相對(duì)信息,提出了一種基于信息一致性的分散化編隊(duì)飛行策略,即利用無人機(jī)之間的相對(duì)速度和相對(duì)航向信息進(jìn)行速度和航向的同步,利用無人機(jī)之間的相對(duì)位置信息進(jìn)行編隊(duì)形成和隊(duì)形保持。

        除了對(duì)無人機(jī)進(jìn)行研究,研究人員也對(duì)水下機(jī)器人編隊(duì)控制進(jìn)行研究。地球絕大多是水覆蓋的,海洋資源很豐富,但因目前技術(shù)有限,人類對(duì)海洋的研究進(jìn)展緩慢,通過對(duì)水下機(jī)器人的研究可以加快對(duì)海洋的探索。水下因其自身的特點(diǎn),機(jī)器人之間不得不通過網(wǎng)絡(luò)進(jìn)行數(shù)據(jù)傳輸,但在數(shù)據(jù)傳輸時(shí)會(huì)存在通信延遲的問題,Millan等人[53]就注意到了這個(gè)問題,研究了在通信時(shí)延的情況下,水下機(jī)器人的編隊(duì)控制問題;李一平等人[54]考慮到水下環(huán)境復(fù)雜,跟隨者可能出現(xiàn)異常狀態(tài),提出了基于跟隨者狀態(tài)反饋確定領(lǐng)航者的策略,并在實(shí)現(xiàn)了一個(gè)領(lǐng)航者、3個(gè)跟隨者的隊(duì)形形成和保持的情況下,將控制策略推廣到了N個(gè)跟隨者的情況;Guohua等人[55]采用軌跡跟蹤法進(jìn)行編隊(duì),基于反推控制和生物啟發(fā)神經(jīng)網(wǎng)絡(luò)研究了三維隊(duì)形控制和避障問題。

        3 多智能體系統(tǒng)隊(duì)形控制的研究新進(jìn)展

        3.1 基于復(fù)Laplacian矩陣的多維隊(duì)形控制方法

        林志赟教授帶領(lǐng)的團(tuán)隊(duì)將拉普拉斯算法從實(shí)數(shù)域擴(kuò)展到復(fù)數(shù)域,對(duì)二維及更高維的隊(duì)形控制方法進(jìn)行了研究,獲得了許多研究成果。多智能體系統(tǒng)實(shí)現(xiàn)一維編隊(duì)的條件是當(dāng)且僅當(dāng)實(shí)數(shù)Laplacian矩陣有一個(gè)零特征根,或是隊(duì)形關(guān)系圖中存在一個(gè)根,從根出發(fā)其余各節(jié)點(diǎn)都可以到達(dá)[56-58]。對(duì)實(shí)數(shù)Laplacian矩陣有了一定的研究之后,該團(tuán)隊(duì)用復(fù)數(shù)Laplacian矩陣,研究了無向、有向拓?fù)浣Y(jié)構(gòu)下的多智能體隊(duì)形控制,提出相似編隊(duì)的概念,在此基礎(chǔ)上,還研究了切換拓?fù)渚W(wǎng)絡(luò)結(jié)構(gòu)下的隊(duì)形控制問題。

        基于無向拓?fù)浣Y(jié)構(gòu),通過復(fù)Laplacian矩陣和空間拓?fù)浣Y(jié)構(gòu)來描述隊(duì)形控制問題,在此結(jié)構(gòu)下得到了隊(duì)形形成的代數(shù)幾何條件,即圖是雙根的,并且還得出只受形狀限制的相似隊(duì)形位于滿足一定秩條件的復(fù)Laplacian矩陣的零空間內(nèi),然后又在復(fù)Laplacian矩陣的基礎(chǔ)上,設(shè)計(jì)了基于相對(duì)位置信息的分布式控制策略,同時(shí)能夠保證其全局穩(wěn)定性[59]。考慮多智能體系統(tǒng)的傳感能力有限,環(huán)境復(fù)雜度等問題,研究不能局限于無向拓?fù)浣Y(jié)構(gòu),進(jìn)而研究了有向拓?fù)浣Y(jié)構(gòu)下隊(duì)形控制問題,其研究思路與無向拓?fù)浣Y(jié)構(gòu)相同,并得到了相同的結(jié)果,是對(duì)之前結(jié)果的完善[60]。

        前面的工作主要是固定拓?fù)浣Y(jié)構(gòu)下進(jìn)行的研究,很自然就會(huì)對(duì)切換拓?fù)渚W(wǎng)絡(luò)結(jié)構(gòu)下的隊(duì)形控制的研究。通過之前的研究可知,隊(duì)形能夠形成的充分必要條件是拓?fù)浣Y(jié)構(gòu)是雙根的,因此,假設(shè)系統(tǒng)是在一組全部是雙根的拓?fù)鋱D中進(jìn)行切換。假定每個(gè)智能體只能獲得周邊傳感信息,考慮到物理傳感約束、智能體運(yùn)動(dòng)超時(shí)的情況,系統(tǒng)的傳感圖是有向并且時(shí)變的,這就很難進(jìn)行編隊(duì)控制,于是在假設(shè)傳感圖在某些情況下可以轉(zhuǎn)變的前提下,提出了一種線性切換控制方法用于編隊(duì)控制,并進(jìn)行了穩(wěn)定性分析[61]。之后研究了有向切換拓?fù)淝闆r下二階智能體三維編隊(duì)耦合控制的問題,目的是控制雙積分動(dòng)力學(xué)模型的跟隨者群體和領(lǐng)航機(jī)器人群體耦合,形成一種單一全局剛性編隊(duì)[62]。

        3.2 基于云計(jì)算和圖像處理的隊(duì)形控制研究

        云計(jì)算、圖像處理等其它領(lǐng)域的技術(shù)發(fā)展也為隊(duì)形控制研究提供了新思路。Turnbull等人[63]利用云計(jì)算對(duì)多智能體系統(tǒng)進(jìn)行了隊(duì)形控制;有學(xué)者通過智能體自身攜帶的攝像頭,實(shí)時(shí)進(jìn)行圖像處理,獲得相對(duì)信息從而進(jìn)行隊(duì)形控制[64],或是利用視覺反饋進(jìn)行研究編隊(duì)問題[65]。Wang等人[66]基于遞歸神經(jīng)網(wǎng)絡(luò)研究多智能體系統(tǒng)的最優(yōu)編隊(duì)問題,采用圖形理論描述目標(biāo)隊(duì)形,該理論能夠生成一系列的可行隊(duì)形,最優(yōu)隊(duì)形意味著從一系列可行隊(duì)形中尋找到與目標(biāo)隊(duì)形最小距離的隊(duì)形,因此將編隊(duì)問題轉(zhuǎn)換成最優(yōu)化的問題;特別的,當(dāng)所有智能體是同構(gòu)機(jī)器人時(shí),每個(gè)智能體的目標(biāo)位置是可變化的,此時(shí)的隊(duì)形最優(yōu)又成了組合隊(duì)形最優(yōu)的問題,這類問題通過借助補(bǔ)償法可以近似成凸優(yōu)化問題進(jìn)行解決。張洪亮[67]采用分布式層次控制結(jié)構(gòu)研究多智能體系統(tǒng)編隊(duì)問題,設(shè)計(jì)了基于聲納傳感器(獲得周圍信息)和多智能體系統(tǒng)通信的隊(duì)形保持方法。

        3.3 基于隊(duì)形控制的多移動(dòng)機(jī)器人搬運(yùn)

        多移動(dòng)機(jī)器人編隊(duì)?wèi)?yīng)用十分廣泛,在軍事、工業(yè)生產(chǎn)、航空航天、農(nóng)業(yè)生產(chǎn)等領(lǐng)域都有很好的前景,能夠?qū)崿F(xiàn)搬運(yùn)、偵察、巡邏等多項(xiàng)任務(wù)。搬運(yùn)是實(shí)際生產(chǎn)生活中涉及面最廣、應(yīng)用也是最頻繁的任務(wù),因此以該任務(wù)作為說明對(duì)象對(duì)多移動(dòng)機(jī)器人編隊(duì)?wèi)?yīng)用進(jìn)行介紹。

        實(shí)際搬運(yùn)中參與搬運(yùn)任務(wù)的可能是移動(dòng)機(jī)器人,也有可能是移動(dòng)機(jī)械臂,或者是帶有手抓的移動(dòng)機(jī)器人。Dalfior等人[68]研究多移動(dòng)機(jī)器人編隊(duì)控制實(shí)現(xiàn)協(xié)同物體搬運(yùn),研究的重點(diǎn)是如何讓機(jī)器人與物體一直保持接觸,并且協(xié)調(diào)它們的運(yùn)動(dòng)完成搬運(yùn)到目標(biāo)地點(diǎn)的任務(wù),通過設(shè)計(jì)編隊(duì)控制器,將負(fù)載當(dāng)做虛擬領(lǐng)航機(jī)器人,控制多移動(dòng)機(jī)器人形成隊(duì)形,并采用一種非線性位置控制器用于定義負(fù)載到目標(biāo)點(diǎn)的移動(dòng)。Moon等人[69]研究協(xié)同完成推箱子任務(wù),為了兩個(gè)移動(dòng)機(jī)器人在推箱子的過程中保持一定的隊(duì)形,定位系統(tǒng)實(shí)時(shí)獲得各個(gè)機(jī)器人的位置信息,通過計(jì)算控制速度。Bai等人[70]采用移動(dòng)機(jī)械臂研究協(xié)同搬運(yùn)問題,需要搬運(yùn)的有效負(fù)載是可變化的,用漸變的非線性電勢(shì)能建模移動(dòng)機(jī)械臂和負(fù)載之間的接觸力,機(jī)械臂和有效負(fù)載收斂到相同的速度才能完成搬運(yùn),搬運(yùn)的問題就可以近似當(dāng)成編隊(duì)控制問題。Eoh等人[71]利用多移動(dòng)機(jī)器人協(xié)同編隊(duì)進(jìn)行重物體的搬運(yùn),該團(tuán)隊(duì)成員認(rèn)為物體搬運(yùn)能否成功與機(jī)器人編隊(duì)有很強(qiáng)的關(guān)聯(lián),提出了基于推和拉(抓)兩種行為的pusher-puller隊(duì)形。作為pusher的機(jī)器人在物體后面推,作為puller的機(jī)器人在前面拉。Zhaohui等人[72]研究多個(gè)機(jī)器人搬運(yùn)重物時(shí),對(duì)物體質(zhì)量也進(jìn)行了考慮,并假定物體是剛性的,移動(dòng)機(jī)器人有手抓且能緊緊抓住物體,采用分散控制技術(shù)保證搬運(yùn)過程中所有機(jī)器人手抓之間的相對(duì)位置保持不變,完成搬運(yùn)任務(wù)。之后又考慮環(huán)境中可能會(huì)有參數(shù)不確定的情況,結(jié)合神經(jīng)網(wǎng)絡(luò)在線學(xué)習(xí)技術(shù),實(shí)時(shí)逼近系統(tǒng)的動(dòng)力學(xué)模型,來實(shí)現(xiàn)搬運(yùn)。

        考慮到空中搬運(yùn),人們?cè)谝郧把芯繒r(shí)往往采用直升機(jī)作為研究對(duì)象,隨著無人機(jī)的出現(xiàn),專家學(xué)者開始將目光轉(zhuǎn)向無人機(jī)搬運(yùn)。當(dāng)出現(xiàn)如地震、泥石流、山體滑坡等自然災(zāi)害,路面物資運(yùn)輸往往受阻,人工物資運(yùn)輸效率低下,空中投擲物資不精確,常常出現(xiàn)物資失蹤的情況。無人機(jī)小巧靈活,無人員傷亡風(fēng)險(xiǎn),成本低,能低空飛行,可在復(fù)雜區(qū)域登陸,采用無人機(jī)運(yùn)輸能夠很好的解決物資運(yùn)輸?shù)碾y題。Michael等人[73]研究控制多四旋翼無人機(jī)進(jìn)行纜繩運(yùn)輸負(fù)載的問題,證明了因單邊張力約束導(dǎo)致系統(tǒng)欠驅(qū)動(dòng),依然能夠控制無人機(jī)將負(fù)載運(yùn)輸?shù)街付ǖ奈恢?;Lee[74]重點(diǎn)研究剛性負(fù)載的跟蹤控制,負(fù)載與任意數(shù)量的無人機(jī)通過剛性線纜連接,構(gòu)造了一個(gè)幾何控制器,控制負(fù)載漸進(jìn)的跟蹤給定期望軌跡,該方法獨(dú)到之處是將剛性負(fù)載、鏈接和無人機(jī)之間的耦合動(dòng)力明確地合并到控制系統(tǒng)設(shè)計(jì)和穩(wěn)定性分析中;Lee與Farhad[75]合作研究了任意數(shù)量的四旋翼無人機(jī)通過軟電纜連接剛性負(fù)載,提出了一種幾何非線性控制器將剛性負(fù)載運(yùn)輸?shù)街付ǖ攸c(diǎn),并將所有的連接電纜垂直對(duì)齊。

        4 尚未解決的研究問題

        4.1 隊(duì)形擴(kuò)展

        對(duì)隊(duì)形進(jìn)行擴(kuò)展包括兩方面:數(shù)量和維度。目前很多隊(duì)形控制研究方法面向的都是小規(guī)模的多智能體系統(tǒng),運(yùn)用到大規(guī)模的系統(tǒng)中會(huì)出現(xiàn)各種問題,特別的,當(dāng)智能體數(shù)目是動(dòng)態(tài)變化時(shí),如智能體發(fā)生故障無法執(zhí)行任務(wù)需要退出隊(duì)伍或是有新的智能體需要加入隊(duì)伍中時(shí),又該如何進(jìn)行隊(duì)形控制;當(dāng)前很多的研究都是局限在二維平面上,對(duì)智能體在更一般的三維空間中的隊(duì)形控制研究較少,隨著無人機(jī)、水下機(jī)器人等新型智能體的發(fā)展,三維編隊(duì)控制的研究也顯得越來越迫切。

        4.2 隊(duì)形穩(wěn)定性問題

        多智能體系統(tǒng)的隊(duì)形控制中,隊(duì)形的穩(wěn)定性是研究者廣泛關(guān)注的一個(gè)方面,主要包括了多智能體系統(tǒng)能否實(shí)現(xiàn)穩(wěn)定的隊(duì)形和運(yùn)動(dòng)過程中隊(duì)形能否保持穩(wěn)定兩方面。此外,當(dāng)環(huán)境發(fā)生變化,隊(duì)形還能否繼續(xù)穩(wěn)定保持,這些都是在設(shè)計(jì)控制算法是需要考慮的問題。目前關(guān)于隊(duì)形穩(wěn)定性的研究處于理論性階段,需要大量的實(shí)驗(yàn)進(jìn)一步論證。

        4.3 通信、傳感器功能受限

        隨著計(jì)算機(jī)技術(shù)的發(fā)展,通信的重要性越來越重要,也是多智能體系統(tǒng)隊(duì)形控制的基礎(chǔ),在進(jìn)行理論分析時(shí),一般將通信理想化,但當(dāng)理論成果運(yùn)用到實(shí)際時(shí),通信就要考慮很多問題,如數(shù)據(jù)傳輸?shù)臅r(shí)延問題、帶寬限制、數(shù)據(jù)丟包、通信范圍等等,這些問題對(duì)多智能體系統(tǒng)的隊(duì)形控制是有很大影響的。除了通信理想化,智能體的傳感功能也會(huì)做理想化處理,即多智能體系統(tǒng)不僅能實(shí)時(shí)獲得周圍信息,而且數(shù)據(jù)準(zhǔn)確,但在實(shí)際應(yīng)用中,除了受到智能體自身傳感器的限制,諸如感知范圍有限、獲得數(shù)據(jù)存在時(shí)延、數(shù)據(jù)精度不足等,還會(huì)受到環(huán)境噪聲的影響。此外,一些智能體自身的信息(如速度和加速度)是無法精確獲取的。因此,在通信和傳感器功能受限條件下的隊(duì)形控制問題也是應(yīng)用到實(shí)際環(huán)境中需要解決的問題。

        4.4 異構(gòu)多智能體系統(tǒng)隊(duì)形控制研究

        在目前現(xiàn)有的隊(duì)形控制研究成果中,絕大多數(shù)的研究都是針對(duì)同構(gòu)智能體進(jìn)行的,采用同構(gòu)智能體進(jìn)行研究有其優(yōu)勢(shì):所有智能體的動(dòng)力學(xué)特性相同,數(shù)學(xué)分析、建模都比較簡(jiǎn)單,且擁有相同的功能,能夠相互替換完成任務(wù)。但在實(shí)際應(yīng)用中,以遠(yuǎn)距離運(yùn)輸為例,部分智能體編隊(duì)組成導(dǎo)航組進(jìn)行導(dǎo)航,部分智能體編隊(duì)組成搬運(yùn)組進(jìn)行運(yùn)輸,實(shí)現(xiàn)的功能不同,隊(duì)形設(shè)計(jì)的側(cè)重點(diǎn)不同,相互之間的動(dòng)力學(xué)特性也存有較大的差異。現(xiàn)在社會(huì)分工越來越細(xì),專業(yè)化的智能體往往比綜合性智能體有更好的經(jīng)濟(jì)效益,這也就意味著智能體之間的動(dòng)力學(xué)特性等存在差異,在面向?qū)嶋H應(yīng)用方面,異構(gòu)多移動(dòng)機(jī)器人的編隊(duì)控制也有很大的發(fā)展前景。

        4.5 機(jī)械臂編隊(duì)研究

        當(dāng)前研究的編隊(duì)控制對(duì)象幾乎都是輪式機(jī)器人、無人機(jī)、水下機(jī)器人等,很少有對(duì)機(jī)械臂進(jìn)行編隊(duì)研究,機(jī)械臂都是固定式的,當(dāng)機(jī)械臂的操作對(duì)象在移動(dòng)時(shí),就可以將機(jī)械臂看成是移動(dòng)的,機(jī)械臂的編隊(duì)研究也有實(shí)際應(yīng)用。比如噴漆操作,當(dāng)需要對(duì)部件進(jìn)行噴漆處理時(shí),不同的部位需要噴上不同的顏色,當(dāng)機(jī)械臂組成一定隊(duì)形時(shí),就能實(shí)現(xiàn)該任務(wù)。

        5 應(yīng)用前景展望

        多智能體系統(tǒng)的隊(duì)形控制涉及的內(nèi)容十分廣泛,具有很大的應(yīng)用前景。在對(duì)海底環(huán)境勘探時(shí),水下機(jī)器人組成特定隊(duì)形,每個(gè)機(jī)器人在行進(jìn)過程中探測(cè)環(huán)境的一部分,通過通信分享數(shù)據(jù)獲得較為全面的全部環(huán)境信息,有利于加快人們對(duì)海底環(huán)境的了解。但是,海底環(huán)境復(fù)雜,多機(jī)器人系統(tǒng)保持良好的穩(wěn)定性和良好的通信狀況是實(shí)現(xiàn)水下機(jī)器人勘探海底環(huán)境的重要前提。在工業(yè)生產(chǎn)中,通常需要搬運(yùn)一些大型物件,多移動(dòng)機(jī)器人可以很好地完成這個(gè)任務(wù)。然而,在遠(yuǎn)程搬運(yùn)中,就需要有異構(gòu)多智能體,一部分負(fù)責(zé)導(dǎo)航,一部分負(fù)責(zé)搬運(yùn)。因此,異構(gòu)多智能體系統(tǒng)隊(duì)形控制的研究將對(duì)遠(yuǎn)程搬運(yùn)起到很大的作用。無人機(jī)的快速發(fā)展,促進(jìn)了人們對(duì)空中搬運(yùn)的研究,當(dāng)發(fā)生地震、泥石流等自然災(zāi)害時(shí),無人機(jī)空中搬運(yùn)將大大降低救援成本和救援人員傷亡的可能性。因此,對(duì)多智能體系統(tǒng)三維編隊(duì)控制的研究也越來越迫切。此外,多智能體的隊(duì)形控制還能夠應(yīng)用于排雷、定點(diǎn)巡邏、災(zāi)后營救、農(nóng)作物播種等許多領(lǐng)域。隨著科技的不斷發(fā)展,多智能體系統(tǒng)的隊(duì)形控制方法與應(yīng)用水平將得到不斷地提高,隊(duì)形控制也將在更多的領(lǐng)域中得到實(shí)際應(yīng)用。

        [1] 劉 佳, 陳增強(qiáng), 劉忠信. 多智能體系統(tǒng)及其協(xié)同控制研究進(jìn)展[J]. 智能系統(tǒng)學(xué)報(bào), 2010, 5(1): 1-9.

        [2] Yang F, Liu S, Liu F. Cooperative transport strategy for formation control of multiple mobile robots[J]. Journal of Zhejiang University SCIENCE C, 2010, 11(12): 931-938.

        [3] Galuszka A, Swierniak A. Planning in multi-agent environment using strips representation and non-cooperative equilibrium strategy[J]. Journal of Intelligent and Robotic Systems, 2010, 58(3-4): 239-251.

        [4] Liu S, Sun D, Zhu C. Coordinated motion planning for multiple mobile robots along designed paths with formation requirement[J]. IEEE/ASME Transactions on Mechatronics, 2011, 16(6): 1021-1031.

        [5] 蘇治寶, 陸際聯(lián). 多移動(dòng)機(jī)器人隊(duì)形控制的研究方法[J]. 機(jī)器人,2003(1):88-91.

        [6] Soltani N, Shahmansoorian A, Khosravi M. Robust distance-angle leader-follower formation control of non-holonomic mobile robots[A]. 2014 Second RSI/ISM International Conference on Robotics and Mechatronics (ICRoM)[C]. 2014: 24-28.

        [7] Desai J, Ostrowski J, Kumar V. Controlling formations of multiple mobile robots[A]. Proceedings of the IEEE International Conference on Robotics and Automation[C]. 1998: 2864-2869.

        [8] Desai J, Ostrowski J, Kumar V. Modeling and control of formations of nonholonomic mobile robots[J]. IEEE Transactions on Robotics and Automation, 2001, 17(6): 905-908.

        [9] Desai J. A graph theoretic approach for modeling mobile robot team formations[J]. Journal of Robotic Systems, 2002, 19(11): 511-525.

        [10] Li X, Xiao J. Robot formation control in leader-follower motion using direct Lyapunov method[J]. International Journal of Intelligent Control and Systems, 2005, 10(3): 244-250.

        [11] Fierro R, Das A K, Kumar V, et al. Hybrid control of formations of robots[A]. Proceedings of the IEEE International Conference on Robotics and Automation[C]. 2001, 1: 157-162.

        [12] Soorki M N, Talebi H A, Nikravesh S K Y. A leader-following formation control of multiple mobile robots with active obstacle avoidance[A]. Proceedings of the 19th Iranian Conference on Electrical Engineering (ICEE)[C]. 2011: 1-6.

        [13] Peng T, Li S. Formation Control of Multiple Wheeled Mobile Robots via Leader-Follower Approach[A]. 第26屆中國控制與決策會(huì)議論文集[C]. 2014.

        [14] Lijuan W, Hui W. Multi-robot formation control and simulation[A]. Proc of the 25th Chinese Control and Decision Conference (CCDC)[C]. 2013: 2830-2833.

        [15] Guo J, Lin Z, Cao M, et al. Adaptive leader-follower formation control for autonomous mobile robots[A]. American Control Conference (ACC)[C]. 2010: 6822-6827.

        [16] Choi I, Choi J, Chung W J. Leader-follower formation control without information of heading angle[A]. IEEE/SICE International Symposium on System Integration (SII)[C]. 2012: 842-846.

        [17] Mesbahi M, Hadaegh F Y. Formation flying control of multiple spacecraft via graphs, matrix inequalities, and switching[J]. Journal of Guidance, Control, and Dynamics, 2001, 24(2): 369-377.

        [18] Vela P, Betser A, Malcolm J, et al. Vision-based range regulation of a leader-follower formation[J]. IEEE Transactions on Control Systems Technology, 2009, 17(2): 442-448.

        [19] Panagou D, Kumar V. Cooperative Visibility Maintenance for Leader-Follower Formations in Obstacle Environments[J]. IEEE Transactions on Robotics, 2014, 30(4): 831-844.

        [20] 曹志強(qiáng), 張 斌. 基于行為的多移動(dòng)機(jī)器人實(shí)時(shí)隊(duì)形保持[J]. 高技術(shù)通訊, 2001, 11(10): 74-77.

        [21] Desai J, Kumar V, Ostrowski J. Control of changes in formation for a team of mobile robots[A]. Proceedings of the IEEE International Conference on Robotics and Automation[C]. 1999, 2: 1556-1561.

        [22] Balch T, Arkin R C. Behavior-based formation control for multirobot teams[J]. Transactions on Robotics and Automation, 1998, 14(6): 926-939.

        [23] 劉銀萍, 楊宜民. 多機(jī)器人編隊(duì)控制的研究綜述[J]. 控制工程, 2010, 17(9): 182-186.

        [24] Goodridge S G. A fuzzy behavior-based nervous system for an autonomous mobile robot[M]. 1994.

        [25] Tan K H, Lewis M A. Virtual structures for high-precision cooperative mobile robotic control[A]. Proceedings of the IEEE/RSJ International Conference on Intelligent Robots and Systems[C]. 1996, 1: 132-139.

        [26] Chen Lei, Baoli Ma. A nonlinear formation control of wheeled mobile robots with virtual structure approach[A]. Proceedings of the 34th Chinese Control Conference(CCC)[C]. 2015: 1080-1085.

        [27] Jian Yuan, Tang Gongyou. Formation control for mobile multiple robots based on hierarchical virtual structures[A]. Proceedings of the 8th International Conference on Control and Automation (ICCA)[C]. 2010: 393-398.

        [28] Ren W, Beard R W. Formation feedback control for multiple spacecraft via virtual structures[A]. Control Theory and Applications[C]. 2004, 151(3): 357-368.

        [29] Wang L, Han Z, Lin Z, et al. A linear approach to formation control under directed and switching topologies[A]. International Conference on Robotics and Automation (ICRA)[C]. 2014: 3595-3600.

        [30] Lafferriere G, Caughman J, Williams A. Graph theoretic methods in the stability of vehicle formations[A]. Proceedings of the American Control Conference[C]. 2004, 4: 3729-3734.

        [31] Azuma T, Karube T. Formation control with fault-tolerance based on rigid graph theory[A]. Proceedings of SICE Annual Conference[C]. 2010:1137-1140.

        [32] 王祥科, 李 迅, 鄭志強(qiáng). 多智能體系統(tǒng)編隊(duì)控制相關(guān)問題研究綜述[J]. 控制與決策, 2013, 28(11): 1601-1613.

        [33] Kohata N, Yamaguchi T, Sato M, et al. Dynamic formation generating for intelligent transport systems using algorithm to select function by environmental information[A]. Proceedings of the IEEE/IEEJ/JSAI International Conference on Intelligent Transportation Systems[C]. 1999: 798-803.

        [34] Yamaguchi T, Sato M, Kohata N, et al. Dynamic formation generating in mobile-agents using algorithm to select function by environmental information[A]. Fuzzy Systems Conference Proceedings[C]. 1999, 3: 1443-1448.

        [35] 楊 麗, 曹志強(qiáng), 譚 民. 不確定環(huán)境下多機(jī)器人的動(dòng)態(tài)編隊(duì)控制[J]. 機(jī)器人, 2010, 32(2): 283-288.

        [36] Ruilei Z, Chun Y, Sheng L, et al. Hybrid dynamic formation control for nonholonomic mobile robots[A]. Proceedings of the 33rd Chinese Control Conference (CCC)[C]. 2014: 8396-8401.

        [37] Li Y, Chen X. Dynamic control of multi-robot formation[A]. International Conference on Mechatronics[C]. 2005: 352-357.

        [38] Li Y, Chen X. Leader-formation navigation using dynamic formation pattern[A]. Proceedings of the IEEE/ASME International Conference on Advanced Intelligent Mechatronics[C]. 2005: 1494-1499.

        [39] Hou S P, Cheah C C, Slotine J. Dynamic region following formation control for a swarm of robots[A]. International Conference on Robotics and Automation[C]. 2009: 1929-1934.

        [40] Ballard L, Ren W. Dynamic formation algorithms and experiments[A]. Proceedings of the 4th IEEE Conference on Industrial Electronics and Applications[C]. 2009.

        [41] Low C B. A dynamic virtual structure formation control for fixed-wing UAVs[A]. Proceedings of the 9th IEEE International Conference on Control and Automation (ICCA)[C]. 2011: 627-632.

        [42] Low C B, Ng Q S. A flexible virtual structure formation keeping control for fixed-wing UAVs[A]. Proceedings of the 9th IEEE International Conference on Control and Automation (ICCA)[C]. 2011: 621-626.

        [43] Khatib O. Real-time obstacle avoidance for manipulators and mobile robots[J]. The international journal of robotics research, 1986, 5(1): 90-98.

        [44] Song Y, Wang X, Gong Z. Safeguarded formation control via the artificial potential approach[A]. Proceedings of the 11th World Congress on Intelligent Control and Automation (WCICA)[C]. 2014: 4790-4796.

        [45] Liang Y, Lee H H. Decentralized formation control and obstacle avoidance for multiple robots with nonholonomic constraints[A]. American Control Conference[C]. 2006: 6 pp.

        [46] Rui P. Multi-UAV formation maneuvering control based on q-learning fuzzy controller[A]. Proceedings of the 2nd International Conference on Advanced Computer Control (ICACC)[C]. 2010, 4: 252-257.

        [47] Zhao L, Ma D. Circle formation control for multi-agent systems with a leader[J]. Control Theory and Technology, 2015, 13(1): 82-88.

        [48] Kowdiki K H, Barai R K, Bhattacharya S. Leader-follower formation control using artificial potential functions: A kinematic approach[A]. Proceedings of the International Conference on Advances in Engineering, Science and Management (ICAESM)[C]. 2012: 500-505.

        [49] Mercado D A, Castro R, Lozano R. Quadrotors flight formation control using a leader-follower approach[A]. Proceedings of the European Control Conference (ECC)[C]. 2013: 3858-3863.

        [50] Rezaee H, Abdollahi F, Menhaj M B. Model-free fuzzy leader-follower formation control of fixed wing UAVs[A]. Proceedings of the 13th Iranian Conference on Fuzzy Systems (IFSC)[C]. 2013: 1-5.

        [51] Luo D, Xu W, Wu S, et al. UAV formation flight control and formation switch strategy[A]. Proceedings of the 8th International Conference on Computer Science & Education (ICCSE)[C]. 2013: 264-269.

        [52] Li-Ping Y, Zong-Ji C. Decentralized formation flight control of multiple fixed-wing UAVs using only local relative states[A]. Proceedings of the 30th Chinese Control Conference (CCC)[C]. 2011: 4871-4877.

        [53] Millan P, Orihuela L, Jurado I, et al. Formation control of autonomous underwater vehicles subject to communication delays[J]. IEEE Transactions on Control Systems Technology, 2014, 22(2): 770-777.

        [54] Li Y P, Yan S X. Formation control of multiple autonomous underwater vehicles based on state feedback[A]. Proceedings of the 11th World Congress on Intelligent Control and Automation (WCICA)[C]. 2014: 5523-5527.

        [55] Guohua D, Daqi Z, Bing S. Formation control and obstacle avoidance of multi-AUV for 3-D underwater environment[A]. Proceedings of the 33rd Chinese Control Conference (CCC)[C]. 2014: 8347-8352.

        [56] Jadbabaie A, Lin J. Coordination of groups of mobile autonomous agents using nearest neighbor rules[J]. IEEE Transactions on Automatic Control, 2003, 48(6): 988-1001.

        [57] Lin Z, Broucke M, Francis B. Local control strategies for groups of mobile autonomous agents[J]. IEEE Transactions on Automatic Control, 2004, 49(4): 622-629.

        [58] Ren W, Beard R W. Consensus seeking in multiagent systems under dynamically changing interaction topologies[J]. IEEE Transactions on automatic control, 2005, 50(5): 655-661.

        [59] Lin Z, Wang L, Han Z, et al. Distributed formation control of multi-agent systems using complex Laplacian[J]. IEEE Transactions on Automatic Control, 2014, 59(7): 1765-1777.

        [60] Wang L, Han Z, Lin Z. Formation control of directed multi-agent networks based on complex Laplacian[A]. Proceeding of the IEEE 51st Annual Conference on Decision and Control (CDC)[C]. 2012: 5292-5297.

        [61] Wang L, Han Z, Lin Z, et al. A linear approach to formation control under directed and switching topologies[A]. Proceedings of the IEEE International Conference on Robotics and Automation (ICRA)[C]. 2014: 3595-3600.

        [62] Han T, Lin Z, Xu W, et al. Three-dimensional formation merging control of second-order agents under directed and switching topologies[A]. Proceedings of the 11th IEEE International Conference on Control & Automation (ICCA)[C]. 2014: 225-230.

        [63] Turnbull L, Samanta B. Cloud robotics: Formation control of a multi robot system utilizing cloud infrastructure[A]. Proceedings of IEEE Southeastcon[C]. 2013: 1-4.

        [64] Cook J, Hu G. Vision-based triangular formation control of mobile robots[A]. Proceedings of the 31st Chinese Control Conference (CCC)[C]. 2012: 5146-5151.

        [65] Scheggi S, Morbidi F, Prattichizzo D. Human-robot formation control via visual and vibrotactile haptic feedback[J]. IEEE Transactions on Haptics, 2014, 7(4): 499-511.

        [66] Wang Y, Cheng L, Hou Z G, et al. Optimal Formation of Multirobot Systems Based on a Recurrent Neural Network[J]. IEEE Transactions on Neural Networks and Learning System, 2015, PP(99):1.

        [67] 張洪亮. 多機(jī)器人編隊(duì)技術(shù)的研究與應(yīng)用[D]. 北京:北京工業(yè)大學(xué), 2009.

        [68] Dalfior J S, Vassallo R F. Nonlinear formation control for a cooperative load pushing[A]. IEEE International Conference on Industrial Technology (ICIT)[C]. 2010: 1439-1444.

        [69] Moon S, Kwak D, Kim H J. Cooperative control of differential wheeled mobile robots for box pushing problem[A]. Proceedings of the 12th International Conference on Control, Automation and Systems (ICCAS)[C]. 2012: 140-144.

        [70] Bai H, Wen J T. Cooperative load transport: a formation-control perspective[J]. IEEE Transactions on Robotics, 2010, 26(4): 742-750.

        [71] Eoh G, Jeon J D, Choi J S, et al. Multi-robot cooperative formation for overweight object transportation[A]. IEEE/SICE International Symposium on System Integration (SII)[C]. 2011: 726-731.

        [72] Zhaohui D, Min W, Xin C. Multi-robot cooperative transportation using formation control[A]. Proceedings of the 27th Chinese Control Conference(CCC)[C]. 2008: 346-350.

        [73] N. Michael, J. Fink, and V. Kumar. Cooperative manipulation and transportation with aerial robots[J]. Autonomous Robots, 2011,30(1):73-86.

        [74] Lee, Taeyoung. Geometric control of multiple quadrotor UAVs transporting a cable-suspended rigid body[A]. Proceedings of the IEEE 53rd Annual Conference on Decision and Control (CDC)[C]. 2014.

        [75] Farhad A.Goodarzi, Taeyoung Lee. Dynamics and Control of Quadrotor UAVs Transporting a Rigid Body Connected via Flexible Cables[A]. American Control Conference[C]. 2015: 4677-4682.

        Research on Formation Control Method and Application of Multi-agent Systems

        Yu Xinyi, He Yanlin, Ou Linlin, Cheng Cheng

        (College of Information Engineering, Zhejiang University of Technology, Hangzhou 310023, China)

        Survey on the formation control method and application of multi-agent systems is summarized in this paper. The main problem of formation control includes three aspects: formation architecture, formation keeping and formation transformation. Firstly, a variety of formation control methods are deeply analyzed, including several methods: the leader-follower, the behavior based, the virtual structure, the graph theoretic, the dynamic formation, the artificial potential field, the learning control and so on. Secondly, the application of formation controled on multi-agent systems (mobile robots, unmanned aerial vehicles, underwater vehicles) is presented. Thirdly, the research on: the recent multi-dimensions formation control method based on complex Laplacian matrix, the other areas’ technology which is used into formation control and multiple mobile robots transportation based on multi-agent systems formation control is introduced. Finally, some unsolved problems need to be investigated in depth are proposed.

        formation control; multi-agent systems; formation application

        2016-12-15;

        2017-02-06。

        國家自然科學(xué)基金資助項(xiàng)目(61273116);863計(jì)劃(2014AA041601-05);寧波重點(diǎn)項(xiàng)目(2014B10017);浙江省自然科學(xué)基金(LYl5F030015);浙江省公益項(xiàng)目(2016C31064)。

        禹鑫燚(1979-),男,浙江余姚人,博士,講師,主要從事多智能體系統(tǒng)協(xié)同控制和機(jī)器人路徑規(guī)劃與控制方向的研究。

        1671-4598(2017)07-0001-07

        10.16526/j.cnki.11-4762/tp.2017.07.001

        TP3

        A

        猜你喜歡
        隊(duì)形移動(dòng)機(jī)器人編隊(duì)
        2023年1月25日,美軍一次演習(xí)期間,空軍正在進(jìn)行編隊(duì)飛行
        軍事文摘(2023年5期)2023-03-27 08:56:26
        移動(dòng)機(jī)器人自主動(dòng)態(tài)避障方法
        隊(duì)列隊(duì)形體育教案
        詩歌的奇怪隊(duì)形(一)
        基于事件驅(qū)動(dòng)的多飛行器編隊(duì)協(xié)同控制
        基于Twincat的移動(dòng)機(jī)器人制孔系統(tǒng)
        無人機(jī)編隊(duì)機(jī)動(dòng)飛行時(shí)的隊(duì)形保持反饋控制
        基于預(yù)測(cè)控制的無人機(jī)編隊(duì)內(nèi)部避碰
        多彈編隊(duì)飛行控制技術(shù)研究
        極坐標(biāo)系下移動(dòng)機(jī)器人的點(diǎn)鎮(zhèn)定
        青青草在线免费播放视频| 一本一道波多野结衣av中文| 免费国产一级特黄aa大片在线 | 免费av一区二区三区| av 日韩 人妻 黑人 综合 无码| 国产精品福利自产拍久久| 中文精品久久久久中文| 国产在线播放免费人成视频播放| 亚洲精品一区二区高清| 亚洲av国产av综合av卡| 日韩精品一区二区三区免费视频| ZZIJZZIJ亚洲日本少妇| 国产女主播在线免费观看| 亚洲av香蕉一区二区三区av| 国模冰莲极品自慰人体| 国产96在线 | 欧美| 欧美日韩激情在线一区二区| 午夜婷婷国产麻豆精品| 97cp在线视频免费观看| 亚洲av无码一区二区三区乱子伦| 国产精品亚洲成在人线| 熟女少妇av免费观看| av在线免费观看男人天堂| 亚洲国产精品成人精品无码区在线| 怡红院a∨人人爰人人爽| 中文AV怡红院| 麻豆av毛片在线观看| 情爱偷拍视频一区二区| 国产成人精品无码一区二区老年人| 日本亚洲欧美在线观看| av中文码一区二区三区| 风韵人妻丰满熟妇老熟| 亚洲色中文字幕无码av| 小12萝8禁在线喷水观看| 蜜桃视频一区二区三区在线| 91精品啪在线观九色| 国产精品泄火熟女| 综合无码一区二区三区四区五区| 亚洲色图第一页在线观看视频| 亚洲一区二区三区蜜桃| 少妇被粗大的猛烈进出免费视频 |