葛 爽,姜明君,李明輝
(博世汽車部件(長沙)有限公司,長沙 410100)
機器視覺是利用機器設備代替人工進行檢測或測量任務的技術,它是集機械、電子、光學和軟件計算等技術為一體的工業(yè)化應用,目前已被廣泛應用于測量、檢測、引導和識別等領域。傳統(tǒng)機器視覺檢測需要人工設計特征提取算法進行分類識別任務,檢測方法具有針對性,系統(tǒng)魯棒性能差[1]。近年來,隨著計算機技術的迅猛發(fā)展,深層卷積神經(jīng)網(wǎng)絡在圖像處理中強大特征提取與歸納能力取得重大進展,在圖像識別、圖像分類、目標檢測、語義分割、生成對抗等計算機視覺各個領域中應用[2]。
傳統(tǒng)工業(yè)互聯(lián)網(wǎng)主要是依靠有線網(wǎng)絡或者WiFi網(wǎng)絡進行數(shù)據(jù)交互或者遠程控制的,工業(yè)應用具有很大局限性,如有線網(wǎng)絡對設備部署帶來很多限制,WiFi網(wǎng)絡存在信號不穩(wěn)定,傳輸速度慢,響應時間長等問題[3]。5G即第五代移動通訊技術,它不僅帶來了無線網(wǎng)絡服務架構(gòu)的革新,而且具有低延時、大帶寬、高可靠等特點,能有效解決生產(chǎn)線設備線束多,網(wǎng)絡信號不穩(wěn)定及干擾等問題,從而為工業(yè)網(wǎng)絡連接提供高可靠服務保障。隨著5G技術的不斷發(fā)展,基于AI的機器視覺系統(tǒng)正在催生更大的應用市場[4]。通過5G網(wǎng)絡將數(shù)發(fā)送到云端服務器,可以實現(xiàn)更加復雜的運算和更短的時間響應。但是將5G和深度學習技術同時應用到工業(yè)視覺檢測領域的案例仍然非常少,其中重要原因,第一是目前市場上還沒有真正的成熟的5G工業(yè)相機,通過5G終端實現(xiàn)的圖片數(shù)據(jù)傳輸方案比較復雜,成本高;第二是因為雖然深度學習技術具有特征提取自學習、魯棒性強和更靈活等特點,但是對計算機算力要求也更高,所以相應需要更大的算力硬件投入[5]。
針對以上問題,本文提出了在工廠5G專網(wǎng)架構(gòu)下,充分發(fā)揮5G和人工智能結(jié)合的優(yōu)勢,開發(fā)5G工業(yè)相機進行圖像數(shù)據(jù)的采集和傳輸,設計開發(fā)基于深度學習的智能視覺檢測平臺,并通過多個測試工位共享該智能視覺檢測平臺,搭建快速的、并行的、智能化檢測系統(tǒng),并應用于實際生產(chǎn)測試中,不僅提高了檢測效率,減小了誤報率,而且降低硬件投入成本,推動基于5G的智能機器視覺檢測在工業(yè)領域的應用與普及。
機器視覺檢測已是工業(yè)檢測的重要組成部分,貫穿于產(chǎn)品加工、測試、組裝、包裝等各個生產(chǎn)環(huán)節(jié),但當前各生產(chǎn)環(huán)節(jié)還是存在大量依靠人工目檢的視覺檢測的場景,由于檢測結(jié)果主觀性強,易受檢測人員經(jīng)驗、心情等因素的影響,所以容易造成產(chǎn)品質(zhì)量風險隱患[6]?;?G智能機器視覺檢測系統(tǒng)通過在5G工廠專網(wǎng)架構(gòu)下,利用自研發(fā)的5G工業(yè)相機大帶寬、低延時等特點實現(xiàn)海量高清圖片數(shù)據(jù)的采集和傳輸并與遠程部署的AI服務器進行交互,根據(jù)不同生產(chǎn)應用場景或者不同工位視覺測試需求,搭建快速的、并行的、智能化的檢測網(wǎng)絡。
通過遠程端AI算法服務器的部署,不僅能提升圖像分析處理能力,而且提高了設備端輕量化程度和靈活性,同時多檢測工位可以共享AI算法服務,減少了硬件及算力的浪費,同時設備的日常維護或算法更新等工作也只需要在服務器端進行,大大降低了維護成本?;?G的智能機器視覺檢測系統(tǒng)結(jié)構(gòu)如圖1所示,整個系統(tǒng)核心包括5G工業(yè)相機和智能視覺檢測平臺兩個部分。
工業(yè)相機的功能是將光信號轉(zhuǎn)變成有序的電信號,具有更高的成像穩(wěn)定性、傳輸能力和抗干擾能力等,其性能好壞不僅直接影響圖像的分辨率和質(zhì)量,更關系著整個生產(chǎn)過程的效率[7]。由于圖像的數(shù)量和精度快速攀升,對網(wǎng)絡傳輸?shù)牡脱舆t需求愈發(fā)強烈,在4G時代,受限于傳輸速度和時延等性能,圖像傳輸前端和后端通訊響應時間比較長,無法實現(xiàn)實時通訊,在5G技術加持下,工業(yè)相機傳輸實現(xiàn)了性能的突破。
現(xiàn)有的傳統(tǒng)工業(yè)相機,如果需要通過5G網(wǎng)絡傳輸圖片數(shù)據(jù)到基站,必須借助于CPE信號轉(zhuǎn)換,并不是真正意義的5G工業(yè)相機,同時,增加的CPE和線束影響設備端的輕量化和靈活度。目前市場還沒有成熟的5G工業(yè)相機設備,因此,開發(fā)無線5G工業(yè)相機進行圖像數(shù)據(jù)采集和傳輸是5G機器視覺檢測的基礎和必要條件。自研發(fā)的5G無線工業(yè)相機如圖1所示,相機主要由成像模組、控制器和5G通訊模塊3個部分組成。
圖1 基于5G的智能機器視覺檢測系統(tǒng)結(jié)構(gòu)
(1)成像模組。包括一個CMOS面陣傳感器和鏡頭。主要負責現(xiàn)場端圖像的獲取,可根據(jù)不同應用場景需求進行適配和選型。
(2)控制器。5G工業(yè)相機的核心,主要負責控制成像模組圖像采集和GPIO輸出控制,以及提供5G通訊模塊接口等。
(3)5G通訊模塊。提供大帶寬、高可靠、低延時的網(wǎng)絡環(huán)境,支持sub-6 GHz和毫米波頻段以及5G獨立組網(wǎng)(SA)和非獨立組網(wǎng)(NSA)兩種運行模式。
智能視覺檢測平臺是檢測系統(tǒng)的核心,一般部署在遠程端,主要負責數(shù)據(jù)的云存儲、云處理和云協(xié)同等功能,同時利用容器技術將不同檢測工位組網(wǎng),實現(xiàn)1對多的檢測任務與應用支持,降低硬件成本和設備端復雜程度。智能視覺檢測平臺架構(gòu)如圖2所示,分為存儲層、容器層、算法層、應用層和決策層。
圖2 5G工業(yè)相機
(1)存儲層。數(shù)據(jù)的存儲是智能視覺檢測平臺的基礎工作,由于需要存儲的圖片數(shù)據(jù)體量大,因此采用基于Hadoop分布式存儲技術,保證海量生產(chǎn)數(shù)據(jù)的快速、高效、可靠性傳輸和存儲。
(2)容器層。根據(jù)實際應用需求,利用Kubern-etes或Docker技術構(gòu)建算法上層應用接口,實現(xiàn)1對n的檢測任務。
(3)算法層。對圖像數(shù)據(jù)進行處理分析實現(xiàn)對特定目標的檢測、分析與識別,包含基于open-cv傳統(tǒng)算法和深度學習算法。各個算法高度集成化、模塊化,以便于重復調(diào)用。
(4)應用層。根據(jù)實際應用需求,通過編排器的方式將算法模塊進行組合和調(diào)用,以完成檢測程序的封裝。
(5)決策層。依據(jù)圖像分析結(jié)果進行決策判斷,并制定相應響應策略,包括控制,協(xié)同與顯示等。
工業(yè)相機是機器視覺系統(tǒng)中一個關鍵組件,其本質(zhì)的功能是將光信號轉(zhuǎn)變成有序的能被電子系統(tǒng)處理的電信號,具有高的成像穩(wěn)定性、高傳輸能力和高抗干擾能力等特點[8]。目前所有的5G視覺解決方案中,工業(yè)相機采集圖片后都需要借助于5G終端或者CPE傳輸圖片數(shù)據(jù),大大增加了設備端的復雜程度。
5G工業(yè)相機是依靠5G的大帶寬、低延時和高可靠性等特點實現(xiàn)海量高清數(shù)據(jù)的采集功能,為保證特殊場景圖像傳輸速度,自研發(fā)5G工業(yè)相機利用MPEG-4 AVC圖片編碼技術對圖片進行壓縮后傳輸,5G工業(yè)相機關鍵技術開發(fā)如圖3所示。相對于現(xiàn)有的5G圖像采集傳輸方案,自研發(fā)的5G工業(yè)相機配置簡單,支持遠程部署和控制,插卡即用,依靠高效、穩(wěn)定的5G網(wǎng)絡實現(xiàn)端對端的實時圖像數(shù)據(jù)采集傳輸任務,可滿足當前許多工業(yè)智能檢測應用場景。
圖3 智能視覺檢測云平臺架構(gòu)
傳統(tǒng)視覺檢測系統(tǒng)通常是為特定場景定制化開發(fā)的,光源、工業(yè)相機、圖像處理等單元模塊都在設備端,體積大,系統(tǒng)復雜,升級維護成本高。5G智能視覺檢測系統(tǒng)是基于C/S架構(gòu)設計的,設備端只保留5G工業(yè)相機,圖像處理能力移到后端智能檢測平臺上,各檢測工位只需采集圖片傳輸?shù)狡脚_端處理即可獲得檢測結(jié)果,具有以下優(yōu)勢。
(1)通過5G內(nèi)網(wǎng)架構(gòu)實現(xiàn)企業(yè)整體視覺檢測體系,可同時滿足多場景、多檢測點并行的檢測及智能化管理需求。
(2)圖像的存儲和分析處理算法主要部署在平臺端,極大提升設備的存儲和數(shù)據(jù)分析處理能力,減少了硬件及算力浪費,實現(xiàn)數(shù)據(jù)云存儲,云計算和云協(xié)同。
(3)設備端只需5G相機即可實現(xiàn)智能視覺檢測,有效降低工位檢測成本,提高設備端輕量化程度及靈活性。
(4)對于設備的日常維護或者算法更新,只需要在服務器端進行即可,降低了設備維護成本。
圖4 5G工業(yè)相機關鍵技術開發(fā)
傳統(tǒng)圖像處理算法主要靠算法開發(fā)人員根據(jù)具體應用所處環(huán)境、光源及被檢產(chǎn)品特點等因素人工設計特征提法方法,該方法對開發(fā)人員專業(yè)知識要求較高且泛化能力及魯棒性能差,只能用來解決特定場景、可人工定義、設計、理解的圖像分析任務。
深度學習算法主要是基于數(shù)據(jù)驅(qū)動進行圖像特征提取的方法,該方法根據(jù)大量圖片樣本的學習可以得到更深層、更高效和更準確的圖像特征表示,泛化能力和魯棒性更強,并且是端對端的,無需復雜的調(diào)參過程[9]。本系統(tǒng)搭建的智能視覺檢測云平臺支持深度學習算法訓練的全部流程,包括數(shù)據(jù)集存儲管理、圖片標注、模型訓練、模型部署等功能。目前已集成部署的深度學習算法有分類算法(VGG16,Resnet50,SENet等),目標檢測算法(Faster-RCNN,YOLOv3,YOLOv5),圖像分割算法(FCN,Unet),光學字符識別OCR(advanced EAST+CRNN),生成對抗網(wǎng)絡GAN(encode+decode,Pix2Pix),智能平臺通過模塊化、標準化的系統(tǒng)設計,大大降低了算法應用開發(fā)的難度,縮短了算法模型驗證和部署的時間。
長沙博世作為5G工業(yè)互聯(lián)網(wǎng)示范工廠,目前已經(jīng)實現(xiàn)5G專網(wǎng)信號無死角全覆蓋,可同時保障5G信號強度及上下行帶寬(下行700 Mb/s以上,上行200 Mb/s以上),可保證所有智能視覺檢測應用測試場景對網(wǎng)絡數(shù)據(jù)傳輸?shù)男枨蟆?/p>
馬達包裝是所有馬達產(chǎn)線最后一個生產(chǎn)工序,如果馬達包裝發(fā)生漏裝或者裝錯型號的情況,沒有其他有效手段進行攔截,將直接造成客戶投訴。由于傳統(tǒng)圖像處理算法對于環(huán)境和位置的變化要求非常高,所以不適用于此場景檢測,目前包裝重量的測量方法可以有效規(guī)避馬達包裝漏裝的情況,但是馬達錯裝的情況仍無法有效檢測。
針對博世產(chǎn)線馬達包裝漏裝檢測需求,以馬達數(shù)量和型號為檢測目標,進行馬達包裝檢測,基于5G的馬達包裝智能檢測臺如圖5所示,通過自研發(fā)5G工業(yè)相機進行實時圖片數(shù)據(jù)采集并傳輸?shù)竭h程端AI服務器中智能檢測平臺進行處理,實現(xiàn)馬達型號和數(shù)量的端對端的實時檢測,并在操作員拿走包裝后觸發(fā)結(jié)果輸出,利用聲光報警裝置告知操作員檢測結(jié)果。
圖5 基于5G的智能馬達包裝檢測臺
為方便技術人員查看結(jié)果,智能視覺檢測平臺輸出的可視化界面如圖6所示,應用的平臺算法主要是目標檢測算法YOLOv5和分類算法VGG-16。
圖6 基于5G智能馬達包裝檢測可視化界面
實際生產(chǎn)測試表明系統(tǒng)可實時檢測各種型號馬達和數(shù)量,準確率達99.5%以上,與重量測試檢測方法相比,生產(chǎn)效率提高0.5%,誤報率降低8%。并且通過該系統(tǒng)的應用和推廣,實施成本降低30%,運維成本降低25%,實現(xiàn)了低成本、智能化的工業(yè)視覺檢測任務。
基于5G的智能機器視覺檢測系統(tǒng)是將5G和AI技術相結(jié)合,為生產(chǎn)的各種場景實現(xiàn)端對端的檢測而打造的平臺化、智能化工業(yè)視覺檢測系統(tǒng)。相較于現(xiàn)有的工業(yè)視覺檢測成本高、誤報率高、功能單一等問題,該系統(tǒng)成本低、功能完善,滿足多場景視覺檢測需求,適合在工業(yè)領域大規(guī)模部署。自研發(fā)的5G工業(yè)相機的采用大大降低了設備端的復雜度,有利于設備端的輕量化和靈活度,模塊化的算法設計和標準化的操作流程提高了系統(tǒng)的通用性和可復制性。系統(tǒng)測試表明,通過多測試工位并行接入,大大降低投入成本,有效解決制造業(yè)產(chǎn)品視覺檢測系統(tǒng)響應慢、誤報率高、成本高等痛點和難點問題。