Sophon智能服務(wù)器是比特大陸研發(fā)的一款高密度服務(wù)器,如圖所示,該服務(wù)器應(yīng)用于人臉檢測(cè)、人體檢測(cè)、車輛檢測(cè)、非人檢測(cè)等安防場(chǎng)景。前端數(shù)據(jù)流進(jìn)入服務(wù)器中,由服務(wù)器進(jìn)行數(shù)據(jù)計(jì)算,對(duì)數(shù)據(jù)進(jìn)行智能分析后,將結(jié)果返回給業(yè)務(wù)應(yīng)用層,應(yīng)用層根據(jù)結(jié)果給予相應(yīng)的反饋。
典型應(yīng)用場(chǎng)景為人臉識(shí)別系統(tǒng),系統(tǒng)主要采用了人臉檢測(cè)算法、人臉跟蹤算法、人臉質(zhì)量評(píng)分算法以及高速人臉對(duì)比識(shí)別算法,實(shí)現(xiàn)了實(shí)時(shí)人臉抓拍建模、實(shí)時(shí)黑名單對(duì)比報(bào)警和人臉后臺(tái)檢索等功能。
得益于迅猛增長(zhǎng)的算力,大數(shù)據(jù)、算法以及神經(jīng)網(wǎng)絡(luò)前所未有的突破,AI 已經(jīng)無(wú)處不在,成為了近十年和未來(lái)十年最具顛覆性的技術(shù)。AI,正箭在弦上!
市面上流行的AI安防解決方案主要分為兩類:前端型,大多數(shù)依靠架設(shè)在前端的單個(gè)AI IPC實(shí)現(xiàn)對(duì)重要卡口的捕捉監(jiān)控,算法需要大量的數(shù)據(jù)和算力來(lái)完成,依靠云服務(wù)來(lái)執(zhí)行計(jì)算;后端型,在不對(duì)前端普通IPC升級(jí)的情況下,只使用一臺(tái)或少量幾臺(tái)由 AI 驅(qū)動(dòng)的多路服務(wù)器使整套網(wǎng)絡(luò)具備AI功能。用戶面對(duì)兩種選擇該何去何從,分別構(gòu)建兩者所需的成本將制約用戶能否在AI時(shí)代占領(lǐng)制高點(diǎn)。
無(wú)論是提供計(jì)算資源的云服務(wù)供應(yīng)商,還是支撐強(qiáng)算力的服務(wù)器、GPU 廠商,亦或是致力于搭建深度學(xué)習(xí)框架的技術(shù)供應(yīng)商,都鉚足了勁兒借 AI 之力希望重新劃定市場(chǎng)格局。
Sophon智能服務(wù)器SA3-23是北京比特大陸科技有限公司研發(fā)的一款深度學(xué)習(xí)服務(wù)器。該服務(wù)器是基于比特大陸最新研發(fā)的Sophon AI智能芯片BM1682開(kāi)發(fā)的,專門為視頻監(jiān)控、互聯(lián)網(wǎng)圖像處理等多種應(yīng)用場(chǎng)景提供強(qiáng)大的深度學(xué)習(xí)加速能力,標(biāo)準(zhǔn)功能包括人臉檢測(cè)、人臉識(shí)別、人體監(jiān)測(cè)、非人檢測(cè)分類等。此服務(wù)器為 19 英寸標(biāo)準(zhǔn) 2U 服務(wù)器,內(nèi)置3個(gè)智能分析單元,包含 18 個(gè)BM1682 芯片,可以提供 54TFLOPs FP32的峰值計(jì)算力。搭載第三方算法可實(shí)現(xiàn) 90路視頻結(jié)構(gòu)化分析,不低于每秒 600 張人臉?lè)治觥?/p>
Sophon智能服務(wù)器是比特大陸研發(fā)的一款高密度服務(wù)器,如下圖所示,該服務(wù)器應(yīng)用于人臉檢測(cè)、人體檢測(cè)、車輛檢測(cè)、非人檢測(cè)等安防場(chǎng)景。前端數(shù)據(jù)流進(jìn)入服務(wù)器中,由服務(wù)器進(jìn)行數(shù)據(jù)計(jì)算,對(duì)數(shù)據(jù)進(jìn)行智能分析后,將結(jié)果傳遞給業(yè)務(wù)應(yīng)用層,應(yīng)用層根據(jù)結(jié)果給與相應(yīng)的反饋。
基于Sophon智能服務(wù)器可以構(gòu)建高性能計(jì)算平臺(tái),提供圖片、視頻分析的端到端解決方案。基于比特大陸自主研發(fā)的Sophon智能服務(wù)器可以應(yīng)用于多種應(yīng)用場(chǎng)景如人車分類及檢索、深度學(xué)習(xí)技術(shù)應(yīng)用、視頻結(jié)構(gòu)化技術(shù)應(yīng)用等對(duì)海量數(shù)據(jù)進(jìn)行預(yù)處理。Sophon智能服務(wù)器系統(tǒng)應(yīng)用由三層架構(gòu)組成,包括前端媒體接入的感知層、智能云分析層、以及業(yè)務(wù)應(yīng)用層。
Sophon智能服務(wù)器采用比特大陸自主研發(fā)的AI智能芯片BM1682,BM1682運(yùn)行在SOC模式,每顆芯片集成4核Cortex-A53的處理器運(yùn)行獨(dú)立的Linux操作系統(tǒng),提供SDK控制TPU神經(jīng)網(wǎng)絡(luò)加速單元、H.264/H.265/Jpeg 硬件解碼單元、視頻后處理硬件單元。芯片間通過(guò)網(wǎng)絡(luò)連接形成集群,可提供超強(qiáng)的計(jì)算能力。
高性能:Sophon智能服務(wù)器單臺(tái)服務(wù)器最高可支持90路視頻結(jié)構(gòu)化、每秒約600張人臉圖片檢測(cè)分析。
高能效比:Sophon智能服務(wù)器基于高能效比的AI專用芯片,采用低功耗的 ARM 處理器作為主控制芯片,在提供超強(qiáng)算力的同時(shí),降低了整機(jī)的功耗,提供了更高能效比的解決方案。主要面向數(shù)據(jù)中心及中小型邊緣節(jié)點(diǎn),提供超強(qiáng)的視頻結(jié)構(gòu)化處理能力,滿足中小站點(diǎn)的智能化改造及數(shù)據(jù)中心的分布式部署訴求。
高計(jì)算密度:Sophon智能服務(wù)器是比特大陸自主研發(fā)的一款高密度算力服務(wù)器,內(nèi)部集成了多個(gè)高密度智能分析算力板,在單臺(tái)服務(wù)器2U空間里內(nèi)置多達(dá)18顆AI專用芯片BM1682,使得單位機(jī)架空間的計(jì)算密度得到極大提升,在同樣的計(jì)算能力下占用更小的機(jī)架空間,從而減少了在數(shù)據(jù)中心部署的總體擁有成本(TCO)。
高可擴(kuò)展性:Sophon智能服務(wù)器之間采用分布式架構(gòu),各服務(wù)器可通過(guò)10G網(wǎng)絡(luò)互聯(lián),算力芯片通過(guò)網(wǎng)絡(luò)路由方式和控制板直連降低了數(shù)據(jù)轉(zhuǎn)發(fā)時(shí)延,在節(jié)省板卡空間的同時(shí)提升了服務(wù)器整體性能。
擁有統(tǒng)一的系統(tǒng)管理平臺(tái)可以根據(jù)業(yè)務(wù)彈性增加服務(wù)器,具備很好的可擴(kuò)展性和可管理性。在海量計(jì)算需求的情況下,可采用多臺(tái)服務(wù)器堆疊集群部署的方式,服務(wù)器之間通過(guò)萬(wàn)兆以太網(wǎng)互聯(lián),實(shí)現(xiàn)在數(shù)據(jù)中心的可擴(kuò)展性。支持統(tǒng)一的管理 Portal和管理服務(wù),可以在算力云/資源池/算力集群/容器等多種環(huán)境下部署,具備良好的可擴(kuò)展性和可管理性。
兼容性:Sophon智能服務(wù)器提供對(duì)外統(tǒng)一服務(wù)API(Zeus),Zeus是高密度服務(wù)器管理軟件,通過(guò)http協(xié)議即可管理系統(tǒng)所有的軟硬件信息。與多個(gè)應(yīng)用平臺(tái)兼容,各應(yīng)用平臺(tái)可根據(jù)REST API使用服務(wù)器功能以及集成不同的算法開(kāi)發(fā)各自的應(yīng)用需求。已經(jīng)對(duì)接的算法廠家包括云從、以薩、考斯、???、千視通、百度、Seemmo等。
低功耗:Sophon智能服務(wù)器采用低功耗的自主研發(fā)TPU處理器BM1682作為主控制芯片,以超低功耗支撐超強(qiáng)算力。
低成本:Sophon智能服務(wù)器多個(gè)算力板高度集成,使得在同樣的計(jì)算能力下占用更小的機(jī)架空間、更少的電力功耗,可有效減少數(shù)據(jù)中心部署的成本。
AI在安防行業(yè)已經(jīng)得到了廣泛的應(yīng)用,既然談到“廣泛”,必然會(huì)有“前、后、左、右”之分,不同用戶,不同的對(duì)象,對(duì)AI應(yīng)用也會(huì)有不一樣的需求。就像當(dāng)年模擬攝像機(jī)接入DVS可以組成混合網(wǎng)絡(luò)監(jiān)控架構(gòu)類似,選擇組建AI監(jiān)控網(wǎng)絡(luò)時(shí),也可以將IPC接入運(yùn)行AI工作負(fù)載的服務(wù)器,按需采購(gòu)不同“檔位”的AI服務(wù)器。以TPU方案出現(xiàn)的比特大陸SophonSA3智能服務(wù)器的出現(xiàn),很好地終結(jié)了傳統(tǒng)服務(wù)器僅靠CPU+GPU和CPU+FPGA的異構(gòu)堆核時(shí)代,為行業(yè)客戶帶來(lái)了耳目一新的不同選擇。