鐘 辰
(中央廣播電視總臺,北京 100020)
中央廣播電視總臺已經陸續(xù)搭建完成包括演播室、轉播車及EFP 在內的多套4K 超高清IP 化制作系統(tǒng)。這些系統(tǒng)遵循SMPTE-2110 視、音頻協(xié)議集標準[1]。綜合分析這些IP 化超高清制作系統(tǒng)可以發(fā)現(xiàn),它的核心網絡架構和設備選型組合大致分為兩類:一類是以Cisco 通用交換機為核心+以Grass Valley 為主的制作終端形成的IP 化視頻系統(tǒng)網;另一類是以華為或Cisco 通用交換機為核心+以SONY 為主的制作終端形成的IP 化系統(tǒng)網。GV+Cisco 的系統(tǒng)模式采用三層網絡交換技術,其交換機工作在OSI 網絡模型的第三層(IP 層),通過IP 交換技術實現(xiàn)對制作網內視頻業(yè)務組播數據的高速轉發(fā)。SONY+華為/Cisco 模式涉及到二層網絡交換技術(SONY 模式交換機組成的葉-脊架構中會存在二層和三層混合模式,二層是指交換機與終端劃分的同一VLAN 內數據轉發(fā),而跨VALN間的組播轉發(fā)則是三層IP 工作關系),其交換機工作在OSI 模型的第二層(數據鏈路層),通過處理組播MAC 地址信息實現(xiàn)對網內視頻業(yè)務數據包的高速轉發(fā)(目前,華為、Cisco 通用交換機自身都屬于三層網絡交換機,但都可選擇在二層、三層轉發(fā)模式下工作)。在小型制作局域網中,二層交換技術不處理數據層的IP 地址和高層端口協(xié)議,只需要數據包的MAC 地址信息,然后靠交換機硬件實現(xiàn)大數據轉發(fā),速度快,是二層網絡交換的一個顯著優(yōu)點。三層交換技術綜合二層轉發(fā)的高效率和IP 數據信息路由處理功能,能夠做到數據的一次路由計算后多次轉發(fā)。在大型制作網內,識別數據包內IP地址信息不但能實現(xiàn)IP 子網劃分后的網際互訪,還能限制廣播錯誤域范圍。各廣電公司在組建4K 制作網時會進行綜合分析,以決定選擇哪項技術。目前,在4K 超高清制作系統(tǒng)內,二層和三層網絡技術已被成熟應用,且系統(tǒng)運行較為穩(wěn)定。本文分析闡述4K 超高清制作系統(tǒng)中涉及的二層和三層網絡概念、廠商在搭建4K-IP 系統(tǒng)時對網絡交換技術的選擇以及在不同網絡架構下需要解決的主要問題。
為了嚴格區(qū)分概念,闡述的二層和三層網絡、二層和三層網絡轉發(fā)均指傳統(tǒng)交換概念中OSI 網絡標準模型提出的概念,而二層和三層網絡架構則是指按照邏輯拓撲結構劃分的核心層、匯聚層及接入層。
1.1.1 二層網絡
在二層網絡中,交換機工作在二層模式下。無論是數據傳輸還是交換機識別數據包,都只在數據鏈路層發(fā)生。交換機只對其所接收的數據包源文件解析到包頭中MAC 地址這一封裝層面(工作在二層模式下的交換機沒有能力查看更高層的IP 信息),并按照設備和數據包封裝的MAC 地址進行尋址和數據轉發(fā),同時建立和維護一個MAC 地址表用于記錄接收到的數據包中MAC 地址及其對應的端口信息。若這張存儲的MAC 地址表中有轉發(fā)目的端口的MAC 地址,則直接將數據包轉發(fā)到對應端口的設備上;若沒有對應的目的MAC 地址,交換機則在網內對要轉發(fā)的數據包進行全端口廣播,直到找到目的端,之后建立新的MAC 地址與端口的對應關系并存儲在地址表中,以備下次轉發(fā)時使用。這一循環(huán)過程是交換機對整個網絡的MAC 地址表進行添加、建立及維護的過程。但是,在二層網絡的4K-IP 系統(tǒng)需手動配置MAC 地址表,逐一落實數據源的端口和MAC 地址以及接收端口和MAC地址,還需要通過收斂回路生成樹、靜態(tài)配置組播MAC 和端口綁定以及劃分VLAN 等技術手段,將設備進行功能上的域分類、隔離,避免二層交換機通過廣播風暴的方式對所有端口輪詢查找,以保證4K-IP 制作系統(tǒng)進行節(jié)目生產時的安全,否則這樣的無序泛洪會占用大量系統(tǒng)帶寬資源,造成網絡阻塞和畫面中斷。此外,安全策略不能以終端設備為基礎進行部署,必須在網絡上進行。目前,采用大二層網絡結構搭建的4K-IP 系統(tǒng)數量很多,包括轉播車、EFP 及演播室,優(yōu)點是可以對4K 業(yè)務這種大數據流實現(xiàn)高速轉發(fā)。此外,廣電廠商會采取一切已被證實安全有效的技術手段處理好二層網絡的其他問題,全力保證4K 業(yè)務制作的安全可靠。
1.1.2 三層網絡
在三層網絡中,交換機工作在三層模式下,具備拆開數據包查看包頭中封裝的IP 地址信息的能力,從而通過不同的IP 地址識別不同的終端。通過查詢路由表地址簿,可確定終端所處的位置和數據傳遞路徑,從而利用IP 交換技術實現(xiàn)對制作系統(tǒng)網內視頻業(yè)務組播數據的高速轉發(fā)。三層交換機具備的路由功能是圍繞加快局域網內數據交換這一目的展開的。信源與接收終端的單播IP 地址、數據業(yè)務的組播IP 地址以及到達這些地址的路徑,都會規(guī)劃為地址表和路由表,并在配置好后交由交換機維護。在這些地址簿中,單播地址表用來標識設備終端,與IP 地址一一對應;組播地址表中,數據業(yè)務的邏輯功能與地址設計緊密貼合,通過組播地址可以準確映射出不同功能設備的業(yè)務區(qū)分;路由表將這些地址匯總后建立,使交換機匯總信息交換位置和路徑。在三層網絡中,終端設備由IP 地址區(qū)分而處于不同的網段。交換機的每個接口都是三層配置,處于不同網段,錯誤域小且彼此安全隔離。已在地址表中注冊的終端IP 地址為合法地址,沒有注冊的為非法地址,而交換機接口不接收來自非法地址的數據流。合法設備發(fā)出的數據組播停在交換機接收端口處(首先默認不通),交換機等待接收端的IGMP請求,誰請求就建立路徑并連通,無請求就不轉發(fā),避免了二層網絡中的廣播泛洪。目前,采用三層網絡結構搭建的4K-IP 制作系統(tǒng)數量也很多。三層網絡及設備具備的能力比二層網絡要多一層,所有成熟的技術協(xié)議都可應用于這一層。終端與交換機、交換機之間的各種三層組播轉發(fā)技術(如IGMPv2/ASM、IGMPv3/SSM、RPF、SM 及DM)也很成熟。獨特的NBM 安全策略也可以以終端設備為基礎進行分項部署,網絡安全性更高。廣電廠商也會采取安全有效的技術手段來完善三層制作網絡。
1.2.1 組播MAC 地址
在4K-IP 制作系統(tǒng)中,視頻業(yè)務數據都以組播數據包的形式在網絡中傳輸。在二層網絡架構里,交換機工作在二層配置下,只能識別數據包頭中封裝的第二層信息,即含有源和目的的48 位MAC 地址。MAC 地址標識物理設備網口的物理地址且唯一固定。另外,發(fā)送的組播數據也需要攜帶MAC地址,通過換算組播地址(組播地址是32 位的IP 地址)得出以01005e 開頭的48 位MAC 地址,這樣二層交換機即可在數據鏈路層識別出這些組播信息。由于組播MAC 地址中01005e 占據了48 位MAC 地址中的前25 位,因此需要把32 位的組播IP 地址換算到余下23 位MAC 地址中,這就造成224.1.1.1、224.129.1.1、225.1.1.1、225.129.1.1……239.1.1.1、239.129.1.1 這32 個IP 地址缺位且共享一個組播MAC 地址,會帶來巨大的隱患。由于二層交換機只能查看數據包MAC 地址,而這32 個IP 地址的MAC 地址相同,因此二層交換機會認為來自這32個IP 地址的不同數據流是一個數據流。如果視頻制作網絡中存在這一問題,在視頻業(yè)務切換畫面時,交換機可能會同時轉發(fā)給接收者多個畫面流,不但擁堵網絡,還會造成圖像發(fā)生嚴重錯誤。因此,廣電廠商在設計二層網絡的組播MAC 地址時,需要避開這32 個重疊的地址。手動配置組播MAC 地址也可以和交換機的固定端口綁定,能夠有效避免廣播風暴。它的缺點在于IP 系統(tǒng)增減設備時地址靈活性差,因此在設計地址表時需要注意。
1.2.2 組播地址
在4K-IP 三層網絡架構制作系統(tǒng)里,交換機工作在三層模式下,具備識別數據包頭中封裝的第三層IP 信息的能力。交換機每個接口都有靜態(tài)IP地址標識,因此處于不同網段且彼此隔離。終端設備發(fā)出的每一條視、音、輔助數據流都標識有組播IP 地址,可在允許的224.0.2.0 ~238.255.255.255用戶可用的范圍內自主選擇(239 開頭的組播地址已經限制為局域網系統(tǒng)內的本地控制管理地址,224.0.0.0 ~224.0.1.255 屬于部分不做分配的保留地址和公用地址)。根據系統(tǒng)設計和運維方便的需要,組播地址的規(guī)則也采用以核心交換機端口號為地址標識位的辦法,優(yōu)勢在于通過地址標識位即可快速獲得某條數據流的數據業(yè)務類型和終端與交換機的連接端口位置。即使終端設備變換,組播地址表的命名規(guī)則也不需要改變。組播地址命名規(guī)則:IP 地址XXX.X.XX.XX 中,第1 位是業(yè)務類型標識,第2 位是主、備交換機標識,第3 位是交換機端口標識,第4 位是數據流地址。比如,在4K-IP 制作系統(tǒng)內,視頻業(yè)務組播流地址統(tǒng)一以237 開頭,音頻業(yè)務組播以232 開頭,本地網內的控制信號會使用239 開頭。此外,組播地址的位置命名還需要兼顧傳輸鏈路的具體帶寬,防止發(fā)生組播流阻塞的情況。組播地址規(guī)劃表是三層4K-IP 網絡互聯(lián)互通的核心。交換機接收到組播流/組播組后等待接收端設備的IGMP 三層加組請求接收流,誰請求就建立路徑并連通,無請求就不轉發(fā),避免了二層網絡中的廣播泛洪。
在4K-IP 制作系統(tǒng)內,根據系統(tǒng)規(guī)模大小,核心交換機的配置分為主備單臺雙葉結構、雙層主備Spine-Leaf 葉脊結構以及雙模葉脊結構(脊交換機與葉交換機和終端設備連接)[2]。在4K-IP 制作網里,視頻組播單流(12G、3G、1.5G)、音頻組播流和輔助數據流大小都不一樣,走的路徑也可能不同。在交換機物理端口帶寬一定的情況下,需要考慮終端與交換機之間或者葉脊交換機之間所傳送的組播流帶寬的大小和多路徑選擇問題,使不同路徑傳送的數據流條目和占用帶寬能夠合理分擔。負載均衡和數據、接口帶寬的關聯(lián)性很大,上行接口帶寬應大于等于發(fā)送、接收數據帶寬,且每條鏈路應能根據帶寬能力平均合理放置組播流的條目數和感知大小,防止某些鏈路總是處在繁忙的收發(fā)占用中而有的鏈路卻被閑置,或者有的鏈路雖然數據流的條目很少但跑的都是高帶寬流而其他鏈路跑的卻是窄帶寬流。在二層和三層網絡設計時,這些都是需要結合現(xiàn)有網絡技術進行綜合計算和考慮的問題。
SONY+華為模式的二層網絡4K-IP 視頻制作系統(tǒng)中,交換機組成葉脊結構(一脊掛兩葉)。葉交換機通常有48 個1/10/25GE 帶寬兼容的光纖端口(具體接入帶寬可選擇對應的光模塊來適配),用來直接與各視頻制作終端、網關卡、SDN 以及PTP 等具備IP 接口的設備連接。例如,SONY-4K 攝像機、在線字幕包裝輸出端具備25GE 光模塊,圖像轉換器具備10GE 輸出光模塊,PTP 具備1GE 電口等。這些終端直連到葉交換機上對應帶寬規(guī)格的光模塊接口即可。終端設備發(fā)送、接收的組播數據帶寬,也要做好計算和匹配。例如,SONY-4K50P 攝像機輸出給交換機的視頻組播分別是1 個4K、2 個50P 高清(3 GHz)、1 個50i 高清(1.5 GHz)及一些反送通話流,總上行數據帶寬未超18.5 GHz(4K、高清信號的實測數據帶寬都小于12 GHz/3 GHz/1.5 GHz),滿足25GE 的傳輸接口帶寬上限標準;SONY-4K50P 攝像機的下行組播數據是1 個4K、3 個50P 高清(3 GHz)、4 個50i 高清返送(1.5 GHz)及一些反送監(jiān)聽,總下行帶寬未超24.5 GHz,仍符合25GE 傳輸標準;每臺字幕包裝上行至交換機分別是1 個4K 視頻和一個4K 鍵信號,總帶寬不超20 GHz;下行兩個4K 視頻用于開窗口占用帶寬不超20 GHz(在不需要凈切換的前提下),上下行都不超25GE 的傳輸帶寬標準。葉交換機的主要作用是與系統(tǒng)內各制作終端對接。在4K 大制作系統(tǒng)中,兩臺葉交換機96 個端口足夠滿足系統(tǒng)內1/10/25GE接口終端的對接數量,還會有預留端口供系統(tǒng)設備擴容。
二層網絡中,交換機將接收到的組播流標示為未知后,將數據包泛洪到所有端口,會使所有終端接收到數據,導致規(guī)劃好的下行數據帶寬變大,端口被堵塞,導致4K 節(jié)目制作中會出現(xiàn)圖像信號中斷的嚴重問題。因此,必須通過劃分虛擬局域網(Virtual Local Area Network,VLAN)的手段,將終端設備從邏輯上劃分至不同網段來隔離廣播域,從而將故障限制在較小范圍內(影響只限于本VLAN內),使每個節(jié)點無需接收無關的廣播數據,減少網絡帶寬的無謂消耗。VLAN 技術是二層網絡中有效控制端口帶寬、防止端口堵塞或風暴導致交換機宕機的手段。例如,葉交換機前10 個25GE 端口接10 臺SONY-4K 攝像機,11 ~30 的10GE 端口接20 個圖像轉換器,31 ~34 的10GE 端口接4臺IP 監(jiān)視器,35 ~39 的1GE 電口接LSM、SDN和PTP,40 到41 的25GE 端口接2 臺字幕包裝,剩下預留7 個接口。一般可將業(yè)務功能類似的設備劃在一個VLAN 下,將具備重要功能的設備端口劃成獨立VLAN,但每個VLAN 不能規(guī)劃太大帶寬(需要考慮葉脊間帶寬負載均衡問題)。因此,可以把每2 個25GE 接口和4 個10GE 接口劃為一個VLAN,CAM1 ~CAM10 和轉換器1 ~轉換器20 劃為VLAN1 ~VLAN5。4 臺IP 監(jiān)視器劃在VLAN6 下,2 臺字幕包裝在VLAN7。把1GE 電口的SDN、LSM 控制器都劃在一個VLAN 下,將PTP也單獨劃在自己的VLAN 中。這樣功能相同的設備都被分隔在自己的網段內,每個VLAN 的傳輸帶寬也基本被限定。一些有重要功能的設備都在自己的獨立VLAN 內,VLAN 之間彼此隔離,避免了無關數據的接收和串擾。
葉交換機的數據吞吐要上行到脊交換機,因此葉脊交換機之間的負載均衡設計也很重要。葉交換機有8 個100GE 的上行鏈路專門用來與上層脊交換機互聯(lián)。脊交換機通常有64 個100/40GE 兼容的光端接口,其中16 個100GE 接口分別和2 臺葉交換機各8 個100GE 互聯(lián),這樣每臺葉交換機與脊交換機的上、下行傳輸總帶寬都是800 GHz。以葉交換機與制作終端為例,10 臺攝像機總計占用上、下行帶寬分別為185 GHz 和245 GHz,20 個轉換器占用下行總帶寬200 GHz,4 臺IP 監(jiān)視器總下行帶寬40 GHz,2 臺字幕包裝總上、下行帶寬各占40 GHz,SDN、LSM、PTP 總上、下行帶寬各小于5 GHz,計算上剩余預留的7 個端口(2 個25GE、2 個10GE、3 個1GE),則葉脊交換機上行帶寬總共占用303 GHz,下行帶寬總共占用603 GHz,上、下行帶寬都不超過葉脊間的800GE 傳輸帶寬。由于葉交換機和制作終端間已經劃好多個VLAN,因此葉脊間這8 條100GE 鏈路,在每條鏈路上平均分配VLAN 做負載均衡即可。比如,第一條100GE 跑VLAN1、SDN VLAN 和PTP VLAN,第二條100GE跑VLAN2,第三條跑VLAN3,第四條跑VLAN4,第五條跑VLAN5,第6 條跑VLAN6 和預留的1GE VLAN,第7 條跑VLAN7 和預留10GE VLAN,第8條跑25GE 的預留VLAN。這樣每條100GE 鏈路的實際上下行數據量都不超過總帶寬的95%,即不超95 GHz(包含控制信號、PTP 信號等)。這就是SONY 的交換機全冗余帶寬配置方法,所有帶寬100%預留,所有信號并發(fā)在負載均衡上,也不會產生阻塞或沖突,可以保證網絡和制作安全。脊交換機還會鏈接如切換臺、畫分以及SNP 等40/100GE接口的制作設備,再以上述方法把相同功能屬性的設備端口劃好獨立VLAN 即可,如圖1 所示。需要注意的是,脊交換機上終端VLAN 的數據交換與葉交換機無關,因此不必計算到葉脊之間的帶寬占用中。VLAN 可以劃得大一些,如果切換臺下行信號考慮凈切換,則單個信號帶寬翻倍預留即可。
圖1 葉脊交換機負載均衡示意圖
在GV+Cisco 的4K 三層網絡制作系統(tǒng)中,交換機工作在網絡模型的第三層,端口和組播數據轉發(fā)都通過IP 地址實現(xiàn)。Cisco 將交換機網絡部分從邏輯上分為交換機(轉發(fā)層)和控制器(控制層)。DCNM 是為Cisco 通用交換機設計的控制服務器及軟件總稱,屬于網絡控制器,只處理與制作業(yè)務相關的策略和網絡監(jiān)控。各類路由表項和IGMP 請求處理等基本網絡功能仍由交換機自身完成。而非阻塞的組播(Non-Blocking Multicast,NBM)則是Cisco 專門為解決終端與交換機、交換機之間負載均衡而設計的策略。4K 制作網絡是一個組播流經由多條不同鏈路到達同一目的地址的網絡。交換機會利用ECMP 技術分配這些數據流,以平均利用多條鏈路傳輸,避免出現(xiàn)部分鏈路繁忙、閑置不均的情況。但是,ECMP 算法只能計算出組播數量卻無法感知數據流帶寬。在4K 制作域內,視、音、數據業(yè)務流的帶寬各不相同。在無法感知帶寬的情況下,即使每條傳輸鏈路分配的組播數量相同,但由于數據帶寬的不同,鏈路也可能會被信號阻塞。NBM 技術為ECMP 帶來帶寬參量的感知,使每條鏈路不僅實現(xiàn)組播條數平衡,還能實現(xiàn)帶寬占用的分配平衡,達到多路徑條目和帶寬合理分擔的目的。NBM 包含兩個重要的策略,分別是終端策略(Host Policy)和流策略(Flow Policy)。終端策略即白名單,限制了允許接入的視頻終端的IP 地址范圍。非法地址設備即使接入交換機也不能與其他設備連通,不合規(guī)的組播地址一律不收。流策略直接感知數據流的帶寬,能限制不同業(yè)務組播流的大小,參與每條鏈路上數據流數量的合理規(guī)劃和流帶寬大小的平均分配,保證鏈路帶寬負載安全,同時防止不合規(guī)或未知數據流進入交換機而影響正常數據交換。
二層網絡和三層網絡技術架構的4K 超高清制作系統(tǒng)都已經全面落地使用。各廣電廠商在組建4K 制作網時會根據實際需要選擇相應的網絡架構,不斷學習和探索IP 網絡知識,運用各自成熟且有特色的技術手段,保障二層和三層制作網絡的安全與可靠,保證4K 超高清節(jié)目生產高效穩(wěn)定。