目前華為將這種技術稱為SafeVideo技術,在全線視頻監(jiān)控專用存儲中已經(jīng)應用。視頻監(jiān)控的業(yè)務不但不會因為多塊硬盤發(fā)生故障而導致系統(tǒng)暫停,還最大限度的的保護了用戶的數(shù)據(jù)資源。大量的使用者,特別是公安用戶反饋,此技術的誕生,說明了華為公司是真正第一家為安防行業(yè)定制標準IT設備的廠商。
SafeVideo技術并未就此停下腳步,當維護人員將新的硬盤替換上線后,無需做任何配置,RAID組將會自動重新組建并上線工作。
數(shù)據(jù)可靠性
雖然在研調需求的時候,發(fā)現(xiàn)客戶的需求是“業(yè)務連續(xù)性為第一重要級別,數(shù)據(jù)可以容忍少量錯誤”,但是華為并未將“可容忍少量錯誤”作為滿足于現(xiàn)狀的理由,而是利用在ICT技術上多年的積累,盡最大可能保護用戶的數(shù)據(jù)安全以及數(shù)據(jù)的完整性。前面講到的SafeVideo技術也是向著這個目標出發(fā),從而設計出了“RAID組內(nèi)多塊磁盤故障后,RAID組不失效,還能提供讀取服務”的特性,盡可能的減少了數(shù)據(jù)的損失。
從文章前面的內(nèi)容可以了解到,標準數(shù)據(jù)存儲(IPSAN或NAS)和視頻監(jiān)控行業(yè)應用存儲的區(qū)別,是由于承載的業(yè)務應用不同而產(chǎn)生的。在理論上,一個標準的數(shù)據(jù)存儲的實現(xiàn)是將數(shù)據(jù)切片并且復制多份后按照一定均衡算法存儲在多個存儲節(jié)點中。從左圖可以看到,一種色塊代表一個文件的切片,它們隨機的部署在不同硬件節(jié)點的不同硬盤上。
華為設計了 “就近存儲”的解決方案。一個派出所或者分局職能轄區(qū)內(nèi)所有的攝像機圖像均“就近”存儲在本地的云中。而單路攝像機的圖像則盡可能的“就近”存儲在一個云節(jié)點內(nèi)的一個RAID組里面。
并提出了“視頻監(jiān)控應用云節(jié)點”的理念,高可靠性是其核心特性。首先,將視頻監(jiān)控業(yè)務中所有能抽象出來的特性都內(nèi)嵌到云節(jié)點中;然后,所有應用云節(jié)點設備完全對等部署,無差異。經(jīng)過虛擬化后,所有的應用云節(jié)點會虛擬化為一臺巨大的應用云節(jié)點設備。并且云節(jié)點在系統(tǒng)內(nèi)嵌了應用,部署了一個小型的數(shù)據(jù)庫。每臺應用云節(jié)點都知道自己肚子里面裝的數(shù)據(jù)是什么。不管身邊的誰故障倒下了,自己的那片小天地不會倒下。
并行計算高性能
目前在平安城市的建設中,客戶遇到的最大的困擾就是:破案效率低下。這個痛點的其中一個重要原因就是搜索定位的效率低下。在前面的小節(jié)中已經(jīng)提到,傳統(tǒng)方案中會部署數(shù)據(jù)庫服務器,即使是標準數(shù)據(jù)存儲也會要部署MDS元數(shù)據(jù)服務器。各大方案廠家都會在數(shù)據(jù)庫服務器中保存視頻數(shù)據(jù)的索引,如基于圖像幀的索引或者基于時間的索引,無外乎是這兩種方式。
然而隨著數(shù)據(jù)量的增加,搜索查詢性能會越來越慢。數(shù)據(jù)庫就是這個瓶頸。
我們用國內(nèi)某平安城市的實際案例舉例。26,000個25幀網(wǎng)絡攝像機存儲1個月時間,如果按照標準的幀索引來計算的話,記錄數(shù)量會達到1萬6848億條記錄。如果放在SQL SERVER這種大型關系型數(shù)據(jù)庫里面,執(zhí)行搜索命令定位到其中1條,實驗室里面的數(shù)據(jù)是耗時1小時50分鐘。當然,經(jīng)過大量的優(yōu)化后,定位時間還是保持在30分鐘以上。
這個性能數(shù)據(jù)帶來的影響是非?膳碌。一個真實的案例,在某大型城市里發(fā)生了一起汽車肇事的案件。幸運的是,案件發(fā)生后馬上接到了報警。公安在城市治安卡口里面搜索汽車牌照號碼,半個小時過去了,結果還沒有反饋出來。這次事故在公安體系里面都知道。
當華為公司了解到這個客戶的痛點以后,進行了細致的分析,最后推出了基于視頻監(jiān)控應用云節(jié)點架構的“分布式并行搜索”特性。
在數(shù)據(jù)寫入的時候,視頻監(jiān)控應用云節(jié)點保存了一份分布式索引,這是一個基于秒偏移技術的視頻索引專用散列算法。這個算法也是為安防行業(yè)中視頻監(jiān)控的應用特別設計的。在一臺云節(jié)點設備內(nèi)部,定位到某一幀在磁盤上的位置僅僅需要不到10個微秒。1000000微秒才等于1秒。右圖是互聯(lián)網(wǎng)可以經(jīng)?吹降囊粡垐D片,子彈穿過蘋果的瞬間,照相機快門的曝光時間為3微秒?梢,應用云節(jié)點內(nèi)的視頻幀地址定位速度在人體所能感受到的時間刻度上來說,是瞬間。