就一個(gè)中等以上城市而言,轎車、軌道交通車輛以及公交車輛等總數(shù)至少在百萬量級(jí),實(shí)時(shí)并發(fā)量巨大,要面臨對(duì)海量非結(jié)構(gòu)化大數(shù)據(jù)的組織與分析,對(duì)處理時(shí)效性和效率提出巨大挑戰(zhàn)。
方案架構(gòu)
如圖1曙光智慧交通建設(shè)模型所示,智慧交通處理核心在智慧交通建設(shè)中起到至關(guān)重要的作用,其中,智慧交通云計(jì)算平臺(tái)實(shí)現(xiàn)對(duì)業(yè)務(wù)應(yīng)用的支撐,體現(xiàn)了資源池化、按需自助服務(wù)、彈性可擴(kuò)、負(fù)載均衡、服務(wù)可度量等云計(jì)算優(yōu)勢(shì);智慧交通大數(shù)據(jù)處理核心平臺(tái)就是智慧交通的“大腦”,對(duì)采集來的海量數(shù)據(jù)進(jìn)行快速處理和分析,可實(shí)現(xiàn)包括但不僅限于如下所述的業(yè)務(wù)領(lǐng)域目標(biāo):
交通管理決策,主要是支持交通流量計(jì)劃、完善交通法規(guī)、自適應(yīng)式交通控制;
出行信息服務(wù),涉及到實(shí)時(shí)道路狀況查詢,支持出行者的多種終端設(shè)備等;
商用車輛監(jiān)管;
公共安全,如視頻監(jiān)控。
隨著智慧交通的不斷建設(shè),其數(shù)據(jù)呈現(xiàn)暴增趨勢(shì),能夠展現(xiàn)并支持這些數(shù)據(jù)量,需要一套成熟且又穩(wěn)定的產(chǎn)品或者解決方案,曙光公司基于在大數(shù)據(jù)處理領(lǐng)域的經(jīng)驗(yàn)和知識(shí)積累,針對(duì)交通行業(yè)的具體應(yīng)用特征,推出曙光在交通行業(yè)的大數(shù)據(jù)解決方案,架構(gòu)如圖2所示。
圖2 – 曙光交通行業(yè)大數(shù)據(jù)方案架構(gòu)圖
曙光智慧交通系統(tǒng)架構(gòu)如圖2所示,區(qū)、市數(shù)據(jù)中心用來收集前端攝像頭、拾音器等終端設(shè)備的數(shù)據(jù),并進(jìn)行存儲(chǔ)、變形以及分析和挖掘。曙光交通行業(yè)數(shù)據(jù)中心解決方案各層功能如下:
底層由曙光專為大數(shù)據(jù)定制的Xdata一體機(jī)及網(wǎng)絡(luò)設(shè)備等構(gòu)成,為上層應(yīng)用提供計(jì)算以及存儲(chǔ)資源;
存儲(chǔ)層基于曙光發(fā)布版的分布式文件系統(tǒng)HDFS以及分布式實(shí)時(shí)數(shù)據(jù)庫HBase技術(shù)實(shí)現(xiàn),存儲(chǔ)層不僅可以用來存儲(chǔ)從終端設(shè)備采集來的實(shí)時(shí)非結(jié)構(gòu)化數(shù)據(jù),還可以用來存儲(chǔ)從傳統(tǒng)應(yīng)用的關(guān)系數(shù)據(jù)庫里整合來的結(jié)構(gòu)化數(shù)據(jù);
應(yīng)用層基于曙光發(fā)行版Hadoop技術(shù)實(shí)現(xiàn),用來對(duì)存儲(chǔ)層的海量數(shù)據(jù)進(jìn)行離線分析、數(shù)據(jù)挖掘以及在線/互動(dòng)應(yīng)用。
交通系統(tǒng)的數(shù)據(jù)具有分布性和動(dòng)態(tài)性的特點(diǎn),需要進(jìn)行數(shù)據(jù)統(tǒng)一管理和實(shí)時(shí)分析,及時(shí)快速的處理突發(fā)事件。針對(duì)交通系統(tǒng)的應(yīng)用特點(diǎn),曙光解決方案采用如下幾項(xiàng)創(chuàng)新技術(shù),用來優(yōu)化存儲(chǔ)、查詢,增強(qiáng)應(yīng)用結(jié)果處理能力:
曙光解決方案提出創(chuàng)新的跨地域Hbase大表技術(shù),支持?jǐn)?shù)據(jù)存儲(chǔ)在不同地域的多個(gè)數(shù)據(jù)中心,而用戶所見為虛擬的單一數(shù)據(jù)中心,方便管理和使用,同時(shí),每個(gè)數(shù)據(jù)中心互為備份,在全局范圍內(nèi)提供更高可用性;
曙光大數(shù)據(jù)平臺(tái)在Hbase頂部加入SQL層,對(duì)大量交通數(shù)據(jù)提供實(shí)時(shí)分析服務(wù),并且對(duì)同一組數(shù)據(jù)同時(shí)支持互動(dòng)式查詢和離線統(tǒng)計(jì);
曙光大數(shù)據(jù)平臺(tái)在Hbase中加入全文本索引和近實(shí)時(shí)搜索,可以實(shí)現(xiàn)對(duì)分布式數(shù)據(jù)庫里的結(jié)構(gòu)化數(shù)據(jù)提供全文本搜索的能力,并且內(nèi)建索引以確保交通數(shù)據(jù)和索引始終同步;
曙光大數(shù)據(jù)平臺(tái)在Hbase里加入高效大對(duì)象存儲(chǔ),采用標(biāo)準(zhǔn)的Hbase接口,提升了交通圖像數(shù)據(jù)的存儲(chǔ)性能;
曙光大數(shù)據(jù)平臺(tái)將成熟的R語言庫引入MapReduce、HDFS和HBase,降低了開發(fā)復(fù)雜的數(shù)據(jù)挖掘邏輯的工作量。
業(yè)務(wù)應(yīng)用
曙光大數(shù)據(jù)解決方案在業(yè)務(wù)應(yīng)用方面的價(jià)值總結(jié)如下:
曙光智慧交通大數(shù)據(jù)平臺(tái)提供的高性能硬件處理平臺(tái)以及對(duì)海量結(jié)構(gòu)化及非結(jié)構(gòu)化數(shù)據(jù)的并行處理架構(gòu)設(shè)計(jì)等可實(shí)現(xiàn)對(duì)智慧交通海量數(shù)據(jù)的有力支撐;
曙光智慧交通大數(shù)據(jù)平臺(tái)通過對(duì)智慧交通海量數(shù)據(jù)的快速實(shí)時(shí)分析,可促進(jìn)國家交通運(yùn)輸部在信息化“十二五規(guī)劃”中提到的重大項(xiàng)目建設(shè)的落地實(shí)現(xiàn),包括:第一,為交通出行信息服務(wù)系統(tǒng)提供有力的數(shù)據(jù)處理支撐,實(shí)現(xiàn)智慧交通公共信息服務(wù)的實(shí)時(shí)傳遞,滿足出行者實(shí)時(shí)準(zhǔn)確獲取交通出行信息服務(wù)的需求;第二,為交通管理部門的交通應(yīng)急決策系統(tǒng)提供有力的數(shù)據(jù)分析處理層面的支撐,實(shí)現(xiàn)對(duì)交通緊急突發(fā)狀況的快速反應(yīng)及應(yīng)急指揮,對(duì)維護(hù)社會(huì)穩(wěn)定和減少經(jīng)濟(jì)損失有重大意義;
曙光智慧交通云計(jì)算平臺(tái)可實(shí)現(xiàn)資源池化、按需自助服務(wù)、彈性可擴(kuò)、負(fù)載均衡、服務(wù)可度量等特性,實(shí)現(xiàn)交通各部門業(yè)務(wù)系統(tǒng)在云中的高效整合,打破既往的“煙囪”式業(yè)務(wù)部署模式,真正實(shí)現(xiàn)數(shù)據(jù)共享;曙光智慧交通大數(shù)據(jù)平臺(tái)與曙光智慧交通云計(jì)算平臺(tái)結(jié)合,可對(duì)共享的海量交通數(shù)據(jù)進(jìn)行高效的分析處理并實(shí)時(shí)給業(yè)務(wù)系統(tǒng)返回?cái)?shù)據(jù),實(shí)現(xiàn)智慧交通多業(yè)務(wù)系統(tǒng)聯(lián)動(dòng),可快速應(yīng)對(duì)變化;
曙光智慧交通大數(shù)據(jù)平臺(tái)對(duì)海量數(shù)據(jù)的實(shí)時(shí)分析處理能力可保障可視化事件追蹤的實(shí)現(xiàn)。
總之,交通是工業(yè)化進(jìn)程中經(jīng)濟(jì)運(yùn)行的動(dòng)脈,智慧交通是智慧城市的重要組成部分,通過物聯(lián)網(wǎng)前端數(shù)據(jù)采集以及視頻監(jiān)控,采集各個(gè)道路視頻攝像頭信息,對(duì)比歷史記錄,對(duì)實(shí)時(shí)車流、人流進(jìn)行分析,可以計(jì)算和預(yù)測(cè)該路段當(dāng)前、未來的交通情況,也可以動(dòng)態(tài)調(diào)整交通狀況并實(shí)時(shí)預(yù)警。曙光智慧交通大數(shù)據(jù)平臺(tái)處理的數(shù)據(jù)量之大、數(shù)據(jù)結(jié)構(gòu)類型之多、實(shí)時(shí)性之高,足以體現(xiàn)大數(shù)據(jù)在智慧交通的應(yīng)用前景和價(jià)值所在。
方案價(jià)值
曙光解決方案針對(duì)智慧交通應(yīng)用系統(tǒng)能夠帶來以下價(jià)值:
為出行者提供實(shí)時(shí)準(zhǔn)確的交通出行信息服務(wù),幫助出行者根據(jù)交通狀況選擇更合適的出行路線及換乘方式,減少因擁堵造成的時(shí)間成本浪費(fèi);
違法車輛追蹤效率提升,通過海量數(shù)據(jù)實(shí)時(shí)分析處理功能能將違法車輛數(shù)據(jù)定位時(shí)間由小時(shí)級(jí)減為分鐘級(jí)甚至秒級(jí);
惡性交通事故死亡人數(shù)減少,通過監(jiān)控系統(tǒng)收集車輛信息并且實(shí)時(shí)分析,能夠?qū)κ鹿矢甙l(fā)車輛(如工程貨車)進(jìn)行行為監(jiān)控,降低惡性事故率;
道路擁堵率下降,通過路況監(jiān)控設(shè)備收集路況信息并實(shí)時(shí)處理,能夠精確繪制道路擁堵線圈,提供交管部門快速處理突發(fā)事故,并提供給大眾平臺(tái)供駕駛員參考從而疏導(dǎo)車流。