一、大數(shù)據(jù)產(chǎn)業(yè)開(kāi)放格局初露鋒芒
大數(shù)據(jù)是繼云計(jì)算、移動(dòng)互聯(lián)網(wǎng)之后快速崛起的熱點(diǎn)領(lǐng)域,在經(jīng)歷了2013年大數(shù)據(jù)元年的飛速發(fā)展后,我國(guó)的大數(shù)據(jù)領(lǐng)域逐漸從技術(shù)積累和嘗試階段步入了產(chǎn)業(yè)化發(fā)展階段,具備了加快發(fā)展構(gòu)建大數(shù)據(jù)產(chǎn)業(yè)鏈的基礎(chǔ)條件和能力儲(chǔ)備,產(chǎn)業(yè)鏈形態(tài)初現(xiàn)端倪。
2014年12月,《中國(guó)大數(shù)據(jù)技術(shù)與產(chǎn)業(yè)發(fā)展白皮書(shū)(2014)》發(fā)布,對(duì)2015年的大數(shù)據(jù)發(fā)展進(jìn)行了趨勢(shì)預(yù)測(cè),數(shù)據(jù)的商品化和數(shù)據(jù)共享的聯(lián)盟化,以及提升政府治理能力分列其中。與此同時(shí),《白皮書(shū)》用“融合、跨界、基礎(chǔ)、突破”等主要關(guān)鍵詞概括了我國(guó)大數(shù)據(jù)產(chǎn)業(yè)的未來(lái)走向,由此可見(jiàn),大數(shù)據(jù)開(kāi)放格局在產(chǎn)業(yè)鏈中的重要地位已成為行業(yè)的普遍共識(shí)和一致訴求。2015年4月14日,全國(guó)首個(gè)大數(shù)據(jù)交易所——貴陽(yáng)大數(shù)據(jù)交易所掛牌運(yùn)營(yíng),首批大數(shù)據(jù)產(chǎn)品成功交易,這不僅標(biāo)志著大數(shù)據(jù)資產(chǎn)化和經(jīng)濟(jì)效益的直接轉(zhuǎn)換,同時(shí)對(duì)促進(jìn)大數(shù)據(jù)資產(chǎn)的流通和共享產(chǎn)生了重要意義和深遠(yuǎn)影響。
二、大數(shù)據(jù)產(chǎn)業(yè)開(kāi)放格局面臨新挑戰(zhàn)
近年來(lái),國(guó)內(nèi)外互聯(lián)網(wǎng)公司和傳統(tǒng)企業(yè)都普遍意識(shí)到數(shù)據(jù)資產(chǎn)化和規(guī);瘞(lái)的潛在價(jià)值,并逐步加速數(shù)據(jù)價(jià)值顯像化的進(jìn)程。在此過(guò)程中,越來(lái)越多的數(shù)據(jù)使用者意識(shí)到,單純依賴企業(yè)或行業(yè)內(nèi)部的數(shù)據(jù)源會(huì)極大地禁錮數(shù)據(jù)產(chǎn)業(yè)的創(chuàng)新思路,制約數(shù)據(jù)價(jià)值的提升。因此,構(gòu)建數(shù)據(jù)的開(kāi)放共享格局就成為了整合數(shù)據(jù)資源,促進(jìn)大數(shù)據(jù)產(chǎn)業(yè)鏈組織形態(tài)進(jìn)一步細(xì)分和重構(gòu)的共同愿望。
遵循社會(huì)活動(dòng)和生產(chǎn)加工的基本流程,數(shù)據(jù)的價(jià)值轉(zhuǎn)換通常包括“數(shù)據(jù)生成和采集—數(shù)據(jù)存儲(chǔ)和加工—數(shù)據(jù)分析和展示—數(shù)據(jù)應(yīng)用”等若干步驟。盡管開(kāi)放格局中數(shù)據(jù)的流轉(zhuǎn)過(guò)程沒(méi)有發(fā)生實(shí)質(zhì)性的變化,但對(duì)各階段技術(shù)支撐能力和產(chǎn)業(yè)鏈供給模式都提出了新的要求。
一是多源數(shù)據(jù)水平參差不齊,可用性有待提高。開(kāi)放格局下的數(shù)據(jù)源要求在現(xiàn)有數(shù)據(jù)獲取途徑的基礎(chǔ)上,提供更多樣化的數(shù)據(jù)采集手段,并進(jìn)一步擴(kuò)大數(shù)據(jù)采集的范圍、頻度和精度。目前各細(xì)分行業(yè)的采集手段較難統(tǒng)一,不同行業(yè)領(lǐng)域生成數(shù)據(jù)的過(guò)程往往依靠私有化和定制化的設(shè)備來(lái)實(shí)現(xiàn),這也導(dǎo)致了各行業(yè)領(lǐng)域?qū)ν粩?shù)據(jù)內(nèi)容的解讀存在廣泛的不一致現(xiàn)象,影響了公共數(shù)據(jù)的梳理和聚集。例如對(duì)同一數(shù)據(jù)來(lái)源,不同的行業(yè)領(lǐng)域可能采用不同的編碼方式、存儲(chǔ)類(lèi)型、索引結(jié)構(gòu)等,盡管數(shù)據(jù)的天然屬性是唯一的,但表現(xiàn)在技術(shù)方式上多種多樣,人為地造成了數(shù)據(jù)的“多樣性”,致使數(shù)據(jù)整合難度加大,數(shù)據(jù)的直接可用性嚴(yán)重低下。
二是數(shù)據(jù)模型的衍生速度滯后于應(yīng)用發(fā)展。開(kāi)放格局下的數(shù)據(jù)分析和挖掘工作重點(diǎn)由傳統(tǒng)的單一領(lǐng)域數(shù)據(jù)分析轉(zhuǎn)為多領(lǐng)域數(shù)據(jù)的綜合分析,相對(duì)應(yīng)的數(shù)據(jù)模型也從平面式模型結(jié)構(gòu)向數(shù)據(jù)模型立方體轉(zhuǎn)變。數(shù)據(jù)模型的規(guī)范性和權(quán)威性會(huì)直接影響數(shù)據(jù)分析結(jié)果和戰(zhàn)略決策的準(zhǔn)確性,因此,缺乏高效可用的數(shù)據(jù)模型成為了開(kāi)放格局下數(shù)據(jù)分析挖掘服務(wù)能力的瓶頸所在。此外,目前數(shù)據(jù)模型的生成和創(chuàng)新主要依賴人工預(yù)設(shè)、人工智能和機(jī)器學(xué)習(xí)等傳統(tǒng)方式,針對(duì)多源數(shù)據(jù)關(guān)聯(lián)的模型仍然不成熟,高質(zhì)量數(shù)據(jù)模型的衍生速度尚不足以匹配應(yīng)用的迭代速度和業(yè)務(wù)場(chǎng)景對(duì)數(shù)據(jù)分析結(jié)果的高要求。
三是混搭架構(gòu)的存在要求重視頂層架構(gòu)設(shè)計(jì)。一方面,數(shù)據(jù)來(lái)源的多樣化,及數(shù)據(jù)應(yīng)用兼顧在線分析(OLAP)、實(shí)時(shí)交易(OLTP)等多場(chǎng)景的現(xiàn)實(shí)訴求,決定了企業(yè)必須借助混搭技術(shù)要素來(lái)設(shè)計(jì)復(fù)雜的數(shù)據(jù)架構(gòu)。另一方面,傳統(tǒng)企業(yè)礙于現(xiàn)實(shí)生產(chǎn)系統(tǒng)效率和準(zhǔn)確性的影響,IT系統(tǒng)“去IOE”的過(guò)程較為緩慢且不徹底,基于小型機(jī)構(gòu)建的Oracle數(shù)據(jù)庫(kù)較難被完全替代,基礎(chǔ)設(shè)施類(lèi)型和數(shù)據(jù)組織方式的異構(gòu)性同樣導(dǎo)致了混搭數(shù)據(jù)架構(gòu)可能長(zhǎng)期存在。如何面向企業(yè)數(shù)據(jù)需求構(gòu)建包括傳統(tǒng)關(guān)系型數(shù)據(jù)庫(kù)、內(nèi)存數(shù)據(jù)庫(kù)和分布式文件系統(tǒng)等多元素的混搭架構(gòu),成為了開(kāi)放格局下數(shù)據(jù)保有者進(jìn)行頂層架構(gòu)設(shè)計(jì)所面臨的新問(wèn)題。
四是數(shù)據(jù)私有化和開(kāi)放訴求的天然矛盾持續(xù)升級(jí)。數(shù)據(jù)私有化不僅體現(xiàn)在數(shù)據(jù)保有者對(duì)原始數(shù)據(jù)的不斷積累,同時(shí)也作用于ETL等數(shù)據(jù)的私有化加工過(guò)程中。出于對(duì)企業(yè)信息和用戶隱私的保護(hù),數(shù)據(jù)保有者通常將加工處理后的原始數(shù)據(jù)作為數(shù)據(jù)內(nèi)容開(kāi)放給上層應(yīng)用使用,但不公開(kāi)相應(yīng)的數(shù)據(jù)加工轉(zhuǎn)換規(guī)則。在缺乏行業(yè)標(biāo)準(zhǔn)的統(tǒng)一指導(dǎo)下,開(kāi)放哪些數(shù)據(jù)字段、字段的編碼映射規(guī)則,及數(shù)據(jù)加工的精度等都導(dǎo)致應(yīng)用提供者在數(shù)據(jù)開(kāi)放格局中處于被動(dòng)地位。隨著數(shù)據(jù)范圍的不斷擴(kuò)大和多領(lǐng)域數(shù)據(jù)關(guān)聯(lián)結(jié)果的指數(shù)級(jí)增長(zhǎng),數(shù)據(jù)私有化的壁壘效應(yīng)會(huì)越發(fā)明顯。
三、順勢(shì)而為,全面構(gòu)建大數(shù)據(jù)開(kāi)放格局
當(dāng)前我國(guó)大數(shù)據(jù)產(chǎn)業(yè)的組織方式是遵照數(shù)據(jù)生命周期的各生產(chǎn)加工步驟展開(kāi)的,在新的數(shù)據(jù)開(kāi)放格局中,實(shí)現(xiàn)數(shù)據(jù)價(jià)值和提供更廣泛的數(shù)據(jù)服務(wù)仍將貫穿大部分?jǐn)?shù)據(jù)生產(chǎn)加工流程。面對(duì)開(kāi)放環(huán)境給大數(shù)據(jù)產(chǎn)業(yè)帶來(lái)的全新挑戰(zhàn),把握數(shù)據(jù)流轉(zhuǎn)過(guò)程的核心環(huán)節(jié),推進(jìn)多層次數(shù)據(jù)能力開(kāi)放,有助于促成我國(guó)數(shù)據(jù)產(chǎn)業(yè)開(kāi)放格局快速形成。
首先是“治數(shù)據(jù)之本”,加強(qiáng)對(duì)數(shù)據(jù)質(zhì)量的控制。數(shù)據(jù)質(zhì)量控制是數(shù)據(jù)開(kāi)放共享格局的核心要素之一,理順開(kāi)放格局下多重?cái)?shù)據(jù)來(lái)源是保障數(shù)據(jù)產(chǎn)業(yè)良性發(fā)展的管理抓手。建立各細(xì)分領(lǐng)域自行保有數(shù)據(jù)、集中維系數(shù)據(jù)血緣關(guān)系的統(tǒng)分模式是從源頭上打通數(shù)據(jù)生產(chǎn)隔閡,提升數(shù)據(jù)質(zhì)量的有效舉措。在跨領(lǐng)域數(shù)據(jù)關(guān)聯(lián)和加工過(guò)程中,通過(guò)規(guī)范的數(shù)據(jù)加工規(guī)則或提供加工流程的回溯檢驗(yàn)?zāi)芰Γ軌蜃畲笙薅鹊貙?shí)現(xiàn)數(shù)據(jù)溯源。
其次是打造集成化的數(shù)據(jù)服務(wù)開(kāi)放平臺(tái),降低數(shù)據(jù)服務(wù)使用門(mén)檻。通過(guò)架構(gòu)和技術(shù)路線的定制化,政府或企業(yè)有能力實(shí)現(xiàn)自數(shù)據(jù)存儲(chǔ)之后的全部數(shù)據(jù)流轉(zhuǎn)環(huán)節(jié)。其中,數(shù)據(jù)的加工與預(yù)處理是減小數(shù)據(jù)規(guī)模、提高數(shù)據(jù)可用性和單位存儲(chǔ)成本價(jià)值的必要環(huán)節(jié),開(kāi)放格局勢(shì)必促進(jìn)去隱私化數(shù)據(jù)清洗、匿名轉(zhuǎn)換等具有共性的加工處理手段以第三方服務(wù)或集成服務(wù)的方式對(duì)外供給;數(shù)據(jù)分析和可視化工具的可集成性與友好的人機(jī)交互設(shè)計(jì)也是降低數(shù)據(jù)服務(wù)使用門(mén)檻的主要保障。通過(guò)搭建開(kāi)放平臺(tái)的方式將上述服務(wù)能力統(tǒng)一整合,并作用于企業(yè)生產(chǎn)、行業(yè)分析和政府公共治理等各領(lǐng)域,有望成為我國(guó)大數(shù)據(jù)產(chǎn)業(yè)鏈在開(kāi)放共享格局下的新型發(fā)展模式。
最后是推進(jìn)多層次數(shù)據(jù)能力開(kāi)放,鼓勵(lì)全產(chǎn)業(yè)環(huán)節(jié)積極參與。數(shù)據(jù)服務(wù)能力貫穿數(shù)據(jù)流轉(zhuǎn)過(guò)程,其開(kāi)放性體現(xiàn)在多個(gè)層面,如數(shù)據(jù)的傳輸接口、數(shù)據(jù)的加工處理手段、數(shù)據(jù)的分析挖掘工具、數(shù)據(jù)的公共模型、數(shù)據(jù)的可視化操作界面等等都是能力開(kāi)放的重要形式。鑒于開(kāi)源技術(shù)逐漸成為大數(shù)據(jù)的主流架構(gòu),沿襲開(kāi)源開(kāi)放的發(fā)展思路,通過(guò)數(shù)據(jù)生產(chǎn)加工過(guò)程各環(huán)節(jié)的深度參與,不斷豐富和完善產(chǎn)業(yè)環(huán)境,是探索我國(guó)大數(shù)據(jù)產(chǎn)業(yè)互惠共贏格局的有效途徑。
作者簡(jiǎn)介:
孫鑫,中國(guó)信息通信研究院政策與經(jīng)濟(jì)研究所,工學(xué)博士。