澳门德州扑克官网www.hzlscctv.com,禁毒法中娱乐场所规定什么,全讯网7m(中国)·官方网站

融合架構的高時效可擴展大數據分析平臺

研究背景：大數據應用的多樣化需要的計算模型、數據模型多樣化；目前每類模型需要單獨的開源系統來支持（如HDFS、HBase、Neo4j、MongoDB，Flink，Spark，Tensorflow等）。多系統導致大數據分析平臺非常復雜、效率低下。研究目標：研究和開發(fā)面向新型多計算模型融合架構的、高時效、可擴展的新一代大數據分析支撐系統與工具平臺FAST（Fusion-Architecture, Scalable, Time-efficient big data analysis platform）。針對目前大數據分析平臺復雜、效率低下的痛點，該系統具有三個方面的優(yōu)勢：首先，這套系統采用融合架構，一方面實現關系、圖、鍵值、文檔等多種數據模型的高效融合，另一方面實現批處理計算、流計算的深度融合，并可以通過SQL擴展語言來進行多模型的統一查詢，實現高效的跨模型查詢。其次，對于復雜系統來說，時效性非常重要，這套系統采用融合架構提高效率是實現高時效的基礎，更重要的是，我們對大數據分析從數據到用戶進行了端到端的全棧時效優(yōu)化。最后，對于大數據應用來說，系統擴展性非常重要，本系統在資源層、存儲層和計算層進行了全面的擴展性優(yōu)化。下面在融合架構、高時效和可擴展這三個方面，分別詳細介紹FAST系統的三個主要亮點。融合架構 FAST系統的第一個亮點是融合架構，我們在技術方面的創(chuàng)新主要包括多數據模型融合和多計算模型融合兩方面。多數據模型融合：設計和研發(fā)了多模型數據管理與查詢引擎，支持關系、圖、鍵值、文檔等多種數據模型，實現了查詢解析、查詢優(yōu)化、元數據管理、數據分布等功能，將多種數據模型進行統一管理和深度融合。同時擴展了SQL語言，通過統一的查詢接口支持對關系、鍵值、圖、文檔等數據進行獨立訪問或者跨模型查詢。經過試驗，多模型數據融合查詢，比Spark 2.3.4的查詢時間能平均減少70.7%。目前spark等現有系統還需要手工編程方式來實現跨模型查詢，所以FAST系統在易用性上也表現良好，降低使用門檻，提高開發(fā)效率。多計算模型融合：在計算層實現了最常見的批處理計算和流計算深度融合，批流融合的核心方法是在系統內部實現批和流的統一表達，批是對有限數據集的運算，流是對無限數據流的計算，我們設計了UCollection結構對批和流數據進行統一表達，通過識別的bounded標志，來確定是批、流、或批流融合。有了統一表達，可以開展一系列融合優(yōu)化來提升系統性能。并且對上通過Unified API統一用戶的批、流接口，實現二者在編程范式上的統一表達。對于批流混合的計算，融合架構系統的查詢延遲比Flink 1.4.2能減少57%，吞吐量平均可以提升到6.72倍。高時效 FAST系統的第二個亮點是高時效，即縮短大數據分析的時間消耗，提高效率。由于大數據分析平臺是一個非常復雜的系統，為了做到高時效，系統不能存在性能短板，因此需要對大數據分析的整個過程進行端到端的全棧時效優(yōu)化。如圖中所示，自下而上，需要在多模態(tài)存儲、批流融合、機器學習、人工操作各層都進行優(yōu)化。對于多模態(tài)存儲，面向應用負載和異構硬件特征進行自適應優(yōu)化；對于批流融合計算，在統一表達基礎上，進行系列融合優(yōu)化技術，包括DAG優(yōu)化、迭代優(yōu)化、部署優(yōu)化、操作符優(yōu)化等；在機器學習層面，進行模型優(yōu)化、消息優(yōu)化、梯度優(yōu)化、概率優(yōu)化等來提高時效；而且我們也考慮到大數據分析過程中用戶人工操作的時效性問題，通過智能地進行大數據分析方法和模型的推薦，來縮減人工操作的時間。可擴展 FAST系統的第三個亮點是可擴展，由于大數據應用規(guī)模很大，數據增速快，對系統可擴展性的要求非常高，為此我們在系統的資源層、存儲層和計算層進行了全面的擴展性優(yōu)化。在資源層，系統都部署在云計算的虛擬化資源之上，利用了云計算資源的彈性機制進行系統擴展。并在系統中實現了可伸縮調整模塊，能實時監(jiān)控軟硬件系統的狀態(tài)，按照應用需求來自適應地進行彈性伸縮。在存儲層，分布式存儲系統擴展性的關鍵在于分布式共識和一致性協議（Raft），因此提出了KV-Raft、vRaft等進行Raft的擴展優(yōu)化。在計算層，我們擴展了機器學習模型的參數規(guī)模，使系統可以支持到百億級別的超大規(guī)模機器學習模型訓練，并且性能方面有明顯提升。亮點成果：融合架構大數據分析平臺目前已經在阿里巴巴雙十一進行示范應用。從2020年11月10日至11月16日一周的時間，在阿里的生產環(huán)境中，研發(fā) 的系統一直連續(xù)穩(wěn)定運行，基于淘寶和天貓的實際用戶信息進行大數據分析，綜合運用了本系統的存儲、計算、機器學習等多個模塊的能力，累計進行了184億件商品推薦。同時在雙十一期間，基于智能交互向導技術，也面向電子商務應用的賣家提供了“生意參謀”應用，基于大數據分析，幫助賣家分析產品銷量變化的原因，以及促銷的有效手段等。

中國人民大學 2021-05-09

新葡京娱乐场-大陆娱乐场开户注册