《電子技術應用》
您所在的位置:首頁 > 其他 > 設計應用 > 基于OLAP技術的污染源在線監測數據分析系統
基于OLAP技術的污染源在線監測數據分析系統
來源:微型機與應用2012年第6期
朱亞興
(廣東科學技術職業學院, 廣東 珠海519090)
摘要: 污染源在線監測數據分析系統基于污染源管理綜合系統數據庫提供的數據源,經過數據清洗、轉換,加載到數據倉庫中,進行主題設計與多維建模,采用OLAP技術實現海量數據展示、分析統計,同時提供功能強大的共享查詢、多維分析和污染源企業排口監測因子預警、事件自動提醒及各類數據報表統計等,提高了減排工作信息化的水平和工作效率。
Abstract:
Key words :

摘  要: 污染源在線監測數據分析系統基于污染源管理綜合系統數據庫提供的數據源,經過數據清洗、轉換,加載到數據倉庫中,進行主題設計與多維建模,采用OLAP技術實現海量數據展示、分析統計,同時提供功能強大的共享查詢、多維分析和污染源企業排口監測因子預警、事件自動提醒及各類數據報表統計等,提高了減排工作信息化的水平和工作效率。
關鍵詞: 聯機分析處理; 數據倉庫; 多維分析

    根據國家環保總局《關于制定主要污染物總量減排年度計劃的通知》(環辦[2007]33號)要求,及廣東省人民政府《關于加強我省主要污染物總量控制工作的實施意見》(粵府辦[2007]118號),對已建成在線監控設備的企業提出了考核要求。為加強減排工作信息化,提高工作效率,強化數據處理能力,完善在線監測數據庫,同時結合“減排”工作的需要,需建立在線監控數據上報及聯機數據分析系統。
1 聯機分析系統研究
    聯機分析處理OLAP(On Line Analytical Processing)的概念最早是由關系數據庫之父CODD E F于1993年提出的。當時,CODD認為聯機事務處理OLTP(On Line Transactioinal Processing)已不能滿足終端用戶對數據庫查詢分析的需要,用戶的決策分析需要對關系數據庫進行大量計算才能得到結果,因此提出了多維數據庫和多維分析的概念,即OLAP[1-3]。OLAP是數據倉庫系統的主要應用,支持復雜的分析操作,為人們提供直觀易懂的查詢結果[1]。
    OLAP服務器一般作為數據倉庫系統的中間層和用戶預定義的多維數據視圖,對數據倉庫的信息進行統計分析處理,為具有明確分析范圍和分析要求的用戶提供高性能的決策支持[2]。OLAP技術通過基本多維分析操作為用戶提供一幅幅直觀的視圖。常用的多維分析操作有鉆取、切片、切塊和旋轉等。
2 系統需求及功能概述
    污染源在線監測數據分析系統基于污染源管理綜合系統數據庫提供的數據,要求將系統監控數據收集到分析數據庫中,實時分析監測數據,即時發現數據異動發出報警,實現數據分析、發布上報和報警,同時提供功能強大的即席查詢和統計分析能力,提高工作效率。
    系統主要功能模塊劃分為:實時監測和異常報警、事件提醒及待辦處理、數據分析、設備維護、數據同步和系統管理。
     實時監測和異常報警功能模塊包括對數百家重點企業進行實時排污監控,主要是排水和排氣。每家排污企業根據其行業類別、生產工藝等不同設立了不同監測因子和排放范圍,當企業的排放超出了設定的排放標準或產生其他異動狀況,系統及時發出警報,并向值班人員發送短信提醒;發現設備運行異常時通知運營單位進行檢修,填寫設備異常報告等。
    事件提醒及待辦處理功能模塊包括:當系統偵測發生異常和設備維護等事件時,系統自動提醒用戶;由用戶輸入相應事件處理的日程安排。
    數據統計分析功能包括對污染源企業、監測因子排放、現場巡視、企業生產異常事件、污染源排放、超標排放、掉電情況、超標率等統計分析等。
    數據同步功能分為業務數據更新后同步和數據補登后數據同步。
    系統管理功能模塊包括用戶管理、角色管理、權限分配和系統參數設置等功能。只能由系統管理員操作使用。
3 在線監測與分析系統數據倉庫設計
3.1數據倉庫設計框架

    數據倉庫的設計為決策、分析及高效管理提供保障和服務,是系統在線監測與分析的基礎與核心。
    本系統的數據倉庫設計總體框架如圖1所示,按照數據獲取層、數據存儲層、數據展現層模式建設。其好處是層次分明,層次之間松耦合,保證整個系統的穩定運行,并方便維護和功能的擴展工作。

 

 

    數據獲取層  從污染源管理綜合數據庫中獲取的數據作為數據源,經過必要的抽取、清洗、轉換等處理后加載到數據倉庫系統中,即ETL(Extraction Transformation Loading)過程。本系統關于數據抽取和轉換使用基于商業智能的開源工具Kettle ETL對多種不同數據源、不同格式的數據進行清洗、轉換、加載等繁雜工作。
    數據存儲層  包括數據倉庫和從屬的數據集市。數據倉庫是信息的邏輯和物理的存儲。在數據倉庫實施過程中,對于某些主題業務的分析問題,按照主題采用數據集市的方式對數據進行進一步的組織。在中央數據倉庫的基礎上根據分析需求創建相應的從屬數據集市。
    數據展現層  通過對數據存儲層的數據進行各種加工整理,將獲得的數據以文字、報表、曲線和各種圖形的方式,簡便、快捷地展現出來。主要包括即席查詢、聯機分析處理、報表輸出和信息結果發布等功能。
3.2主題分析設計與多維建模
    數據倉庫中的數據都圍繞相關主題組織,面向主題是在線監測與分析系統數據倉庫區別于污染源管理綜合數據庫系統的主要特征。經過需求分析和與用戶反復探討最終確定了在線數據分析系統數據倉庫的幾個基本主題:污染源類型主題、異常事件類型主題、監控設備類型主題,并確定其公用類主題。如污染源類型主題包括所屬行業、監測站類別、工藝流程、監測因子、企業規模、注冊類型、管理級別、排放去向、污染物處置方法等信息。異常事件類型主題包括異常類型、監控類型、超標因子等信息。監控設備類包括設備類型、調試目的等信息。
    公用類主題類型包括的維度有日期、時間和地區。如圖2所示。

    確定主題后,可以用多維模型進行描述。多維建模方式表現了屬性間更為豐富的關系和靈活性。多維建模易于使用者進行多維分析[5-6]。在多維分析模型建設中主要存在兩種模型:星型模型(Star Schema)和雪花模型(Snowflake Schema)。以污染源排污監控分析主題關系邏輯雪花型多維模型如圖3所示。

    此模型對應的系統分析目標和功能為:從時間段、污染類型、企業規模、行政區域等角度對排放因子進行分析,掌握各類排放因子的排放平均值、最大值、最小值和累計排放值,并可進行不同時間段內趨勢和比較分析,了解排放值的變化趨勢。
4 在線監測數據分析
4.1 污染源排放統計分析

    采用企業級商務智能分析處理模塊,引入主流的ROLAP(關系型聯機分析處理系統)技術,通過Mondrian多維分析工具,實現海量數據展示、分析統計,同時提供功能強大的共享查詢和多維分析功能[7]。可以多視角多維度觀察監測數據,對數據進行上鉆、下鉆、切片、切塊等操作[8]。污染源排放數值多維統計分析如圖4所示。

4.2污染源企業排口監測因子預警及閥值設置
    考慮到排污、流量等情況的多變性,采取實時在線學習訓練及仿真、預測,即采用近期的實測資料(依據連續幾個時間周期取值的變化做實驗),建立預測模型,通過實際數據比較,得到與實際結果相近的預測率。實測結果示例如圖5所示。

    企業據此填報污染源排放煙氣連續監測系統審核評分表,如圖6所示。
    對于不同行業的閥值有不同,通常依據連續幾個時間周期取值的變化來做監測,智能分析超標率,默認時間周期內(h或者min)80%時間超標提醒,例如排水的工廠,以6 h為周期,連續5 h,或者有85%的離散數據接近閥值,則系統產生預警,如果發現企業有違反環保規定的行為,可以下達限期整改通知書,責令企業在特定的期限內完成整改。
    本系統采用基于數據倉庫和智能分析技術實現海量數據查詢及分析、污染源企業排口監測因子預警、事件自動提醒、各類數據報表統計、任意格式數據報表導出,自動填寫電子化報告等功能,基本達到低碳、環保的無紙辦公。實現了環境監察業務的流程化、標準化和規范化,為數字環保和智慧城市提供基礎信息方案。系統正式投入運行近一年,得到了使用單位的一致好評。
參考文獻
[1] BAEZA-YATES R, HURTADO C, MENDOZA M. Query  recommendation using query logs in search engines [C].  Proc of EDBT Workshops,2004:588-596.
[2] 陳啟買,賀超波,劉海.基于OLAP的高校教學協同決策[J]. 計算機應用,2009,29(1):304-305,333.
[3] KOUTRIKA G,IKEDA R,BERCOVITZ B,et al. Flexible recommendations over rich data[C]. Proc of ACM Conference on Recommender Systems,2008:203-210.
[4] 李婧. 商務智能與數據倉庫在保險業的應用研究[D].西安:西安電子科技大學,2007.
[5] 黃曉穎,李亞芬,王普. 基于數據倉庫的學科建設決策支持系統的設計[J] .計算機工程與設計, 2010,31(23):4995-4998.
[6] 秦永平,王麗萍,孫慶.基于數據倉庫的突發公共衛生事件預警預報系統[J].計算機工程與設計, 2010,31(23):3119-3122.
[7] 王亞妮,李茜. 基于OLAP 技術的社區衛生服務體系信息管理平臺的設計與實現[C]. 2010 3rd International Conference on Power Electronics and Intelligent Transportation System,2010.
[8] 陳元中. 基于聚類的OLAP多維分析查詢推薦方法研究[J].計算機工程與設計, 2010,31(15): 3503-3505.

此內容為AET網站原創,未經授權禁止轉載。
亚洲一区二区欧美_亚洲丝袜一区_99re亚洲国产精品_日韩亚洲一区二区
亚洲经典在线| 亚洲视频在线观看| 国产精品久久久久久久久久直播| 久久综合九色99| 欧美在线日韩精品| 亚洲制服av| 99视频一区| 99re国产精品| 久久一区激情| 欧美午夜片欧美片在线观看| 欧美成人精品福利| 欧美成人a视频| 免费一区二区三区| 免费成人你懂的| 欧美第一黄网免费网站| 欧美第一黄网免费网站| 欧美成在线视频| 欧美国产国产综合| 欧美伦理一区二区| 欧美日韩亚洲国产一区| 欧美日韩一级片在线观看| 欧美精品综合| 国产精品草莓在线免费观看| 国产精品啊啊啊| 国产伦精品一区二区三区| 国产精品资源| 激情91久久| 亚洲区一区二| 日韩视频免费在线| 亚洲特级毛片| 欧美一区二区女人| 久久精品国产免费| 亚洲精品日韩综合观看成人91| 亚洲乱码一区二区| 在线亚洲观看| 欧美一级大片在线观看| 欧美一区二区三区免费观看视频| 欧美一区二区三区播放老司机| 久久精品国产精品 | 欧美性猛交一区二区三区精品| 国产精品扒开腿爽爽爽视频| 国产精品第13页| 国产日本欧洲亚洲| 狠狠爱成人网| 亚洲精品久久久蜜桃| 一本色道久久综合亚洲精品不卡| 亚洲小说欧美另类社区| 欧美一区二区三区视频在线观看| 亚洲国产精品高清久久久| 亚洲乱亚洲高清| 午夜欧美精品| 免费h精品视频在线播放| 欧美日韩激情小视频| 国产精品久久91| 狠狠狠色丁香婷婷综合久久五月 | 一本色道久久综合亚洲精品不卡| 国产午夜精品理论片a级大结局| 激情欧美国产欧美| 亚洲美女在线观看| 欧美一区二区精品久久911| 亚洲黄色天堂| 亚洲一区综合| 久久综合给合久久狠狠色| 欧美色精品天天在线观看视频| 国产日韩精品久久久| 亚洲国产一区二区精品专区| 亚洲亚洲精品在线观看| 亚洲国产婷婷香蕉久久久久久99 | 欧美日韩亚洲视频| 国产亚洲一级| 一本久久a久久精品亚洲| 欧美中文字幕视频| 亚洲视频中文字幕| 六月婷婷一区| 国产精品网站在线观看| 亚洲国产精品专区久久| 亚洲欧美视频在线观看视频| 亚洲久色影视| 久久久久久亚洲精品中文字幕| 欧美日韩亚洲一区二区三区在线观看 | 欧美成人免费网站| 国产精品一页| 亚洲三级电影全部在线观看高清| 香蕉精品999视频一区二区| 99国产精品国产精品久久| 久久久噜噜噜久久久| 国产精品福利在线观看| 亚洲国产欧美精品| 久久精品理论片| 午夜精品国产更新| 欧美日韩国产123| 亚洲大胆女人| 亚洲电影观看| 久久国产精品99精品国产| 欧美午夜精品久久久久久孕妇| 在线播放视频一区| 午夜精品久久久久久久99黑人| 99在线精品视频在线观看| 亚洲啪啪91| 亚洲国产片色| 欧美亚洲午夜视频在线观看| 欧美日韩成人一区| 亚洲激情视频| 亚洲精品免费在线| 免费成人高清| 一色屋精品视频免费看| 欧美在线观看一区| 欧美在线你懂的| 国产女同一区二区| 亚洲一区二区高清| 一区二区三区日韩| 欧美精品一区二区三区视频| 影音先锋亚洲视频| 亚洲国产欧美不卡在线观看| 久久精品主播| 国语对白精品一区二区| 欧美一级黄色网| 久久久蜜桃一区二区人| 国产亚洲a∨片在线观看| 香港成人在线视频| 久久精品亚洲一区二区三区浴池| 国产欧美精品日韩| 午夜国产精品视频| 久久成人人人人精品欧| 国产婷婷色综合av蜜臀av| 午夜精品视频一区| 久久精品官网| 激情国产一区二区| 亚洲国产一区二区精品专区| 欧美77777| 亚洲精品欧美激情| 亚洲视频高清| 国产精品久久看| 午夜精品视频一区| 久久婷婷综合激情| 亚洲第一在线视频| 夜夜嗨av色综合久久久综合网| 欧美精品1区| 一本久道久久综合狠狠爱| 午夜精品久久久久久99热软件| 国产精品视频内| 欧美一级淫片aaaaaaa视频| 久久麻豆一区二区| 亚洲福利视频一区二区| 一本一本久久a久久精品综合妖精| 欧美日韩在线三级| 亚洲欧美日本在线| 久久一区中文字幕| 亚洲精品久久久久久下一站 | 午夜欧美精品久久久久久久| 久久久精品国产免大香伊| 怡红院精品视频在线观看极品| 亚洲区欧美区| 欧美视频一区在线| 亚洲欧美色婷婷| 蜜臀91精品一区二区三区| 亚洲精品字幕| 亚洲欧美制服另类日韩| 国内精品久久久久影院优| 国产精品日产欧美久久久久| 亚洲另类视频| 欧美日韩精品一区二区在线播放 | 久久在线免费观看| 亚洲精品国产精品国产自| 亚洲欧美综合精品久久成人 | 一区二区亚洲欧洲国产日韩| 99精品欧美一区| 国产精品一区视频| 亚洲日本欧美| 国产精品视频区| 亚洲黄色在线看| 国产精品九九| 91久久精品美女| 国产精品久久精品日日| 久久国产免费| 欧美视频一二三区| 亚洲大胆人体视频| 欧美三级中文字幕在线观看| 欧美一区二区三区在线| 欧美精品午夜视频| 欧美一区2区三区4区公司二百| 欧美区一区二区三区| 欧美一级大片在线观看| 欧美日韩亚洲一区在线观看| 欧美中文字幕在线| 国产精品成人久久久久| 亚洲激情综合| 国产欧美精品| 亚洲午夜国产一区99re久久| 狠狠久久婷婷| 羞羞色国产精品| 亚洲精品乱码久久久久久久久| 久久成人一区二区| 一本一道久久综合狠狠老精东影业| 久久综合给合| 午夜国产精品视频免费体验区| 欧美日韩国产经典色站一区二区三区| 欧美一区二区三区日韩视频| 欧美午夜剧场| 一本大道久久精品懂色aⅴ|