《電子技術應用》
您所在的位置:首頁 > 嵌入式技術 > 設計應用 > 歷史數(shù)據(jù)庫的設計與實現(xiàn)
歷史數(shù)據(jù)庫的設計與實現(xiàn)
2015年微型機與應用第17期
王立爍,張興波
(北京國際系統(tǒng)控制有限公司,北京 100083)
摘要: 針對Wonderware平臺自帶的歷史數(shù)據(jù)服務無法滿足大量歷史數(shù)據(jù)同時存儲的問題,對該平臺的歷史數(shù)據(jù)服務進行了研究和分析,在保證Wonderware平臺存儲歷史數(shù)據(jù)的正確性、及時性和完整性的前提下,結合Wonderware平臺與.NET能夠兼容的特性,設計了一種新的歷史數(shù)據(jù)存儲方法,使用C#語言完成了基于.NET的自定義歷史數(shù)據(jù)庫的開發(fā)并投入實際使用,運行效果良好。
Abstract:
Key words :

  摘  要: 針對Wonderware平臺自帶的歷史數(shù)據(jù)服務無法滿足大量歷史數(shù)據(jù)同時存儲的問題,對該平臺的歷史數(shù)據(jù)服務進行了研究和分析,在保證Wonderware平臺存儲歷史數(shù)據(jù)的正確性、及時性和完整性的前提下,結合Wonderware平臺與.NET能夠兼容的特性,設計了一種新的歷史數(shù)據(jù)存儲方法,使用C#語言完成了基于.NET的自定義歷史數(shù)據(jù)庫的開發(fā)并投入實際使用,運行效果良好。

  關鍵詞: Wonderware;歷史數(shù)據(jù)服務;自定義歷史數(shù)據(jù)庫;C#

0 引言

  美國Wonderware公司創(chuàng)建于1987年4月,致力于開發(fā)基于IBM PC及其兼容計算機的、應用于工業(yè)及過程自動化領域的人機界面(HMI)軟件,是一家領先的工業(yè)自動化與信息軟件解決方案供應商[1]。Wonderware平臺是美國Wonderware公司為適應嚴格的實時工業(yè)環(huán)境而開發(fā)的產(chǎn)品,其提供了一個工業(yè)化的應用服務、一個強大的歷史數(shù)據(jù)庫服務、一個易于使用的信息服務、以及無與倫比的連通性[2]。但是在實際使用過程中發(fā)現(xiàn),當歷史數(shù)據(jù)的數(shù)據(jù)量多到一定程度時,該平臺自帶的歷史數(shù)據(jù)庫服務無法滿足同時存儲這些數(shù)據(jù)的要求,歷史服務器的日志中會出現(xiàn)告警和錯誤。針對該問題,本文深入研究了Wonderware平臺收集歷史數(shù)據(jù)的體系結構,摒棄了平臺自帶的歷史數(shù)據(jù)庫服務,并在此基礎上研發(fā)了一種新的歷史數(shù)據(jù)庫,保證了在數(shù)據(jù)量巨大的情況下歷史數(shù)據(jù)仍然能夠正常進行存儲。

1 歷史數(shù)據(jù)存儲體系結構

  1.1 Wonderware平臺配置歷史數(shù)據(jù)庫服務

  在Wonderware平臺的IDE中可以實現(xiàn)對整個平臺服務的配置,在Platfrom級別和Engine級別的對象下包含歷史數(shù)據(jù)服務的配置[3]。如圖1所示,選中“Enable Storage To Historian”后,就開啟了歷史數(shù)據(jù)服務功能,經(jīng)過正確配置后就可將該引擎下所有的歷史數(shù)據(jù)存入歷史服務器。

001.jpg

  通過圖1中的幾個關鍵配置項,可以實現(xiàn)歷史數(shù)據(jù)的存儲。其中Historian用來配置歷史數(shù)據(jù)服務器名稱,Storeforward deletion threshold用來配置存儲轉發(fā)數(shù)據(jù)塊的刪除臨界值,Storeforward minimum duration用來配置存儲轉發(fā)最小間隔,F(xiàn)orwarding chunk size用來配置轉發(fā)數(shù)據(jù)塊大小。通過這些配置可以發(fā)現(xiàn),Wonderware自帶歷史數(shù)據(jù)服務的關鍵是通過存儲轉發(fā)完成歷史數(shù)據(jù)的存儲,即通過簡潔的界面配置就可在系統(tǒng)各平臺內(nèi)進行歷史數(shù)據(jù)存儲。但是,在實際運行中發(fā)現(xiàn),當Wonderware平臺接入的數(shù)據(jù)點非常多時,歷史數(shù)據(jù)服務存在低概率出現(xiàn)錯誤的可能性,會影響系統(tǒng)的正常使用。

  1.2 自定義歷史數(shù)據(jù)庫的數(shù)據(jù)存儲結構

  數(shù)據(jù)庫連接是一種關鍵的、有限的昂貴資源,建立一個數(shù)據(jù)庫連接需要消耗大量系統(tǒng)資源,頻繁地創(chuàng)建數(shù)據(jù)庫連接會大大削弱應用性能,所以在自定義的歷史數(shù)據(jù)庫中,如何盡可能減少數(shù)據(jù)庫的連接是關鍵所在。通過研究Wonderware平臺自帶的歷史數(shù)據(jù)服務可以發(fā)現(xiàn),歷史數(shù)據(jù)通過存儲轉發(fā)策略進行存庫。同樣,在自定義歷史數(shù)據(jù)庫中也采用這種存儲轉發(fā)的策略,使用ADO.NET技術,將系統(tǒng)接收的數(shù)據(jù)連續(xù)存入中轉文件[4],然后再將中轉文件內(nèi)容復制到歷史數(shù)據(jù)庫,每一個中轉文件一旦被成功讀取并將數(shù)據(jù)存儲到數(shù)據(jù)庫后就被刪除,這樣就在極大程度上節(jié)省了寶貴的數(shù)據(jù)庫資源,降低了系統(tǒng)負載,杜絕歷史數(shù)據(jù)存庫的失敗。本文中,在遙測對象中增加腳本程序,使用接口函數(shù)接收數(shù)據(jù),對數(shù)據(jù)進行周期性和突發(fā)性地存儲,然后將數(shù)據(jù)存入本地文件。在引擎中增加腳本程序,使用接口函數(shù)獲取本地文件,將本地文件周期性存入歷史數(shù)據(jù)庫,然后刪除已經(jīng)被讀取過的文件。流程如圖2。

002.jpg

2 自定義歷史數(shù)據(jù)庫的設計

  Wonderware平臺以開發(fā)工具包的形式擴展了Microsoft Visual Studio.NET,并且在腳本中支持絕大部分 .NET函數(shù)。但是由于在腳本中進行代碼編輯不方便,并且有些函數(shù)和類庫使用起來不如在.NET中簡單,所以此處采用編寫外部函數(shù)庫的方法,使用C#語言完成自定義函數(shù)庫的開發(fā)。數(shù)據(jù)庫平臺選用SQL Server。

  2.1 將歷史數(shù)據(jù)存入中轉文件

  歷史數(shù)據(jù)分為周期性存儲和突發(fā)性存儲,定義周期性存儲間隔為5 s,當歷史數(shù)據(jù)發(fā)生突變并且變化范圍超過閾值時,進行突發(fā)性存儲。在每一個對象的Function Script中獲取數(shù)據(jù)后,將數(shù)據(jù)用“,”分隔,拼接成string類型的字符串,先放在動態(tài)數(shù)組里。動態(tài)數(shù)組是C#提供的一種優(yōu)秀的數(shù)據(jù)結構,可以動態(tài)地分配存儲空間,而不是像普通數(shù)組那樣必須先定義好數(shù)組長度,所以使用List可以有效節(jié)省內(nèi)存。

  代碼如下:

  string combinedata=time+“,”+name+“,”+value+“,”+quality;

  public static List<string> Liststr=new List<string>();

  Liststr.Add(combinedata);

  中轉文件可以采用多種格式,此處采用TXT文件,按照存儲周期為1 min將數(shù)組存入TXT文件。TXT文件被特定的命名格式(如“站名-點名-時間精確到分”)存放在D盤的名為“Data”的文件夾下。代碼如下:

  string Path="D:\\中轉文件\\Engine_"+EngineName+"_當前時間"+"("+DateTime.Now.ToString("yyyyMMdd_HHmm")+").txt";//時間精確到分鐘

  2.2 將中轉文件數(shù)據(jù)存入數(shù)據(jù)庫

  如果是用readline方法來逐行讀取TXT中的數(shù)據(jù)無疑是最容易被想到的辦法,但是這樣會大大降低數(shù)據(jù)存儲速度,并且會持續(xù)性占用大量數(shù)據(jù)庫連接資源。所以需要一種更加優(yōu)化的方法來進行數(shù)據(jù)的存儲。

  利用ADO.NET中的Datatable技術和SqlBulkCopy類,將TXT文本文件中的數(shù)據(jù)存儲到數(shù)據(jù)表中,然后將數(shù)據(jù)表中的數(shù)據(jù)復制到數(shù)據(jù)庫中。雖然使用SqlBulkCopy類只能向SQL Server表寫入數(shù)據(jù),但數(shù)據(jù)源不限于SQL Server,可以使用任何數(shù)據(jù)源,只要數(shù)據(jù)可加載到DataTable實例或可使用IDataReader實例讀取數(shù)據(jù)即可[5]。此方法可以大量節(jié)省數(shù)據(jù)庫資源,是一種高效的處理方式。

  創(chuàng)建DataTable實例:

  DataTable dt=new DataTable();

  dt.Columns.Add(new DataColumn("時間"));

  dt.Columns.Add(new DataColumn("名稱"));

  dt.Columns.Add(new DataColumn("數(shù)據(jù)"));

  dt.Columns.Add(new DataColumn("質量"));

  …

  SqlBulkCopy將DataTable復制到數(shù)據(jù)庫中:

  System.Data.SqlClient.SqlBulkCopy sbc=new

  System.Data.SqlClient.SqlBulkCopy(SQL

  ConnectionString);

  {

  …

  sbc.BulkCopyTimeout=5000;

  sbc.BatchSize=dt.Rows.Count;

  sbc.DestinationTableName="中轉文件";

  sbc.WriteToServer(dt);

  …

  }

3 結束語

  使用C#語言設計的基于.NET平臺的歷史數(shù)據(jù)庫具有存儲速度快、占用資源少、保證數(shù)據(jù)完整性的優(yōu)點,與Wonderware自帶的歷史數(shù)據(jù)庫服務相比具有更優(yōu)良的海量數(shù)據(jù)存儲性能。目前該數(shù)據(jù)庫已經(jīng)應用到遠動監(jiān)控系統(tǒng)中,運行效果良好。

  參考文獻

  [1] Invensys Systems, Inc. Alarm toolkit guide[R]. UK: Invensys Systems, Inc, 2009.

  [2] Invensys Systems, Inc. IT alarms and events[R]. UK: Inven sys Systems, Inc, 2009.

  [3] Anon. Wonderware[EB/OL]. (2013-12-19)[2015-05-10]. http://www.baike.baidu.com.

  [4] NAGEL C.Professional C#4 and .NET 4[M].李銘,譯.北京:清華大學出版社,2010.

  [5] 張奇,李律松,衛(wèi)建偉,等.Visual C#數(shù)據(jù)庫項目案例導航[M].北京:清華大學出版社,2005.


此內(nèi)容為AET網(wǎng)站原創(chuàng),未經(jīng)授權禁止轉載。