《淺談數(shù)據庫信息管理系統(tǒng)的邏輯架構與功能設計》由會員分享,可在線閱讀,更多相關《淺談數(shù)據庫信息管理系統(tǒng)的邏輯架構與功能設計(3頁珍藏版)》請在裝配圖網上搜索。
1、淺談數(shù)據庫信息管理系統(tǒng)的邏輯架構與功能設計
摘要:筆者結合數(shù)據庫理論和實際經驗從以下幾個方面探討淺談數(shù)據庫信息管理系統(tǒng)的邏輯架構與功能設計。 關鍵詞:數(shù)據庫信息管理
2、系統(tǒng)邏輯架構功能設計 0引言 數(shù)據庫信息管理系統(tǒng)一個重要的功能是完成系統(tǒng)前臺與后臺之間的數(shù)據通信。將前臺業(yè)務打包數(shù)據經過解析傳輸?shù)胶笈_數(shù)據庫,達到對后臺數(shù)據庫的處理。還可以實現(xiàn)后臺數(shù)據庫中數(shù)據操作包括:數(shù)據的查詢、更新、刪除等操作。將業(yè)務數(shù)據從多個操作型數(shù)據庫和外部文件中抽取出來,進行清理、轉換、網絡傳輸和集成。筆者結合數(shù)據庫理論和實際經驗從以下幾個方面探討淺談數(shù)據庫信息管理系統(tǒng)的邏輯架構與功能設計。 1數(shù)據庫信息管理系統(tǒng)邏輯架構 數(shù)據庫信息管理系統(tǒng)按照各個業(yè)務發(fā)展的需要,逐步進行多角度、深層次的數(shù)據分析與加工,充分加以利用,為各層用戶方便、快捷的服務,同時也使數(shù)據的采集和利用處于良性循環(huán)狀態(tài)
3、。 數(shù)據庫信息管理系統(tǒng)處于整個系統(tǒng)的中間位置,它主要職責對數(shù)據處理,完成前臺端的請求處理,完成后臺數(shù)據庫的操作。目的是分批處理任務請求,將任務數(shù)據包解包后,加載到數(shù)據庫中,并且根據請求對數(shù)據庫中的數(shù)據進行查詢、更新、刪除,將處理的結果記錄到日志文件中。數(shù)據庫信息管理系統(tǒng)的基本業(yè)務邏輯描述如下: 1.1接受請求,根據自己的實際情況,將自己的請求實時的以上傳給系統(tǒng)。 1.2解析請求,系統(tǒng)根據接受到的請求,對其進行解析處理,首先檢查傳來的信息是不是合法,長度是否按規(guī)定的。再解析信息,在解析報文信息中,就報頭、正文、報尾的標志位做一一鑒定,若有哪一項不符合要求,就回傳應答報文給前臺讓前臺重新傳輸此報文
4、,并將處理的數(shù)據實時的記錄在后臺對應的表中。 1.3數(shù)據的抽取與加載,系統(tǒng)在對數(shù)據報文進行解析后,若收到的報文滿足要求時,就對報文中的正文段的數(shù)據抽取出來,加載到數(shù)據庫表中。 1.4監(jiān)控管理,主要是對系統(tǒng)中的各個環(huán)節(jié)進行監(jiān)控管理,數(shù)據的導入導出情況及數(shù)據的傳輸情況進行監(jiān)控管理。在加載數(shù)據時,將加載成功與否實時的記錄在數(shù)據庫表中,并寫日志文件。 1.5對后臺數(shù)據庫的處理,系統(tǒng)根據報文內容,對后臺數(shù)據庫中的表進行插入、刪除、更新等操作。 2數(shù)據庫信息管理系統(tǒng)的功能設計 根據上面的業(yè)務流程,我提出了數(shù)據庫信息管理系統(tǒng)的業(yè)務框架及各個功能模塊。數(shù)據庫信息管理系統(tǒng)分為六個模塊:任務管理、數(shù)據抽取、數(shù)據上
5、傳、數(shù)據加載、監(jiān)控管理、查詢統(tǒng)計,分別為各個模塊設計了以下功能。 2.1任務管理任務管理主要是指后臺管理層在抽取前臺數(shù)據時對各個任務制定與執(zhí)行。對前臺數(shù)據的抽取主要是通過執(zhí)行模版文件來完成,模板的管理是整個系統(tǒng)的核心,創(chuàng)建一個模板既是在定義一個數(shù)據抽取的過程,一個模板只針對同一個數(shù)據源,保證模板的原子性,模版參數(shù)文件主要由后臺數(shù)據中心需要集中的數(shù)據類型進行定制,任務管理是將多個相關的模版文件捆綁在一起,構成一個更大的可執(zhí)行單位。對不同種類數(shù)據通過制作模板實現(xiàn)抽取功能,模板數(shù)據文件由后臺數(shù)據管理者制作存放在前臺,可增加、修改和刪除。 2.1.1創(chuàng)建模板:一個模板文件包括了一個完整的數(shù)據抽取過程所
6、有必要的數(shù)據結構。數(shù)據段包括:文件頭、文件正文、文件尾,其中文件頭重要有防偽標志位,文件的發(fā)送時間等信息,正文段主要包括此文件傳送的數(shù)據,而結尾部分主要包括此文件傳輸數(shù)據的總量等信息。 2.1.2編輯模板:當數(shù)據需求發(fā)生變化時,可以對已存在的模版文件的參數(shù)進行修改,以適應新的需要。 2.1.3刪除模板:當不再對該模板文件定義的數(shù)據表進行抽取時,可以刪除模板文件,取消抽取過程。 2.1.4由于本系統(tǒng)文件主要是以固定長文件為主,所以,制定固定長文件是關鍵,而且這個固定長文件主要是文件頭、文件尾長度固定,而每個文件的正文部分固定,但一個頭部和尾部對應多個文件正文部分。 2.2數(shù)據抽取數(shù)據抽取模塊是對
7、后臺下發(fā)的抽取任務的執(zhí)行,是完成小核心數(shù)據處理的中心工作,是定義的抽取過程的具體實施階段,數(shù)據抽取模塊的主要功能包括:“數(shù)據抽取任務的載入”、“數(shù)據抽取配置”、“數(shù)據抽取執(zhí)行”、“數(shù)據抽取重啟”
8、 2.2.1數(shù)據抽取任務的載入:數(shù)據抽取是按照前臺對后臺數(shù)據管理層下發(fā)的各項抽取任務來執(zhí)行的,因此在實行數(shù)據抽取之前要對后臺管理層下發(fā)的抽取任務進行載入到當前系統(tǒng)中。 2.2.2數(shù)據抽取配置:要正確完成數(shù)據抽取過程的執(zhí)行,必須先配置數(shù)據抽取的范圍,先選擇數(shù)據抽取對應的系統(tǒng),查詢該系統(tǒng)下所有需要執(zhí)行的抽取任務,然后對抽取數(shù)據的各個節(jié)點進行配置,確定在哪些節(jié)點上執(zhí)行數(shù)據抽取。 2.2.3數(shù)據抽取服務:根據后臺中心下發(fā)的數(shù)據抽取任務對各個業(yè)務系統(tǒng)的數(shù)據逐
9、項進行抽取,選擇的任務的流水號啟動抽取服務;數(shù)據抽取過程中,根據抽取出來的數(shù)據內容產生一個統(tǒng)計表,包括數(shù)據表名稱、記錄數(shù)等內容,該表作為數(shù)據抽取是否完整、是否正常的參考文件。 2.2.4數(shù)據抽取服務重啟:根據抽取過程的統(tǒng)計表和日志信息,判斷抽取服務是否成功,如未成功執(zhí)行,則可通過數(shù)據抽取服務的重新啟動來對任務進行重做。 2.3數(shù)據上傳數(shù)據抽取完成后,數(shù)據文件導出保存在本地服務器中對所有導出文件進行匯總打包,數(shù)據量大時,還可進行壓縮處理,然后存儲在本地服務器準備傳輸。 2.3.1本地服務器的配置:包括“接收數(shù)據服務器的IP、用戶名、用戶密碼、上傳,目錄、接收目錄、傳輸方式”等數(shù)據內容。 2.3.
10、2數(shù)據匯總:對數(shù)據導出文件按業(yè)務系統(tǒng)數(shù)據分類分別進行匯總、壓縮打包,使用后臺中心統(tǒng)一的命名規(guī)則,給各個數(shù)據包進行命名、存放在文件上傳的目錄中,準備上傳。 2.3.3數(shù)據上傳:系統(tǒng)制定上傳時間、上傳目錄、上傳服務器地址,數(shù)據文件上傳的工作方式以自動方式為主,如果由于網絡故障或上傳文件損壞等原因自動上傳入庫不能進行,可人工干預,重新選擇傳輸過程,完成數(shù)據抽取和上傳工作。 2.3.4文件傳輸?shù)谋O(jiān)控:為檢驗數(shù)據上傳情況,將數(shù)據上傳日志寫入數(shù)據庫,用戶通過應用程序可以瀏覽傳輸過程,發(fā)現(xiàn)數(shù)據上傳是否成功。 2.4數(shù)據加載數(shù)據加載模塊將已傳輸?shù)胶笈_中心的數(shù)據經過解壓縮,通過數(shù)據集成功能加載到數(shù)據庫中。如數(shù)據
11、加載入庫過程中出現(xiàn)問題,可以重新加載。保證同一條記錄不會重復入庫,也不會造成記錄、內容的丟失。 2.4.1數(shù)據解壓:將已傳輸?shù)胶笈_中心的數(shù)據進行解壓,通過數(shù)據集成功能追加到數(shù)據庫中。如數(shù)據加載入庫過程中出現(xiàn)問題,可以重新加載。保證同一條記錄不會重復入庫,也不會造成記錄、內容的丟失。 2.4.2數(shù)據加載:分為人工加載和自動加載兩種方式,人工加載可通過人為干預,有選擇地把數(shù)據加載入庫,也可用于數(shù)據入庫過程中,異常數(shù)據經過特殊處理追加入庫。 2.4.3數(shù)據檢驗:數(shù)據入庫完成后,自動產生數(shù)據表、記錄個數(shù)等信息的統(tǒng)計表,與數(shù)據抽取產生的統(tǒng)計表進行比較,如果兩者數(shù)據不一致,需要重新進行數(shù)據抽取上傳入庫。
12、2.5監(jiān)控管理監(jiān)控管理模塊主要是對系統(tǒng)的各個工作環(huán)節(jié)進行監(jiān)控灌錄,數(shù)據導入導出情況及數(shù)據傳輸情況進行監(jiān)控管理。 2.5.1數(shù)據抽取監(jiān)控:通過數(shù)據抽取的監(jiān)控,發(fā)現(xiàn)數(shù)據抽取與轉換過程中因為網絡或人為原因等所引起的數(shù)據錯誤。 2.5.2數(shù)據傳輸監(jiān)控:將數(shù)據上傳日志寫入數(shù)據庫,用戶通過應用程序可以瀏覽傳輸過程,發(fā)現(xiàn)數(shù)據上傳是否成功以及未進行數(shù)據抽取上傳的地區(qū)。 2.5.3數(shù)據加載監(jiān)控:監(jiān)控數(shù)據加載中出現(xiàn)的數(shù)據丟失與加載錯誤。 2.6查詢統(tǒng)計查詢統(tǒng)計主要按照一定的條件和工作要求,查詢數(shù)據完整性信息和任務執(zhí)行情況。將每個模塊的處理結構制成表,存儲在后臺數(shù)據庫中。